Indikator
ND1.1
Beschreibung
Das Risiko von Diskriminierung im Zusammenhang mit dem beabsichtigten Zweck des KI-Systems muss analysiert werden.
Qualitätsdimension
Nicht-Diskriminierung
Kriterium
Vermeidung von ungerechtfertigter Diskriminierung und Verzerrung
Typ
Analyse
Bezugsebene
System
Zusätzliche Informationen

Verknüpfung

Relevante technische Prüfmethoden

→ In Tabelle anzeigen

Observablen

Qualitätslevels A bis D

A

Analyse-Risiko Detaillierte Risikoanalyse einschließlich Quantifizierung von Eintrittswahrscheinlichkeiten und Risiken:

  • Identifikation der möglichen Risiken und ihrer Ursachen
  • Zuweisung der Risikoverantwortung
  • Schätzung der Eintrittswahrscheinlichkeit
  • Schätzung der Aufdeckungswahrscheinlichkeit
  • Schätzung der Auswirkung
  • Strukturierte Abstufung und Priorisierung der Risiken

Mindestens die folgenden Risikoquellen sind unter Beachtung des Verwendungszwecks (siehe TR1.1) zu berücksichtigen:

  • Historische Verzerrungen
  • Stichprobenverzerrung
  • Modellverzerrungen
  • Attributionsfehler
  • Impliziter Bias
  • Bestätigungsfehler
  • Voreingenommenheit von Entwicklern
  • Verzerrung durch Nutzerinteraktionen
  • Missinterpretation von Resultaten
  • Mangelnde Berücksichtigung der möglichen (Nutzer-)Gruppen
  • Benachteiligung/Diskriminierung von Gruppen mit geschützten Eigenschaften
B

Analyse-Risiko Limitierte Risikoanalyse mit Fokus auf den Schutzbedarf ohne Quantifizierung von Wahrscheinlichkeiten:

  • Identifikation der möglichen Risiken
  • Zuweisung der Risikoverantwortung
  • Schätzung der Auswirkung
  • Strukturierte Abstufung und Priorisierung der Risiken

Mindestens die folgenden Risikoquellen sind unter Beachtung des Verwendungszwecks (siehe TR1.1) zu berücksichtigen:

  • Historische Verzerrungen
  • Stichprobenverzerrung
  • Modellverzerrungen
  • Attributionsfehler
  • Impliziter Bias
  • Bestätigungsfehler
  • Voreingenommenheit von Entwicklern
  • Verzerrung durch Nutzerinteraktionen
  • Missinterpretation von Resultaten
  • Mangelnde Berücksichtigung der möglichen (Nutzer-)Gruppen
  • Benachteiligung/Diskriminierung von Gruppen mit geschützten Eigenschaften
C

Analyse-Risiko Hauptsächlich qualitative Abschätzung ohne Wahrscheinlichkeiten:

  • Identifikation der möglichen Gefährdungen
  • Zuweisung der Risikoverantwortung
  • Qualitative Schätzung der Auswirkung
  • Qualitative Abstufung und Priorisierung der Risiken

Mindestens die folgenden Risikoquellen sind unter Beachtung des Verwendungszwecks (siehe TR1.1) zu berücksichtigen:

  • Historische Verzerrungen
  • Stichprobenverzerrung
  • Modellverzerrungen
  • Attributionsfehler
  • Impliziter Bias
  • Bestätigungsfehler
  • Voreingenommenheit von Entwicklern
  • Verzerrung durch Nutzerinteraktionen
  • Missinterpretation von Resultaten
  • Mangelnde Berücksichtigung der möglichen (Nutzer-)Gruppen
  • Benachteiligung/Diskriminierung von Gruppen mit geschützten Eigenschaften
D

Es wurde keine Risikoanalyse durchgeführt.