Indikator
ND1.6
Beschreibung
Technische Maßnahmen zur Vermeidung von ungerechtfertigten Verzerrungen und Diskriminierungen müssen während der Entwicklung des KI-Systems ergriffen werden.
Qualitätsdimension
Nicht-Diskriminierung
Kriterium
Vermeidung von ungerechtfertigter Diskriminierung und Verzerrung
Typ
Maßnahme
Bezugsebene
System/Komponente
Zusätzliche Informationen

Verknüpfung

Relevante technische Prüfmethoden

→ In Tabelle anzeigen

Observablen

Qualitätslevels A bis D

A

Tech. Maßnahmen - Daten Die zum Training, zur Validierung und zum Testen verwendeten Daten spiegeln die Fairness-Zielsetzung wider und die Testdaten sind geeignet, um mögliche Verzerrungen im KI-System aufzudecken. Hierzu zählt mindestens:

  • Dokumentation der Daten, Auswahl- oder Erhebungsverfahren und Aufbereitungsschritte (siehe DA 1.1)
  • Durchführung von Aufbereitungsschritten zur Verminderung von ungerechtfertigten Verzerrungen in den Daten
  • Nutzen- und Angemessenheitsargumentation der Maßnahmen in den Trainings- und Testdaten in Bezug auf das Risiko von ungerechtfertigten Verzerrungen und Diskriminierungen)
B

Tech. Maßnahmen - Daten Die zum Training, zur Validierung und zum Testen verwendeten Daten spiegeln die Fairness-Zielsetzung wider und die Testdaten sind geeignet, um mögliche Verzerrungen im KI-System aufzudecken. Hierzu zählt mindestens:

  • Dokumentation der Daten, Auswahl- oder Erhebungsverfahren und Aufbereitungsschritte (siehe DA 1.1)
  • Durchführung von Aufbereitungsschritten zur Verminderung von ungerechtfertigten Verzerrungen in den Daten
C

Tech. Maßnahmen - Daten Die zum Training, zur Validierung und zum Testen verwendeten Daten spiegeln die Fairness-Zielsetzung wider und die Testdaten sind geeignet, um mögliche Verzerrungen im KI-System aufzudecken. Hierzu zählt mindestens:

  • Dokumentation der Daten, Auswahl- oder Erhebungsverfahren und Aufbereitungsschritte (siehe DA 1.1)
  • Durchführung von Aufbereitungsschritten zur Verminderung von ungerechtfertigten Verzerrungen in den Daten
D

Es wurden keine Maßnahmen zur Vermeidung von ungerechtfertigten Verzerrungen in der Entwicklung ergriffen.