Indikator
ND1.5
Beschreibung
Das Personal, das an der Entwicklung des KI-Systems und an der Umsetzung der Maßnahmen zur Verringerung des Risikos von ungerechtfertigter Verzerrung und Diskriminierung beteiligt ist, muss informiert und geschult werden.
Qualitätsdimension
Nicht-Diskriminierung
Kriterium
Vermeidung von ungerechtfertigter Diskriminierung und Verzerrung
Typ
Maßnahme
Bezugsebene
System
Zusätzliche Informationen

Verknüpfung

Relevante technische Prüfmethoden

→ In Tabelle anzeigen

Observablen

Qualitätslevels A bis D

A

Orga. Maßnahmen - Schulung Ein zielgruppenorientiertes Schulungsprogramm wird für alle mit der Entwicklung des KI-Systems betrauten internen und externen Mitarbeiter betrieben. Dieses Programm umfasst mindestens die folgenden Aspekte:

  • Vermittlung der Zweckbestimmung des KI-Systems
  • Sensibilisierung zu unterschiedlichen möglichen Verzerrungen und dem Erkennen von potenziellen Diskriminierungen im Kontext von KI-Systemen
  • Umgang mit relevanten Datentypen (z.B. Trainings- und Validierungsdaten, Betriebsdaten, Kundendaten) gemäß den geltenden Richtlinien sowie gesetzlichen und regulatorischen Anforderungen
  • Anforderungen an die Durchführung von Trainings, Validierungen und Tests der KI-Modells im Kontext von Verzerrungen, Fairness und Diskriminierung

Das Programm wird regelmäßig basierend auf den gewonnenen Erkenntnissen, Änderungen der Richtlinien aktualisiert. Die verwendeten Inhalte und die Teilnahme am Programm werden dokumentiert.

B

Orga. Maßnahmen - Schulung Ein Schulungsprogramm wird für alle mit der Entwicklung des KI-Systems betrauten internen und externen Mitarbeiter betrieben. Dieses Programm umfasst mindestens die folgenden Aspekte:

  • Sensibilisierung zu unterschiedlichen möglichen Verzerrungen und dem Erkennen von potenziellen Diskriminierungen im Kontext von KI-Systemen
  • Umgang mit relevanten Datentypen (z.B. Trainings- und Validierungsdaten, Betriebsdaten, Kundendaten) gemäß den geltenden Richtlinien sowie gesetzlichen und regulatorischen Anforderungen
  • Anforderungen an die Durchführung von Trainings, Validierungen und Tests der KI-Modells im Kontext von Verzerrungen, Fairness und Diskriminierung

Die verwendeten Inhalte und die Teilnahme am Programm werden dokumentiert.

C

Orga. Maßnahmen - Schulung Ein Schulungsprogramm wird für alle mit der Entwicklung des KI-Systems betrauten internen und externen Mitarbeiter betrieben. Dieses Programm umfasst mindestens die folgenden Aspekte:

  • Sensibilisierung zu unterschiedlichen möglichen Verzerrungen und dem Erkennen von potenziellen Diskriminierungen im Kontext von KI-Systemen
  • Anforderungen an die Durchführung von Trainings, Validierungen und Tests der KI-Modells im Kontext von Verzerrungen, Fairness und Diskriminierung

Die verwendeten Inhalte und die Teilnahme am Programm werden dokumentiert.

D

Es ist kein Anleiten des mit der KI-Entwicklung betrauten Personals im Kontext von Verzerrungen und Diskriminierung erfolgt.