Analyse - Definition / Metriken & Schwellenwerte Basierend auf dem festgelegten Zweck des KI-Systems (TR1.1) muss definiert werden welches Maß an Vermeidung von Verzerrung bzw. Schutz vor Nicht-Diskriminierung notwendig ist. Hierzu gehört:

• Identifikation sensitiver bzw. schützenswerter Merkmale in den Daten mit Begründung
• Identifikation von Gruppen mit geschützten Eigenschaften basierend auf den möglichen Nutzer*innen und betroffenen Personen
• Identifikation zusätzlicher Gruppen, die unvorhergesehen betroffen werden können, z.B. da deren Merkmale nicht als Features sondern nur implizit in den Daten enthalten sind)
• Definition der beabsichtigten Fairness
• Kollaboration mit Repräsentanten von identifizierten Gruppen mit geschützten Eigenschaften
• Festlegung von Test, Metriken und Schwellenwerten zur Erfassung der Zielsetzung im Rahmen der Fairness-Definition

Die ausgewählten Metriken und Tests sollten mindestens die folgenden Merkmale aufweisen:

• Methoden sollten für jedes KI-Modell im und für das KI-System als Ganzes angewendet werden, falls dieses einen gesammelten Output erzeugt
• Wenn durch die Auswahl begründet, sollten die Metriken und Tests sowohl wichtige Basismethoden als auch fortgeschrittene Methoden (hinsichtlich Komplexität, Informationsgehalts, Implementierungsaufwands, z.B. umfangreiches Prüfwerkzeug) umfassen
• Die ausgewählten Metriken und Tests sollten wenn möglich durch einen hohen Grad der Automatisierung eine kontinuierliche Evaluation der KI-Modelle erlauben

Analyse - Definition / Metriken & Schwellenwerte Basierend auf dem festgelegten Zweck des KI-Systems (TR1.1) muss definiert werden welches Maß an Vermeidung von Verzerrung bzw. Schutz vor Nicht-Diskriminierung notwendig ist. Hierzu gehört:

• Identifikation sensitiver bzw. schützenswerter Merkmale in den Daten mit Begründung
• Identifikation von Gruppen mit geschützten Eigenschaften basierend auf den möglichen Nutzer*innen und betroffenen Personen
• Definition der beabsichtigten Fairness
• Festlegung von Test, Metriken und Schwellenwerten zur Erfassung der Zielsetzung im Rahmen der Fairness-Definition

Die ausgewählten Metriken und Tests sollten mindestens die folgenden Merkmale aufweisen:

• Methoden sollten für jedes KI-Modell im und für das KI-System als Ganzes angewendet werden, falls dieses einen gesammelten Output erzeugt
• Wenn durch die Auswahl begründet, sollten die Metriken und Tests sowohl wichtige Basismethoden als auch fortgeschrittene Methoden (hinsichtlich Komplexität, Informationsgehalts, Implementierungsaufwands, z.B. umfangreiches Prüfwerkzeug) umfassen

Analyse - Definition / Metriken & Schwellenwerte Basierend auf dem festgelegten Zweck des KI-Systems (TR1.1) muss definiert werden welches Maß an Vermeidung von Verzerrung bzw. Schutz vor Nicht-Diskriminierung notwendig ist. Hierzu gehört:

• Identifikation sensitiver bzw. schützenswerter Merkmale in den Daten
• Identifikation von Gruppen mit geschützten Eigenschaften basierend auf den möglichen Nutzer*innen und betroffenen Personen
• Definition der beabsichtigten Fairness
• Festlegung von Test, Metriken und Schwellenwerten zur Erfassung der Zielsetzung im Rahmen der Fairness-Definition

Die ausgewählten Metriken und Tests sollten mindestens die folgenden Merkmale aufweisen:

• Methoden sollten für jedes KI-Modell im und für das KI-System als Ganzes angewendet werden, falls dieses einen gesammelten Output erzeugt
• Es genügen Basismethoden (hinsichtlich Komplexität, Informationsgehalts, Implementierungsaufwands, z.B. eine simple Metrik)

Eine Definition und Zielsetzung zur Vermeidung ungerechtfertigter Verzerrung und Diskriminierung ist nicht erfolgt.