Observablen
Qualitätslevels A bis D
Orga. Maßnahmen - Benutzerinstruktion Bereitstellung von Adressatengerecht aufbereiteten Instruktionen und Informationen mit mindestens den folgenden Inhalten:
- Kontaktinformationen
- Zweck des KI-Systems
- Vorgesehener Anwendungsbereich des KI-Systems
- Erwartbare Leistung und Funktionalität des KI-Systems
- Bekannte Risiken und Implikationen für die Nutzung (der Ergebnisse) des KI-Systems
- Zusammenfassung der erwarteten Eingabedaten
- Beschreibung über die Interpretation der Ausgaben des KI-Systems
- Beschreibung des Grads der Autonomie und der Entscheidungsprozesse des KI-Systems
- Notwendige/mögliche Maßnahmen zur menschlichen Aufsicht und Kontrolle über das System, wann diese angewendet werden sollen/können, und wie erkennbar wird, dass ein menschlicher Eingriff gefordert ist
- Anforderungen an die Nutzer (z.B. Schulung) für die Verwendung des KI-Systems
- Notwendige Instandhaltungsmaßnahmen (inklusive Softwareupdates)
Orga. Maßnahmen - Schulungen Zur Qualifikation und Schulung des Personals, welches mit dem Betrieb und der Aufsicht des KI-Systems betraut ist, sind zielgruppenorientierte Schulungsmaterialien erstellt worden, die ein Fokus auf den Sachgemäßen Einsatz und ein erhöhtes Sicherheitsbewusstsein legen. Das Material umfasst mindestens folgende Aspekte:
- Ordnungsgemäßer Umgang mit Systemkomponenten in der Produktionsumgebung
- Ordnungsgemäßer Umgang mit relevanten Datentypen (z.B. Trainings- und Validierungsdaten, Betriebsdaten, Kundendaten) auch gemäß den geltenden Richtlinien sowie gesetzlichen und regulatorischen Anforderungen
- Angemessene Durchführung von Training, Validierung und Testen im Betrieb des KI-Systems und seiner Komponenten
- Überwachung der Leistung des KI-Systems und seiner Komponenten
- Informationen über potenzielle Bedrohungsszenarien und dazugehöriger Mitigationsmaßnahmen (z.B. Interventionen)
- Verhalten im Falle von Sicherheitsvorfällen
Orga. Maßnahmen - Benutzerinstruktion Bereitstellung von Adressatengerecht aufbereiteten Instruktionen und Informationen mit mindestens den folgenden Inhalten:
- Kontaktinformationen
- Zweck des KI-Systems
- Vorgesehener Anwendungsbereich des KI-Systems
- Beschreibung über die Interpretation der Ausgaben des KI-Systems
- Notwendige(mögliche Maßnahmen zur menschlichen Aufsicht und Kontrolle über das System, wann diese angewendet werden sollen/können, und wie erkennbar wird, dass ein menschlicher Eingriff gefordert ist
- Notwendige Instandhaltungsmaßnahmen (inklusive Softwareupdates)
Orga. Maßnahmen - Schulungen Zur Qualifikation und Schulung des Personals, welches mit dem Betrieb und der Aufsicht des KI-Systems betraut ist, sind zielgruppenorientierte Schulungsmaterialien erstellt worden, die ein Fokus auf den Sachgemäßen Einsatz und ein erhöhtes Sicherheitsbewusstsein legen. Das Material umfasst mindestens folgende Aspekte:
- Ordnungsgemäßer Umgang mit Systemkomponenten in der Produktionsumgebung
- Überwachung der Leistung des KI-Systems und seiner Komponenten
- Informationen über potenzielle Bedrohungsszenarien und dazugehöriger Mitigationsmaßnahmen (z.B. Interventionen)
- Verhalten im Falle von Sicherheitsvorfällen
Orga. Maßnahmen - Benutzerinstruktion Bereitstellung von Instruktionen und Informationen mit mindestens den folgenden Inhalten:
- Kontaktinformationen
- Zweck des KI-Systems
- Vorgesehener Anwendungsbereich des KI-Systems
- Beschreibung über die Interpretation der Ausgaben des KI-Systems
- Notwendige(mögliche Maßnahmen zur menschlichen Aufsicht und Kontrolle über das System, wann diese angewendet werden sollen/können, und wie erkennbar wird, dass ein menschlicher Eingriff gefordert ist
- Notwendige Instandhaltungsmaßnahmen (inklusive Softwareupdates)
Es sind keine Materialien vorhanden, die die mit dem Betrieb und der Aufsicht betrauten Personen auf einen Umgang mit dem KI-System vorbereiten