MA2.4
Die mit dem Betrieb und der Aufsicht betrauten Personen müssen Zugang zu einer verständlichen Beschreibung des KI-Systems haben und angemessen auf die Ausübung ihrer Aufgaben vorbereitet werden
Menschliche Aufsicht und Kontrolle
Menschliche Aufsicht
Maßnahme
System

Observablen

Qualitätslevels A bis D

Orga. Maßnahmen - Benutzerinstruktion Bereitstellung von Adressatengerecht aufbereiteten Instruktionen und Informationen mit mindestens den folgenden Inhalten:

  • Kontaktinformationen
  • Zweck des KI-Systems
  • Vorgesehener Anwendungsbereich des KI-Systems
  • Erwartbare Leistung und Funktionalität des KI-Systems
  • Bekannte Risiken und Implikationen für die Nutzung (der Ergebnisse) des KI-Systems
  • Zusammenfassung der erwarteten Eingabedaten
  • Beschreibung über die Interpretation der Ausgaben des KI-Systems
  • Beschreibung des Grads der Autonomie und der Entscheidungsprozesse des KI-Systems
  • Notwendige/mögliche Maßnahmen zur menschlichen Aufsicht und Kontrolle über das System, wann diese angewendet werden sollen/können, und wie erkennbar wird, dass ein menschlicher Eingriff gefordert ist
  • Anforderungen an die Nutzer (z.B. Schulung) für die Verwendung des KI-Systems
  • Notwendige Instandhaltungsmaßnahmen (inklusive Softwareupdates)

Orga. Maßnahmen - Schulungen Zur Qualifikation und Schulung des Personals, welches mit dem Betrieb und der Aufsicht des KI-Systems betraut ist, sind zielgruppenorientierte Schulungsmaterialien erstellt worden, die ein Fokus auf den Sachgemäßen Einsatz und ein erhöhtes Sicherheitsbewusstsein legen. Das Material umfasst mindestens folgende Aspekte:

  • Ordnungsgemäßer Umgang mit Systemkomponenten in der Produktionsumgebung
    • Ordnungsgemäßer Umgang mit relevanten Datentypen (z.B. Trainings- und Validierungsdaten, Betriebsdaten, Kundendaten) auch gemäß den geltenden Richtlinien sowie gesetzlichen und regulatorischen Anforderungen
    • Angemessene Durchführung von Training, Validierung und Testen im Betrieb des KI-Systems und seiner Komponenten
    • Überwachung der Leistung des KI-Systems und seiner Komponenten
    • Informationen über potenzielle Bedrohungsszenarien und dazugehöriger Mitigationsmaßnahmen (z.B. Interventionen)
    • Verhalten im Falle von Sicherheitsvorfällen

Orga. Maßnahmen - Benutzerinstruktion Bereitstellung von Adressatengerecht aufbereiteten Instruktionen und Informationen mit mindestens den folgenden Inhalten:

  • Kontaktinformationen
  • Zweck des KI-Systems
  • Vorgesehener Anwendungsbereich des KI-Systems
  • Beschreibung über die Interpretation der Ausgaben des KI-Systems
  • Notwendige(mögliche Maßnahmen zur menschlichen Aufsicht und Kontrolle über das System, wann diese angewendet werden sollen/können, und wie erkennbar wird, dass ein menschlicher Eingriff gefordert ist
  • Notwendige Instandhaltungsmaßnahmen (inklusive Softwareupdates)

Orga. Maßnahmen - Schulungen Zur Qualifikation und Schulung des Personals, welches mit dem Betrieb und der Aufsicht des KI-Systems betraut ist, sind zielgruppenorientierte Schulungsmaterialien erstellt worden, die ein Fokus auf den Sachgemäßen Einsatz und ein erhöhtes Sicherheitsbewusstsein legen. Das Material umfasst mindestens folgende Aspekte:

  • Ordnungsgemäßer Umgang mit Systemkomponenten in der Produktionsumgebung
    • Überwachung der Leistung des KI-Systems und seiner Komponenten
    • Informationen über potenzielle Bedrohungsszenarien und dazugehöriger Mitigationsmaßnahmen (z.B. Interventionen)
    • Verhalten im Falle von Sicherheitsvorfällen

Orga. Maßnahmen - Benutzerinstruktion Bereitstellung von Instruktionen und Informationen mit mindestens den folgenden Inhalten:

  • Kontaktinformationen
  • Zweck des KI-Systems
  • Vorgesehener Anwendungsbereich des KI-Systems
  • Beschreibung über die Interpretation der Ausgaben des KI-Systems
  • Notwendige(mögliche Maßnahmen zur menschlichen Aufsicht und Kontrolle über das System, wann diese angewendet werden sollen/können, und wie erkennbar wird, dass ein menschlicher Eingriff gefordert ist
  • Notwendige Instandhaltungsmaßnahmen (inklusive Softwareupdates)

Es sind keine Materialien vorhanden, die die mit dem Betrieb und der Aufsicht betrauten Personen auf einen Umgang mit dem KI-System vorbereiten