Indikator
CY1.3
Beschreibung
Es müssen Maßnahmen zur Kontrolle der Cybersicherheitsaspekte des KI-Lieferkettenmanagements vorhanden sein, insbesondere im Hinblick auf Schwachstellen oder schädliche Praktiken bei der Verwendung von vortrainierten Modellen, Open-Source-Bibliotheken für maschinelles Lernen und Trainingsdaten von Dritten.
Qualitätsdimension
KI-spezifische Cybersicherheit
Kriterium
Allgemeine KI-spezifische Cybersicherheit
Typ
Maßnahme
Bezugsebene
System/Komponente
Zusätzliche Informationen

Verknüpfung

Relevante technische Prüfmethoden

→ In Tabelle anzeigen

Observablen

Qualitätslevels A bis D

A

Orga. Maßnahmen - Systemnahe Prozesse

  • Es sollte ein Prozess vorhanden sein zur Analyse der Cybersicherheit der Software- und Hardwarelieferketten hinsichtlich der Entwicklungs- und Produktumgebung des KI-Systems
  • Die Analyse der Lieferkette umfasst vortrainierte Modelle, Datensätze, und genutzte Softwarebibliotheken und die genutzte Hardware für Training- und ggf.. Produktionsphase des KI-Systems.
  • Es sollte ein Prozess vorgesehen sein zur stetigen weiteren Überwachung der Lieferkette einschließlich eines Plans für Updates und Review nach Auftauchen bisher unentdeckter Schwachstellen in der Lieferkette.

Tech. Maßnahmen - Modelle, Daten

  • Es muss eine Sicherheitsüberprüfung aller identifizierten genutzten vortrainierten Modelle, Datensätze und Softwarebibliotheken aus der Lieferkette nachgewiesen sein

Tech. Maßnahmen - Betrieb

  • Es sollten Schnittstellen vorhanden sein, welche die technische Überwachung der benutzen Soft- und Hardware des KI-Systems auch bzgl. Schwachstellen durch ein Cybersicherheitsmonitoring erlauben
B

Orga. Maßnahmen - Systemnahe Prozesse

  • Es sollte ein Prozess vorhanden sein zur Analyse der Cybersicherheit der Software- und Hardwarelieferketten hinsichtlich der Entwicklungs- und Produktumgebung des KI-Systems
  • Die Analyse der Lieferkette umfasst vortrainierte Modelle, Datensätze, und genutzte Softwarebibliotheken und die genutzte Hardware für Training- und ggf.. Produktionsphase des KI-Systems.
  • Es sollte ein Prozess vorgesehen sein zur stetigen weiteren Überwachung der Lieferkette einschließlich eines Plans für Updates und Review nach Auftauchen bisher unentdeckter Schwachstellen in der Lieferkette.
C

Orga. Maßnahmen - Systemnahe Prozesse

  • Es sollte ein Prozess vorhanden sein zur Analyse der Cybersicherheit der Software- und Hardwarelieferketten hinsichtlich der Entwicklungs- und Produktumgebung des KI-Systems
  • Die Analyse der Lieferkette umfasst vortrainierte Modelle, Datensätze, und genutzte Softwarebibliotheken
D

Es wurden keine Maßnahmen ergriffen zur Kontrolle der Cybersicherheitsaspekte des KI-Lieferkettenmanagements