Überblick: Der MISSION KI Qualitätsstandard für Niedrigrisiko-KI

Der MISSION KI Qualitätsstandard bietet einen strukturierten und nachvollziehbaren Rahmen zur Bewertung der Qualität von KI-Systemen unterhalb der Hochrisikoschwelle. Während der EU AI Act für Niedrigrisiko-KI vor allem Transparenzanforderungen vorsieht, zeigt die Praxis einen wachsenden Bedarf an belastbaren Qualitätsnachweisen – etwa zur Leistungsfähigkeit, Robustheit, Fairness oder Nachvollziehbarkeit von Modellen. Der Standard adressiert diese Lücke und ermöglicht Unternehmen, ihre KI-Systeme systematisch zu prüfen und fundiert zu bewerten.

Projektkontext und Entstehung

Der Standard wurde im Rahmen der vom Bundesministerium für Digitales und Staatsmodernisierung geförderten Initiative MISSION KI – Nationale Initiative für Künstliche Intelligenz und Datenökonomie entwickelt. Das Gesamtvorhaben hat das Ziel, die digitale Wettbewerbsfähigkeit Deutschlands zu stärken und einen verantwortungsvollen Einsatz von KI in Wirtschaft und Verwaltung zu fördern.

Die Entwicklung erfolgte gemeinsam mit führenden Institutionen aus Normung, Prüfwesen, Beratung und Forschung – darunter PwC Deutschland, TÜV AI.Lab, VDE, der AI Quality & Testing Hub sowie das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. Damit vereint der Standard fachliche Perspektiven aus technischer Qualitätsmessung, Risikomanagement, industriellen Prüfpraktiken und regulatorischer Anschlussfähigkeit.

Ein zentraler Bestandteil der Entstehung waren Piloteinsätze mit realen KI-Systemen aus Mobilität, Medizintechnik, Industrie, Agrartechnik und dem Finanzsektor. Diese Tests prüften Verständlichkeit, Praxistauglichkeit und Effizienz des Verfahrens. Die Rückmeldungen der Pilotpartner führten zu klaren Prüfschritten, präzisen Anforderungen und einer konsistenten Verbindung zwischen Schutzbedarfsanalyse, Kriterien und Evidenzen. So entstand ein Standard, der branchenübergreifend einsetzbar ist und typische Entwicklungs- und Betriebsbedingungen realistisch abbildet.

Methodik und Ablauf

Der Standard fasst zentrale Prinzipien vertrauenswürdiger KI in sechs Qualitätsdimensionen zusammen und überführt sie in konkrete Kriterien sowie prüfbare Anforderungen. Kern des Verfahrens ist die Schutzbedarfsanalyse, die bestimmt, welche Kriterien in einem konkreten Einsatzkontext besonders relevant sind. Darauf aufbauend erfolgt die Bewertung entlang eines vierstufigen Systems (A–D). Jede Einstufung muss durch geeignete Evidenzen belegt werden – von Basisdokumentation und Tests bis hin zu reproduzierbaren Experimenten und Audit-Trails.

Die Validierung richtet sich nach der Kritikalität des Systems: von Selbstvalidierung über interne unabhängige Prüfung bis hin zum Vier-Augen-Prinzip. Eine abschließende Gesamtbewertung zeigt den Erfüllungsgrad der Qualitätsanforderungen und macht sichtbar, wo Verbesserungsbedarf besteht. Die Gültigkeit der Bewertung ist versionsbezogen, ergänzt durch klare Regeln für Monitoring und Aktualisierung.

Der Standard ermöglicht vergleichbare Qualitätsaussagen, unterstützt Unternehmen im Dialog mit Kunden, Beschaffungsstellen und Investoren und erleichtert die Vorbereitung auf regulatorische Anforderungen. Er ist anschlussfähig an bestehende Normen und für Selbstbewertungen ebenso geeignet wie für externe Validierungen.

Mehr Informationen und alle Dokumente: mission-ki.de/de/pruefstandards