Content

Glossar

Dieses Glossar enthält alle im MISSION KI Qualitätstandard definierten Begriffe, gegliedert nach Oberbegriffen, horizontalen Konzepten und weiteren Begriffen.

Oberbegriffe

Qualitätsdimension

Eine Qualitätsdimension bezeichnet eine erstrebenswerte, hochstufige, allgemeine Eigenschaft eines →KI-Systems, deren Vorliegen mittelbar - d.h. über Konkretisierungen und Operationalisierungen (→Kriterium, →Indikator, →Observable) - getestet werden kann und die im Verbund mit anderen gleichrangigen Eigenschaften bei Vorliegen eines korrespondierenden Schutzbedarfs die Qualität dieses →KI-Systems insgesamt definiert. Das Modell aus Qualitätsdimension, →Kriterium, →Indikator, →Observable wird gemeinsam aus der Literatur als „VCIO" („Value-Criterium-Indicator-Observable") referenziert. Der dort verwendete Begriff „Wert" (Value) wird innerhalb von MISSION KI weitgehend bedeutungsgleich durch „Qualitätsdimension" ersetzt.

Kriterium

Um zu bestimmen, ob ein →KI-System einzelne →Qualitätsdimensionen erfüllt, werden Kriterien spezifiziert. Kriterien stellen somit eine Konkretisierung einer Qualitätsdimension in Richtung Operationalisierung und beobachtbarer spezifischer Sachverhalte sowie auf konkrete Risiken/Schutzbedarfe hin dar.

Indikator

Normalerweise ist es nicht möglich, direkt zu messen, ob einzelne →Kriterien erfüllt werden. Um dies zu prüfen, werden die →Kriterien weiter in Indikatoren aufgeschlüsselt. Indikatoren ergeben sich aus Bedingungen, die zur Erfüllung übergeordneter →Kriterien auf einer abstrakten Ebene beitragen. Somit liefern Indikatoren Informationen zu spezifischen Eigenschaften eines →KI-Systems, die für die qualitative Erfüllung/Nichterfüllung oder den Erfüllungsgrad eines Kriteriums entscheidend sind [VDE SPEC 90012: 2.28]. Maximalwertindikatoren sind Indikatoren, denen im Rahmen der Bewertung eine gesonderte Rolle zukommt. Aufgrund ihrer Kritikalität für den ermittelten Schutzbedarf stellt ihre Einstufung für den Durschnitt einen bindenden Maximalwert dar.

Observable

Um die Erfüllung der →Indikatoren zu bewerten, werden Observablen definiert, die in Stufen anzeigen, inwieweit ein →Indikator erfüllt wird. Die Stufen der Observablen sind hierbei vordefiniert und zeigen das Zielerreichungslevel an. Eine Observable ist somit eine messbare Größe, die verwendet wird, um den Zustand oder die Eigenschaften eines Systems anhand eines Indikators zu bestimmen [VDE SPEC 90012: 2.36].

Beispiele: Güte der Datensatzdokumentation oder der Risikovermeidung.

Test

Versuch zur Feststellung bestimmter Eigenschaften, Leistungen oder von Vergleichbarem.

Einzelne Qualitätsdimensionen

(KI-spezifische) Cybersicherheit

Widerstandsfähigkeit von →KI-Modellen, →KI-Komponenten und →KI-Systemen gegen KI-spezifische, maliziöse äußere Eingriffe und Manipulationen, die über allgemeine Telekommunikationsnetzwerke stattfinden.

Daten-Governance

Behandlung, Bearbeitung und Absicherung der Daten, die innerhalb des Lebenszyklus eines →KI-Systems genutzt werden mit dem Ziel, dass die Daten hohen Qualitäts- und Integritätsstandards genügen und im Einklang mit geltenden Vorschriften zum Schutz der Privatsphäre und dem →Datenschutz verwendet werden (vgl. ErwGr. 27 KI-VO).

Datenqualität (engl. Data Quality)

Eigenschaft der Trainings- Validierungs- und Testdaten eines →KI-Systems, hinsichtlich ihrer faktischen Korrektheit, Vollständigkeit und Freiheit von ungerechtfertigter Verzerrung (Bias).

Datenschutz

Bewahrung und Unzugänglichkeit bestimmter als Information dokumentierter personenbezogener Daten.

Menschliche Aufsicht und Kontrolle (engl. Human Oversight and Control)

Eigenschaft eines →KI-Systems einschließlich seines Embeddings im Anwendungskontext, hinsichtlich der Möglichkeit für ein - fachlich entsprechend kompetentes - menschliches Individuum, das Verhalten und/oder die Funktionsweise dieses →KI-Systems grundsätzlich sowie während des laufenden Betriebs adäquat zu beobachten und zu ändern sowie ggfs. zu beenden.

Nicht-Diskriminierung (engl. Non-Discrimination)

Merkmal eines durch ein →KI-System durchgeführten, offenen Prozesses, wenn im Verlauf dieses Prozesses mehrere menschliche Individuen im Vergleich zueinander behandelt werden und dieser Prozess in juristischer Hinsicht frei von Schlechterbehandlung eines menschlichen Individuums aufgrund einer gesetzlich geschützten Eigenschaft ist.

Transparenz (engl. Transparency)

Eigenschaft eines →KI-Systems, das →erklärbar und →interpretierbar ist. Im Rahmen des vorliegenden Qualitätsstandards beinhaltet „Transparenz" zudem eine Dokumentation der Eigenschaften des →KI-Systems.

Verlässlichkeit

Eigenschaft eines →KI-Systems, das eine hinreichende →Leistung, hinreichende →Robustheit aufweist und ein hinreichendes →Monitoring erlaubt.

Einzelne Kriterien

Erklärbarkeit (engl. Explainability)

Eigenschaft eines →KI-Systems im Hinblick auf die prinzipielle Verständlichkeit, und Nachvollziehbarkeit von Funktionalität, Verhalten und Output, für menschliches Fachpersonal, aber auch betroffene Personen und →Nutzer. Erklärbarkeit wird häufig als eine lokal und vom Systemdesign unabhängig („post-hoc") gemessene Eigenschaft eines →KI-Modells oder →KI-Systems verstanden.

Interpretierbarkeit (engl. Interpretability)

Eigenschaft eines → KI-Modells, grundsätzlich in seinen Modellparametern, -gewichten oder anderen (mathematischen) Eigenschaften möglichst direkt nachvollziehbar und für Fachpersonal direkt verständlich zu sein. Interpretierbarkeit ist häufig explizit gegeben als Teil des Modellarchitekturdesigns, im Kontrast zur expliziten Wahl undurchsichtiger „black box"-Modelle (z.B. die Wahl eines interpretierbaren Entscheidungsbaums statt eines Neuralen Netzwerks für eine Klassifizierungsaufgabe).

Leistungsfähigkeit (engl. Performance)

Eigenschaft eines →KI-Systems, hinsichtlich der Fähigkeit, seine vorgegebenen Ziele und Zwecke möglichst vollständig zu erreichen.

Monitoring

Vorgehen, bei dem während des Betriebs eines →KI-Systems Abweichungen zwischen beobachtbaren Istzuständen und den angestrebten Sollzuständen detektiert werden.

Robustheit (engl. Robustness)

Fähigkeit eines →KI-Systems, seine reguläre und übliche Verhaltens- und Funktionsweise auch bei nicht-maliziösen, widrigen, störenden oder fehlerhaften Eingaben oder Einflüssen von außen bestmöglich beizubehalten.

Rückverfolgbarkeit (engl. Traceability)

Eigenschaft eines →KI-Systems im Hinblick auf die Erfassbarkeit der konsekutiven Folge aller Entscheidungen, die entlang des gesamten Lebenszyklus in ein →KI-System eingehen oder eingegangen sind.

Horizontale Konzepte

Dokumentation (engl. Documentation)

Systematische Erfassung, Sammlung, Aufbewahrung und Bereitstellung von Informationen verschiedener Art, welche gesetzlichen, internen oder externen Vorgaben entsprechen.

Fairness

Safety

Eigenschaft eines →KI-Systems, hinsichtlich der Gefahrlosigkeit des Systems für menschliche Individuen hinsichtlich der Risiken für Leib, Leben und Gesundheit sowie für Sachen hinsichtlich Beschädigung im intendierten, funktionalen Regelbetrieb.

Security

Widerstandsfähigkeit eines →KI-Systems gegen maliziöse äußere Eingriffe und Manipulationen.

Weitere Begriffe

Anschlussfähigkeit

Eigenschaft des →Qualitätsstandards in Abhängigkeit von Vereinbarkeit und Widerspruchsfreiheit mit anderen KI-Regularien wie der europäischen KI-Verordnung.

Anwendungsbereich

Die Gesamtheit der möglichen Eingabedaten, die für ein →KI-System relevant sind. Er umfasst die Kontexte, in denen ein →KI- System angewendet oder genutzt werden kann. In bestimmten Zusammenhängen kann der Anwendungsbereich synonym mit dem Begriff „Operational Design Domain" (ODD) verwendet werden, um die spezifischen Bedingungen und Parameter zu definieren, unter denen ein →KI-System effektiv arbeitet.

Belastbarkeit

Eigenschaft des Qualitätsstandards in Abhängigkeit von →Prüftiefe und Objektivität des Testens, wobei der Bestätigungsgrad, externe Prüfungen sowie vergleichbare Faktoren diese entsprechend erhöhen.

Betroffene Personen

Natürliche Personen, die durch ein →KI-System beeinflusst oder betroffen werden, ohne notwendigerweise direkt oder aktiv mit dem System zu interagieren. Der Unterschied zu →Nutzern liegt in der Art der Interaktion: Während →Nutzer das →KI-System direkt und aktiv bedienen, beispielsweise als Endnutzer oder Benutzer, stehen betroffene Personen in einem eher indirekten und passiven Verhältnis zum →KI-System, können jedoch durch dessen Entscheidungen oder Funktionen beeinflusst werden.

Effizienz

Eigenschaft des Qualitätsstandards in Abhängigkeit von zeitlichen, personellen und finanziellen Aufwendungen bei gleichzeitiger Sicherstellung eines hohen Qualitätslevels.

KI-Anbieter (engl. AI Provider)

Ein „Anbieter" ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein →KI-System oder ein →KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das →KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich. [vgl. Art. 3 Abs. 3 KI-VO]

KI-Betreiber (engl. AI Deployer)

Ein „Betreiber" ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein →KI-System in eigener Verantwortung verwendet, es sei denn das →KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet. [vgl. Art. 3 Abs. 4 KI-VO]

KI-Komponente

Eine „KI-Komponente" umfasst ein implementiertes →KI-Modell; ggf. gemeinsam mit den Methoden, die sich unmittelbar auf die Vor- oder Nachverarbeitung der Ein-/Ausgaben dieses Modells beziehen sowie deren Schnittstellen.

Beispiel: ein KI-Bilderkennungsmodell inkl. Methoden zur Vorverarbeitung der Bilder, das als Input rohe Bild-/Videodaten nimmt und als Output eine Aussage darüber trifft, ob ein Mensch auf dem Bild zu sehen ist.

KI-Lebenszyklus (engl. AI life cycle)

Entwicklung eines Systems, eines Produkts, einer Dienstleistung, eines Projekts oder einer anderen vom Menschen geschaffenen Einheit - welche KI nutzt - von der Konzeption bis zur Stilllegung. [in Anlehnung an und Fortführung von ISO/IEC 22989:2022]

KI-Modell

Ein „KI-Modell" umfasst ausschließlich die funktionalen, KI-spezifischen Parameter, ggf. die Gewichte und Biases (inferentiellen Input-Output-Mappings) sowie die Architektur; nicht erfasst ist hierbei die weiterführende Implementierung und Einbindung, diese wird erst vom Begriff der → KI-Komponente miterfasst wird.

Beispiel: Ein neuronales Netz zur Bildverarbeitung, das Pixeln zugeordnete Zahlenwerte als Eingabe bekommt und als Ausgabe die Wahrscheinlichkeit ausgibt, dass auf dem Bild ein Mensch zu sehen ist.

KI-System

Ein „KI-System" ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. [vgl. Art. 3 Abs. 1 KI-VO] Im Rahmen des vorliegenden Qualitätsstandards wird ein KI-System dabei in technischer Hinsicht als ein funktionaler Zusammenschluss von einer oder mehreren →KI-Komponente(n) und Nicht-KI-Komponenten im Hinblick auf eine spezifische Zweckbestimmung und einen konkreten Anwendungskontext verstanden. Mehrere KI-Systeme können zu einem größeren KI-System zusammengeschlossen werden. Komponenten, mit denen das KI-System interagieren kann, die aber nicht zwingend notwendig für das Funktionieren des KI-Systems oder beliebig austauschbar sind, werden nicht als Teil des KI-Systems erachtet.

Netzwerk

Zusammenschluss von mindestens zwei Computern oder anderen elektronischen Geräten, der den Austausch von Daten und die Nutzung gemeinsamer Ressourcen ermöglicht.

Niederschwelligkeit

Angebot oder Dienst, gekennzeichnet durch einen geringen erforderlichen Aufwand (z.B. kurze Prüfdauer) bei zeitgleich hohem Nutzen (hohe Qualität sichergestellt).

Nutzer

Natürliche Personen, die direkt und aktiv mit einem →KI-System interagieren, entweder als Endnutzer, die das →KI-System für persönliche oder geschäftliche Zwecke verwenden, oder als Benutzer, die das →KI-System im professionellen Kontext anwenden. Der Begriff umfasst sowohl diejenigen, die das →KI-System bedienen, als auch jene, die es für die Erreichung spezifischer Ziele nutzen. Je nach Kontext kann dies die Verwendung von →KI-Systemen in alltäglichen Anwendungen oder in spezialisierten, beruflichen Szenarien beinhalten.

Proprietäre Daten

Daten, welche eigentumsrechtlich zugeordnet sind, einschließlich lizenzgebundener und urheberrechtlich geschützter Daten.

Prüfer

Sind unabhängige interne oder externe natürliche Personen, welche zu keinem Zeitpunkt in die Entwicklung des → KI-Systems oder damit verbundene Strukturen involviert sein dürfen. Als natürliche Personen handeln sie in Vertretung juristischer Personen, beispielsweise als interne Prüfer des → KI-Anbieters bzw. → KI-Betreibers oder als externe →Prüfer einer unabhängigen Partei.

Prüfling (zu prüfende Organisation)

Der → KI-Anbieter bzw. → KI-Betreiber des zu prüfenden → KI-Systems wird als Prüfling bezeichnet. Der Prüfling wird durch eine oder mehrere natürliche Personen vertreten.

Prüfmethode

Methodisches Vorgehen zur Erhebung einzelner oder mehrerer inhaltlich zusammenhängender Prüfevidenzen und ihrer Bewertung im Kontext des Prüfverfahrens. Eine Prüfmethode kann sowohl manuelle als auch automatisierte Anteile enthalten. Unter den Begriff der technischen Prüfmethoden fallen solche, bei denen sich die Erhebung der Prüfevidenzen wesentlich auf technische Verfahren und/oder Hilfsmittel stützt.

Prüftiefe

Die Prüftiefe legt fest, mit welchem Aufwand die Prüfung durchgeführt wird, bestimmt den Grad der Absicherung und Plausibilität von Prüfaussagen und die legt die Rollen fest, die zur Validierung der Ergebnisse im Prüfverfahren gebraucht werden. Die Prüftiefe setzt sich aus drei zentralen Eigenschaften der Prüfung zusammen: 1) Detailgrad der Maßnahmen je nach Prüfanforderungen aus dem Prüfkatalog 2) Den bereitzustellenden Evidenzen 3) Dem Grad an Validierung.

Prüfverfahren

Vorgehen im Rahmen der Prüfung, welches die Bestimmung der →Prüftiefe, der Methodik zum Einholen von Evidenzen, der Vergleichbarkeit sowie der Bewertung der →Kriterien umfasst.

Qualitätsstandard

Ein Standard ist Dokument, das ein Verfahren festlegt, sodass objektiv prüfbar ist, ob ein Prüfgegenstand konform mit den im Standard festgelegten Kriterien ist. Ein Qualitätsstandard ist ein Standard, dessen Kriterien Rückschlüsse über die Qualität des Prüfgegenstandes erlauben.

Vergleichbarkeit

Eigenschaft des →Qualitätsstandards in Abhängigkeit von Einheitlichkeit der Prüfungen und Replizierbarkeit der Tests mit dem Ziel der Objektivierbarkeit.

Zugänglichkeit

Eigenschaft von entweder einer Prüfaussage, welche Auskunft über ihre Verständlichkeit gibt oder von einem Prüfansatz, welcher das Ausmaß der Anwendbarkeit auf bestimmte Zielgruppen beschreibt.