ISO 42001 Zertifizierung: das KI-Managementsystem Schritt für Schritt

Was ISO/IEC 42001 ist und für wen sich die Zertifizierung lohnt

ISO/IEC 42001:2023 legt Anforderungen an ein KI-Managementsystem fest, international als AI Management System (AIMS) bezeichnet. Die Norm richtet sich an Organisationen, die KI-Systeme entwickeln, bereitstellen oder nutzen. Sie ist branchenunabhängig und unabhängig von der Größe anwendbar.

Eine Zertifizierung lohnt sich vor allem für Unternehmen, deren Kunden KI-Funktionen kritisch prüfen: Softwareanbieter mit KI-Features, Dienstleister, die Modelle für Dritte trainieren, oder Unternehmen in regulierten Branchen wie Finanzen, Gesundheit und Personaldienstleistungen. Für ein Unternehmen, das intern lediglich einen Textassistenten nutzt, reicht oft eine schlanke KI-Richtlinie ohne Zertifikat.

Die Norm folgt der harmonisierten Struktur der ISO-Managementsystemnormen. Wer bereits nach ISO/IEC 27001 oder ISO 9001 zertifiziert ist, erkennt Kapitel wie Kontext, Führung, Planung, interne Audits und Managementbewertung wieder und kann vorhandene Prozesse erweitern statt neu aufbauen.

Aufbau der Norm: Kapitel 4 bis 10 und Anhang A

Verbindlich für die Zertifizierung sind die Kapitel 4 bis 10. Sie verlangen unter anderem, den Kontext und die Rolle der Organisation im KI-Umfeld zu bestimmen, eine KI-Politik festzulegen, KI-Risiken zu beurteilen und zu behandeln und die Auswirkungen von KI-Systemen auf Einzelpersonen, Gruppen und die Gesellschaft zu bewerten.

Anhang A enthält 38 Maßnahmen in neun Themenbereichen, von KI-bezogenen Richtlinien über interne Organisation, Ressourcen und Folgenabschätzung bis zum Lebenszyklus von KI-Systemen, Daten, Informationen für interessierte Parteien, Nutzung von KI-Systemen und Beziehungen zu Dritten. Anhang B gibt Umsetzungshinweise zu jeder Maßnahme, die Anhänge C und D beschreiben mögliche Ziele, Risikoquellen und den Einsatz in verschiedenen Branchen.

• Kapitel 4: Kontext, Rolle als KI-Anbieter, -Hersteller oder -Nutzer, Geltungsbereich
• Kapitel 5: Führung, KI-Politik, Rollen und Verantwortlichkeiten
• Kapitel 6: KI-Risikobeurteilung, Risikobehandlung, Folgenabschätzung, Ziele
• Kapitel 7: Ressourcen, Kompetenz, Bewusstsein, Kommunikation, Dokumentation
• Kapitel 8: Betrieb, wiederholte Risikobeurteilungen und Folgenabschätzungen
• Kapitel 9 und 10: Überwachung, interne Audits, Managementbewertung, Verbesserung

Schritt 1: Geltungsbereich und KI-Inventar

Der Geltungsbereich entscheidet über Aufwand und Aussagekraft des Zertifikats. Legen Sie fest, welche KI-Systeme, Produkte, Standorte und Prozesse erfasst sind. Ein Zertifikat, das nur ein internes Pilotprojekt umfasst, überzeugt keinen Kunden, der Ihre KI-Funktion im Produkt bewerten will.

Grundlage ist ein vollständiges Inventar der KI-Systeme mit Zweck, eingesetzten Modellen, Datenquellen, verantwortlichen Personen und Lieferanten. Halten Sie außerdem fest, welche Rolle Sie für jedes System einnehmen. Ein Auditor wird prüfen, ob das Inventar zur Realität passt, zum Beispiel indem er in einem Interview nach KI-Funktionen in der eingesetzten Software fragt.

Schritt 2: Risikobeurteilung, Folgenabschätzung und Erklärung zur Anwendbarkeit

Das Herzstück ist Kapitel 6. Die KI-Risikobeurteilung betrachtet Risiken für die Organisation und ihre Ziele, etwa fehlerhafte Ausgaben, Verzerrungen, mangelnde Erklärbarkeit oder Abhängigkeit von einem Modellanbieter. Die Folgenabschätzung für KI-Systeme nimmt dagegen die Perspektive der Betroffenen ein: Welche Folgen kann das System für Menschen haben, die von seinen Ergebnissen betroffen sind?

Aus der Risikobehandlung entsteht die Erklärung zur Anwendbarkeit. Sie listet alle Maßnahmen aus Anhang A, begründet deren Auswahl oder Ausschluss und beschreibt den Umsetzungsstand. Typischer Fehler: Maßnahmen werden pauschal ausgeschlossen, ohne Bezug zur Risikobeurteilung. Auditoren erwarten eine nachvollziehbare Kette von Risiko über Maßnahme bis zum Nachweis.

Schritt 3: Prozesse im Lebenszyklus verankern

Damit das Managementsystem nicht nur auf dem Papier existiert, müssen die Anforderungen in die tatsächlichen Abläufe. Das betrifft Produktentwicklung, Einkauf, Datenmanagement und Betrieb gleichermaßen. Die Norm verlangt keine bestimmte Methode, aber dokumentierte und gelebte Regeln.

Besonders genau schauen Auditoren auf Freigabekriterien vor dem Produktivbetrieb, Tests auf Leistung und unerwünschte Verzerrungen, Herkunft und Qualität der Trainings- und Testdaten, Überwachung im Betrieb und den Umgang mit Vorfällen und Beschwerden. Bei zugekauften Modellen kommt die Lieferantenbewertung hinzu.

• Dokumentierte Anforderungen und Freigabekriterien je KI-System
• Testprotokolle zu Genauigkeit, Robustheit und Fairness
• Datenherkunft, Datenqualitätsprüfungen und Aufbewahrungsregeln
• Monitoring-Kennzahlen und definierte Schwellen für Eingriffe
• Prozess für Meldungen von Nutzern und Betroffenen
• Verträge und Bewertungen von Modell- und Datenlieferanten

Schritt 4: Internes Audit und Managementbewertung

Vor dem Zertifizierungsaudit müssen das interne Audit über den gesamten Geltungsbereich und eine Managementbewertung durchgeführt sein. Viele Zertifizierungsstellen erwarten außerdem, dass das System schon einige Monate in Betrieb ist, damit Aufzeichnungen vorliegen. Ein Managementsystem, das eine Woche vor dem Audit fertig dokumentiert wurde, lässt sich in Interviews schnell erkennen.

Achten Sie auf die Unabhängigkeit der internen Auditoren. Wer die KI-Politik geschrieben hat, sollte sie nicht selbst auditieren. Kleine Unternehmen lösen das oft, indem sie Bereiche gegenseitig prüfen oder einen externen Auditor für das interne Audit beauftragen.

Typische Abweichungen im ersten Audit

Die meisten Abweichungen in frühen ISO-42001-Audits entstehen nicht bei der Technik, sondern bei der Verbindung zwischen Dokumentation und Praxis. Die KI-Politik existiert, aber Entwickler kennen sie nicht. Die Folgenabschätzung wurde einmal erstellt, aber nach einem Modellwechsel nicht wiederholt. Lieferanten von Sprachmodellen wurden nie bewertet, obwohl das Produkt vollständig von ihnen abhängt.

Bereiten Sie sich darauf vor, dass Auditoren eine Stichprobe ziehen: ein konkretes KI-System, an dem sie den gesamten Weg von der Anforderung über Tests und Freigabe bis zur Überwachung im Betrieb nachvollziehen wollen.

• Folgenabschätzung fehlt oder ist nicht aktuell
• KI-Ziele ohne messbare Kennzahlen und ohne Verantwortliche
• Erklärung zur Anwendbarkeit ohne Bezug zur Risikobeurteilung
• Kompetenznachweise für Personen mit KI-Verantwortung fehlen
• Keine Regel für den Umgang mit Modell-Updates des Anbieters

Schritt 5: Zertifizierungsaudit und Aufrechterhaltung

Die Zertifizierung erfolgt in zwei Stufen. Im Stage-1-Audit prüft die Zertifizierungsstelle die Dokumentation, den Geltungsbereich und die Bereitschaft für die zweite Stufe. Im Stage-2-Audit wird die Wirksamkeit vor Ort oder remote geprüft, mit Interviews, Stichproben und Einsicht in Aufzeichnungen. Festgestellte Abweichungen müssen Sie mit Korrekturmaßnahmen schließen, bevor das Zertifikat ausgestellt wird.

Das Zertifikat gilt drei Jahre, mit jährlichen Überwachungsaudits und einer Rezertifizierung am Ende des Zyklus. Wählen Sie eine Zertifizierungsstelle, die für ISO/IEC 42001 akkreditiert ist; in Deutschland ist dafür die DAkkS zuständig. Anforderungen an Stellen, die KI-Managementsysteme zertifizieren, beschreibt ergänzend ISO/IEC 42006. Fragen Sie vor der Beauftragung nach dem Akkreditierungsstatus und lassen Sie sich diesen belegen.

Bevor Sie ein Audit planen, hilft ein Blick auf den eigenen Reifegrad. Eine kostenlose Selbstbewertung auf baltum.ai zeigt, welche Anforderungen von ISO/IEC 42001 bereits erfüllt sind und wo die größten Lücken liegen.

Dieser Artikel dient der allgemeinen Information und ist keine Rechtsberatung. baltum.ai ist eine unabhängige Software, keine Zertifizierungsstelle.