Was die KI-Verordnung regelt
Die Verordnung (EU) 2024/1689, im Deutschen meist KI-Verordnung oder KI-VO genannt, ist am 1. August 2024 in Kraft getreten. Als Verordnung gilt sie unmittelbar in allen Mitgliedstaaten, ein deutsches Umsetzungsgesetz ist nur für Zuständigkeiten und Sanktionen nötig. Die Pflichten treten gestaffelt in Kraft.
Der Ansatz ist risikobasiert. Bestimmte Praktiken sind ganz verboten, Hochrisiko-KI-Systeme unterliegen strengen Anforderungen, für bestimmte Systeme gelten Transparenzpflichten, und für KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI, GPAI) gibt es eigene Regeln. Die meisten KI-Anwendungen in Unternehmen, etwa Textassistenten für interne Zwecke oder Spamfilter, fallen in keine der strengen Kategorien. Ganz ohne Pflichten bleiben aber auch sie nicht.
Fristen: was schon gilt und was noch kommt
Die Fristen sind der Punkt, an dem viele Unternehmen den Überblick verlieren. Wichtig ist: Einige Pflichten gelten bereits seit 2025, unabhängig davon, wie es mit den Hochrisiko-Regeln weitergeht.
Für die Hochrisiko-Pflichten nach Anhang III war ursprünglich der 2. August 2026 vorgesehen. Die Europäische Kommission hat im Rahmen eines sogenannten Digital-Omnibus vorgeschlagen, einzelne Hochrisiko-Termine zu verschieben und an die Verfügbarkeit harmonisierter Normen zu koppeln. Ob und in welcher Form das beschlossen wird, sollten Sie vor jeder Planung aktuell prüfen. Für Hochrisiko-KI, die als Sicherheitsbauteil eines Produkts unter Anhang I fällt, gilt nach dem ursprünglichen Text eine längere Frist bis 2. August 2027.
- 1. August 2024: Inkrafttreten der Verordnung
- 2. Februar 2025: Verbotene Praktiken (Artikel 5) und Pflicht zur KI-Kompetenz (Artikel 4)
- 2. August 2025: Pflichten für Anbieter von GPAI-Modellen, Governance-Strukturen, Sanktionsregeln
- 2. August 2026: Großteil der übrigen Pflichten, darunter Transparenzpflichten nach Artikel 50 und nach ursprünglichem Text die Hochrisiko-Pflichten aus Anhang III
- 2. August 2027: Hochrisiko-KI als Bestandteil regulierter Produkte nach Anhang I (ursprünglicher Text)
Welche Rolle hat Ihr Unternehmen?
Die Pflichten hängen weniger von der Technik ab als von der Rolle. Anbieter (Provider) ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber (Deployer) ist, wer ein KI-System in eigener Verantwortung beruflich nutzt. Daneben gibt es Einführer, Händler und Produkthersteller.
Ein Unternehmen kann mehrere Rollen gleichzeitig haben. Ein SaaS-Anbieter, der ein fremdes Sprachmodell in seine Software einbaut und an Kunden verkauft, ist für sein System Anbieter, für das zugrunde liegende Modell aber nur nachgelagerter Nutzer. Vorsicht bei Anpassungen: Wer ein Hochrisiko-System wesentlich verändert oder unter eigenem Namen vertreibt, kann selbst zum Anbieter werden und übernimmt dann dessen Pflichten.
Die Pflichten für GPAI-Modelle treffen in erster Linie die Modellanbieter: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zur Einhaltung des Urheberrechts und eine Zusammenfassung der Trainingsdaten. Für Modelle mit systemischem Risiko kommen weitere Pflichten hinzu. Wer ein solches Modell nur über eine Schnittstelle in eigene Produkte einbindet, sollte die vom Modellanbieter bereitgestellten Informationen anfordern und archivieren, weil er sie für die eigene Dokumentation braucht.
Prüfen Sie Ihren Stand kostenlos
10–15 Minuten, ohne Konto: Readiness-Score, Lückenbericht und KI-Empfehlungen.
Pflichten, die praktisch jedes Unternehmen betreffen
Artikel 4 verlangt, dass Anbieter und Betreiber Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen. Das betrifft alle Unternehmen, die KI einsetzen, auch wenn es nur um einen Chatbot im Kundenservice geht. Ein formelles Zertifikat ist nicht vorgeschrieben, aber Sie sollten nachweisen können, wer welche Schulung erhalten hat und welche Regeln für die Nutzung gelten.
Ebenfalls für alle gilt das Verbot bestimmter Praktiken nach Artikel 5. Dazu gehören zum Beispiel manipulative Techniken, die Verhalten unbewusst wesentlich beeinflussen, Social Scoring, die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit engen Ausnahmen) sowie das ungezielte Auslesen von Gesichtsbildern aus dem Internet zum Aufbau von Gesichtserkennungsdatenbanken.
Die Transparenzpflichten nach Artikel 50 betreffen unter anderem Systeme, die direkt mit Menschen interagieren, sowie synthetisch erzeugte oder manipulierte Inhalte. Nutzer müssen in der Regel erkennen können, dass sie mit einer KI sprechen, und Deepfakes müssen als solche offengelegt werden.
Hochrisiko-KI: Pflichten von Anbietern und Betreibern
Hochrisiko-Systeme sind vor allem die in Anhang III aufgeführten Anwendungsfälle. Für Unternehmen besonders relevant sind Beschäftigung und Personalmanagement, etwa KI zur Vorauswahl von Bewerbungen oder zur Leistungsbewertung, sowie die Kreditwürdigkeitsprüfung natürlicher Personen und bestimmte Anwendungen in Versicherung, Bildung und kritischer Infrastruktur.
Anbieter müssen unter anderem ein Risikomanagementsystem betreiben (Artikel 9), Anforderungen an Daten und Daten-Governance erfüllen (Artikel 10), eine technische Dokumentation erstellen (Artikel 11), automatische Protokollierung ermöglichen (Artikel 12), menschliche Aufsicht vorsehen (Artikel 14) und ein Qualitätsmanagementsystem einrichten (Artikel 17). Vor dem Inverkehrbringen steht eine Konformitätsbewertung, danach die Registrierung in der EU-Datenbank.
Betreiber haben nach Artikel 26 eigene, kleinere Pflichten: das System gemäß Gebrauchsanweisung verwenden, menschliche Aufsicht mit kompetenten Personen besetzen, Eingabedaten im eigenen Einflussbereich auf Relevanz prüfen, Protokolle aufbewahren und Beschäftigte informieren, bevor ein Hochrisiko-System am Arbeitsplatz eingesetzt wird. Bestimmte Betreiber müssen zusätzlich eine Grundrechte-Folgenabschätzung durchführen.
Sanktionen und Aufsicht in Deutschland
Die Verordnung sieht gestaffelte Bußgelder vor: bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Mio. Euro oder 3 Prozent bei Verstößen gegen die meisten übrigen Pflichten und bis zu 7,5 Mio. Euro oder 1 Prozent bei falschen Angaben gegenüber Behörden. Für KMU gilt jeweils der niedrigere der beiden Beträge.
Welche deutsche Behörde für die Marktüberwachung zuständig ist, regelt ein nationales Durchführungsgesetz. Vorgesehen ist eine zentrale Rolle der Bundesnetzagentur, daneben behalten Fachbehörden wie die Finanzaufsicht für ihre Bereiche Zuständigkeiten. Prüfen Sie den aktuellen Stand des Gesetzgebungsverfahrens, bevor Sie sich auf eine bestimmte Behörde einstellen.
So bereiten Sie sich vor: ein praktischer Fahrplan
Starten Sie mit einem KI-Inventar. In den meisten Unternehmen ist KI an mehr Stellen im Einsatz, als die IT weiß: in HR-Software, im CRM, in Übersetzungstools oder als Browser-Erweiterung. Ordnen Sie jedes System einer Risikokategorie und einer Rolle zu und dokumentieren Sie die Begründung.
Wer KI-Governance dauerhaft organisieren will, kann sich an ISO/IEC 42001:2023 orientieren. Die Norm beschreibt ein KI-Managementsystem mit Rollen, Risikobewertung, Folgenabschätzung und Lebenszyklus-Kontrollen. Sie ersetzt nicht die gesetzlichen Pflichten, schafft aber die Strukturen, mit denen sich Nachweise systematisch erbringen lassen. Eine kostenlose Selbstbewertung auf baltum.ai zeigt, wie weit Ihr Unternehmen bei diesen Grundlagen bereits ist.
- KI-Inventar mit Zweck, Anbieter, Datenarten und Nutzergruppen anlegen
- Risikokategorie und Rolle pro System bestimmen und begründen
- Verbotene Praktiken ausschließen und dokumentieren
- KI-Richtlinie und Schulungskonzept für KI-Kompetenz einführen
- Transparenzhinweise für Chatbots und generierte Inhalte umsetzen
- Für Hochrisiko-Fälle Lieferanten nach Konformitätsnachweisen und Gebrauchsanweisung fragen
Häufige Fragen
Gilt die KI-Verordnung auch, wenn wir nur ChatGPT oder ähnliche Tools nutzen?
Ja, als Betreiber haben Sie zumindest die Pflicht zur KI-Kompetenz nach Artikel 4 und müssen verbotene Praktiken vermeiden. Je nach Einsatzzweck können Transparenzpflichten hinzukommen. Die strengen Hochrisiko-Pflichten greifen nur bei bestimmten Anwendungsfällen, etwa in der Personalauswahl.
Ist KI im Recruiting automatisch Hochrisiko?
KI-Systeme für die Einstellung oder Auswahl von Personen, insbesondere zum Filtern von Bewerbungen oder zur Bewertung von Kandidaten, sind in Anhang III ausdrücklich genannt. In solchen Fällen sollten Sie von einer Hochrisiko-Einstufung ausgehen und die Betreiberpflichten nach Artikel 26 vorbereiten.
Werden die Fristen für Hochrisiko-KI verschoben?
Die Kommission hat Ende 2025 vorgeschlagen, einzelne Hochrisiko-Termine zu verschieben. Ob und wie das umgesetzt wird, hängt vom Gesetzgebungsverfahren ab. Prüfen Sie den aktuellen Stand auf den offiziellen Seiten der EU, und nutzen Sie eine mögliche Verschiebung als Vorbereitungszeit, nicht als Grund zum Abwarten.
Brauchen wir eine ISO-42001-Zertifizierung, um die KI-Verordnung zu erfüllen?
Nein, eine Zertifizierung ist gesetzlich nicht vorgeschrieben. ISO/IEC 42001 hilft aber, Rollen, Risikobewertungen und Dokumentation strukturiert aufzubauen, die auch für die KI-Verordnung gebraucht werden.
Was bedeutet KI-Kompetenz konkret?
Gemeint sind Kenntnisse und Fähigkeiten, die nötig sind, um KI sachkundig einzusetzen und Chancen sowie Risiken zu erkennen. Der Umfang hängt von Rolle, Vorwissen und Einsatzkontext ab. Dokumentieren Sie Schulungen und interne Nutzungsregeln.
Prüfen Sie Ihren Stand kostenlos
10–15 Minuten, ohne Konto: Readiness-Score, Lückenbericht und KI-Empfehlungen.
Quellen
Dieser Artikel dient der allgemeinen Information und ist keine Rechtsberatung. baltum.ai ist eine unabhängige Software, keine Zertifizierungsstelle.