Verordnung über Künstliche Intelligenz

KI-Verordnung

Die EU verfolgt mit der Verordnung über künstliche Intelligenz einen risikobasierten Ansatz, um KI-Technologien zu regulieren. Dazu werden vier Risikokategorien definiert, für die besondere Informationspflichten oder Verbote gelten können. Bei Verstößen können dafür einzurichtende Behörden der Mitgliedsstaaten Bußgelder bis zu 7 Prozent des weltweten Vorjahresumsatzes verhängen.

Inhaltsverzeichnis

Kapitel I
Allgemeine Bestimmungen

Art. 1 Gegenstand
Art. 2 Anwendungsbereich
Art. 3 Begriffsbestimmungen
Art. 4 KI-Kompetenz

Kapitel II
Verbotene Praktiken im KI-Bereich

Art. 5 Verbotene Praktiken im KI-Bereich

Kapitel III
Hochrisiko-KI-Systeme

Abschnitt 1
Einstufung von KI-Systemen als Hochrisiko-KI-Systeme

Art. 6 Einstufungsvorschriften für Hochrisiko-KI-Systeme
Art. 7 Änderungen des Anhangs III

Abschnitt 2
Anforderungen an Hochrisiko-KI-Systeme

Art. 8 Einhaltung der Anforderungen
Art. 9 Risikomanagementsystem
Art. 10 Daten und Daten-Governance
Art. 11 Technische Dokumentation
Art. 12 Aufzeichnungspflichten
Art. 13 Transparenz und Bereitstellung von Informationen für die Betreiber
Art. 14 Menschliche Aufsicht
Art. 15 Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3
Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter

Art. 16 Pflichten der Anbieter von Hochrisiko-KI-Systemen
Art. 17 Qualitätsmanagementsystem
Art. 18 Aufbewahrung der Dokumentation
Art. 19 Automatisch erzeugte Protokolle
Art. 20 Korrekturmaßnahmen und Informationspflicht
Art. 21 Zusammenarbeit mit den zuständigen Behörden
Art. 22 Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen
Art. 23 Pflichten der Einführer
Art. 24 Pflichten der Händler
Art. 25 Verantwortlichkeiten entlang der KI-Wertschöpfungskette
Art. 26 Pflichten der Betreiber von Hochrisiko-KI-Systemen
Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme

Abschnitt 4
Notifizierende Behörden und notifizierte Stellen

Art. 28 Notifizierende Behörden
Art. 29 Antrag einer Konformitätsbewertungsstelle auf Notifizierung
Art. 30 Notifizierungsverfahren
Art. 31 Anforderungen an notifizierte Stellen
Art. 32 Vermutung der Konformität mit den Anforderungen an notifizierte Stellen
Art. 33 Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen
Art. 34 Operative Pflichten der notifizierten Stellen
Art. 35 Identifizierungsnummern und Verzeichnisse notifizierter Stellen
Art. 36 Änderungen der Notifizierungen
Art. 37 Anfechtungen der Kompetenz notifizierter Stellen
Art. 38 Koordinierung der notifizierten Stellen
Art. 39 Konformitätsbewertungsstellen in Drittländern

Abschnitt 5
Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Art. 40 Harmonisierte Normen und Normungsdokumente
Art. 41 Gemeinsame Spezifikationen
Art. 42 Vermutung der Konformität mit bestimmten Anforderungen
Art. 43 Konformitätsbewertung
Art. 44 Bescheinigungen
Art. 45 Informationspflichten der notifizierten Stellen
Art. 46 Ausnahme vom Konformitätsbewertungsverfahren
Art. 47 EU-Konformitätserklärung
Art. 48 CE-Kennzeichnung
Art. 49 Registrierung

Kapitel IV
Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Kapitel V
KI-Modelle mit allgemeinem Verwendungszweck

Abschnitt 1
Einstufungsvorschriften

Art. 51 Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko
Art. 52 Verfahren

Abschnitt 2
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 53 Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Art. 54 Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Abschnitt 3
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Art. 55 Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Abschnitt 4
Praxisleitfäden

Art. 56 Praxisleitfäden

Kapitel VI
Maßnahmen zur Innovationsförderung

Art. 57 KI-Reallabore
Art. 58 Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
Art. 59 Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor
Art. 60 Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
Art. 61 Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
Art. 62 Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
Art. 63 Ausnahmen für bestimmte Akteure

Kapitel VII
Governance

Abschnitt 1
Governance auf Unionsebene

Art. 64 Büro für Künstliche Intelligenz
Art. 65 Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
Art. 66 Aufgaben des KI-Gremiums
Art. 67 Beratungsforum
Art. 68 Wissenschaftliches Gremium unabhängiger Sachverständiger
Art. 69 Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten

Abschnitt 2
Zuständige nationale Behörden

Art. 70 Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle

Kapitel VIII
EU-Datenbank für Hochrisiko-KI-Systeme

Art. 71 EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme

Kapitel IX
Beobachtung nach dem Inverkehrbringen, Informationsaustausch und Marktüberwachung

Abschnitt 1
Beobachtung nach dem Inverkehrbringen

Art. 72 Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme

Abschnitt 2
Austausch von Informationen über schwerwiegende Vorfälle

Art. 73 Meldung schwerwiegender Vorfälle

Abschnitt 3
Durchsetzung

Art. 74 Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
Art. 75 Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck
Art. 76 Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden
Art. 77 Befugnisse der für den Schutz der Grundrechte zuständigen Behörden
Art. 78 Vertraulichkeit
Art. 79 Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen
Art. 80 Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden
Art. 81 Schutzklauselverfahren der Union
Art. 82 Konforme KI-Systeme, die ein Risiko bergen
Art. 83 Formale Nichtkonformität
Art. 84 Unionsstrukturen zur Unterstützung der Prüfung von KI

Abschnitt 4
Rechtsbehelfe

Art. 85 Recht auf Beschwerde bei einer Marktüberwachungsbehörde
Art. 86 Recht auf Erläuterung der Entscheidungsfindung im Einzelfall
Art. 87 Meldung von Verstößen und Schutz von Hinweisgebern

Abschnitt 5
Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 88 Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Art. 89 Überwachungsmaßnahmen
Art. 90 Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken
Art. 91 Befugnis zur Anforderung von Dokumentation und Informationen
Art. 92 Befugnis zur Durchführung von Bewertungen
Art. 93 Befugnis zur Aufforderung zu Maßnahmen
Art. 94 Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck

Kapitel X
Verhaltenskodizes und Leitlinien

Art. 95 Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen
Art. 96 Leitlinien der Kommission zur Durchführung dieser Verordnung

Kapitel XI
Befugnisübertragung und Ausschussverfahren

Art. 97 Ausübung der Befugnisübertragung
Art. 98 Ausschussverfahren

Kapitel XII
Sanktionen

Art. 99 Sanktionen
Art. 100 Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union
Art. 101 Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Kapitel XIII
Schlussbestimmungen

Art. 102 Änderung der Verordnung (EG) Nr. 300/2008
Art. 103 Änderung der Verordnung (EU) Nr. 167/2013
Art. 104 Änderung der Verordnung (EU) Nr. 168/2013
Art. 105 Änderung der Richtlinie 2014/90/EU
Art. 106 Änderung der Richtlinie (EU) 2016/797
Art. 107 Änderung der Verordnung (EU) 2018/858
Art. 108 Änderungen der Verordnung (EU) 2018/1139
Art. 109 Änderung der Verordnung (EU) 2019/2144
Art. 110 Änderung der Richtlinie (EU) 2020/1828
Art. 111 Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck
Art. 112 Bewertung und Überprüfung
Art. 113 Inkrafttreten und Geltungsbeginn


Anhänge

Anh. I Liste der Harmonisierungsrechtsvorschriften der Union
Anh. II Liste der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii
Anh. III Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2
Anh. IV Technische Dokumentation gemäß Artikel 11 Absatz 1
Anh. V EU-Konformitätserklärung
Anh. VI Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle
Anh. VII Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation
Anh. VIII Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen
Anh. IX Bezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen
Anh. X Rechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts
Anh. XI Technische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Anh. XII Transparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren
Anh. XIII Kriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51
Fehler gefunden?
  • © 2025 ALLE RECHTE VORBEHALTEN.