Verordnung über künstliche Intelligenz
KI-Verordnung
Die EU verfolgt mit der Verordnung über künstliche Intelligenz einen risikobasierten Ansatz, um KI-Technologien zu regulieren. Dazu werden vier Risikokategorien definiert, für die besondere Informationspflichten oder Verbote gelten können. Bei Verstößen können dafür einzurichtende Behörden der Mitgliedsstaaten Bußgelder bis zu 7 Prozent des weltweten Vorjahresumsatzes verhängen.
Kapitel I
Allgemeine Bestimmungen
| Art. 1 | Gegenstand |
| Art. 2 | Anwendungsbereich |
| Art. 3 | Begriffsbestimmungen |
| Art. 4 | KI-Kompetenz |
Kapitel II
Verbotene Praktiken im KI-Bereich
| Art. 5 | Verbotene Praktiken im KI-Bereich |
Kapitel III
Hochrisiko-KI-Systeme
Abschnitt 1
Einstufung von KI-Systemen als Hochrisiko-KI-Systeme
| Art. 6 | Einstufungsvorschriften für Hochrisiko-KI-Systeme |
| Art. 7 | Änderungen des Anhangs III |
Abschnitt 2
Anforderungen an Hochrisiko-KI-Systeme
Abschnitt 3
Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter
Abschnitt 4
Notifizierende Behörden und notifizierte Stellen
Abschnitt 5
Normen, Konformitätsbewertung, Bescheinigungen, Registrierung
| Art. 40 | Harmonisierte Normen und Normungsdokumente |
| Art. 41 | Gemeinsame Spezifikationen |
| Art. 42 | Vermutung der Konformität mit bestimmten Anforderungen |
| Art. 43 | Konformitätsbewertung |
| Art. 44 | Bescheinigungen |
| Art. 45 | Informationspflichten der notifizierten Stellen |
| Art. 46 | Ausnahme vom Konformitätsbewertungsverfahren |
| Art. 47 | EU-Konformitätserklärung |
| Art. 48 | CE-Kennzeichnung |
| Art. 49 | Registrierung |
Kapitel IV
Transparenzpflichten für die Anbieter und Betreiber bestimmter KI-Systeme
| Art. 50 | Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme |
Kapitel V
KI-Modelle mit allgemeinem Verwendungszweck
Abschnitt 1
Einstufungsvorschriften
| Art. 51 | Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko |
| Art. 52 | Verfahren |
Abschnitt 2
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
| Art. 53 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
| Art. 54 | Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Abschnitt 3
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
| Art. 55 | Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko |
Abschnitt 4
Praxisleitfäden
| Art. 56 | Praxisleitfäden |
Kapitel VI
Maßnahmen zur Innovationsförderung
| Art. 57 | KI-Reallabore |
| Art. 58 | Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise |
| Art. 59 | Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor |
| Art. 60 | Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren |
| Art. 61 | Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren |
| Art. 62 | Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen |
| Art. 63 | Ausnahmen für bestimmte Akteure |
Kapitel VII
Governance
Abschnitt 1
Governance auf Unionsebene
| Art. 64 | Büro für Künstliche Intelligenz |
| Art. 65 | Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz |
| Art. 66 | Aufgaben des KI-Gremiums |
| Art. 67 | Beratungsforum |
| Art. 68 | Wissenschaftliches Gremium unabhängiger Sachverständiger |
| Art. 69 | Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten |
Abschnitt 2
Zuständige nationale Behörden
| Art. 70 | Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle |
Kapitel VIII
EU-Datenbank für Hochrisiko-KI-Systeme
| Art. 71 | EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme |
Kapitel IX
Beobachtung nach dem Inverkehrbringen, Informationsaustausch und Marktüberwachung
Abschnitt 1
Beobachtung nach dem Inverkehrbringen
| Art. 72 | Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme |
Abschnitt 2
Austausch von Informationen über schwerwiegende Vorfälle
| Art. 73 | Meldung schwerwiegender Vorfälle |
Abschnitt 3
Durchsetzung
| Art. 74 | Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt |
| Art. 75 | Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck |
| Art. 76 | Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden |
| Art. 77 | Befugnisse der für den Schutz der Grundrechte zuständigen Behörden |
| Art. 78 | Vertraulichkeit |
| Art. 79 | Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen |
| Art. 80 | Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden |
| Art. 81 | Schutzklauselverfahren der Union |
| Art. 82 | Konforme KI-Systeme, die ein Risiko bergen |
| Art. 83 | Formale Nichtkonformität |
| Art. 84 | Unionsstrukturen zur Unterstützung der Prüfung von KI |
Abschnitt 4
Rechtsbehelfe
| Art. 85 | Recht auf Beschwerde bei einer Marktüberwachungsbehörde |
| Art. 86 | Recht auf Erläuterung der Entscheidungsfindung im Einzelfall |
| Art. 87 | Meldung von Verstößen und Schutz von Hinweisgebern |
Abschnitt 5
Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
| Art. 88 | Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
| Art. 89 | Überwachungsmaßnahmen |
| Art. 90 | Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken |
| Art. 91 | Befugnis zur Anforderung von Dokumentation und Informationen |
| Art. 92 | Befugnis zur Durchführung von Bewertungen |
| Art. 93 | Befugnis zur Aufforderung zu Maßnahmen |
| Art. 94 | Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck |
Kapitel X
Verhaltenskodizes und Leitlinien
| Art. 95 | Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen |
| Art. 96 | Leitlinien der Kommission zur Durchführung dieser Verordnung |
Kapitel XI
Befugnisübertragung und Asschussverfahren
| Art. 97 | Ausübung der Befugnisübertragung |
| Art. 98 | Ausschussverfahren |
Kapitel XII
Sanktionen
| Art. 99 | Sanktionen |
| Art. 100 | Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union |
| Art. 101 | Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Kapitel XIII
Schlussbestimmungen
| Art. 102 | Änderung der Verordnung (EG) Nr. 300/2008 |
| Art. 103 | Änderung der Verordnung (EU) Nr. 167/2013 |
| Art. 104 | Änderung der Verordnung (EU) Nr. 168/2013 |
| Art. 105 | Änderung der Richtlinie 2014/90/EU |
| Art. 106 | Änderung der Richtlinie (EU) 2016/797 |
| Art. 107 | Änderung der Verordnung (EU) 2018/858 |
| Art. 108 | Änderungen der Verordnung (EU) 2018/1139 |
| Art. 109 | Änderung der Verordnung (EU) 2019/2144 |
| Art. 110 | Änderung der Richtlinie (EU) 2020/1828 |
| Art. 111 | Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck |
| Art. 112 | Bewertung und Überprüfung |
| Art. 113 | Inkrafttreten und Geltungsbeginn |
Anhänge
| Anhang I | Liste der Harmonisierungsrechtsvorschriften der Union |
| Anhang II | Liste der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii |
| Anhang III | Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2 |
| Anhang IV | Technische Dokumentation gemäß Artikel 11 Absatz 1 |
| Anhang V | EU-Konformitätserklärung |
| Anhang VI | Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle |
| Anhang VII | Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation |
| Anhang VIII | Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen |
| Anhang IX | Bezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen |
| Anhang X | Rechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts |
| Anhang XI | Technische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
| Anhang XII | Transparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren |
| Anhang XIII | Kriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51 |