Verordnung über künstliche Intelligenz
KI-Verordnung
Die EU verfolgt mit der Verordnung über künstliche Intelligenz einen risikobasierten Ansatz, um KI-Technologien zu regulieren. Dazu werden vier Risikokategorien definiert, für die besondere Informationspflichten oder Verbote gelten können. Bei Verstößen können dafür einzurichtende Behörden der Mitgliedsstaaten Bußgelder bis zu 7 Prozent des weltweten Vorjahresumsatzes verhängen.
Kapitel I
Allgemeine Bestimmungen
Art. 1 | Gegenstand |
Art. 2 | Anwendungsbereich |
Art. 3 | Begriffsbestimmungen |
Art. 4 | KI-Kompetenz |
Kapitel II
Verbotene Praktiken im KI-Bereich
Art. 5 | Verbotene Praktiken im KI-Bereich |
Kapitel III
Hochrisiko-KI-Systeme
Abschnitt 1
Einstufung von KI-Systemen als Hochrisiko-KI-Systeme
Art. 6 | Einstufungsvorschriften für Hochrisiko-KI-Systeme |
Art. 7 | Änderungen des Anhangs III |
Abschnitt 2
Anforderungen an Hochrisiko-KI-Systeme
Abschnitt 3
Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter
Abschnitt 4
Notifizierende Behörden und notifizierte Stellen
Abschnitt 5
Normen, Konformitätsbewertung, Bescheinigungen, Registrierung
Art. 40 | Harmonisierte Normen und Normungsdokumente |
Art. 41 | Gemeinsame Spezifikationen |
Art. 42 | Vermutung der Konformität mit bestimmten Anforderungen |
Art. 43 | Konformitätsbewertung |
Art. 44 | Bescheinigungen |
Art. 45 | Informationspflichten der notifizierten Stellen |
Art. 46 | Ausnahme vom Konformitätsbewertungsverfahren |
Art. 47 | EU-Konformitätserklärung |
Art. 48 | CE-Kennzeichnung |
Art. 49 | Registrierung |
Kapitel IV
Transparenzpflichten für die Anbieter und Betreiber bestimmter KI-Systeme
Art. 50 | Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme |
Kapitel V
KI-Modelle mit allgemeinem Verwendungszweck
Abschnitt 1
Einstufungsvorschriften
Art. 51 | Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko |
Art. 52 | Verfahren |
Abschnitt 2
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Art. 53 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Art. 54 | Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Abschnitt 3
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
Art. 55 | Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko |
Abschnitt 4
Praxisleitfäden
Art. 56 | Praxisleitfäden |
Kapitel VI
Maßnahmen zur Innovationsförderung
Art. 57 | KI-Reallabore |
Art. 58 | Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise |
Art. 59 | Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor |
Art. 60 | Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren |
Art. 61 | Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren |
Art. 62 | Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen |
Art. 63 | Ausnahmen für bestimmte Akteure |
Kapitel VII
Governance
Abschnitt 1
Governance auf Unionsebene
Art. 64 | Büro für Künstliche Intelligenz |
Art. 65 | Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz |
Art. 66 | Aufgaben des KI-Gremiums |
Art. 67 | Beratungsforum |
Art. 68 | Wissenschaftliches Gremium unabhängiger Sachverständiger |
Art. 69 | Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten |
Abschnitt 2
Zuständige nationale Behörden
Art. 70 | Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle |
Kapitel VIII
EU-Datenbank für Hochrisiko-KI-Systeme
Art. 71 | EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme |
Kapitel IX
Beobachtung nach dem Inverkehrbringen, Informationsaustausch und Marktüberwachung
Abschnitt 1
Beobachtung nach dem Inverkehrbringen
Art. 72 | Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme |
Abschnitt 2
Austausch von Informationen über schwerwiegende Vorfälle
Art. 73 | Meldung schwerwiegender Vorfälle |
Abschnitt 3
Durchsetzung
Art. 74 | Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt |
Art. 75 | Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck |
Art. 76 | Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden |
Art. 77 | Befugnisse der für den Schutz der Grundrechte zuständigen Behörden |
Art. 78 | Vertraulichkeit |
Art. 79 | Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen |
Art. 80 | Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden |
Art. 81 | Schutzklauselverfahren der Union |
Art. 82 | Konforme KI-Systeme, die ein Risiko bergen |
Art. 83 | Formale Nichtkonformität |
Art. 84 | Unionsstrukturen zur Unterstützung der Prüfung von KI |
Abschnitt 4
Rechtsbehelfe
Art. 85 | Recht auf Beschwerde bei einer Marktüberwachungsbehörde |
Art. 86 | Recht auf Erläuterung der Entscheidungsfindung im Einzelfall |
Art. 87 | Meldung von Verstößen und Schutz von Hinweisgebern |
Abschnitt 5
Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Art. 88 | Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Art. 89 | Überwachungsmaßnahmen |
Art. 90 | Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken |
Art. 91 | Befugnis zur Anforderung von Dokumentation und Informationen |
Art. 92 | Befugnis zur Durchführung von Bewertungen |
Art. 93 | Befugnis zur Aufforderung zu Maßnahmen |
Art. 94 | Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck |
Kapitel X
Verhaltenskodizes und Leitlinien
Art. 95 | Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen |
Art. 96 | Leitlinien der Kommission zur Durchführung dieser Verordnung |
Kapitel XI
Befugnisübertragung und Asschussverfahren
Art. 97 | Ausübung der Befugnisübertragung |
Art. 98 | Ausschussverfahren |
Kapitel XII
Sanktionen
Art. 99 | Sanktionen |
Art. 100 | Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union |
Art. 101 | Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Kapitel XIII
Schlussbestimmungen
Art. 102 | Änderung der Verordnung (EG) Nr. 300/2008 |
Art. 103 | Änderung der Verordnung (EU) Nr. 167/2013 |
Art. 104 | Änderung der Verordnung (EU) Nr. 168/2013 |
Art. 105 | Änderung der Richtlinie 2014/90/EU |
Art. 106 | Änderung der Richtlinie (EU) 2016/797 |
Art. 107 | Änderung der Verordnung (EU) 2018/858 |
Art. 108 | Änderungen der Verordnung (EU) 2018/1139 |
Art. 109 | Änderung der Verordnung (EU) 2019/2144 |
Art. 110 | Änderung der Richtlinie (EU) 2020/1828 |
Art. 111 | Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck |
Art. 112 | Bewertung und Überprüfung |
Art. 113 | Inkrafttreten und Geltungsbeginn |
Anhänge
Anhang I | Liste der Harmonisierungsrechtsvorschriften der Union |
Anhang II | Liste der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii |
Anhang III | Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2 |
Anhang IV | Technische Dokumentation gemäß Artikel 11 Absatz 1 |
Anhang V | EU-Konformitätserklärung |
Anhang VI | Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle |
Anhang VII | Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation |
Anhang VIII | Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen |
Anhang IX | Bezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen |
Anhang X | Rechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts |
Anhang XI | Technische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
Anhang XII | Transparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren |
Anhang XIII | Kriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51 |