EUROPÄISCHE KOMMISSION

Brüssel, den 19.11.2025

COM(2025) 836 final

2025/0359(COD)

Vorschlag für eine

VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES

zur Änderung der Verordnungen (EU) 2024/1689 und (EU) 2018/1139 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI)

(Text von Bedeutung für den EWR)

{SWD(2025) 836}

BEGRÜNDUNG

1.KONTEXT DES VORSCHLAGS

•Gründe und Ziele des Vorschlags

In ihrer Mitteilung „Ein einfacheres und schnelleres Europa“ 1 kündigte die Kommission ihr Engagement für ein ehrgeiziges Programm zur Förderung zukunftsorientierter, innovativer Strategien an, die die Wettbewerbsfähigkeit der Europäischen Union (EU) stärken, den Regelungsaufwand für die Menschen, Unternehmen und Verwaltungen verringern und höchste Standards bei der Förderung ihrer Werte wahren sollen.

Mit der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (im Folgenden „KI-Verordnung“), die am 1. August 2024 in Kraft trat, wird ein Binnenmarkt für eine vertrauenswürdige und auf den Menschen ausgerichtete künstliche Intelligenz (im Folgenden „KI“) in der gesamten EU geschaffen. Ihr Ziel ist es, die Innovation und die Einführung von KI bei gleichzeitiger Gewährleistung eines hohen Maßes an Schutz der Gesundheit, der Sicherheit und der Grundrechte, einschließlich Demokratie und Rechtsstaatlichkeit, zu fördern.

Die KI-Verordnung wird schrittweise anwendbar; ab dem 2. August 2027 werden alle Vorschriften Anwendung finden. Die darin vorgesehenen Verbote von KI-Praktiken, die unannehmbare Risiken bergen, und die Verpflichtungen im Zusammenhang mit KI-Modellen mit allgemeinem Verwendungszweck sind bereits anwendbar. Die meisten Bestimmungen – insbesondere diejenigen, die Hochrisiko-KI-Systeme regeln – werden jedoch erst ab dem 2. August 2026 bzw. dem 2. August 2027 gelten. Diese Bestimmungen enthalten detaillierte Anforderungen an die Daten-Governance, Transparenz, Dokumentation, menschliche Aufsicht und Robustheit, um sicherzustellen, dass in der EU in Verkehr gebrachte KI-Systeme sicher, transparent und zuverlässig sind.

Die Kommission setzt sich für eine klare, einfache und innovationsfreundliche Durchführung der KI-Verordnung ein, wie im Aktionsplan für den KI-Kontinent 2 und in der Strategie „KI anwenden“ 3 dargelegt. Initiativen wie der Praxisleitfaden für KI mit allgemeinem Verwendungszweck, die Leitlinien und Vorlagen der Kommission, der KI-Pakt und die Einrichtung des Service Desks für die KI-Verordnung schaffen Klarheit in Bezug auf die geltenden Vorschriften und unterstützen deren Anwendung. Insbesondere bietet die Website, über die der Service Desk für die KI-Verordnung bereitgestellt wird, eine zentrale Informationsplattform 4 zu allen Ressourcen, die den Interessenträgern zur Verfügung stehen, um sich in der KI-Verordnung zurechtzufinden, darunter Leitlinien, nationale Behörden und Unterstützungsinitiativen, Webinare und harmonisierte Normen. Diese Bemühungen werden mit der weiterer in der Ausarbeitung befindlicher Leitlinien und digitaler Instrumente werden fortgesetzt.

Aufbauend auf den Erfahrungen mit der Umsetzung bereits geltender Bestimmungen führte die Kommission eine Reihe von Konsultationen durch, darunter eine öffentliche Konsultation zur Ermittlung potenzieller Herausforderungen bei der Umsetzung der Bestimmungen der KI-Verordnung, eine Aufforderung zur Stellungnahme zur Vorbereitung der Digital-Omnibus-Verordnung, einen Realitätscheck, der es den Interessenträgern ermöglichte, ihre Umsetzungserfahrungen direkt weiterzugeben, und ein KMU-Panel zur Ermittlung von deren besonderen Bedürfnissen der KMU bei der Durchführung der KI-Verordnung.

Diese Konsultationen zeigen Herausforderungen bei der Durchführung auf, die dem wirksamen Inkrafttreten zentraler Bestimmungen der KI-Verordnung im Wege stehen könnten. Dazu gehören Verzögerungen bei der Benennung der zuständigen nationalen Behörden und Konformitätsbewertungsstellen sowie das Fehlen harmonisierter Normen für die Anforderungen an Hochrisiko-KI-Systeme sowie von Leitlinien und Instrumenten zur Einhaltung der KI-Verordnung. Solche Verzögerungen bergen die Gefahr, dass die Befolgungskosten für Unternehmen und Behörden erheblich steigen werden und dass Innovationen ausgebremst werden.

Um diesen Herausforderungen zu begegnen, schlägt die Kommission gezielte Vereinfachungsmaßnahmen vor, sodass eine rechtzeitige, reibungslose und verhältnismäßige Durchführung einiger Bestimmungen der KI-Verordnung gewährleistet werden kann. Dazu gehören

·die Verknüpfung des Zeitplans für die Anwendung der Vorschriften für Hochrisiko-KI-Systeme mit der Verfügbarkeit von Normen bzw. Standards oder anderen Unterstützungsinstrumenten;

·die Ausweitung der vereinfachten Regelungen für kleine und mittlere Unternehmen (KMU) auf kleine Midcap-Unternehmen (kleine Midcaps), einschließlich vereinfachter Anforderungen an die technische Dokumentation und eines besonderen Augenmerks bei der Anwendung von Sanktionen;

·die Verpflichtung der Kommission und der Mitgliedstaaten zur Förderung der KI-Kompetenz anstatt der Durchsetzung unspezifischer Verpflichtungen für Anbieter und Betreiber von KI-Systemen in dieser Hinsicht; gleichzeitig bleiben die Schulungspflichten für Betreiber von Hochrisiko-KI-Systemen bestehen;

·mehr Flexibilität bei der Beobachtung nach dem Inverkehrbringen durch Streichung der Vorschrift in Bezug auf einen harmonisierten Plan für die Beobachtung nach dem Inverkehrbringen;

·die Verringerung des Registrierungsaufwands für Anbieter von KI-Systemen, die in Hochrisikobereichen verwendet werden, bei denen der Anbieter jedoch zu dem Schluss gekommen ist, dass sie nicht hochriskant sind, da sie nur für eng gefasste oder verfahrenstechnische Aufgaben verwendet werden;

·die Zentralisierung der Aufsicht über eine große Zahl von KI-Systemen, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen oder die in sehr große Online-Plattformen und sehr große Suchmaschinen eingebettet sind, beim Büro für Künstliche Intelligenz;

·die Erleichterung der Einhaltung der Datenschutzgesetze, indem es Anbietern und Betreibern aller KI-Systeme und -Modelle ermöglicht wird, besondere Kategorien personenbezogener Daten zu verarbeiten, um die Erkennung und Korrektur von Verzerrungen mithilfe geeigneter Schutzvorkehrungen sicherzustellen;

·eine umfassendere Nutzung von KI-Reallaboren und Tests unter Realbedingungen, die europäischen Schlüsselindustrien wie der Automobilindustrie zugutekommen wird, und die Bereitstellung eines KI-Reallabors auf EU-Ebene, das das Büro für Künstliche Intelligenz ab 2028 einrichten wird;

·gezielte Änderungen zur Klarstellung des Zusammenspiels zwischen der KI-Verordnung und anderen EU-Rechtsvorschriften und zur Anpassung der Verfahren der KI-Verordnung, um ihre Durchführung und Anwendung insgesamt zu verbessern.

Über die legislativen Maßnahmen hinaus ergreift die Kommission weitere Maßnahmen, um die Einhaltung der KI-Verordnung zu erleichtern und den Bedenken der Interessenträger Rechnung zu tragen. Weitere Leitlinien werden derzeit ausgearbeitet, wobei der Schwerpunkt auf der Bereitstellung klarer und praktischer Anweisungen für die Anwendung der KI-Verordnung parallel zu anderen EU-Rechtsvorschriften liegt. Dies schließt Folgendes ein:

·Leitlinien für die praktische Durchführung der Einstufung als Hochrisiko-System;

·Leitlinien für die praktische Anwendung der Transparenzanforderungen nach Artikel 50 der KI-Verordnung;

·Leitlinien für die Meldung schwerwiegender Vorfälle durch Anbieter von Hochrisiko-KI-Systemen;

·Leitlinien für die praktische Anwendung der Anforderungen an Hochrisiko-Systeme;

·Leitlinien für die praktische Anwendung der Verpflichtungen für Anbieter und Betreiber von Hochrisiko-KI-Systemen;

·Leitlinien mit einer Vorlage für die Grundrechte-Folgenabschätzung;

·Leitlinien für die praktische Anwendung der Vorschriften über die Verantwortlichkeiten entlang der KI-Wertschöpfungskette;

·Leitlinien für die praktische Anwendung der Bestimmungen über wesentliche Veränderungen;

·Leitlinien für die Beobachtung von Hochrisiko-KI-Systemen nach dem Inverkehrbringen;

·Leitlinien für die Elemente des Qualitätsmanagementsystems, die KMU und kleine Midcaps in vereinfachter Form einhalten können;

·Leitlinien für das Zusammenspiel der KI-Verordnung mit anderen Rechtsvorschriften der Union, z. B. gemeinsame Leitlinien der Kommission und des Europäischen Datenschutzausschusses zum Zusammenspiel der KI-Verordnung und des EU-Datenschutzrechts, Leitlinien zum Zusammenspiel zwischen der KI-Verordnung und der Cyberresilienzverordnung sowie Leitlinien zum Zusammenspiel zwischen der KI-Verordnung und der Maschinenverordnung;

·Leitlinien für die Zuständigkeiten und das Verfahren zur Benennung von Konformitätsbewertungsstellen, die im Rahmen der KI-Verordnung zu benennen sind.

Insbesondere haben die Konsultationen der Interessenträger gezeigt, dass Leitlinien für die praktische Anwendung der Ausnahmen in Bezug auf die Forschung gemäß Artikel 2 Absätze 6 und 8 der KI-Verordnung benötigt werden und dass zu präzisieren ist, wie sie in sektoralen Kontexten wie der vorklinischen Forschung und Produktentwicklung im Bereich der Arzneimittel oder Medizinprodukte Anwendung finden sollen – eine Frage, an der die Kommission vorrangig arbeiten wird.

Diese Vereinfachungen werden dazu beitragen, dass die Durchführung der KI-Verordnung reibungslos, berechenbar und innovationsfreundlich erfolgt und Europa in die Lage versetzt wird, seine Position als KI-Kontinent zu stärken und ein Zuerst-KI-Konzept zu sicher verfolgen.

•Kohärenz mit den bestehenden Vorschriften in diesem Bereich

•Kohärenz mit der Politik der Union in anderen Bereichen

2.RECHTSGRUNDLAGE, SUBSIDIARITÄT UND VERHÄLTNISMÄẞIGKEIT

•Rechtsgrundlage

•Subsidiarität (bei nicht ausschließlicher Zuständigkeit)

•Verhältnismäßigkeit

•Wahl des Instruments

3.ERGEBNISSE DER EX-POST-BEWERTUNG, DER KONSULTATION DER INTERESSENTRÄGER UND DER FOLGENABSCHÄTZUNG

•Ex-post-Bewertung/Eignungsprüfungen bestehender Rechtsvorschriften

Dem Vorschlag ist eine Arbeitsunterlage der Kommissionsdienststellen beigefügt, die einen detaillierten Überblick über die Auswirkungen der vorgeschlagenen Änderungen bestimmter Bestimmungen der Verordnung (EU) 2024/1689 enthält. Sie enthält auch eine Analyse der positiven Auswirkungen der vorgeschlagenen Maßnahmen. Die Analyse stützt sich auf vorhandene Daten und auf Informationen, die im Rahmen von Konsultationen und eines Realitätschecks sowie durch schriftliche Rückmeldungen der Interessenträger im Rahmen einer Aufforderung zur Stellungnahme zusammengetragen wurden.

•Konsultation der Interessenträger

Im Zusammenhang mit dem Vorschlag wurden mehrere Konsultationen durchgeführt. Sie ergänzten einander und befassten sich entweder mit verschiedenen aktuellen Themen oder mit Interessengruppen, die von der Initiative betroffen sind.

In der ersten Sondierungsphase des Vereinfachungspakets für den Digitalbereich wurden im Frühjahr 2025 drei öffentliche Konsultationen und Aufforderungen zur Stellungnahme zu den wichtigsten Aspekten des Vorschlags veröffentlicht. Vom 9. April bis zum 4. Juni 2025 fand eine Konsultation zur Strategie „KI anwenden“ statt 5 , vom 11. April bis zum 20. Juni 2025 eine weitere zur Überarbeitung des Rechtsakts zur Cybersicherheit 6 und schließlich vom 23. Mai bis zum 20. Juli 2025 eine weitere zur Strategie für eine europäische Datenunion 7 . Jede Konsultation umfasste einen Fragebogen mit einem Abschnitt (oder zuweilen mehreren Abschnitten) zu Bedenken hinsichtlich der Umsetzung und Vereinfachung, der in direktem Zusammenhang mit den Überlegungen zum Vereinfachungspaket für den Digitalbereich stand. Im Rahmen dieser ersten Konsultationen gingen insgesamt 718 Antworten ein.

Vom 16. September bis zum 14. Oktober 2025 wurde ferner eine Aufforderung zur Stellungnahme zum Vereinfachungspaket für den Digitalbereich 8 veröffentlicht. Ziel war es, den gesamten Anwendungsbereich der Initiative abzudecken und den Interessenträgern die Möglichkeit zu geben, in einem Schritt zu einem gezielteren Vorschlagspaket Stellung zu nehmen. Insgesamt gingen mehr als 513 Antworten von einem breiten Spektrum von Interessenträgern ein.

Um kleine und mittlere Unternehmen (KMU) auf das Vereinfachungspaket für den Digitalbereich aufmerksam zu machen und ihre Rückmeldungen einzuholen, wurde zwischen dem 4. September und dem 16. Oktober 2025 über das Enterprise Europe Network (EEN) ein spezielles KMU-Panel organisiert. Das EEN ist das weltweit größte Unterstützungsnetz für KMU und wird von der Europäischen Exekutivagentur für den Innovationsrat und für KMU (EISMEA) der Kommission betreut. KMU-Panels sind eine Möglichkeit, Interessenträger zu konsultieren, die in diesen Rahmen fallen. KMU haben die Möglichkeit, ihre Ansichten zu künftigen politischen Initiativen einzubringen. Zusätzlich zur schriftlichen Online-Konsultation (zu der 106 Antworten von KMU eingingen) stellte die Kommission den KMU-Verbänden, die Teil des EEN sind, in einer Sitzung am 1. Oktober 2025 ebenfalls das Vereinfachungspaket für den Digitalbereich vor.

Im Jahr 2025 organisierten die Kommissionsdienststellen eine große Zahl bilateraler Treffen mit Interessenträgern, um spezifische Bedenken auszuräumen. Auch mit den Mitgliedstaaten wurden Gespräche geführt. Neben dem bilateralen Austausch wurden in den Arbeitsgruppen des Rates im Juni und September 2025 spezifische Tagesordnungspunkte zum Vereinfachungspaket für den Digitalbereich erörtert, in denen die Kommission die derzeitige Lage darlegte und die Mitgliedstaaten aufforderte, ihre Standpunkte zum Ausdruck zu bringen.

Insgesamt stimmten die Rückmeldungen der Interessenträger in Bezug auf die Notwendigkeit einer vereinfachten Anwendung einiger Digitalvorschriften überein. Eine bessere Kohärenz und eine Fokussierung auf die Optimierung der Befolgungskosten wurden von einem Querschnitt der Interessenträger weitgehend unterstützt. In Bezug auf einige der maßgeschneiderten Maßnahmen wurden unterschiedliche Meinungen geäußert. Ein detaillierterer Überblick über diese Konsultationen der Interessenträger und die Art und Weise, wie sie in den Vorschlag eingeflossen sind, findet sich in der Arbeitsunterlage der Kommissionsdienststellen, die dem Vereinfachungspaket für den Digitalbereich beigefügt ist.

•Einholung und Nutzung von Expertenwissen

•Folgenabschätzung

•Effizienz der Rechtsetzung und Vereinfachung

•Grundrechte

Die Verordnung (EU) 2024/1689 dürfte den Schutz einer Reihe der in der Charta der Grundrechte der Europäischen Union 9 verankerten Grundrechte und Grundfreiheiten fördern und sich positiv auf die Rechte einer Reihe von Sondergruppen 10 auswirken. Gleichzeitig enthält die Verordnung (EU) 2024/1689 einige Beschränkungen bestimmter Rechte und Freiheiten 11 , die verhältnismäßig und auf das erforderliche Minimum beschränkt sind. Es ist nicht zu erwarten, dass der Vorschlag die Auswirkungen der Verordnung (EU) 2024/1689 auf die Grundrechte ändert, da der gezielte Charakter der geplanten Änderungen weder den Anwendungsbereich der geregelten KI-Systeme noch die für diese Systeme geltenden materiellen Anforderungen berührt.

4.AUSWIRKUNGEN AUF DEN HAUSHALT

5.WEITERE ANGABEN

•Durchführungspläne sowie Monitoring-, Bewertungs- und Berichterstattungsmodalitäten

•Erläuternde Dokumente (bei Richtlinien)

•Ausführliche Erläuterung einzelner Bestimmungen des Vorschlags

·In Nummer 1 wird ein Verweis auf kleine Midcaps in den Gegenstand der KI-Verordnung aufgenommen.

·Nummer 2 betrifft eine technische Änderung, die erforderlich ist, um die Ausweitung von Tests unter Realbedingungen auf Hochrisiko-KI-Systeme zu ermöglichen, die in Produkte eingebettet sind, die unter Anhang I Abschnitt B der KI-Verordnung fallen.

·In Nummer 3 werden die Begriffsbestimmungen in Artikel 3 der KI-Verordnung um Legaldefinitionen für KMU und kleine Midcaps ergänzt.

·In Nummer 4 wird die Verpflichtung der Anbieter und Betreiber von KI-Systemen in Bezug auf die KI-Kompetenz in Artikel 4 der KI-Verordnung in eine Verpflichtung der Kommission und der Mitgliedstaaten zur Förderung der KI-Kompetenz umgewandelt.

·Mit Nummer 5 wird ein neuer Artikel 4a eingefügt, der Artikel 10 Absatz 5 der KI-Verordnung ersetzt und eine Rechtsgrundlage für Anbieter und Betreiber von KI-Systemen und KI-Modellen bietet, damit sie besondere Kategorien personenbezogener Daten ausnahmsweise verarbeiten können, um unter bestimmten Bedingungen die Erkennung und Korrektur von Verzerrungen sicherzustellen.

·Die Nummern 6, 14 und 32 beziehen sich auf die Streichung der Verpflichtung für Anbieter, ihre KI-Systeme in der EU-Datenbank für Hochrisiko-KI-Systeme gemäß Anhang III zu registrieren, wenn sie gemäß Artikel 6 Absatz 3 der KI-Verordnung von der Einstufung als hochriskant ausgenommen wurden, da die Systeme beispielsweise nur für vorbereitende Aufgaben verwendet werden.

·Nummer 7 enthält redaktionelle Folgeänderungen zu den Änderungen in Nummer 4.

·Mit den Nummern 8 und 9 werden bestehende regulatorische Privilegien der KI-Verordnung von KMU in Bezug auf die technische Dokumentation und die Einrichtung eines Qualitätsmanagementsystems, das ihrer Größe Rechnung trägt, auf kleine Midcaps ausgeweitet.

·Mit Nummer 10 wird in Artikel 28 der KI-Verordnung ein neues Verfahren eingeführt, wonach die Mitgliedstaaten sicherstellen müssen, dass eine Konformitätsbewertungsstelle, die ihre Benennung sowohl gemäß dieser Verordnung als auch gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union beantragt, die Möglichkeit erhält, für ihre Benennung einen einzigen Antrag zu stellen und sich einem einzigen Bewertungsverfahren zu unterziehen.

·In Nummer 11 wird vorgeschlagen, Artikel 29 Absatz 4 der KI-Verordnung zu ersetzen, wodurch Konformitätsbewertungsstellen in den Fällen, auf die in diesem Absatz Bezug genommen wird, einen einzigen Antrag stellen müssen.

·Mit Nummer 12 wird Artikel 30 der KI-Verordnung dahin gehend geändert, dass Konformitätsbewertungsstellen, die eine Benennung als notifizierte Stellen beantragen, verpflichtet werden, diesen Antrag im Einklang mit den Codes, Kategorien und entsprechenden Arten von KI-Systemen zu stellen, die in einem neuen Anhang XIV zum Informationssystem der Kommission NANDO (New Approach Notified and Designated Organisations) aufgeführt sind, und der Kommission wird die Befugnis übertragen, diese Codes, Kategorien und entsprechenden Arten von KI-Systemen vor dem Hintergrund technologischer Entwicklungen zu ändern.

·In Nummer 13 wird das in Artikel 43 der KI-Verordnung festgelegte Konformitätsbewertungsverfahren präzisiert, wenn ein Hochrisiko-KI-System unter die in Anhang I Abschnitt A der KI-Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fällt und ein KI-System sowohl nach Anhang I als auch nach Anhang III der KI-Verordnung als hochriskant eingestuft ist.

·In den Nummern 15 und 16 werden die durch die Artikel 50 und 56 der KI-Verordnung der Kommission übertragenen Befugnisse gestrichen, Durchführungsrechtsakte zu erlassen, um Praxisleitfäden für KI-Modelle mit allgemeinem Verwendungszweck und Transparenzpflichten für bestimmte KI-Systeme mit allgemeiner Gültigkeit in der Union festzulegen.

·Mit Nummer 17 werden Änderungen an den Vorschriften für KI-Reallabore in Artikel 57 der KI-Verordnung eingeführt, so wird unter anderem für das Büro für Künstliche Intelligenz die Rechtsgrundlage für die Einrichtung eines KI-Reallabors auf EU-Ebene für bestimmte KI-Systeme, die in seine ausschließliche Aufsichtskompetenz fallen, geschaffen und die Mitgliedstaaten werden verpflichtet, die grenzüberschreitende Zusammenarbeit ihrer Reallabore zu stärken.

·In Nummer 18 wird die Übertragung der Befugnis zur Annahme von Durchführungsrechtsakten an die Kommission präzisiert, um detaillierte Regelungen für die Einrichtung, die Entwicklung, die Umsetzung, den Betrieb, die Führung und die Beaufsichtigung der KI-Reallabore festzulegen.

·Mit Nummer 19 werden Änderungen an den Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren gemäß Artikel 60 der KI-Verordnung eingeführt; dies betrifft unter anderem die Ausweitung dieser Möglichkeit auf Hochrisiko-KI-Systeme, die unter Anhang I Abschnitt A fallen.

·Mit Nummer 20 wird eine zusätzliche Rechtsgrundlage geschaffen, auf der interessierte Mitgliedstaaten und die Kommission auf freiwilliger Basis schriftliche Vereinbarungen schließen können, um die in Anhang I Abschnitt B genannten Hochrisiko-KI-Systeme unter Realbedingungen zu testen.

·Mit Nummer 21 wird die Ausnahme, nach der bestimmte Elemente des Qualitätsmanagementsystems gemäß Artikel 17 der KI-Verordnung in vereinfachter Weise eingehalten werden können, von Kleinstunternehmen auf KMU ausgeweitet.

·Mit Nummer 22 wird zur Verfahrensvereinfachung die Befugnis der Kommission in Artikel 69 der KI-Verordnung gestrichen, einen Durchführungsrechtsakt über Kostenerstattungen für Sachverständige, die auf Veranlassung der Mitgliedstaaten zum wissenschaftlichen Gremium hinzugezogen werden, zu erlassen.

·In Nummer 23 wird der Schwerpunkt der Anleitung, die die nationalen Behörden bereitstellen können, von KMU auf kleine Midcaps ausgeweitet.

·Mit Nummer 24 wird die Befugnis der Kommission in Artikel 72 der KI-Verordnung, einen Durchführungsrechtsakt in Bezug auf den Plan zur Beobachtung nach dem Inverkehrbringen zu erlassen, ersetzt.

·Mit Nummer 25 werden Änderungen an den Beaufsichtigungs- und Durchsetzungsaufgaben in Bezug auf bestimmte KI-Systeme in Artikel 75 der KI-Verordnung vorgenommen:

·Mit Buchstabe a wird die Überschrift geändert.

·Mit Buchstabe b wird die Zuständigkeit des Büros für Künstliche Intelligenz für die Beaufsichtigungs- und Durchsetzungsaufgaben in Bezug auf bestimmte KI-Systeme gestärkt, die auf einem KI-Modell mit allgemeinem Verwendungszweck beruhen, wenn Modell und System von demselben Anbieter bereitgestellt werden. Gleichzeitig wird in der Bestimmung klargestellt, dass KI-Systeme im Zusammenhang mit Produkten, die unter Anhang I fallen, nicht Teil dieser Aufsicht sind. Darüber hinaus wird klargestellt, dass die Beaufsichtigungs- und Durchsetzungsaufgaben in Bezug auf die Konformität von KI-Systemen, die in benannte sehr große Online-Plattformen oder sehr große Online-Suchmaschinen eingebettet sind, in die Zuständigkeit des Büros für künstliche Intelligenz fallen sollten.

·Mit Buchstabe c werden mehrere neue Absätze eingeführt, mit denen der Kommission die Befugnis übertragen wird, Durchführungsrechtsakte zu erlassen, um die Durchsetzungsbefugnisse und die Verfahren für die Ausübung dieser Befugnisse durch das Büro für Künstliche Intelligenz festzulegen; es wird ein Verweis auf die Verordnung (EU) 2019/1020 aufgenommen, der sicherstellt, dass bestimmte Verfahrensgarantien für die betroffenen Anbieter gelten, und der Kommission wird die Befugnis übertragen, Konformitätsbewertungen von KI-Systemen im Anwendungsbereich des Artikels 75 durchzuführen.

·Mit Nummer 26 wird Artikel 77 der KI-Verordnung in Bezug auf die Befugnisse von Behörden oder Stellen zum Schutz der Grundrechte und auf die Zusammenarbeit mit Marktüberwachungsbehörden geändert.

·Mit den Nummern 27 und 28 werden die Bestimmungen der Artikel 95 und 96, nach denen freiwillige Unterstützungsinstrumente den Bedürfnissen von KMU Rechnung tragen müssen, auf kleine Midcaps ausgeweitet.

·Mit Nummer 29 werden für KMU bestehende regulatorische Privilegien in Artikel 99 der KI-Verordnung (Sanktionen) auf kleine Midcaps ausgeweitet.

·Nummer 30 enthält Änderungen an Artikel 111 der KI-Verordnung, die sich aus den Änderungen in Nummer 30 ergeben, und führt einen Übergangszeitraum von sechs Monaten für Anbieter ein, die rückwirkend technische Lösungen in ihre generativen KI-Systeme aufnehmen müssen, um generierte Inhalte maschinenlesbar und als künstlich erzeugt oder manipuliert erkennbar zu machen.

·Mit Nummer 31 werden Änderungen am Geltungsbeginn einiger Bestimmungen der KI-Verordnung eingeführt:

·Für die Verpflichtungen für Hochrisiko-KI-Systeme in Kapitel III wird ein Mechanismus eingeführt, der den Geltungsbeginn an die Verfügbarkeit von Maßnahmen zur Unterstützung der Einhaltung der Vorschriften für Hochrisiko-KI-Systeme der KI-Verordnung, wie harmonisierte Normen, gemeinsame Spezifikationen und Leitlinien der Kommission, knüpft. Diese Verfügbarkeit wird von der Kommission durch einen Beschluss bestätigt, woraufhin die Vorschriften für Hochrisiko-KI-Systeme dann nach einem angemessenen Übergangszeitraum anwendbar werden. Diese Flexibilität sollte jedoch nur für einen begrenzten Zeitraum gelten, und es sollte ein endgültiges Datum festgelegt werden, ab dem die Vorschriften in jedem Fall gelten. Darüber hinaus ist es angezeigt, zwischen den beiden Arten von KI-Systemen, die als hochriskant eingestuft werden, zu unterscheiden und einen längeren Übergangszeitraum für KI-Systeme zu gewähren, die gemäß Artikel 6 Absatz 1 und Anhang I der KI-Verordnung als hochriskant eingestuft sind.

·Es wird klargestellt, dass die Änderungen, die erforderlich sind, um die Anforderungen in Bezug auf Hochrisiko-KI-Systeme in die in Anhang I Abschnitt B aufgeführten sektorspezifischen Rechtsvorschriften aufzunehmen, bereits mit dem Inkrafttreten der Digital-Omnibus-Verordnung gelten.

·Nummer 33 steht im Zusammenhang mit der Änderung in Nummer 11 und führt einen neuen Anhang XIV ein, in dem Codes, Kategorien und entsprechende Arten von KI-Systemen festgelegt werden, die in einem neuen Anhang XIV für das Informationssystem der Kommission NANDO (New Approach Notified and Designated Organisations) aufgeführt werden.

Mit Artikel 2 werden Änderungen an der Verordnung (EU) 2018/1139 vorgenommen, um eine reibungslose Integration der Anforderungen an Hochrisiko-KI-Systeme der KI-Verordnung in diese Verordnung zu ermöglichen.

Artikel 3 regelt das Inkrafttreten und den verbindlichen Charakter dieser Verordnung.

2025/0359 (COD)

Vorschlag für eine

VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES

zur Änderung der Verordnungen (EU) 2024/1689 und (EU) 2018/1139 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI)

(Text von Bedeutung für den EWR)

DAS EUROPÄISCHE PARLAMENT UND DER RAT DER EUROPÄISCHEN UNION —

gestützt auf den Vertrag über die Arbeitsweise der Europäischen Union, insbesondere auf Artikel 114,

auf Vorschlag der Europäischen Kommission,

nach Zuleitung des Entwurfs des Gesetzgebungsakts an die nationalen Parlamente,

nach Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses 12 ,

nach Stellungnahme des Ausschusses der Regionen 13 ,

gemäß dem ordentlichen Gesetzgebungsverfahren,

in Erwägung nachstehender Gründe:

(1)Mit der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates 14 wurden harmonisierte Vorschriften für künstliche Intelligenz (KI) festgelegt mit dem Zweck, das Funktionieren des Binnenmarkts zu verbessern, die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte zu gewährleisten und Innovationen zu unterstützen. Die Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten. Ihre Bestimmungen werden schrittweise anwendbar; ab dem 2. August 2027 werden alle Vorschriften Anwendung finden.

(2)Die Erfahrungen, die im Rahmen der Durchführung der bereits geltenden Teile der Verordnung (EU) 2024/1689 gesammelt wurden, können bei der Durchführung der noch anzuwendenden Teile hilfreich sein. In diesem Zusammenhang führen die verzögerte Ausarbeitung von Normen, die technische Lösungen für Anbieter von Hochrisiko-KI-Systemen bieten sollten, damit diese ihren Pflichten aus der genannten Verordnung nachkommen können, sowie die verzögerte Einrichtung der Governance- und Konformitätsbewertungsrahmen auf nationaler Ebene zu einem höheren Befolgungsaufwand als erwartet. Darüber hinaus haben Konsultationen der Interessenträger ergeben, dass zusätzliche Maßnahmen erforderlich sind, die die Umsetzung und Einhaltung der Vorschriften erleichtern und präzisieren, ohne das mit den Vorschriften der Verordnung (EU) 2024/1689 angestrebte Niveau des Schutzes der Gesundheit, Sicherheit und Grundrechte vor KI-bezogenen Risiken zu senken.

(3)Folglich sind gezielte Änderungen der Verordnung (EU) 2024/1689 erforderlich, um bestimmte Herausforderungen bei der Durchführung im Hinblick auf die wirksame Anwendung der einschlägigen Vorschriften zu bewältigen.

(4)Unternehmen, die nicht mehr unter die Definition von Kleinstunternehmen sowie kleinen und mittleren Unternehmen (KMU) fallen – „kleine Midcap-Unternehmen“ –, spielen eine entscheidende Rolle in der Wirtschaft der Union. Im Vergleich zu KMU weisen kleine Midcap-Unternehmen in der Regel ein höheres Wachstumstempo sowie ein höheres Innovationsniveau und einen höheren Digitalisierungsgrad auf. Dennoch stehen sie hinsichtlich des Verwaltungsaufwands vor ähnlichen Herausforderungen wie KMU, was die Notwendigkeit einer verhältnismäßigen Durchführung der Verordnung (EU) 2024/1689 sowie gezielter Unterstützungsmaßnahmen nach sich zieht. Um Unternehmen den reibungslosen Übergang von KMU zu kleinen Midcap-Unternehmen zu ermöglichen, ist es wichtig, die Auswirkungen, die die genannte Verordnung auf deren Tätigkeit haben kann, sobald diese Unternehmen nicht länger als KMU gelten und den für Großunternehmen geltenden Vorschriften unterliegen, kohärent zu berücksichtigen. Die Verordnung (EU) 2024/1689 sieht mehrere Maßnahmen für Kleinanbieter vor, die auf kleine Midcap-Unternehmen ausgeweitet werden sollten. Um die Behandlung der KMU und kleinen Midcap-Unternehmen in der Verordnung (EU) 2024/1689 zu präzisieren, müssen Definitionen für KMU und kleine Midcap-Unternehmen eingeführt werden, die den Definitionen im Anhang der Empfehlung 2003/361/EG der Kommission 15 und im Anhang der Empfehlung 2025/3500/EG der Kommission 16 entsprechen sollten.

(5)Nach Artikel 4 der Verordnung (EU) 2024/1689 sind derzeit alle Anbieter und Betreiber von KI-Systemen verpflichtet, die KI-Kompetenz ihres Personals sicherzustellen. Der Erwerb von KI-Kompetenz, angefangen bei der allgemeinen und beruflichen Bildung bis hin zum lebenslangen Lernen, ist von entscheidender Bedeutung, um Anbieter, Betreiber und andere betroffene Personen mit den notwendigen Konzepten vertraut zu machen, damit sie fundierte Entscheidungen über den Einsatz von KI-Systemen treffen können. Die von den Interessenträgern geteilten Erfahrungen zeigen jedoch, dass eine Pauschallösung in Bezug auf die Förderung der KI-Kompetenz nicht für alle Arten von Anbietern und Betreibern geeignet ist, sodass eine solche horizontale Verpflichtung im Hinblick auf die Erreichung des mit dieser Bestimmung verfolgten Ziels unwirksam ist. Darüber hinaus deuten Daten darauf hin, dass die Auferlegung einer solchen Verpflichtung – insbesondere für kleinere Unternehmen – einen zusätzlichen Befolgungsaufwand verursacht, jedoch sollte KI-Kompetenz unabhängig von regulatorischen Verpflichtungen und möglichen Sanktionen eine strategische Priorität sein. Angesichts dessen sollte Artikel 4 der Verordnung (EU) 2024/1689 dahin gehend geändert werden, dass die Mitgliedstaaten und die Kommission unbeschadet ihrer jeweiligen Zuständigkeiten verpflichtet sind, Anbieter und Betreiber einzeln, gemeinsam und in Zusammenarbeit mit den einschlägigen Interessenträgern dazu anzuregen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, unter anderem durch das Anbieten von Schulungen, das Bereitstellen von Informationsressourcen und die Ermöglichung des Austauschs bewährter Verfahren sowie andere nicht rechtsverbindliche Initiativen. Das Europäische Gremium für künstliche Intelligenz (im Folgenden „KI-Gremium“) wird einen regelmäßigen Austausch zwischen der Kommission und den Mitgliedstaaten zu diesem Thema sicherstellen, während die KI-Anwendungsallianz Gespräche mit der breiteren Öffentlichkeit ermöglichen wird. Diese Änderung lässt die umfassenderen Maßnahmen unberührt, die die Kommission und die Mitgliedstaaten ergriffen haben, um KI-Kompetenzen und -Fähigkeiten für die breitere Bevölkerung, einschließlich Lernender, Studierender und Bürgerinnen und Bürger unterschiedlichen Alters, insbesondere durch Systeme der allgemeinen und beruflichen Bildung, zu fördern.

(6)Die Erkennung und Korrektur von Verzerrungen stellt ein erhebliches öffentliches Interesse dar, da so natürliche Personen vor den nachteiligen Auswirkungen von Verzerrungen, einschließlich Diskriminierung, geschützt werden. Diskriminierung könnte sich aus Verzerrungen in KI-Modellen und KI-Systemen ergeben, bei denen es sich nicht um Hochrisiko-KI-Systeme handelt, für die die Verordnung (EU) 2024/1689 bereits eine Rechtsgrundlage für die Verarbeitung besonderer Kategorien personenbezogener Daten gemäß Artikel 9 Absatz 2 Buchstabe g der Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates 17 bietet. Da sich Diskriminierung auch aus anderen KI-Systemen und ‐Modellen ergeben könnte, sollte die Verordnung (EU) 2024/1689 eine Rechtsgrundlage für die Verarbeitung besonderer Kategorien personenbezogener Daten auch durch Anbieter und Betreiber anderer KI-Systeme und ‐Modelle sowie Betreiber von Hochrisiko-KI-Systemen vorsehen. Die Rechtsgrundlage wird im Einklang mit Artikel 9 Absatz 2 Buchstabe g der Verordnung (EU) 2016/679, Artikel 10 Absatz 2 Buchstabe g der Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates 18 und Artikel 10 Buchstabe a der Richtlinie (EU) 2016/680 des Europäischen Parlaments und des Rates 19 geschaffen und ermöglicht es – soweit dies für die Erkennung und Beseitigung von Verzerrungen erforderlich ist –, dass besondere Kategorien personenbezogener Daten durch Anbieter und Betreiber aller KI-Systeme und -Modelle verarbeitet werden, vorbehaltlich geeigneter Garantien, die die Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit zutreffend, ergänzen.

(7)Zur Gewährleistung der Kohärenz, Vermeidung von Doppelarbeit und Minimierung des Verwaltungsaufwands im Zusammenhang mit dem Verfahren zur Benennung notifizierter Stellen gemäß der Verordnung (EU) 2024/1689 und unter Beibehaltung desselben Prüfniveaus, sollten für neue Konformitätsbewertungsstellen und notifizierte Stellen, die im Rahmen der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union, wie etwa der Verordnungen (EU) 2017/745 20 und (EU) 2017/746 21 des Europäischen Parlaments und des Rates, benannt wurden, ein einziger Antrag und ein einziges Bewertungsverfahren zur Verfügung stehen, wenn ein solches Verfahren im Rahmen dieser Harmonisierungsrechtsvorschriften der Union eingerichtet wurde. Mit dem einzigen Antrags- und Bewertungsverfahren soll das Benennungsverfahren gemäß der Verordnung (EU) 2024/1689 erleichtert, unterstützt und beschleunigt und gleichzeitig die Einhaltung der Anforderungen sichergestellt werden, die für notifizierte Stellen gemäß der genannten Verordnung und den in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union gelten.

(8)Um die reibungslose Anwendung und Kohärenz der Verordnung (EU) 2024/1689 zu gewährleisten, sollte sie geändert werden. In Artikel 43 Absatz 3 Unterabsatz 1 der Verordnung (EU) 2024/1689 sollte eine technische Korrektur aufgenommen werden, um die Konformitätsbewertungsanforderungen und die Anforderungen an Anbieter von Hochrisiko-KI-Systemen nach Artikel 16 der genannten Verordnung in Einklang zu bringen. Darüber hinaus sollte klargestellt werden, dass ein Anbieter eines Hochrisiko-KI-Systems, wenn er dem Konformitätsbewertungsverfahren gemäß den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union unterliegt und wenn die Konformitätsbewertung auch die Konformität des Qualitätsmanagementsystems der genannten Verordnung und der Harmonisierungsrechtsvorschriften der Union betrifft, im Einklang mit Artikel 17 Absatz 3 der Verordnung (EU) 2024/1689 Aspekte des Qualitätsmanagementsystems gemäß der genannten Verordnung als Teil der Qualitätsmanagementsysteme im Rahmen dieser Harmonisierungsrechtsvorschriften der Union aufnehmen können sollte. Artikel 43 Absatz 3 Unterabsatz 2 sollte geändert werden, um klarzustellen, dass notifizierte Stellen, die nach den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden und Hochrisiko-KI-Systeme bewerten sollen, die unter die in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, innerhalb von 18 Monaten nach [dem Geltungsbeginn der vorliegenden Verordnung] die Benennung als notifizierte Stelle gemäß der genannten Verordnung beantragen sollten. Diese Änderung lässt Artikel 28 der Verordnung (EU) 2024/1689 unberührt. Ferner sollte die Verordnung (EU) 2024/1689 geändert werden, um klarzustellen, dass in Fällen, in denen ein Hochrisiko-KI-System sowohl unter die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union als auch unter einen der in Anhang III der genannten Verordnung aufgeführten Anwendungsfälle fällt, der Anbieter das einschlägige Konformitätsbewertungsverfahren gemäß diesen einschlägigen Harmonisierungsrechtsvorschriften befolgen sollte.

(9)Um die Verfahren zur Sicherstellung der Einhaltung der Vorschriften zu straffen und die damit verbundenen Kosten zu senken, sollten Anbieter von KI-Systemen nicht verpflichtet sein, die in Artikel 6 Absatz 3 der Verordnung (EU) 2024/1689 genannten KI-Systeme in der EU-Datenbank gemäß Artikel 49 Absatz 2 der genannten Verordnung zu registrieren. Da solche Systeme unter bestimmten Bedingungen nicht als hochriskant gelten, wenn sie etwa kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen, würde die Auferlegung von Registrierungsanforderungen einen unverhältnismäßigen Befolgungsaufwand darstellen. Gleichwohl bleibt ein Anbieter, der der Auffassung ist, dass ein KI-System unter Artikel 6 Absatz 3 fällt, weiterhin verpflichtet, seine Bewertung zu dokumentieren, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. Diese Bewertung kann von den zuständigen nationalen Behörden beantragt werden.

(10)Die Artikel 57, 58 und 60 der Verordnung (EU) 2024/1689 sollten geändert werden, um die Zusammenarbeit von KI-Reallaboren auf Unionsebene weiter zu stärken, Klarheit und Kohärenz bei der Governance von KI-Reallaboren zu fördern und Hochrisiko-KI-Systeme, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, in Tests unter Realbedingungen außerhalb von KI-Reallaboren einzubeziehen. Insbesondere um die Verfahren der in den KI-Reallaboren beaufsichtigten Projekte, die auch Tests unter Realbedingungen umfassen, gegebenenfalls zu vereinfachen, sollte der Plan für einen Test unter Realbedingungen in den von den Anbietern oder zukünftigen Anbietern und der zuständigen Behörde vereinbarten Plan für das Reallabor in einem einzigen Dokument integriert werden. Des Weiteren sollte dem Büro für Künstliche Intelligenz die Möglichkeit eingeräumt werden, auf Unionsebene ein KI-Reallabor für KI-Systeme einzurichten, die unter Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 fallen. Durch die Nutzung dieser Infrastrukturen und die Förderung der grenzüberschreitenden Zusammenarbeit ließen sich die Koordinierung straffen und die Ressourcen bestmöglich einsetzen.

(11)Zur Förderung von Innovationen sollte auch der Anwendungsbereich der Tests unter Realbedingungen außerhalb von KI-Reallaboren nach Artikel 60 der Verordnung (EU) 2024/1689 ausgeweitet werden, die derzeit für die in Anhang III der genannten Verordnung aufgeführten Hochrisiko-KI-Systeme durchgeführt werden müssen; zudem sollte es Anbietern und zukünftigen Anbietern von Hochrisiko-KI-Systemen, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ermöglicht werden, solche Systeme auch unter Realbedingungen zu testen. Das Unionsrecht oder nationale Recht über das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im Zusammenhang mit Produkten, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, bleibt davon unberührt. Um der besonderen Situation von Hochrisiko-KI-Systemen Rechnung zu tragen, die unter die in Anhang I Abschnitt B der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ist es erforderlich, den Abschluss freiwilliger Vereinbarungen zwischen der Kommission und den Mitgliedstaaten zu ermöglichen, um die Tests solcher Hochrisiko-KI-Systeme unter Realbedingungen durchzuführen zu können.

(12)Artikel 63 der Verordnung (EU) 2024/1689 bietet Kleinstunternehmen, die Anbieter von Hochrisiko-KI-Systemen sind, die Möglichkeit, die Verpflichtung zur Einrichtung eines Qualitätsmanagementsystems auf vereinfachte Weise zu erfüllen. Um die Einhaltung der Vorschriften für mehr Innovatoren zu erleichtern, sollte diese Möglichkeit auf alle KMU, einschließlich Start-up-Unternehmen, ausgeweitet werden.

(13)Artikel 69 der Verordnung (EU) 2024/1689 sollte geändert werden, um die Gebührenstruktur des wissenschaftlichen Gremiums zu vereinfachen. Nehmen die Mitgliedstaaten das Fachwissen des Gremiums in Anspruch, sollten die für die Sachverständigen zu zahlenden Gebühren derjenigen Vergütung gleichkommen, die die Kommission unter ähnlichen Umständen zu zahlen hat. Ferner sollten die Mitgliedstaaten die Sachverständigen des wissenschaftlichen Gremiums ohne Beteiligung der Kommission direkt konsultieren können, um die komplexen Verfahren zu vereinfachen.

(14)Um das Governance-System für KI-Systeme zu stärken, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen, muss die Rolle des Büros für Künstliche Intelligenz bei der Überwachung und Beaufsichtigung der Konformität solcher KI-Systeme mit der Verordnung (EU) 2024/1689 klargestellt werden, wobei KI-Systeme im Zusammenhang mit Produkten, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ausgenommen werden. Während die sektorspezifischen Behörden weiterhin für die Beaufsichtigung von KI-Systemen im Zusammenhang mit Produkten zuständig sind, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, sollte Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 geändert werden, sodass das Büro für Künstliche Intelligenz im Rahmen seiner Beaufsichtigungstätigkeit sämtliche KI-Systeme berücksichtigt, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen und vom selben Anbieter entwickelt werden. Dies gilt nicht für KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden und gemäß Artikel 74 Absatz 9 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Europäischen Datenschutzbeauftragten unterliegen. Um eine wirksame Beaufsichtigung dieser KI-Systeme im Einklang mit den Aufgaben und Zuständigkeiten der Marktüberwachungsbehörden gemäß der Verordnung (EU) 2024/1689 zu gewährleisten, sollte das Büro für Künstliche Intelligenz befugt sein, geeignete Maßnahmen und Entscheidungen zu treffen, um seine in jenem Abschnitt und in der Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates 22 vorgesehenen Befugnisse angemessen auszuüben. Artikel 14 der Verordnung (EU) 2019/1020 sollte sinngemäß gelten. Darüber hinaus sollten die an der Anwendung der Verordnung (EU) 2024/1689 beteiligten Behörden bei der Ausübung dieser Befugnisse aktiv zusammenarbeiten, insbesondere wenn Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats zu treffen sind.

(15)Angesichts des bestehenden Aufsichts- und Durchsetzungssystems gemäß der Verordnung (EU) 2022/2065 des Europäischen Parlaments und des Rates 23 ist es angezeigt, der Kommission die Befugnisse einer zuständigen Marktüberwachungsbehörde gemäß der Verordnung (EU) 2024/1689 zu übertragen, wenn ein KI-System als sehr große Online-Plattform oder sehr große Online-Suchmaschine im Sinne der Verordnung (EU) 2022/2065 gilt oder in eine solche Plattform oder Suchmaschine eingebettet ist. So soll dazu beigetragen werden, dass die Aufsichts- und Durchsetzungsbefugnisse der Kommission gemäß der Verordnung (EU) 2024/1689 und der Verordnung (EU) 2022/2065 sowie die Befugnisse, die für in solche Plattformen oder Suchmaschinen integrierte KI-Modelle mit allgemeinem Verwendungszweck gelten, kohärent ausgeübt werden. Im Falle von KI-Systemen, die in einer sehr großen Online-Plattform oder Suchmaschine eingebettet sind oder als solche anzusehen sind, sind die in den Artikeln 34, 35 und 37 der Verordnung (EU) 2022/2065 vorgeschriebenen Risikobewertungen, Risikominderungsmaßnahmen und Prüfungspflichten der erste Ansatzpunkt für die Bewertung der KI-Systeme, unbeschadet der Befugnisse des Büros für Künstliche Intelligenz, Verstöße gegen die Vorschriften dieser Verordnung nachträglich zu untersuchen und durchzusetzen. Im Zusammenhang mit der Analyse dieser Risikobewertungen, Risikominderungsmaßnahmen und Prüfungen können die für die Durchsetzung der Verordnung (EU) 2022/2065 zuständigen Kommissionsdienststellen die Stellungnahme des Büros für Künstliche Intelligenz zum Ergebnis einer möglichen früheren oder parallelen Risikobewertung, die gemäß der genannten Verordnung durchgeführt wurde, und zur Anwendbarkeit von Verboten gemäß der genannten Verordnung einholen. Darüber hinaus sollten das Büro für Künstliche Intelligenz und die nach der Verordnung (EU) 2024/1689 zuständigen nationalen Behörden ihre Durchsetzungsbemühungen mit den für die Beaufsichtigung und Durchsetzung der Verordnung (EU) 2022/2065 zuständigen Behörden, einschließlich der Kommission, koordinieren, um sicherzustellen, dass die Grundsätze der loyalen Zusammenarbeit und der Verhältnismäßigkeit und das Verbot der doppelten Strafverfolgung eingehalten werden, wobei die im Rahmen der einen Verordnung erlangten Informationen nur dann für die Zwecke der Beaufsichtigung und Durchsetzung der jeweils anderen Verordnung verwendet würden, wenn das Unternehmen zustimmt. Insbesondere sollten diese Behörden einen regelmäßigen Gedankenaustausch führen und allen Geldbußen und Sanktionen – in ihren jeweiligen Zuständigkeitsbereichen – Rechnung tragen, die im Wege einer endgültigen Entscheidung in einem Verfahren wegen einer Zuwiderhandlung gegen andere Vorschriften der Union oder der Mitgliedstaaten wegen desselben Verhaltens gegen denselben Anbieter verhängt wurden, damit sichergestellt ist, dass die insgesamt verhängten Geldbußen und Sanktionen angemessen sind und der Schwere der begangenen Zuwiderhandlung entsprechen.

(16)Um die Beaufsichtigung und Durchsetzung durch das Büro für Künstliche Intelligenz gemäß Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 weiter in die Praxis umzusetzen, muss präzisiert werden, welche der in Artikel 14 der Verordnung (EU) 2019/1020 aufgeführten Befugnisse dem Büro für Künstliche Intelligenz übertragen werden sollten. Der Kommission sollte daher die Befugnis übertragen werden, Durchführungsrechtsakte zu erlassen, um diese Befugnisse, einschließlich der Befugnis, Sanktionen wie Geldbußen oder andere verwaltungsrechtliche Sanktionen im Einklang mit den in Artikel 99 genannten Bedingungen und Obergrenzen zu verhängen, und die anwendbaren Verfahren festzulegen. So soll sichergestellt werden, dass das Büro für Künstliche Intelligenz über die erforderlichen Instrumente verfügt, um die Einhaltung der Verordnung (EU) 2024/1689 wirksam zu überwachen und zu beaufsichtigen.

(17)Darüber hinaus muss unbedingt sichergestellt werden, dass für Anbieter von KI-Systemen, die der Überwachung und Beaufsichtigung durch das Büro für Künstliche Intelligenz unterliegen, wirksame Verfahrensgarantien gelten. Zu diesem Zweck sollten die in Artikel 18 der Verordnung (EU) 2019/1020 vorgesehenen Verfahrensrechte unbeschadet der in der Verordnung (EU) 2024/1689 enthaltenen spezifischeren Verfahrensrechte sinngemäß für die Anbieter von KI-Systemen gelten.

(18)Um KI-Systemen, die nach Artikel 75 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Büros für Künstliche Intelligenz und einer Konformitätsbewertung durch Dritte unterliegen, den Zugang zum Unionsmarkt zu ermöglichen, sollte die Kommission dazu befähigt werden, dem Inverkehrbringen vorgeschaltete Konformitätsbewertungen dieser Systeme durchzuführen.

(19)Artikel 77 und die damit zusammenhängenden Bestimmungen der Verordnung (EU) 2024/1689 stellen einen wichtigen Governance-Mechanismus dar, da sie die für die Durchsetzung oder Beaufsichtigung des Unionsrechts zum Schutz der Grundrechte zuständigen Behörden oder Stellen dazu befähigen sollen, ihr Mandat unter bestimmten Bedingungen zu erfüllen, und zugleich die Zusammenarbeit mit den für die Beaufsichtigung und Durchsetzung der genannten Verordnung zuständigen Marktüberwachungsbehörden fördern sollen. Es ist erforderlich, den Umfang dieser Zusammenarbeit zu präzisieren und klarzustellen, welche Behörden oder öffentlichen Stellen davon profitieren. Um die Zusammenarbeit zu verstärken, sollte klargestellt werden, dass Anträge auf Zugang zu Informationen und Unterlagen an die zuständige Marktüberwachungsbehörde gerichtet werden sollten, die mit der Abwicklung solcher Anträge befasst ist, und dass die beteiligten Behörden oder Stellen gegenseitig zur Zusammenarbeit verpflichtet werden sollten.

(20)Um Anbietern generativer KI-Systeme, die den Kennzeichnungspflichten gemäß Artikel 50 Absatz 2 der Verordnung (EU) 2024/1689 unterliegen, ausreichend Zeit einzuräumen, um ihre Verfahren innerhalb einer angemessenen Frist anzupassen, ohne dabei den Markt zu stören, ist es angezeigt, einen Übergangszeitraum von sechs Monaten für Anbieter einzuführen, die ihre Systeme bereits vor dem 2. August 2026 in Verkehr gebracht haben.

(21)Um den Anbietern von Hochrisiko-KI-Systemen ausreichend Zeit einzuräumen und die geltenden Vorschriften für KI-Systeme zu präzisieren, die bereits vor dem Inkrafttreten der einschlägigen Bestimmungen der Verordnung (EU) 2024/1689 in Verkehr gebracht oder in Betrieb genommen wurden, sollte die Anwendung einer Übergangsfrist nach Artikel 111 Absatz 2 der genannten Verordnung präzisiert werden. Die Übergangsfrist für die Zwecke des Artikels 111 Absatz 2 sollte für Arten und Modelle von KI-Systemen gelten, die bereits in Verkehr gebracht wurden. Wenn also bereits eine einzelne Einheit des Hochrisiko-KI-Systems vor dem in Artikel 111 Absatz 2 genannten Datum rechtmäßig in Verkehr gebracht oder in Betrieb genommen wurde, gilt für andere einzelne Einheiten derselben Art und desselben Modells eines Hochrisiko-KI-Systems die in Artikel 111 Absatz 2 vorgesehene Übergangsfrist und sie dürfen folglich ohne zusätzliche Verpflichtungen, Anforderungen oder Zertifizierung weiterhin auf dem Unionsmarkt in Verkehr gebracht, bereitgestellt oder in Betrieb genommen werden, solange die Gestaltung dieses Hochrisiko-KI-Systems unverändert bleibt. Für die Anwendung der Übergangsfrist nach Artikel 111 Absatz 2 ist das Datum entscheidend, an dem die erste Einheit dieser Art und dieses Modells eines Hochrisiko-KI-Systems auf dem Unionsmarkt in Verkehr gebracht oder in Betrieb genommen wurde. Jede signifikante Änderung der Gestaltung des KI-Systems nach dem in Artikel 111 Absatz 2 genannten Datum sollte die Verpflichtung der Anbieter nach sich ziehen, alle einschlägigen für Hochrisiko-KI-Systeme geltenden Bestimmungen dieser Verordnung, einschließlich der Anforderungen an die Konformitätsbewertung, in vollem Umfang einzuhalten.

(22)In Artikel 113 der Verordnung (EU) 2024/1689 sind die Daten des Inkrafttretens und des Geltungsbeginns der Verordnung festgelegt, insbesondere, dass der allgemeine Geltungsbeginn der 2. August 2026 ist. In Bezug auf die in Kapitel III Abschnitte 1, 2 und 3 der Verordnung (EU) 2024/1689 festgelegten Verpflichtungen im Zusammenhang mit Hochrisiko-KI-Systemen führen die verzögerte Verfügbarkeit von Normen, gemeinsamen Spezifikationen und alternativen Leitlinien und die verzögerte Einrichtung der zuständigen nationalen Behörden zu Herausforderungen, die das wirksame Inkrafttreten dieser Verpflichtung gefährden, und zu dem Risiko einer derart erheblichen Erhöhung der Umsetzungskosten, dass es nicht gerechtfertigt ist, ihren ursprünglichen Geltungsbeginn, d. h. den 2. August 2026, beizubehalten. Auf der Grundlage der bisherigen Erfahrungen sollte ein Mechanismus geschaffen werden, der das Inkrafttreten an die Verfügbarkeit von Maßnahmen zur Unterstützung der Einhaltung von Kapitel III knüpft, die harmonisierte Normen, gemeinsame Spezifikationen und Leitlinien der Kommission umfassen können. Dies sollte von der Kommission durch einen Beschluss bestätigt werden, gemäß dem die Vorschriften für Hochrisiko-KI-Systeme für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, nach sechs Monaten und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I der Verordnung (EU) 2024/1689 als hochriskant eingestuft sind, nach 12 Monaten gelten sollten. Diese Flexibilität sollte jedoch für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, nur bis zum 2. Dezember 2027 und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, nur bis zum 2. August 2028 verlängert werden; bis zu diesen Zeitpunkten sollten die Vorschriften in jedem Fall in Kraft treten. Die unterschiedlichen Zeitpunkte des Inkrafttretens der Vorschriften für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III bzw. Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, richten sich nach den in der Verordnung (EU) 2024/1689 ursprünglich vorgesehenen Zeitpunkten des Geltungsbeginns und dienen dazu, die erforderliche Zeit für die Anpassung und Umsetzung der entsprechenden Verpflichtungen einzuräumen.

(23)Angesichts des Ziels, die Herausforderungen für Bürgerinnen und Bürger, Unternehmen und öffentliche Verwaltungen bei der Umsetzung zu verringern, ist es von wesentlicher Bedeutung, dass harmonisierte Bedingungen für die Anwendung bestimmter Vorschriften nur angenommen werden, wenn dies unbedingt erforderlich ist. Zu diesem Zweck ist es angezeigt, bestimmte der Kommission übertragene Befugnisse, solche harmonisierten Bedingungen im Wege von Durchführungsrechtsakten zu erlassen, zu streichen, wenn diese Bedingungen nicht erfüllt sind. Die Verordnung (EU) 2024/1689 sollte daher geändert werden, um die der Kommission in Artikel 50 Absatz 7, Artikel 56 Absatz 6 und Artikel 72 Absatz 3 der genannten Verordnung übertragenen Befugnisse zum Erlass von Durchführungsrechtsakten zu streichen. Die Streichung der Befugnis zur Annahme eines harmonisierten Musters des Plans für die Beobachtung nach dem Inverkehrbringen in Artikel 72 Absatz 3 der Verordnung (EU) 2024/1689 hat den zusätzlichen Vorteil, dass so den Anbietern von Hochrisiko-KI-Systemen mehr Flexibilität bei der Einrichtung eines auf ihre Organisation zugeschnittenen Systems für die Beobachtung nach dem Inverkehrbringen geboten wird. Gleichzeitig sollte die Kommission angesichts der Notwendigkeit, Klarheit darüber zu schaffen, wie Anbieter von Hochrisiko-KI-Systemen die Anforderungen erfüllen müssen, verpflichtet sein, Leitlinien zu veröffentlichen.

(24)Die Konformitätsbewertung von Hochrisiko-KI-Systemen im Rahmen der Verordnung (EU) 2024/1689 kann die Einbeziehung von Konformitätsbewertungsstellen erfordern. Nur Konformitätsbewertungsstellen, die gemäß der genannten Verordnung benannt wurden, dürfen Konformitätsbewertungen durchführen, und dies nur für die Tätigkeiten in Bezug auf die betreffenden Kategorien und Arten von KI-Systemen. Um den Geltungsbereich der Benennung von Konformitätsbewertungsstellen, die im Rahmen von Artikel 30 der Verordnung (EU) 2024/1689 notifiziert wurden, angeben zu können, muss ein Verzeichnis von Codes, Kategorien und entsprechenden Arten von KI-Systemen erstellt werden. Bei dem Verzeichnis der Codes sollte berücksichtigt werden, ob es sich bei dem KI-System um eine Komponente eines Produkts oder um ein eigenständiges Produkt handelt, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fällt (im Falle von KI-Systemen, die unter die Produktvorschriften fallen, als „AIP-Codes“ bezeichnet), oder um ein in Anhang III der Verordnung (EU) 2024/1689 genanntes System, das derzeit nur die in Anhang III Nummer 1 genannten biometrischen KI-Systeme betrifft (im Falle biometrischer KI-Systeme als „AIB-Codes“ bezeichnet). Sowohl AIP- als auch AIB-Codes sind vertikale Codes. Die AIP-Codes dienen als Referenzcodes, um eine Verbindung zu den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union herzustellen. Bei den AIB-Codes handelt es sich um neue spezifische Codes der Verordnung (EU) 2024/1689 zur Identifizierung der in Anhang III Absatz 1 der genannten Verordnung aufgeführten biometrischen KI-Systeme. Das Verzeichnis der Codes sollte auch spezifische Arten und zugrunde liegende Technologien von KI-Systemen (im Falle horizontaler KI-Systemcodes als „AIH-Codes“ bezeichnet) berücksichtigen. Bei den AIH-Codes handelt es sich um neue KI-technologiespezifische Codes, die in Verbindung mit vertikalen AIP- oder AIB-Codes angewandt werden können. Die AIH-Codes decken die zugrunde liegenden Arten und Technologien von KI-Systemen ab. Das Verzeichnis der Codes, das drei Kategorien umfasst, sollte eine mehrdimensionale Typologie von KI-Systemen vorsehen, mit der sichergestellt wird, dass die als notifizierte Stellen benannten Konformitätsbewertungsstellen über jegliche Kompetenz verfügen, die die von ihnen zu bewertenden KI-Systeme erfordern.

(25)In der Verordnung (EU) 2018/1139 des Europäischen Parlaments und des Rates 24 sind gemeinsame Vorschriften für die Zivilluftfahrt festgelegt. Artikel 108 der Verordnung (EU) 2024/1689 enthält Änderungen der Verordnung (EU) 2018/1139, damit die Kommission – auf der Grundlage der technischen und regulatorischen Besonderheiten des Zivilluftfahrtsektors und ohne Beeinträchtigung bestehender Governance-, Konformitätsbewertungs- und Durchsetzungsmechanismen sowie der darin eingerichteten Behörden – beim Erlass von etwaigen künftigen delegierten Rechtsakten oder Durchführungsrechtsakten auf der Grundlage des genannten Rechtsakts die in der Verordnung (EU) 2024/1689 festgelegten verbindlichen Anforderungen an Hochrisiko-KI-Systeme berücksichtigt. Eine technische Korrektur zur Erweiterung bestimmter Artikel der Verordnung (EU) 2018/1139 ist erforderlich, um sicherzustellen, dass sämtliche dieser in der Verordnung (EU) 2024/1689 festgelegten verbindlichen Anforderungen an Hochrisiko-KI-Systeme beim Erlass einschlägiger delegierter Rechtsakte oder Durchführungsrechtsakte auf der Grundlage der Verordnung (EU) 2018/1139 berücksichtigt werden.

(26)Um im Hinblick auf die unmittelbar bevorstehende allgemeine Anwendung der Verordnung (EU) 2024/1689 baldmöglichst Rechtssicherheit zu gewährleisten, sollte die vorliegende Verordnung umgehend in Kraft treten —

HABEN FOLGENDE VERORDNUNG ERLASSEN:

Artikel 1

Änderungen der Verordnung (EU) 2024/1689

Die Verordnung (EU) 2024/1689 wird wie folgt geändert:

1.Artikel 1 Absatz 2 Buchstabe g erhält folgende Fassung:

„g) Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf kleinen Midcap-Unternehmen und kleinen und mittleren Unternehmen (KMU), einschließlich Start-up-Unternehmen.“

2.Artikel 2 Absatz 2 erhält folgende Fassung:

„(2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gelten nur Artikel 6 Absatz 1, Artikel 60a, Artikel 102 bis 109, Artikel 111 und Artikel 112. Artikel 57 gilt nur, soweit die Anforderungen an Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union eingebunden wurden.“

3.In Artikel 3 werden die folgenden Nummern 14a und 14b eingefügt:

„14a. ,Kleinst-, kleines und mittleres Unternehmen‘ (,KMU‘) ein Kleinstunternehmen, kleines oder mittleres Unternehmen im Sinne des Artikels 2 des Anhangs der Empfehlung 2003/361/EG der Kommission;

14b. ,kleines Midcap-Unternehmen‘ (,kleines Midcap‘) ein kleines Midcap-Unternehmen im Sinne der Nummer 2 des Anhangs der Empfehlung (EU) 2025/1099 der Kommission;“

4.Artikel 4 erhält folgende Fassung:

„Artikel 4

KI-Kompetenz

Die Kommission und die Mitgliedstaaten halten die Anbieter und Betreiber von KI-Systemen dazu an, Maßnahmen zu ergreifen, die sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihr Ausbildungs- und Schulungsniveau und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

5.In Kapitel I wird folgender Artikel 4a eingefügt:

„Artikel 4a

Verarbeitung besonderer Kategorien personenbezogener Daten zur Erkennung und Korrektur von Verzerrungen

(1)Soweit dies zur Erkennung und Korrektur von Verzerrungen im Zusammenhang mit Hochrisiko-KI-Systemen im Einklang mit Artikel 10 Absatz 2 Buchstaben f und g dieser Verordnung erforderlich ist, dürfen die Anbieter solcher Systeme ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, wobei sie angemessene Vorkehrungen zum Schutz der Grundrechte und Grundfreiheiten natürlicher Personen treffen müssen. Zusätzlich zu den Vorkehrungen der Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit zutreffend, müssen alle folgenden Bedingungen erfüllt sein, damit eine solche Verarbeitung stattfinden darf:

a)Die Erkennung und Korrektur von Verzerrungen kann durch die Verarbeitung anderer Daten, einschließlich synthetischer oder anonymisierter Daten, nicht effektiv durchgeführt werden;

b)die besonderen Kategorien personenbezogener Daten unterliegen technischen Beschränkungen bezüglich einer Weiterverwendung der personenbezogenen Daten und modernsten Sicherheits- und Datenschutzmaßnahmen, einschließlich Pseudonymisierung;

c)die besonderen Kategorien personenbezogener Daten unterliegen Maßnahmen, mit denen sichergestellt wird, dass die verarbeiteten personenbezogenen Daten gesichert, geschützt und Gegenstand angemessener Sicherheitsvorkehrungen sind, wozu auch strenge Kontrollen des Zugriffs und seine Dokumentation gehören, um Missbrauch zu verhindern und sicherzustellen, dass nur befugte Personen Zugang zu diesen personenbezogenen Daten mit angemessenen Vertraulichkeitspflichten haben;

d)die besonderen Kategorien personenbezogener Daten werden nicht an Dritte übermittelt oder übertragen, noch haben solche Dritten anderweitigen Zugang zu diesen Daten;

e)die besonderen Kategorien personenbezogener Daten werden gelöscht, sobald die Verzerrung korrigiert wurde oder das Ende der Speicherfrist für die personenbezogenen Daten erreicht ist, je nachdem, was zuerst eintritt;

f)die Aufzeichnungen über Verarbeitungstätigkeiten gemäß den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680 enthalten die Gründe, warum die Verarbeitung besonderer Kategorien personenbezogener Daten für die Erkennung und Korrektur von Verzerrungen erforderlich war und warum dieses Ziel mit der Verarbeitung anderer Daten nicht erreicht werden konnte.

(2)Absatz 1 kann auf Anbieter und Betreiber anderer KI-Systeme und KI-Modelle und auf Betreiber von Hochrisiko-KI-Systemen angewandt werden, wenn dies zu den dort genannten Zwecken erforderlich und verhältnismäßig ist und sofern die Bedingungen der in diesem Absatz festgelegten Vorkehrungen erfüllt sind.“

6.Artikel 6 Absatz 4 erhält folgende Fassung:

„(4) Ein Anbieter, der der Auffassung ist, dass ein in Anhang III aufgeführtes KI-System nicht hochriskant ist, dokumentiert seine Bewertung, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. Auf Verlangen der zuständigen nationalen Behörden legt der Anbieter die Dokumentation der Bewertung vor.“

7.Artikel 10 wird wie folgt geändert:

a)Absatz 1 erhält folgende Fassung:

„(1) Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen KI-Modelle mit Daten trainiert werden, müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die den in den Absätzen 2, 3 und 4 dieses Artikels und in Artikel 4a Absatz 1 genannten Qualitätskriterien entsprechen, wenn solche Datensätze verwendet werden.“

b)Absatz 5 wird gestrichen.

c)Absatz 6 erhält folgende Fassung:

„(6) Bei der Entwicklung von Hochrisiko-KI-Systemen, in denen keine Techniken eingesetzt werden, bei denen KI-Modelle trainiert werden, gelten die Absätze 2, 3 und 4 dieses Artikels und Artikel 4a Absatz 1 nur für Testdatensätze.“

8.Artikel 11 Absatz 1 Unterabsatz 2 erhält folgende Fassung:

„Diese technische Dokumentation wird so erstellt, dass aus ihr der Nachweis hervorgeht, wie das Hochrisiko-KI-System die Anforderungen dieses Abschnitts erfüllt, und dass den zuständigen nationalen Behörden und den notifizierten Stellen die Informationen in klarer und verständlicher Form zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt. Sie enthält zumindest die in Anhang IV genannten Angaben. Kleine Midcaps und KMU, einschließlich Start-up-Unternehmen, können die in Anhang IV aufgeführten Elemente der technischen Dokumentation in vereinfachter Weise bereitstellen. Zu diesem Zweck erstellt die Kommission ein vereinfachtes Formular für die technische Dokumentation, das auf die Bedürfnisse von kleinen Midcaps und KMU zugeschnitten ist. Entscheidet sich ein kleines Midcap oder KMU, einschließlich Start-up-Unternehmen, für eine vereinfachte Bereitstellung der in Anhang IV vorgeschriebenen Angaben, so verwendet es das in diesem Absatz genannte Formular. Die notifizierten Stellen akzeptieren das Formular für die Zwecke der Konformitätsbewertung.“

9.Artikel 17 Absatz 2 erhält folgende Fassung:

„(2) Die Umsetzung der in Absatz 1 genannten Aspekte erfolgt in einem angemessenen Verhältnis zur Größe der Organisation des Anbieters, insbesondere wenn es sich bei dem Anbieter um ein kleines Midcap oder KMU, einschließlich Start-up-Unternehmen, handelt. Die Anbieter müssen in jedem Fall den Grad der Strenge und das Schutzniveau einhalten, die erforderlich sind, um die Übereinstimmung ihrer Hochrisiko-KI-Systeme mit dieser Verordnung sicherzustellen.“

10.In Artikel 28 wird folgender Absatz 8 angefügt:

„(8) Die gemäß dieser Verordnung benannten notifizierenden Behörden, die für KI-Systeme zuständig sind, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, werden so eingerichtet, organisiert und geführt, dass sichergestellt ist, dass die Konformitätsbewertungsstelle, die ihre Benennung sowohl gemäß dieser Verordnung als auch gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union beantragt, die Möglichkeit erhält, einen einzigen Antrag zu stellen und sich einem einzigen Bewertungsverfahren zu unterziehen, um gemäß dieser Verordnung und den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt zu werden, sofern die einschlägigen Harmonisierungsrechtsvorschriften der Union ein solches einziges Antrags- und Bewertungsverfahren vorsehen.

Das in diesem Absatz genannte einzige Antrags- und Bewertungsverfahren steht auch notifizierten Stellen offen, die bereits im Rahmen der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurden, wenn diese notifizierten Stellen ihre Benennung gemäß dieser Verordnung beantragen, sofern die einschlägigen Harmonisierungsrechtsvorschriften der Union ein solches Verfahren vorsehen.

In dem einzigen Antrags- und Bewertungsverfahren wird unnötige Doppelarbeit vermieden, auf den bestehenden Benennungsverfahren gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union aufgebaut und die Einhaltung der Anforderungen an notifizierte Stellen sowohl gemäß dieser Verordnung als auch gemäß den einschlägigen Harmonisierungsrechtsvorschriften der Union gewährleistet.“

11.Artikel 29 Absatz 4 erhält folgende Fassung:

„(4) Bei notifizierten Stellen, die im Rahmen anderer Harmonisierungsrechtsvorschriften der Union benannt wurden, können alle Unterlagen und Bescheinigungen im Zusammenhang mit solchen Benennungen zur Unterstützung und Beschleunigung ihres Benennungsverfahrens nach dieser Verordnung verwendet werden.

Notifizierte Stellen, die im Rahmen einer der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurden und das einzige Antrags- und Bewertungsverfahren gemäß Artikel 28 Absatz 8 in Anspruch nehmen, stellen den einzigen Antrag auf Bewertung bei der notifizierenden Behörde, die gemäß diesen Harmonisierungsrechtsvorschriften der Union benannt wurde.

Die notifizierte Stelle aktualisiert die in den Absätzen 2 und 3 des vorliegenden Artikels genannte Dokumentation immer dann, wenn sich relevante Änderungen ergeben, damit die für notifizierte Stellen zuständige Behörde überwachen und überprüfen kann, ob die Anforderungen des Artikels 31 kontinuierlich erfüllt sind.“

12.Artikel 30 Absatz 2 erhält folgende Fassung:

„(2) Die notifizierenden Behörden unterrichten die Kommission und die übrigen Mitgliedstaaten anhand des in Anhang XIV genannten Verzeichnisses der Codes, Kategorien und entsprechenden Arten von KI-Systemen und mithilfe des elektronischen Notifizierungsinstruments, das von der Kommission entwickelt und verwaltet wird, über jede Konformitätsbewertungsstelle gemäß Absatz 1.

Der Kommission wird die Befugnis übertragen, gemäß Artikel 97 delegierte Rechtsakte zur Änderung des Anhangs XIV zu erlassen, um dem technischen Fortschritt, dem erweiterten Wissen oder neuen wissenschaftlichen Erkenntnissen Rechnung zu tragen und in das Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen neue Codes, Kategorien oder Arten von KI-Systemen aufzunehmen, bestehende Codes, Kategorien oder Arten von KI-Systemen daraus zu streichen oder Codes oder Arten von KI-Systemen von einer Kategorie in eine andere zu verschieben.“

13.Artikel 43 Absatz 3 erhält folgende Fassung:

„(3) Bei den Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, befolgt der Anbieter des Systems das einschlägige Konformitätsbewertungsverfahren, das nach den einschlägigen Harmonisierungsrechtsvorschriften der Union erforderlich ist. Die in Abschnitt 2 dieses Kapitels festgelegten Anforderungen gelten für diese Hochrisiko-KI-Systeme und werden in diese Bewertung einbezogen. Die Bewertung des Qualitätsmanagementsystems gemäß Artikel 17 und Anhang VII findet ebenfalls Anwendung.

Für die Zwecke dieser Konformitätsbewertung sind die notifizierten Stellen, die gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden, dazu befugt, die Konformität der Hochrisiko-KI-Systeme mit den in Abschnitt 2 festgelegten Anforderungen zu bewerten, sofern im Rahmen des gemäß den Harmonisierungsrechtsvorschriften der Union durchgeführten Notifizierungsverfahrens geprüft wurde, dass diese notifizierten Stellen die in Artikel 31 Absätze 4, 5, 10 und 11 festgelegten Anforderungen erfüllen. Unbeschadet des Artikels 28 beantragen solche notifizierten Stellen, die nach den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden, ihre Benennung gemäß Abschnitt 4 spätestens [18 Monate nach Inkrafttreten dieser Verordnung].

Wenn eine in Anhang I Abschnitt A aufgeführte Harmonisierungsrechtsvorschrift der Union dem Hersteller des Produkts die Möglichkeit einräumt, auf eine Konformitätsbewertung durch Dritte zu verzichten, sofern dieser Hersteller harmonisierte Normen, die alle einschlägigen Anforderungen abdecken, angewandt hat, so darf dieser Hersteller nur dann von dieser Möglichkeit Gebrauch machen, wenn er auch harmonisierte Normen oder gegebenenfalls gemeinsame Spezifikationen gemäß Artikel 41, die alle in Abschnitt 2 dieses Kapitels festgelegten Anforderungen abdecken, angewandt hat.

Wenn ein Hochrisiko-KI-System sowohl unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union als auch unter eine der in Anhang III aufgeführten Kategorien fällt, befolgt der Anbieter des Systems das einschlägige Konformitätsbewertungsverfahren, das nach den in Anhang I Abschnitt A aufgeführten einschlägigen Harmonisierungsrechtsvorschriften der Union erforderlich ist.“

14.Artikel 49 Absatz 2 wird gestrichen.

15.Artikel 50 Absatz 7 erhält folgende Fassung:

„(7) Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung, Markierung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte zu erleichtern. Die Kommission kann nach dem Verfahren des Artikels 56 Absatz 6 Unterabsatz 1 prüfen, ob die Befolgung dieser Praxisleitfäden angemessen ist, um die Einhaltung der in Absatz 2 festgelegten Pflichten zu gewährleisten. Hält sie den Leitfaden für nicht angemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden.“

16.Artikel 56 Absatz 6 Unterabsatz 1 erhält folgende Fassung:

„(6) Die Kommission und das KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. Die Kommission bewertet unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums, ob die Praxisleitfäden die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, und überwacht und bewertet regelmäßig die Verwirklichung von deren Zielen. Die Kommission veröffentlicht ihre Bewertung der Angemessenheit der Praxisleitfäden.“

17.Artikel 57 wird wie folgt geändert:

a)Folgender Absatz 3a wird eingefügt:

„(3a) Das Büro für Künstliche Intelligenz kann ebenfalls auf Unionsebene ein KI-Reallabor für KI-Systeme einrichten, die unter Artikel 75 Absatz 1 fallen. Ein solches KI-Reallabor wird in enger Zusammenarbeit mit den jeweils zuständigen Behörden umgesetzt, insbesondere wenn die Einhaltung anderer Rechtsvorschriften der Union als dieser Verordnung im KI-Reallabor beaufsichtigt wird, und gewährt KMU vorrangigen Zugang dazu.“

b)Absatz 5 erhält folgende Fassung:

„(5) Die nach diesem Artikel eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um die Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern, wobei sie dafür sorgen, dass angemessene Schutzvorkehrungen bestehen. In diesen Reallaboren können auch darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden. Der Plan für das Reallabor enthält, soweit zutreffend, den Plan für einen Test unter Realbedingungen in einem einzigen Dokument.“

c)Absatz 9 Buchstabe e erhält folgende Fassung:

„e) Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von kleinen Midcaps und KMU – einschließlich Start-up-Unternehmen – angeboten werden.“

d)Absatz 13 erhält folgende Fassung:

„(13) Die KI-Reallabore sind so konzipiert und werden so umgesetzt, dass sie die grenzüberschreitende Zusammenarbeit zwischen zuständigen nationalen Behörden erleichtern.“

e)Absatz 14 erhält folgende Fassung:

„(14) Die zuständigen nationalen Behörden koordinieren ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums zusammen. Sie unterstützen die gemeinsame Einrichtung und den gemeinsamen Betrieb von KI-Reallaboren, auch in verschiedenen Sektoren.“

18.Artikel 58 Absatz 1 erhält folgende Fassung:

„(1) Um eine Zersplitterung in der Union zu vermeiden, erlässt die Kommission Durchführungsrechtsakte, in denen detaillierte Regelungen für die Einrichtung, die Entwicklung, die Umsetzung, den Betrieb, die Führung und die Beaufsichtigung der KI-Reallabore enthalten sind. In den Durchführungsrechtsakten werden gemeinsame Grundsätze zu den folgenden Aspekten festgelegt:

a)Voraussetzungen und Auswahlkriterien für eine Beteiligung am KI-Reallabor;

b)Verfahren für Antragstellung, Beteiligung, Überwachung, Ausstieg und Beendigung bezüglich des KI-Reallabors, einschließlich Plan und Abschlussbericht für das Reallabor;

c)für Beteiligte geltende Anforderungen und Bedingungen;

d)detaillierte Vorschriften für die Führung von KI-Reallaboren gemäß Artikel 57, auch in Bezug auf die Wahrnehmung der Aufgaben der zuständigen Behörden und die Koordinierung und Zusammenarbeit auf nationaler und EU-Ebene.“

19.Artikel 60 wird wie folgt geändert:

a)Absatz 1 Unterabsatz 1 erhält folgende Fassung:

„Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von Hochrisiko-KI-Systemen, die in Anhang III genannt sind oder unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel und dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen – unbeschadet der Verbote des Artikels 5 – durchgeführt werden.“

b)Absatz 2 erhält folgende Fassung:

„(2) Anbieter oder zukünftige Anbieter können Hochrisiko-KI-Systeme, die in Anhang III genannt sind oder unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, vor deren Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen.“

20.Folgender Artikel 60a wird eingefügt:

„Artikel 60a

Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren

(1)Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von KI-gestützten Produkten, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel und einer freiwilligen Realtestvereinbarung – unbeschadet der Verbote des Artikels 5 – durchgeführt werden.“

(2)Die in Absatz 1 genannte freiwillige Realtestvereinbarung wird schriftlich zwischen den interessierten Mitgliedstaaten und der Kommission geschlossen. Darin werden die Anforderungen an das Testen solcher KI-gestützten Produkte, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen festgelegt.

(3)Die Mitgliedstaaten, die Kommission, die Marktüberwachungsbehörden und die Behörden, die für Verwaltung und Betrieb der unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Infrastrukturen und Produkte zuständig sind, arbeiten eng und nach Treu und Glauben zusammen und beseitigen alle praktischen Hindernisse, auch – soweit erforderlich – in Bezug auf Verfahrensvorschriften für den Zugang zu physischen öffentlichen Infrastrukturen, um die freiwillige Realtestvereinbarung erfolgreich umzusetzen und KI-gestützte Produkte, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, zu testen.

(4)Die Unterzeichner der freiwilligen Realtestvereinbarung legen die Bedingungen für den Test unter Realbedingungen und einzelne Elemente des Plans für einen Test unter Realbedingungen für KI-Systeme fest, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen.

(5)Artikel 60 Absätze 2, 5 und 9 findet Anwendung.“

21.Artikel 63 Absatz 1 erhält folgende Fassung:

„(1) KMU, einschließlich Start-up-Unternehmen, können bestimmte Elemente des in Artikel 17 vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten. Zu diesem Zweck arbeitet die Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse von KMU in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen.“

22.Artikel 69 wird wie folgt geändert:

a)Absatz 2 erhält folgende Fassung:

„(2) Die Mitgliedstaaten können verpflichtet werden, für die Beratung und Unterstützung durch die Sachverständigen Gebühren in Höhe der Vergütungsgebühren zu entrichten, die für die Kommission gemäß dem in Artikel 68 Absatz 1 genannten Durchführungsrechtsakt gelten.“

b)Absatz 3 wird gestrichen.

23.Artikel 70 Absatz 8 erhält folgende Fassung:

„(8) Die zuständigen nationalen Behörden können gegebenenfalls insbesondere kleinen Midcaps und KMU, einschließlich Start-up-Unternehmen, unter Berücksichtigung der Anleitung und Beratung durch das KI-Gremium oder die Kommission mit Anleitung und Beratung bei der Durchführung dieser Verordnung zur Seite stehen. Wenn zuständige nationale Behörden beabsichtigen, Anleitung und Beratung in Bezug auf ein KI-System in Bereichen anzubieten, die unter das Unionsrecht fallen, so sind gegebenenfalls die nach jenem Unionsrecht zuständigen nationalen Behörden zu konsultieren.“

24.Artikel 72 Absatz 3 erhält folgende Fassung:

„(3) Das System zur Beobachtung nach dem Inverkehrbringen muss auf einem Plan für die Beobachtung nach dem Inverkehrbringen beruhen. Der Plan für die Beobachtung nach dem Inverkehrbringen ist Teil der in Anhang IV genannten technischen Dokumentation. Die Kommission nimmt Leitlinien für den Plan für die Beobachtung nach dem Inverkehrbringen an.“

25.Artikel 75 wird wie folgt geändert:

a)Die Überschrift des Artikels 75 erhält folgende Fassung:

„Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe“.

b)Absatz 1 erhält folgende Fassung:

„(1) Beruht ein KI-System auf einem KI-Modell mit allgemeinem Verwendungszweck, mit Ausnahme von KI-Systemen im Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, und werden dieses Modell und System von demselben Anbieter entwickelt, so ist das Büro für Künstliche Intelligenz ausschließlich zuständig für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf dieses System im Einklang mit den Aufgaben und Zuständigkeiten, die es den Marktüberwachungsbehörden übertragen hat. Das Büro für Künstliche Intelligenz ist ebenfalls ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf KI-Systeme zuständig, die eine benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine im Sinne der Verordnung (EU) 2022/2065 bilden oder die darin integriert sind.

Zur Wahrnehmung seiner Aufsichts- und Durchsetzungsaufgaben gemäß dem Unterabsatz 1 hat das Büro für Künstliche Intelligenz alle in diesem Abschnitt und in der Verordnung (EU) 2019/1020 vorgesehenen Befugnisse einer Marktüberwachungsbehörde. Das Büro für Künstliche Intelligenz ist befugt, geeignete Maßnahmen zu treffen und Beschlüsse zu fassen, um seine Aufsichts- und Durchsetzungsbefugnisse angemessen auszuüben. Artikel 14 der Verordnung (EU) 2019/1020 gilt sinngemäß.

Die an der Anwendung dieser Verordnung beteiligten Behörden arbeiten bei der Ausübung dieser Befugnisse aktiv zusammen, insbesondere wenn Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats zu treffen sind.“

c)Folgende Absätze 1a bis 1c werden eingefügt:

„(1a) Die Kommission erlässt einen Durchführungsrechtsakt, in dem sie die Durchsetzungsbefugnisse und die Verfahren für die Ausübung dieser Befugnisse durch das Büro für Künstliche Intelligenz festlegt, einschließlich seiner Befugnis, im Einklang mit den in Artikel 99 festgelegten Bedingungen und Obergrenzen Sanktionen wie Geldbußen oder andere verwaltungsrechtliche Strafen in Bezug auf die in den Absätzen 1 und 1a dieses Artikels genannten KI-Systeme zu verhängen, bei denen es im Rahmen seiner Beobachtungs- und Aufsichtsaufgaben gemäß diesem Artikel Verstöße gegen diese Verordnung festgestellt hat.“

„(1b) Unbeschadet der in dieser Verordnung enthaltenen spezifischeren Verfahrensrechte gilt Artikel 18 der Verordnung (EU) 2019/1020 sinngemäß für die Anbieter der in Absatz 1 genannten KI-Systeme.“

„(1c) Die Kommission organisiert dem Inverkehrbringen vorgeschaltete Konformitätsbewertungen und Tests der in Absatz 1 genannten KI-Systeme, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, und führt diese durch, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht oder in Betrieb genommen werden dürfen. Die Kommission kann die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen betrauen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Artikel 34 Absätze 1 und 2 gilt sinngemäß für die Kommission, wenn sie ihre Befugnisse nach diesem Absatz ausübt.

Die Gebühren für Test- und Bewertungstätigkeiten werden von dem Anbieter eines Hochrisiko-KI-Systems erhoben, der bei der Kommission eine Konformitätsbewertung durch Dritte beantragt hat. Die Kosten der Dienstleistungen, mit denen die Kommission die notifizierten Stellen gemäß diesem Artikel betraut hat, werden vom Anbieter direkt an die notifizierte Stelle gezahlt.“

26.Artikel 77 wird wie folgt geändert:

a)Die Überschrift erhält folgende Fassung:

„Befugnisse der für den Schutz der Grundrechte zuständigen Behörden und Zusammenarbeit mit den Marktüberwachungsbehörden“

b)Absatz 1 erhält folgende Fassung:

„(1) Nationale Behörden oder öffentliche Stellen, die die Einhaltung des Unionsrechts zum Schutz der Grundrechte, einschließlich des Rechts auf Nichtdiskriminierung, beaufsichtigen oder durchsetzen, sind befugt, sämtliche von der betreffenden Marktüberwachungsbehörde auf der Grundlage dieser Verordnung erstellten oder in zugänglicher Sprache und Form geführten Informationen oder Dokumentationen anzufordern und einzusehen, sofern der Zugang zu diesen Informationen oder Dokumentationen für die wirksame Wahrnehmung ihrer Aufgaben im Rahmen ihrer Befugnisse innerhalb der Grenzen ihrer Hoheitsgewalt notwendig ist.“

c)Folgende Absätze 1a und 1b werden eingefügt:

„(1a) Unter den in diesem Artikel genannten Bedingungen gewährt die Marktüberwachungsbehörde der in Absatz 1 genannten zuständigen Behörde oder öffentlichen Stelle Zugang zu diesen Informationen oder Dokumentationen, wozu sie diese Informationen oder Dokumentationen erforderlichenfalls auch erst vom Anbieter oder Betreiber anfordert.“

„(1b) Die Marktüberwachungsbehörden und die in Absatz 1 genannten Behörden oder öffentlichen Stellen arbeiten eng zusammen und leisten einander die für die Wahrnehmung ihrer jeweiligen Aufgaben erforderliche Amtshilfe, um eine kohärente Anwendung dieser Verordnung und des Unionsrechts zum Schutz der Grundrechte zu gewährleisten und die Verfahren zu straffen. Dies umfasst insbesondere den Austausch von Informationen, soweit dieser für die wirksame Beaufsichtigung oder Durchsetzung im Rahmen dieser Verordnung und der anderen einschlägigen Rechtsvorschriften der Union erforderlich ist.“

27.Artikel 95 Absatz 4 erhält folgende Fassung:

„(4) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten berücksichtigen die besonderen Interessen und Bedürfnisse von kleinen Midcaps und KMU, einschließlich Startup-Unternehmen, bei der Förderung und Erleichterung der Aufstellung von Verhaltenskodizes.“

28.Artikel 96 Absatz 1 Unterabsatz 2 erhält folgende Fassung:

„Wenn die Kommission solche Leitlinien herausgibt, widmet sie den Bedürfnissen von kleinen Midcaps und KMU, einschließlich Start-up-Unternehmen, von lokalen Behörden und von den am wahrscheinlichsten von dieser Verordnung betroffenen Sektoren besondere Aufmerksamkeit.“

29.Artikel 99 wird wie folgt geändert:

a)Absatz 1 erhält folgende Fassung:

„(1) Entsprechend den Vorgaben dieser Verordnung erlassen die Mitgliedstaaten Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nichtmonetäre Maßnahmen gehören können, die bei Verstößen gegen diese Verordnung durch Akteure Anwendung finden, und ergreifen alle Maßnahmen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind, wobei die von der Kommission gemäß Artikel 96 erteilten Leitlinien zu berücksichtigen sind. Die vorgesehenen Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein. Die Mitgliedstaaten berücksichtigen bei der Verhängung von Sanktionen die Interessen von kleinen Midcaps und KMU, einschließlich Start-up-Unternehmen, sowie deren wirtschaftliches Überleben.“

b)Absatz 6 erhält folgende Fassung:

„(6) Im Falle von kleinen Midcaps und KMU, einschließlich Start-up-Unternehmen, gilt für jede in diesem Artikel genannte Geldbuße der jeweils niedrigere Betrag aus den in den Absätzen 3, 4 und 5 genannten Prozentsätzen oder Summen.“

30.Artikel 111 wird wie folgt geändert:

a)Absatz 2 erhält folgende Fassung:

„(2) Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a gilt diese Verordnung für Betreiber von Hochrisiko-KI-Systemen – mit Ausnahme der in Absatz 1 des vorliegenden Artikels genannten Systeme –, die vor dem Beginn der Anwendung des Kapitels III und der Geltung der entsprechenden in Artikel 113 genannten Pflichten in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden. In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und Pflichten bis zum 2. August 2030.“

b)Folgender Absatz 4 wird angefügt:

„(4) Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, die vor dem 2. August 2026 in Verkehr gebracht wurden, treffen die erforderlichen Maßnahmen, um Artikel 50 Absatz 2 bis zum 2. Februar 2027 nachzukommen.“

31.Artikel 113 wird wie folgt geändert:

a)In Absatz 3 wird folgender Buchstabe d angefügt:

„d) Kapitel III Abschnitte 1, 2 und 3 gelten nach Annahme eines Beschlusses der Kommission, in dem bestätigt wird, dass geeignete Maßnahmen zur Unterstützung der Einhaltung des Kapitels III bestehen, ab den folgenden Zeitpunkten:

i) sechs Monate nach Annahme des Beschlusses in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und

ii) zwölf Monate nach Annahme des Beschlusses in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind.

Wird kein Beschluss im Sinne des Unterabsatzes 1 angenommen oder liegen die nachstehend festgelegten Daten vor der Annahme dieses Beschlusses, so gelten Kapitel III Abschnitte 1, 2 und 3 ab dem

i) 2. Dezember 2027 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und

ii) 2. August 2028 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind.“

b)In Absatz 3 wird folgender Buchstabe e angefügt:

„e) Artikel 102 bis 110 gelten ab dem [Datum des Geltungsbeginns dieser Verordnung].“

32.Anhang VIII Abschnitt B wird gestrichen.

33.Folgender Anhang XIV wird angefügt:

„Anhang XIV

Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen für die Zwecke des Notifizierungsverfahrens gemäß Artikel 30 mit Angabe des Geltungsbereichs der Benennung als notifizierte Stellen

1.Einführung

Die Konformitätsbewertung von Hochrisiko-KI-Systemen im Rahmen dieser Verordnung kann die Einbeziehung von Konformitätsbewertungsstellen erfordern. Nur Konformitätsbewertungsstellen, die gemäß dieser Verordnung benannt wurden, dürfen Konformitätsbewertungen durchführen, und dies nur für die Tätigkeiten in Bezug auf die betreffenden Arten von KI-Systemen. In dem Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen wird der Geltungsbereich der Benennung der gemäß Artikel 30 dieser Verordnung notifizierten Konformitätsbewertungsstellen festgelegt.

2.Liste der Codes, Kategorien und entsprechenden Arten von KI-Systemen

1.KI-Systeme, die unter Anhang I der KI-Verordnung fallen

2.KI-Systeme, die unter Anhang III Nummer 1 der KI-Verordnung fallen

3.KI-technikspezifische Codes

a)Symbolische KI, Expertensysteme und mathematische Optimierung

b)Maschinelles Lernen, außer KI mit allgemeinem Verwendungszweck und einmodale generative KI

c)KI-gestützte Systeme, die auf KI mit allgemeinem Verwendungszweck oder einmodaler generativer KI beruhen

d)Agentische KI

3.Antrag auf Notifizierung

Konformitätsbewertungsstellen verwenden das Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen in diesem Anhang, wenn sie die Arten von KI-Systemen in dem in Artikel 29 dieser Verordnung genannten Antrag auf Notifizierung angeben.“

Artikel 2

Änderungen der Verordnung (EU) 2018/1139

Die Verordnung (EU) 2018/1139 wird wie folgt geändert:

1.In Artikel 27 wird folgender Absatz angefügt:

25 „(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt, die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

2.In Artikel 31 wird folgender Absatz angefügt:

„(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt, die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

3.In Artikel 32 wird folgender Absatz angefügt:

„(3) Beim Erlass delegierter Rechtsakte nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates(*) handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

4.In Artikel 36 wird folgender Absatz angefügt:

„(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt, die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

5.In Artikel 39 wird folgender Absatz angefügt:

„(3) Beim Erlass delegierter Rechtsakte nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

6.In Artikel 50 wird folgender Absatz angefügt:

„(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt, die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

7.In Artikel 53 wird folgender Absatz angefügt:

„(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt, die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“

Artikel 3

Inkrafttreten und Geltung

Diese Verordnung tritt am dritten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft.

Diese Verordnung ist in allen ihren Teilen verbindlich und gilt unmittelbar in jedem Mitgliedstaat.

Geschehen zu Brüssel am

FINANZ- UND DIGITALBOGEN ZU RECHTSAKTEN

1.RAHMEN DES VORSCHLAGS/DER INITIATIVE3

1.1.Bezeichnung des Vorschlags/der Initiative3

1.2.Politikbereich(e)3

1.3.Ziel(e)3

1.3.1.Allgemeine(s) Ziel(e)3

1.3.2.Einzelziel(e)3

1.3.3.Erwartete Ergebnisse und Auswirkungen3

1.3.4.Leistungsindikatoren3

1.4.Der Vorschlag/Die Initiative betrifft4

1.5.Begründung des Vorschlags/der Initiative4

1.5.1.Kurz- oder langfristig zu deckender Bedarf, einschließlich einer detaillierten Zeitleiste für die Durchführung der Initiative4

1.5.2.Mehrwert aufgrund des Tätigwerdens der EU (kann sich aus unterschiedlichen Faktoren ergeben, z. B. Vorteile durch Koordinierung, Rechtssicherheit, größere Wirksamkeit oder Komplementarität). Für die Zwecke dieses Abschnitts bezeichnet der Ausdruck „Mehrwert aufgrund des Tätigwerdens der EU“ den Wert, der sich aus dem Tätigwerden der EU ergibt und den Wert ergänzt, der andernfalls allein von den Mitgliedstaaten geschaffen worden wäre.4

1.5.3.Aus früheren ähnlichen Maßnahmen gewonnene Erkenntnisse4

1.5.4.Vereinbarkeit mit dem Mehrjährigen Finanzrahmen sowie mögliche Synergieeffekte mit anderen geeigneten Instrumenten5

1.5.5.Bewertung der verschiedenen verfügbaren Finanzierungsoptionen, einschließlich der Möglichkeiten für eine Umschichtung5

1.6.Laufzeit der vorgeschlagenen Maßnahme/der Initiative und Dauer der finanziellen Auswirkungen6

1.7.Vorgeschlagene Haushaltsvollzugsart(en)6

2.VERWALTUNGSMAẞNAHMEN8

2.1.Überwachung und Berichterstattung8

2.2.Verwaltungs- und Kontrollsystem(e)8

2.2.1.Begründung der Haushaltsvollzugsart(en), des Durchführungsmechanismus/der Durchführungsmechanismen für die Finanzierung, der Zahlungsmodalitäten und der Kontrollstrategie, wie vorgeschlagen8

2.2.2.Angaben zu den ermittelten Risiken und dem/den zu deren Eindämmung eingerichteten System(en) der internen Kontrolle8

2.2.3.Schätzung und Begründung der Kosteneffizienz der Kontrollen (Verhältnis zwischen den Kontrollkosten und dem Wert der betreffenden verwalteten Mittel) sowie Bewertung des erwarteten Ausmaßes des Fehlerrisikos (bei Zahlung und beim Abschluss)8

2.3.Prävention von Betrug und Unregelmäßigkeiten9

3.GESCHÄTZTE FINANZIELLE AUSWIRKUNGEN DES VORSCHLAGS/DER INITIATIVE10

3.1.Betroffene Rubrik(en) des Mehrjährigen Finanzrahmens und Ausgabenlinie(n) im Haushaltsplan10

3.2.Geschätzte finanzielle Auswirkungen des Vorschlags auf die Mittel12

3.2.1.Übersicht über die geschätzten Auswirkungen auf die operativen Mittel12

3.2.1.1.Mittel aus dem verabschiedeten Haushaltsplan12

3.2.1.2.Mittel aus externen zweckgebundenen Einnahmen17

3.2.2.Geschätzter Output, der mit operativen Mitteln finanziert wird22

3.2.3.Übersicht über die geschätzten Auswirkungen auf die Verwaltungsmittel24

3.2.3.1. Mittel aus dem verabschiedeten Haushaltsplan24

3.2.3.2.Mittel aus externen zweckgebundenen Einnahmen24

3.2.3.3.Mittel insgesamt24

3.2.4.Geschätzter Personalbedarf25

3.2.4.1.Finanziert aus dem verabschiedeten Haushalt25

3.2.4.2.Finanziert aus externen zweckgebundenen Einnahmen26

3.2.4.3.Geschätzter Personalbedarf insgesamt26

3.2.5.Einschätzung der Auswirkungen auf die Investitionen im Zusammenhang mit digitalen Technologien28

3.2.6.Vereinbarkeit mit dem derzeitigen Mehrjährigen Finanzrahmen28

3.2.7.Beiträge Dritter28

3.3.Geschätzte Auswirkungen auf die Einnahmen29

4.Digitale Aspekte29

4.1.Anforderungen von digitaler Relevanz30

4.2.Daten30

4.3.Digitale Lösungen31

4.4.Interoperabilitätsbewertung31

4.5.Unterstützungsmaßnahmen für die digitale Umsetzung32

1.RAHMEN DES VORSCHLAGS/DER INITIATIVE

1.1.Bezeichnung des Vorschlags/der Initiative

1.2.Politikbereich(e)

1.3.Ziel(e)

1.3.1.Allgemeine(s) Ziel(e)

1.3.2.Einzelziel(e)

1.3.3.Erwartete Ergebnisse und Auswirkungen

Bitte geben Sie an, wie sich der Vorschlag/die Initiative auf die Begünstigten/Zielgruppen auswirken sollte.

1.3.4.Leistungsindikatoren

Bitte geben Sie an, anhand welcher Indikatoren die Fortschritte und Ergebnisse verfolgt werden sollen.

1.4.Der Vorschlag/Die Initiative betrifft

 eine neue Maßnahme

 eine neue Maßnahme im Anschluss an ein Pilotprojekt/eine vorbereitende Maßnahme 26

 die Verlängerung einer bestehenden Maßnahme

 die Zusammenführung mehrerer Maßnahmen oder die Neuausrichtung mindestens einer Maßnahme

1.5.Begründung des Vorschlags/der Initiative

1.5.1.Kurz- oder langfristig zu deckender Bedarf, einschließlich einer detaillierten Zeitleiste für die Durchführung der Initiative

1.5.2.Mehrwert aufgrund des Tätigwerdens der EU (kann sich aus unterschiedlichen Faktoren ergeben, z. B. Vorteile durch Koordinierung, Rechtssicherheit, größere Wirksamkeit oder Komplementarität). Für die Zwecke dieses Abschnitts bezeichnet der Ausdruck „Mehrwert aufgrund des Tätigwerdens der EU“ den Wert, der sich aus dem Tätigwerden der EU ergibt und den Wert ergänzt, der andernfalls allein von den Mitgliedstaaten geschaffen worden wäre.

1.5.3.Aus früheren ähnlichen Maßnahmen gewonnene Erkenntnisse

1.5.4.Vereinbarkeit mit dem Mehrjährigen Finanzrahmen sowie mögliche Synergieeffekte mit anderen geeigneten Instrumenten

1.5.5.Bewertung der verschiedenen verfügbaren Finanzierungsoptionen, einschließlich der Möglichkeiten für eine Umschichtung

1.6.Laufzeit der vorgeschlagenen Maßnahme/der Initiative und Dauer der finanziellen Auswirkungen

 befristete Laufzeit

–    Laufzeit: [TT.MM.]JJJJ bis [TT.MM.]JJJJ

–    finanzielle Auswirkungen auf die Mittel für Verpflichtungen von JJJJ bis JJJJ und auf die Mittel für Zahlungen von JJJJ bis JJJJ

 unbefristete Laufzeit

–Anlaufphase von 2026 bis 2027

–anschließend reguläre Umsetzung

1.7.Vorgeschlagene Haushaltsvollzugsart(en)

 Direkte Mittelverwaltung durch die Kommission

– über ihre Dienststellen, einschließlich ihres Personals in den EU-Delegationen

– über Exekutivagenturen

 Geteilte Mittelverwaltung mit Mitgliedstaaten

 Indirekte Mittelverwaltung durch Übertragung von Haushaltsvollzugsaufgaben an:

– Drittländer oder die von ihnen benannten Einrichtungen

– internationale Einrichtungen und deren Agenturen (bitte angeben)

– die Europäische Investitionsbank und den Europäischen Investitionsfonds

– Einrichtungen im Sinne der Artikel 70 und 71 der Haushaltsordnung

– öffentlich-rechtliche Körperschaften

– privatrechtliche Einrichtungen, die im öffentlichen Auftrag tätig werden, sofern ihnen ausreichende finanzielle Garantien bereitgestellt werden

– privatrechtliche Einrichtungen eines Mitgliedstaats, die mit der Einrichtung einer öffentlich-privaten Partnerschaft betraut werden und denen ausreichende finanzielle Garantien bereitgestellt werden

– Einrichtungen oder Personen, die mit der Durchführung bestimmter Maßnahmen im Bereich der Gemeinsamen Außen- und Sicherheitspolitik im Rahmen des Titels V des Vertrags über die Europäische Union betraut und die in dem maßgeblichen Basisrechtsakt benannt sind

– in einem Mitgliedstaat ansässige Einrichtungen, die dem Privatrecht eines Mitgliedstaats oder dem Unionsrecht unterliegen und im Einklang mit sektorspezifischen Vorschriften für die Betrauung mit der Ausführung von Unionsmitteln oder mit der Erteilung von Haushaltsgarantien in Betracht kommen, insofern diese Einrichtungen von privatrechtlichen, im öffentlichen Auftrag tätig werdenden Einrichtungen kontrolliert und von den Kontrollstellen mit angemessenen finanziellen Garantien mit gesamtschuldnerischer Haftung oder gleichwertigen finanziellen Garantien ausgestattet werden, die bei jeder Maßnahme auf den Höchstbetrag der Unionsunterstützung begrenzt sein können.

2.VERWALTUNGSMAẞNAHMEN

2.1.Überwachung und Berichterstattung

Bitte geben Sie an, wie oft und unter welchen Bedingungen diese Tätigkeiten erfolgen.

2.2.Verwaltungs- und Kontrollsystem(e)

2.2.1.Begründung der Haushaltsvollzugsart(en), des Durchführungsmechanismus/der Durchführungsmechanismen für die Finanzierung, der Zahlungsmodalitäten und der Kontrollstrategie, wie vorgeschlagen

2.2.2.Angaben zu den ermittelten Risiken und dem/den zu deren Eindämmung eingerichteten System(en) der internen Kontrolle

2.2.3.Schätzung und Begründung der Kosteneffizienz der Kontrollen (Verhältnis zwischen den Kontrollkosten und dem Wert der betreffenden verwalteten Mittel) sowie Bewertung des erwarteten Ausmaßes des Fehlerrisikos (bei Zahlung und beim Abschluss)

2.3.Prävention von Betrug und Unregelmäßigkeiten

Bitte geben Sie an, welche Präventions- und Schutzmaßnahmen, z. B. im Rahmen der Betrugsbekämpfungsstrategie, bereits bestehen oder angedacht sind.

3.GESCHÄTZTE FINANZIELLE AUSWIRKUNGEN DES VORSCHLAGS/DER INITIATIVE

3.1.Betroffene Rubrik(en) des Mehrjährigen Finanzrahmens und Ausgabenlinie(n) im Haushaltsplan

·Bestehende Haushaltslinien

In der Reihenfolge der Rubriken des Mehrjährigen Finanzrahmens und der Haushaltslinien.

3.2.Geschätzte finanzielle Auswirkungen des Vorschlags auf die Mittel

3.2.1.Übersicht über die geschätzten Auswirkungen auf die operativen Mittel

–    Für den Vorschlag/die Initiative werden keine operativen Mittel benötigt.

–    Für den Vorschlag/die Initiative werden die folgenden operativen Mittel benötigt:

3.2.1.1.Mittel aus dem verabschiedeten Haushaltsplan

in Mio. EUR (3 Dezimalstellen)

in Mio. EUR (3 Dezimalstellen)

3.2.2.Geschätzter Output, der mit operativen Mitteln finanziert wird (nicht auszufüllen im Fall dezentraler Agenturen)

Mittel für Verpflichtungen, in Mio. EUR (3 Dezimalstellen)

3.2.3.Übersicht über die geschätzten Auswirkungen auf die Verwaltungsmittel

–    Für den Vorschlag/die Initiative werden keine Verwaltungsmittel benötigt.

–    Für den Vorschlag/die Initiative werden die folgenden Verwaltungsmittel benötigt:

3.2.3.1. Mittel aus dem verabschiedeten Haushaltsplan

Der Mittelbedarf für Personal- und sonstige Verwaltungsausgaben wird durch der Verwaltung der Maßnahme zugeordnete Mittel der GD und/oder durch eine Umschichtung innerhalb der GD gedeckt. Hinzu kommen etwaige zusätzliche Mittel, die der für die Verwaltung der Maßnahme zuständigen GD nach Maßgabe der verfügbaren Mittel im Rahmen der jährlichen Mittelzuweisung zugeteilt werden.

3.2.4.Geschätzter Personalbedarf

–    Für den Vorschlag/die Initiative wird kein Personal benötigt.

–    Für den Vorschlag/die Initiative wird das folgende Personal benötigt:

3.2.4.1.Finanziert aus dem verabschiedeten Haushalt

Schätzung in Vollzeitäquivalenten (VZÄ)

Für die Durchführung des Vorschlags benötigtes Personal (in VZÄ):

Beschreibung der Aufgaben, die ausgeführt werden sollen durch:

3.2.5.Einschätzung der Auswirkungen auf die Investitionen im Zusammenhang mit digitalen Technologien

Obligatorisch: In die Tabelle unten ist die bestmögliche Einschätzung der für den Vorschlag/die Initiative erforderlichen Investitionen in digitale Technologien einzutragen.

Wenn dies für die Durchführung des Vorschlags/der Initiative erforderlich ist, sollten die Mittel unter Rubrik 7 ausnahmsweise in der dafür vorgesehenen Haushaltslinie ausgewiesen werden.

Die Mittel unter den Rubriken 1-6 sollten als „Politische IT-Ausgaben für operationelle Programme“ ausgewiesen werden. Diese Ausgaben beziehen sich auf die operativen Mittel, die für die Wiederverwendung/den Erwerb/die Entwicklung von IT-Plattformen/Instrumenten verwendet werden, welche in direktem Zusammenhang mit der Durchführung der Initiative und den damit verbundenen Investitionen stehen (z. B. Lizenzen, Studien, Datenspeicherung usw.). Die Angaben in dieser Tabelle sollten mit den Einzelheiten in Abschnitt 4 „Digitale Dimensionen“ übereinstimmen.

3.2.6.Vereinbarkeit mit dem derzeitigen Mehrjährigen Finanzrahmen

Der Vorschlag/Die Initiative

–    kann durch Umschichtungen innerhalb der entsprechenden Rubrik des Mehrjährigen Finanzrahmens (MFR) in voller Höhe finanziert werden.

Die Beträge werden von 02 01 30 01 (Unterstützungsausgaben für das Programm Digitales Europa) für 2026 und von 02 04 03 (SZ 2 Künstliche Intelligenz) für 2027 umgeschichtet.

–    erfordert die Inanspruchnahme des verbleibenden Spielraums unter der einschlägigen Rubrik des MFR und/oder den Einsatz der besonderen Instrumente im Sinne der MFR-Verordnung.

–    erfordert eine Änderung des MFR.

3.2.7.Beiträge Dritter

Der Vorschlag/Die Initiative

–    sieht keine Kofinanzierung durch Dritte vor.

–    sieht folgende Kofinanzierung durch Dritte vor:

Mittel in Mio. EUR (3 Dezimalstellen)

3.3.    Geschätzte Auswirkungen auf die Einnahmen

–    Der Vorschlag/Die Initiative wirkt sich nicht auf die Einnahmen aus.

–    Der Vorschlag/Die Initiative wirkt sich auf die Einnahmen aus, und zwar

–    auf die Eigenmittel

–    auf die übrigen Einnahmen

–    Bitte geben Sie an, ob die Einnahmen bestimmten Ausgabenlinien zugeordnet sind.

in Mio. EUR (3 Dezimalstellen)

Bitte geben Sie für die sonstigen zweckgebundenen Einnahmen die betreffende(n) Ausgabenlinie(n) im Haushaltsplan an.

Sonstige Anmerkungen (bei der Ermittlung der Auswirkungen auf die Einnahmen verwendete Methode/Formel oder weitere Informationen).

4.Digitale Aspekte

4.1.Anforderungen von digitaler Relevanz

4.2.Daten

4.3. Digitale Lösungen

Allgemeine Beschreibung der digitalen Lösungen

Für jede digitale Lösung Erläuterung, inwiefern diese mit geltenden digitalen Strategien und Rechtsvorschriften im Einklang steht.

Digitale Lösung Nr. 1

4.4. Interoperabilitätsbewertung

Allgemeine Beschreibung der von den Anforderungen betroffenen digitalen öffentlichen Dienste

Auswirkungen der Anforderung(en) auf die grenzüberschreitende Interoperabilität nach digitalem öffentlichen Dienst

Digitaler öffentlicher Dienst #1

4.5. Unterstützungsmaßnahmen für die digitale Umsetzung

Allgemeine Beschreibung der Unterstützungsmaßnahmen für die digitale Umsetzung

(1)    COM(2025) 47 final.

(2)    COM(2025) 165 final.

(3)    COM(2025) 723 final.

(4)    https://ai-act-service-desk.ec.europa.eu.

(5)    Europäische Kommission (2025), Aufforderung zur Stellungnahme zur Strategie „KI anwenden“. Abrufbar unter: Strategie „KI anwenden“ – Stärkung des KI-Kontinents

(6)    Europäische Kommission (2025), Aufforderung zur Stellungnahme zur Überarbeitung des Rechtsakts zur Cybersicherheit. Abrufbar unter: Der EU-Rechtsakt zur Cybersicherheit

(7)    Europäische Kommission (2025), Aufforderung zur Stellungnahme zur Strategie für eine europäische Datenunion. Abrufbar unter: Strategie für eine europäische Datenunion

(8)    Europäische Kommission (2025), Aufforderung zur Stellungnahme zu den Omnibusvorschriften für den Digitalbereich (Teil des Vereinfachungspakets für den Digitalbereich). Abrufbar unter: Vereinfachung – Digitalpaket und -omnibus .

(9)    Im Einzelnen: das Recht auf Menschenwürde (Artikel 1), die Achtung des Privatlebens und der Schutz personenbezogener Daten (Artikel 7 und 8), die Nichtdiskriminierung (Artikel 21) und die Gleichstellung von Frauen und Männern (Artikel 23), die Freiheit der Meinungsäußerung (Artikel 11) und die Versammlungsfreiheit (Artikel 12), das Recht auf einen wirksamen Rechtsbehelf und ein unparteiisches Gericht, die Verteidigungsrechte und die Unschuldsvermutung (Artikel 47 und 48), das Recht auf ein hohes Umweltschutzniveau und die Verbesserung der Umweltqualität (Artikel 37).

(10)    Im Einzelnen: die Rechte der Arbeitnehmer auf gerechte und angemessene Arbeitsbedingungen (Artikel 31), ein hohes Verbraucherschutzniveau (Artikel 38), die Rechte des Kindes (Artikel 24) und die Integration von Menschen mit Behinderung (Artikel 26).

(11)    Im Einzelnen: die unternehmerische Freiheit (Artikel 16) und die Freiheit von Kunst und Wissenschaft (Artikel 13).

(12)    ABl. C , , S. .

(13)    ABl. C , , S. .

(14)    Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(15)    Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (ABl. L 124 vom 20.5.2003, S. 36, ELI: http://data.europa.eu/eli/reco/2003/361/oj).

(16)    Empfehlung (EU) 2025/1099 der Kommission vom 21. Mai 2025 zur Definition kleiner Midcap-Unternehmen (ABl. L, 2025/1099, 28.5.2025, ELI: http://data.europa.eu/eli/reco/2025/1099/oj).

(17)    Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung) (ABl. L 119 vom 4.5.2016, S. 1, ELI: http://data.europa.eu/eli/reg/2016/679/oj).

(18)    Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG (ABl. L 295 vom 21.11.2018, S. 39, ELI: http://data.europa.eu/eli/reg/2018/1725/oj).

(19)    Richtlinie (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates (ABl. L 119 vom 4.5.2016, S. 89, ELI: https://eur-lex.europa.eu/eli/dir/2016/680/oj).

(20)    Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte, zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG) Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates (ABl. L 117 vom 5.5.2017, S. 1, ELI: http://data.europa.eu/eli/reg/2017/745/oj).

(21)    Verordnung (EU) 2017/746 des Europäischen Parlaments und des Rates vom 5. April 2017 über In-vitro-Diagnostika und zur Aufhebung der Richtlinie 98/79/EG und des Beschlusses 2010/227/EU der Kommission (ABl. L 117 vom 5.5.2017, S. 176, ELI: http://data.europa.eu/eli/reg/2017/746/oj).

(22)    Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates vom 20. Juni 2019 über Marktüberwachung und die Konformität von Produkten sowie zur Änderung der Richtlinie 2004/42/EG und der Verordnungen (EG) Nr. 765/2008 und (EU) Nr. 305/2011 (ABl. L 169 vom 25.6.2019, S. 1, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

(23)    Verordnung (EU) 2022/2065 des Europäischen Parlaments und des Rates vom 19. Oktober 2022 über einen Binnenmarkt für digitale Dienste und zur Änderung der Richtlinie 2000/31/EG (Gesetz über digitale Dienste) (ABl. L 277 vom 27.10.2022, S. 1, ELI: http://data.europa.eu/eli/reg/2022/2065/oj).

(24)    Verordnung (EU) 2018/1139 des Europäischen Parlaments und des Rates vom 4. Juli 2018 zur Festlegung gemeinsamer Vorschriften für die Zivilluftfahrt und zur Errichtung einer Agentur der Europäischen Union für Flugsicherheit sowie zur Änderung der Verordnungen (EG) Nr. 2111/2005, (EG) Nr. 1008/2008, (EU) Nr. 996/2010, (EU) Nr. 376/2014 und der Richtlinien 2014/30/EU und 2014/53/EU des Europäischen Parlaments und des Rates, und zur Aufhebung der Verordnungen (EG) Nr. 552/2004 und (EG) Nr. 216/2008 des Europäischen Parlaments und des Rates und der Verordnung (EWG) Nr. 3922/91 des Rates (ABl. L 212 vom 22.8.2018, S. 1, ELI: http://data.europa.eu/eli/reg/2018/1139/oj).

(25)    Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(26)    Im Sinne des Artikels 58 Absatz 2 Buchstabe a oder b der Haushaltsordnung.

(27)    GM = Getrennte Mittel/NGM = Nichtgetrennte Mittel.

(28)    EFTA: Europäische Freihandelsassoziation.

(29)    Kandidatenländer und gegebenenfalls potenzielle Kandidaten des Westbalkans.

(30)    Diese Mittel sind bereits im Arbeitsprogramm 2026-2027 des Programms Digitales Europa für das Büro für Künstliche Intelligenz vorgesehen.

(31)    Diese Mittel sind bereits im Arbeitsprogramm 2026-2027 des Programms Digitales Europa für das Büro für Künstliche Intelligenz vorgesehen.

(32)    Diese Mittel entsprechen [48] zusätzlichen VZÄ für sechs Monate [(43 VB und 5 ANS)], wobei die im Rahmen des Haushaltsverfahrens 2026 vereinbarte Personalausstattung als Ausgangspunkt dient. Die Mittel werden zur Deckung der zusätzlichen Kosten in den Verwaltungshaushalt des Programms Digitales Europa umgeschichtet.

(33)    Der Betrag wird von 02 04 03 (SZ 2 Künstliche Intelligenz) aus dem Jahr 2027 umgeschichtet, der entsprechende Antrag wird im Haushaltsverfahren 2027 gestellt.

(34)    Diese Mittel sind bereits im Arbeitsprogramm 2026-2027 des Programms Digitales Europa für das KI-Büro vorgesehen.

(35)    Diese Mittel sind bereits im Arbeitsprogramm 2026-2027 des Programms Digitales Europa für das KI-Büro vorgesehen.

(36)    Diese Mittel entsprechen 48 zusätzlichen VZÄ für sechs Monate (43 VB und 5 ANS), wobei die im Rahmen des Haushaltsverfahrens 2026 vereinbarte Personalausstattung als Ausgangspunkt dient. Die Mittel werden zur Deckung der zusätzlichen Kosten in den Verwaltungshaushalt des Programms Digitales Europa umgeschichtet.

(37)    Der Betrag wird von 02 04 03 (SZ 2 Künstliche Intelligenz) aus dem Jahr 2027 umgeschichtet, der entsprechende Antrag wird im Haushaltsverfahren 2027 gestellt.

(38)    Outputs sind Produkte, die geliefert, und Dienstleistungen, die erbracht werden (z. B. Zahl der Austauschstudenten, gebaute Straßenkilometer usw.).

(39)    Wie in Abschnitt 1.3.2 („Einzelziele…“) beschrieben.

(40)    Bei den traditionellen Eigenmitteln (Zölle, Zuckerabgaben) sind die Beträge netto, d. h. abzüglich 20 % für Erhebungskosten, anzugeben.