(1)

Mit der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (5) wurden harmonisierte Vorschriften für künstliche Intelligenz (KI) mit dem Ziel festgelegt, das Funktionieren des Binnenmarkts zu verbessern, die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen KI zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte zu gewährleisten und Innovationen zu unterstützen. Die Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten. Ihre Bestimmungen werden schrittweise anwendbar; ab dem 2. August 2027 finden alle Vorschriften Anwendung.

(2)

Die Erfahrungen, die im Rahmen der Durchführung der bereits geltenden Teile der Verordnung (EU) 2024/1689 gesammelt wurden, können bei der Durchführung der Teile hilfreich sein, deren Anwendung noch aussteht. In diesem Zusammenhang haben die verzögerte Ausarbeitung von Normen, die technische Lösungen für Anbieter von Hochrisiko-KI-Systemen bieten, damit diese ihren Pflichten aus der genannten Verordnung nachkommen können, sowie die verzögerte Einrichtung der Governance- und Konformitätsbewertungsrahmen auf nationaler Ebene zu einem höheren Befolgungsaufwand geführt als erwartet. Darüber hinaus haben Konsultationen der Interessenträger ergeben, dass zusätzliche Maßnahmen erforderlich sind, die die Umsetzung und Einhaltung der Vorschriften erleichtern und präzisieren, ohne das mit den Bestimmungen der Verordnung (EU) 2024/1689 angestrebte Niveau des Schutzes der Gesundheit, der Sicherheit und der Grundrechte vor KI-bezogenen Risiken zu senken.

(3)

Es sind gezielte Änderungen der Verordnung (EU) 2024/1689 erforderlich, um bestimmte Herausforderungen bei der Durchführung im Hinblick auf die wirksame, einfache und einheitliche Anwendung der einschlägigen Vorschriften zu bewältigen.

(4)

Um KI-Innovationen im privaten und öffentlichen Sektor zu ermöglichen, ist es wichtig, dass die Kommission und die zuständigen Behörden der Mitgliedstaaten sicherstellen, dass die Aufsicht, Durchsetzung und Überwachung sektorspezifischer und nationaler Rechtsvorschriften nicht zu Überschneidungen, uneinheitlichen Auslegungen oder unterschiedlicher Durchsetzung führt.

(5)

Mit der Verordnung (EU) 2024/1689 werden horizontale Vorschriften für KI-Systeme festgelegt, um sicherzustellen, dass die öffentlichen Interessen in Bezug auf Gesundheit, Sicherheit sowie die Grundrechte einheitlich und in hohem Maße geschützt werden. Für die in Artikel 6 Absatz 1 genannten Hochrisiko-KI-Systeme gilt diese Verordnung in Verbindung mit den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union. In bestimmten Fällen können in diesen Harmonisierungsrechtsvorschriften der Union Anforderungen festgelegt werden, mit denen ein gleiches oder höheres Schutzniveau für die relevanten öffentlichen Interessen erreicht wird als durch die in der Verordnung (EU) 2024/1689 festgelegten spezifischen Anforderungen oder Verpflichtungen. In diesem Fall sollte es möglich sein, die Anwendung bestimmter Anforderungen oder Verpflichtungen, die in der Verordnung (EU) 2024/1689 festgelegt sind, einzuschränken, um die Einhaltung der Vorschriften zu erleichtern, den Verwaltungsaufwand und Doppelarbeit zu minimieren und gleichzeitig das durch diese Verordnung garantierte Schutzniveau zu wahren. Eine solche Einschränkung sollte möglich sein, sofern und soweit in den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union Anforderungen vorgesehen sind, die ein gleichwertiges Schutzniveau in Bezug auf Gesundheit, Sicherheit bzw. Grundrechte bieten wie die betreffende Anforderung bzw. Verpflichtung. Der Kommission sollte die Befugnis übertragen werden, delegierte Rechtsakte zur Ergänzung jener Verordnung zu erlassen, in denen solche Fälle ausgewiesen werden und die betreffenden Produkte, die Anforderungen oder Verpflichtungen, die beschränkt werden können, sowie die Bedingungen und der Umfang etwaiger Beschränkungen festgelegt werden, um sicherzustellen, dass das in der Verordnung (EU) 2024/1689 vorgesehene Schutzniveau nicht verringert wird.

(6)

Bei den meisten Unternehmen in der Union handelt es sich um kleine und mittlere Unternehmen, wobei die Mehrheit dieser Unternehmen Kleinstunternehmen und kleine Unternehmen sind. Unternehmen, die nicht mehr unter die Definition von Kleinstunternehmen sowie kleinen und mittleren Unternehmen (KMU) fallen — nämlich die „kleinen Midcap-Unternehmen“ —, spielen eine entscheidende Rolle in der Wirtschaft der Union. Im Vergleich zu KMU weisen kleine Midcap-Unternehmen in der Regel ein schnelleres Wachstumstempo sowie ein höheres Innovationsniveau und einen höheren Digitalisierungsgrad auf. Dennoch stehen sie hinsichtlich des Verwaltungsaufwands vor ähnlichen Herausforderungen wie KMU, was die Notwendigkeit einer verhältnismäßigen Durchführung der Verordnung (EU) 2024/1689 sowie gezielter Unterstützungsmaßnahmen nach sich zieht. Um Unternehmen den reibungslosen Übergang von KMU zu kleinen Midcap-Unternehmen zu ermöglichen, ist es wichtig, die Auswirkungen, die die genannte Verordnung auf die Tätigkeit dieser Unternehmen haben kann, sobald sie zu Midcap-Unternehmen werden und den für Großunternehmen geltenden Vorschriften unterliegen, kohärent zu berücksichtigen. Die Verordnung (EU) 2024/1689 sieht mehrere Maßnahmen für kleinere Akteure vor, die erforderlichenfalls auf kleine Midcap-Unternehmen ausgeweitet werden sollten, wobei die in der Verordnung (EU) 2024/1689 übergeordneten Ziele und das dort vorgesehene Schutzniveau zu wahren sind. Um die Behandlung der KMU und kleinen Midcap-Unternehmen in der Verordnung (EU) 2024/1689 zu präzisieren, müssen Definitionen für KMU und kleine Midcap-Unternehmen eingeführt werden, die den Definitionen im Anhang der Empfehlung 2003/361/EG der Kommission (6) bzw. im Anhang der Empfehlung (EU) 2025/1099 der Kommission (7) entsprechen sollten.

(7)

Der Begriff „Sicherheitsbauteil“ ist für die Einstufung bestimmter KI-Systeme als hochriskant gemäß der Verordnung (EU) 2024/1689 von entscheidender Bedeutung. Daher sollte der Begriff so gefasst werden, dass er — entsprechend dem risikobasierten Ansatz der genannten Verordnung — nur KI-Systeme umfasst, die sich nachteilig auf die Gesundheit und Sicherheit von Personen oder Eigentum auswirken könnten. Die Begriffsbestimmung in Artikel 3 Nummer 14 der Verordnung (EU) 2024/1689 bietet nicht die erforderliche Präzision, damit Anbieter von KI-Systemen festlegen können, ob ein KI-System als Sicherheitsbauteil einzustufen ist, und birgt daher die Gefahr die Einstufung als Hochrisiko-KI-System über das durch den risikobasierten Ansatz dieser Verordnung gerechtfertigte Maß hinaus auszudehnen. Daher ist es notwendig, diese Begriffsbestimmung zu ändern. Zunächst ist es erforderlich, den Begriff „Sicherheitsfunktion“ zu präzisieren. Bei der Sicherheitsfunktion sollte es sich um eine Zweckbestimmung des Systems handeln, die vom Anbieter des Systems festgelegt wird. Ein KI-System erfüllt dann eine Sicherheitsfunktion, wenn seine vom Anbieter festgelegte Zweckbestimmung darin besteht, Risiken für die Gesundheit und Sicherheit von Personen oder Eigentum abzuwenden oder zu mindern. Insbesondere sind hiervon KI-Systeme ausgenommen, die ausschließlich dazu bestimmt sind, Funktionen im Zusammenhang mit der Nutzerunterstützung, der Leistungsoptimierung, der Dienstleistungseffizienz, der Automatisierung, dem Bedienkomfort oder nicht sicherheitsrelevanter Aspekte der Qualitätskontrolle zu erfüllen. Die bloße Tatsache, dass ein KI-System in ein Produkt integriert ist oder in einem Produkt zum Einsatz kommt, das Harmonisierungsrechtsvorschriften der Union unterliegt, bedeutet an sich noch nicht, dass es eine Sicherheitsfunktion erfüllt.

(8)

Nach Artikel 4 der Verordnung (EU) 2024/1689 sind derzeit alle Anbieter und Betreiber von KI-Systemen verpflichtet, die KI-Kompetenz ihres Personals sicherzustellen. Der Erwerb von KI-Kompetenz, angefangen bei der allgemeinen und beruflichen Bildung bis hin zum lebenslangen Lernen, ist unerlässlich, um Anbieter, Betreiber und andere betroffene Personen mit den notwendigen Fähigkeiten auszustatten, damit sie fundierte Entscheidungen über den Einsatz von KI-Systemen treffen können. Die von den Interessenträgern geteilten Erfahrungen zeigen jedoch, dass eine Lösung, bei der strenge Verpflichtungen auferlegt werden, um ein ausreichendes Maß an KI-Kompetenz sicherzustellen, in Bezug auf die Förderung der KI-Kompetenz nicht für alle Arten von Anbietern und Betreibern geeignet wäre. Darüber hinaus deuten Daten darauf hin, dass die Auferlegung solcher Verpflichtungen — insbesondere für kleinere Unternehmen — einen zusätzlichen Befolgungsaufwand verursacht, während KI-Kompetenz unabhängig von gesetzlichen Verpflichtungen und möglichen Sanktionen eine strategische Priorität sein sollte. Angesichts dessen sollte Artikel 4 der Verordnung (EU) 2024/1689 dahin gehend geändert werden, dass die Anbieter und Betreiber verpflichtet sind, Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, zu fördern. Die Kommission und die Mitgliedstaaten sollten die Bemühungen der Anbieter und Betreiber von KI-Systemen unterstützen und erleichtern, unter anderem durch das Anbieten von Schulungen, das Bereitstellen von Informationsressourcen und die Ermöglichung des Austauschs bewährter Verfahren sowie andere Initiativen. Bei der Erfüllung dieser Verpflichtung könnten die Kommission und die Mitgliedstaaten die europäischen Kompetenzrahmen berücksichtigen, etwa den Referenzrahmen für digitale Kompetenzen der Bürgerinnen und Bürger (DigComp) und den KI-Kompetenzrahmen für die Primar- und Sekundarschulbildung. Das Europäische Gremium für künstliche Intelligenz (im Folgenden „KI-Gremium“) sollte die Kommission und die Mitgliedstaaten durch die Annahme von Empfehlungen unterstützen, in denen gemeinsame Ziele festgelegt werden, die zur Erfüllung ihrer Verpflichtungen zu erreichen sind, und einen regelmäßigen Austausch zwischen der Kommission und den Mitgliedstaaten zu diesem Thema sicherstellen, während die Allianz für KI-Anwendungen Gespräche mit der breiteren Öffentlichkeit ermöglichen sollte.

(9)

Die Erkennung und Korrektur von Verzerrungen stellt ein erhebliches öffentliches Interesse dar, da so natürliche Personen vor den nachteiligen Auswirkungen von Verzerrungen, einschließlich Diskriminierung, geschützt werden. Aus diesem Grund bietet die Verordnung (EU) 2024/1689 eine Rechtsgrundlage, die es Anbietern von Hochrisiko-KI-Systemen in bestimmten Ausnahmefällen und vorbehaltlich strenger Schutzmaßnahmen gestattet, besondere Kategorien personenbezogener Daten zu verarbeiten. Diese Rechtsgrundlage ist mit der Verpflichtung dieser Anbieter verknüpft, Verfahren zur Erkennung, Vermeidung und Korrektur jener Verzerrungen festzulegen, bei denen es wahrscheinlich ist, dass sie die Gesundheit und Sicherheit von Personen beeinträchtigen, negative Auswirkungen hinsichtlich der Grundrechte haben oder zu Diskriminierungen führen, die nach dem Unionsrecht verboten sind. Dennoch könnten Verzerrungen, bei denen diese Auswirkungen wahrscheinlich sind, auch auf das Handeln der Betreiber von Hochrisiko-KI-Systemen zurückzuführen sein. Darüber hinaus könnten solche Verzerrungen auch bei anderen KI-Systemen oder -Modellen auftreten. So können beispielsweise durch Verzerrungen in den Instrumenten zur Prüfung der Eignung oder Risikobewertung, die bei der Beurteilung von Anträgen auf verschiedene Arten öffentlicher Genehmigungen oder Lizenzen zum Einsatz kommen, Rechte beeinträchtigt oder bestimmte Gruppen wirksam am Zugang zu öffentlichen Dienstleistungen gehindert werden. Dementsprechend besteht ein erhebliches öffentliches Interesse daran, Anbietern und Betreibern anderer KI-Systeme und -Modelle sowie Betreibern von Hochrisiko-KI-Systemen ausnahmsweise und nur dann, wenn dies unbedingt erforderlich ist, die Verarbeitung besonderer Kategorien personenbezogener Daten zum Zwecke der Erkennung und Korrektur von Verzerrungen zu gestatten. Daher ist es erforderlich, die mit der Verordnung (EU) 2024/1689 geschaffene Rechtsgrundlage auf diese Anbieter und Betreiber auszuweiten. Diese Rechtsgrundlage sollte denselben Begrenzungen, Bedingungen und Schutzmaßnahmen unterliegen, die gemäß dem bestehenden Artikel 10 Absatz 5 jener Verordnung gelten, damit die Einhaltung von Artikel 9 Absatz 2 Buchstabe g der Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates (8), Artikel 10 Absatz 2 Buchstabe g der Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates (9) und Artikel 10 Buchstabe a der Richtlinie (EU) 2016/680 des Europäischen Parlaments und des Rates (10) sichergestellt wird. Damit Anbieter von Hochrisiko-KI-Systemen zur Vorbereitung auf die Einhaltung der Anforderungen an Hochrisiko-KI-Systeme, einschließlich Artikel 10 Absatz 2 Buchstaben f und g der Verordnung (EU) 2024/1689, rechtmäßig Tätigkeiten zur Erkennung und Korrektur von Verzerrungen durchführen können, sollte die mit Artikel 4a der Verordnung (EU) 2024/1689 festgelegte Rechtsgrundlage ab dem Geltungsbeginn dieser Verordnung gelten.

(10)

Mit Artikel 5 der Verordnung (EU) 2024/1689 werden bestimmte Praktiken von KI-Systemen verboten, die besonders schädlich und missbräuchlich sind, im Widerspruch zu bestimmten Werten der Union stehen und bestimmte Grundrechte verletzen. Artikel 5 ist kontinuierlich zu überprüfen, wie in Artikel 112 Absatz 1 der genannten Verordnung festgelegt wurde. Angesichts der technologischen und gesellschaftlichen Entwicklungen seit der Annahme der genannten Verordnung, darunter die Einführung und weit verbreitete Nutzung von KI-Systemen, mit denen nicht einvernehmlich erstellte intime Bilder, Videos, Audioaufnahmen und ähnliches Material (im Folgenden „nicht einvernehmlich erstelltes intimes Material“) und Darstellungen von sexuellem Missbrauch von Kindern erzeugt werden, muss Artikel 5 der genannten Verordnung geändert werden.

(11)

Bei nicht einvernehmlich erstelltem intimem Material handelt es sich um sexuelle Gewalt gegen Einzelpersonen, insbesondere Frauen, und sexuellen Missbrauch dieser Personen. KI-Systeme, mit denen Material dieser Art erzeugt oder manipuliert wird, stellen eine gravierende Gefahr für Gesundheit, Sicherheit und für die Grundrechte dar, darunter die Menschenwürde, die persönliche Autonomie, die Unversehrtheit und das Privatleben der Opfer, und können zu potenziell schwerwiegenden, dauerhaften psychischen und sonstigen Schäden führen sowie massivem Missbrauch ermöglichen. Aufgrund der Verbreitung solcher Technologien, die häufig als „Nudify-Apps“ bezeichnet werden, ist ein ausdrückliches rechtliches Verbot dringend geboten. Darstellungen von sexuellem Missbrauch von Kindern, darunter vollständig oder teilweise per KI erzeugte Darstellungen, gefährden die Sicherheit und die Grundrechte von Kindern in erheblichem Maße. KI-Systeme, mit denen entsprechendes Material erzeugt oder manipuliert wird, stellen eine schwerwiegende Gefahr für die Menschenwürde und die Rechte des Kindes dar und bergen die Gefahr, dass sexuelle Gewalt gegen Kinder normalisiert, verstärkt und fortgesetzt wird. Dementsprechend ist eine Änderung von Artikel 5 der Verordnung (EU) 2024/1689 erforderlich, um Frauen, Kinder, sonstige Personen und die Gesellschaft vor schwerwiegenden schädlichen Praktiken zu schützen und so die Ziele der genannten Verordnung zu verfolgen und um Anbietern und Betreibern Klarheit über den Umfang ihrer Verpflichtungen zu verschaffen und auf diesem Wege die Herausforderungen bei der Umsetzung anzugehen.

(12)

Es ist notwendig, den Geltungsbereich des Verbots klar festzulegen, was insbesondere auch den Umfang der Verpflichtungen der Anbieter und Betreiber einschließt. Dieses Verbot sollte Anbieter nicht daran hindern, die technischen Kapazitäten von KI-Systemen zur Erzeugung oder Manipulation von Bildern, Videos, Audiodateien oder ähnlichem Material weiterzuentwickeln. In Bezug auf Anbieter sollte sich das Verbot auf das Inverkehrbringen und die Inbetriebnahme von KI-Systemen beschränken, mit denen nicht einvernehmlich erstelltes intimes Material oder Darstellungen von sexuellem Missbrauch von Kindern erzeugt oder manipuliert werden, und zwar in zwei Fällen. Erstens sollten Systeme erfasst werden, die dazu bestimmt sind, Material dieser Art zu erzeugen oder zu manipulieren. Zweitens sollten Systeme erfasst werden, bei denen eine solche Erzeugung oder Manipulation ein nach vernünftigem Ermessen absehbares und reproduzierbares Ergebnis ist und keine zumutbaren und angemessenen technischen Sicherheitsmaßnahmen sowie sonstige Schutzvorkehrungen bestehen, mit denen — unter dem Gesichtspunkt einer nach vernünftigem Ermessen absehbaren missbräuchlichen Nutzung — dieses Ergebnis zuverlässig verhindert und, falls erforderlich, korrigiert sowie beobachtete oder gemeldete missbräuchliche Nutzung, was auch die Umgehung solcher Maßnahmen einschließt, behoben wird. Zu den technischen Maßnahmen und sonstigen Schutzvorkehrungen, mit denen die Erzeugung solcher Inhalte verhindert werden soll, könnten Datenbereinigung, Ablehnungstraining, die Gestaltung sicherer Prompts und Ausgabekontrollen, Laufzeit-Leitplanken für Prompts, Mechanismen zur Klassifizierung und Filterung von Inhalten, Nutzungsbeschränkungen, Mechanismen zur Missbrauchserkennung sowie Melde- und Abhilfemechanismen gehören. Präventivmaßnahmen dieser Art sollten für das jeweilige KI-System zumutbar sein und gelten als angemessen, wenn sie mit dem Stand der Technik entsprechenden Maßnahmen übereinstimmen und nachweislich in jedem Einzelfall die Wahrscheinlichkeit der Erstellung oder Manipulation solcher Inhalte verhindern bzw. hinreichend verringern, wobei der bekannte und vernünftigerweise absehbare missbräuchliche Gebrauch zu berücksichtigen ist, einschließlich der nach vernünftigem Ermessen absehbaren Umgehung der Präventivmaßnahmen ohne wesentliche technische Änderungen. Für Anbieter, die die effektive Kontrolle über KI-Systeme behalten, beispielsweise über eine Plattform oder eine Webschnittstelle, könnte dies Verfahren zur Erfassung und Meldung von Missbrauchsfällen unter vollständiger Einhaltung der Datenschutzvorschriften der Union umfassen.In Fällen, in denen eine Umgehung der Präventivmaßnahmen oder anderer Schutzmaßnahmen beobachtet oder gemeldet wird, sollten angemessene Korrekturmaßnahmen ergriffen werden, sofern diese Maßnahmen unter Berücksichtigung des spezifischen KI-Systems, einschließlich seiner Freigabe- und Verbreitungsstrategie (z. B. quelloffene Freigaben), zumutbar sind. In Bezug auf Anbieter sollte die Verwendung eines KI-Systems nur verboten werden, wenn der Betreiber ein KI-System verwendet, um nicht einvernehmlich erstelltes intimes Material oder Darstellungen von sexuellem Missbrauch von Kindern zu erzeugen oder zu manipulieren. Dies umfasst Fälle, in denen ein Betreiber KI-Systeme nutzt oder zweckentfremdet, die auf den Markt gebracht oder in Betrieb genommen wurden, ohne dass zumutbare und angemessene Schutzmaßnahmen vorhanden sind, oder in denen ein Betreiber die Schutzmaßnahmen umgeht oder für solche Zwecke rechtskonforme KI-Systeme verwendet, die nicht für die Erstellung oder Manipulation von Material dieser Art bestimmt sind. Das Verwendungsverbot erstreckt sich daher nicht auf die Nutzung eines KI-Systems zu rechtmäßigen Zwecken, wie beispielsweise die Erstellung oder Manipulation von Inhalten, bei denen es sich nicht um nicht einvernehmlich erstelltes intimes Material oder Darstellungen von sexuellem Missbrauch von Kindern handelt, selbst in Fällen, in denen das KI-System nicht über zumutbare und angemessene Schutzvorkehrungen verfügt, die vom Anbieter hätten getroffen werden müssen; ebenso wenig erstreckt es sich auf die versehentliche Erstellung oder Manipulation solcher Inhalte. Was das Verbot in Bezug auf nicht einvernehmlich erstelltes intimes Materials betrifft, so sollten in Fällen, in denen ein KI-System für die Erzeugung oder Manipulation von Material bestimmt ist, das unter dieses Verbot fällt, Maßnahmen und andere Schutzvorkehrungen im Einklang mit der Verordnung (EU) 2016/679 angemessene Mittel umfassen, die für die Verbreitung des KI-Systems geeignet sind und die zuverlässige Erfassung und den Nachweis der Einwilligung der abgebildeten Person in eine solche Erstellung oder Manipulation ermöglichen. Das Verbot in Bezug auf nicht einvernehmlich erstelltes intimes Material sollte sich auf realistische Darstellungen intimer Körperteile, insbesondere der Genitalien, des Schambereichs, des Anus, des entblößten Gesäßes oder entblößte weiblicher Brüste, Brustwarzen oder Brustwarzenhöfe, bzw. auf Darstellungen sexuell eindeutiger Aktivitäten beschränken. Dieser „Realismus“ bezieht sich auf die Darstellung des Gesichts, der Stimme oder des Körpers der Person in einer glaubwürdigen realen Weise, unabhängig davon, wie realistisch der Kontext dieser Darstellung ist und ob sie der tatsächlichen Stimme oder dem tatsächlichen Erscheinungsbild der abgebildeten Person vollständig entspricht. Umgekehrt sind Karikaturen oder physisch unmögliche Darstellungen des Körpers einer Person ausgenommen. Das Verbot von nicht einvernehmlich erstellten intimen Materialien hat keinen Einfluss auf die Erstellung oder Manipulation anderer Formen von Nacktmaterial, wie beispielsweise Inhalte, die keine identifizierbaren natürlichen Personen zeigen, realistische teilweise Nacktdarstellungen, bei denen intime Körperteile nicht sichtbar sind und keine sexuell eindeutigen Handlungen dargestellt werden, sowie nicht-realistische künstlerische Nacktdarstellungen, die keine identifizierbaren natürlichen Personen realistisch bei sexuell eindeutigen Handlungen oder deren intime Körperteile zeigen. Es gilt auch nicht für generative KI-Anwendungen, bei denen intime Körperteile nicht gezeigt werden oder, falls doch, dies nur mit der aus freien Stücken erfolgenden, spezifischen, aufgeklärten, eindeutigen und ausdrücklichen Einwilligung der abgebildeten Person geschieht (beispielsweise Anprobe-Anwendungen und medizinische Anwendungen wie medizinische anatomische Simulationen und Mammographien); dieses Verbot schließt nicht die ausnahmsweise Nutzung von KI-Systemen aus, mit denen Nacktdarstellungen der intimen Körperteile einer identifizierbaren Person im Einklang mit den Grundrechten, einschließlich des Datenschutzrechts, und dem geltenden Medizinrecht zum Zwecke der medizinischen Diagnose und Behandlung durch medizinisches Fachpersonal erstellt oder bearbeitet werden, wenn die betroffene Person nicht in der Lage ist, ihre Einwilligung zu erteilen (beispielsweise in einer Notfallsituation). Schließlich schließt das Verbot der „Manipulation“ von nicht einvernehmlich erstelltem intimem Material Fälle aus, in denen bereits bestehendes intimes Material in einer Weise manipuliert wird, die weder die Sichtbarkeit der abgebildeten intimen Körperteile erhöht noch die Art der dargestellten sexuell eindeutigen Handlungen verändert; dazu zählt beispielsweise die bloße Optimierung eines bestehenden Bildes, das intime Körperteile zeigt, oder eines Videos, das sexuell eindeutige Handlungen zeigt, wie etwa das Ändern des Hintergrunds, das Hinzufügen einer Textüberschrift oder die Anpassung von Kontrast oder Helligkeit. Umgekehrt fällt jede Manipulation von Inhalten — einschließlich solcher, die bereits intime Körperteile oder sexuell eindeutige Handlungen zeigen —, die den Grad der Entblößung der dargestellten intimen Körperteile erhöht oder die Art der dargestellten sexuell eindeutigen Handlungen verändert, unter dieses Verbot.

(13)

Das Verbot von Darstellungen von sexuellem Missbrauch von Kindern sollte das Inverkehrbringen, die Inbetriebnahme oder die Nutzung eines KI-Systems nicht verhindern, wenn nach nationalem Recht das „unrechtmäßige“ Verhalten, worauf in Artikel 5 Absatz 1 der Richtlinie 2011/93/EU des Europäischen Parlaments und des Rates (11) verwiesen wird, als gerechtfertigt gilt. Dies umfasst Tätigkeiten, die im Rahmen innerstaatlicher Rechtsbefugnisse durchgeführt werden, wie beispielsweise die legitime Erstellung oder Manipulation von Material, das den sexuellen Missbrauch von Kindern darstellt, durch die Behörden zum Zwecke der Durchführung von Strafverfahren oder zur Prävention, Aufdeckung oder Untersuchung von Straftaten, sowie die rechtmäßige Nutzung des KI-Systems im Rahmen von Red-Teaming- und Evaluierungsmaßnahmen, um die Einhaltung des in dieser Verordnung festgelegten Verbots durch das System zu überprüfen.

(14)

Diese Verbote stellen gerechtfertigte Eingriffe in die Meinungs- und Informationsfreiheit sowie in die unternehmerische Freiheit dar. Sie verfolgen dem Gemeinwohl dienende Zielsetzungen und schützen die Rechte und Freiheiten anderer, einschließlich derjenigen, die in Artikel 1, Artikel 3 Absatz 1 sowie den Artikeln 4, 7, 8, 21, 23 und 24 der Charta der Grundrechte der Europäischen Union (im Folgenden „Charta“) festgelegt sind. Sie sind genau zugeschnitten. Im Falle von intimem Material beschränken sie sich auf realistische Darstellungen identifizierbarer natürlicher Personen sowie auf Fälle, in denen das KI-System dazu verwendet wird, den Grad der Nacktheit oder der Eindeutigkeit zu erhöhen; ausgenommen sind die Erstellung und Manipulation, die mit Zustimmung der betroffenen Person vorgenommen werden. Darüber hinaus beschränken sie sich darauf, von Anbietern zu verlangen, „zumutbare und angemessene“ Maßnahmen und Schutzvorkehrungen zu treffen, sofern es sich um Systeme handelt, die nicht für die Erstellung oder Manipulation des verbotenen Materials bestimmt sind. Sie stehen auch im Einklang mit dem geltenden Unionsrecht, einschließlich der Richtlinie 2011/93/EU und der Richtlinie (EU) 2024/1385 des Europäischen Parlaments und des Rates (12). Die Eingriffe achten den Wesensgehalt der Artikel 11 und 16 der Charta, sind gesetzlich vorgeschrieben und verhältnismäßig.

(15)

Die unter diese Verbote fallenden Handlungen können auch gegen andere Rechtsvorschriften, einschließlich des Strafrechts, verstoßen. Die Verbote stehen einer Strafverfolgung nach diesen Rechtsvorschriften nicht entgegen. Soweit jedoch ein Verstoß gegen die Verbote zur Verhängung von Sanktionen strafrechtlicher Natur führen kann, die gemäß Artikel 99 Absatz 1 der Verordnung (EU) 2024/1689 festgelegt werden können, und soweit dieselbe Handlung strafrechtlich geahndet wird, einschließlich strafrechtlicher Sanktionen, die in den Anwendungsbereich der Richtlinien 2011/93/EU und (EU) 2024/1385 fallen, sind die Mitgliedstaaten verpflichtet, die Einhaltung des Grundsatzes des Verbots der doppelten Strafverfolgung im Einklang mit der Charta sicherzustellen.

(16)

Die Verbote gelten unbeschadet der Rechtsbehelfe, die Einzelpersonen nach nationalem Recht zur Verfügung stehen, um ihre Grundrechte, einschließlich des Rechts am eigenen Bild, des Rechts auf Privatsphäre und der Menschenwürde, zu schützen.

(17)

Zur Sicherstellung der Kohärenz, Vermeidung von Doppelarbeit und Minimierung des Verwaltungsaufwands im Zusammenhang mit dem Verfahren zur Benennung notifizierter Stellen gemäß der Verordnung (EU) 2024/1689 und unter Beibehaltung desselben Prüfniveaus sollten für neue Konformitätsbewertungsstellen und notifizierte Stellen, die im Rahmen der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union, wie etwa der Verordnungen (EU) 2017/745 (13) und (EU) 2017/746 des Europäischen Parlaments und des Rates (14), benannt wurden, ein einziger Antrag und ein einheitliches Bewertungsverfahren zur Verfügung stehen, wenn ein solcher Antrag und ein solches Verfahren im Rahmen dieser Harmonisierungsrechtsvorschriften der Union eingerichtet wurden. Mit dem einzigen Antrag und dem einheitlichen Bewertungsverfahren soll das Benennungsverfahren gemäß der Verordnung (EU) 2024/1689 erleichtert, unterstützt und beschleunigt und gleichzeitig die Einhaltung der Anforderungen sichergestellt werden, die für notifizierte Stellen gemäß der genannten Verordnung und den in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union gelten. Das einheitliche Bewertungsverfahren sollte unter Berücksichtigung der Aufgaben und Zuständigkeiten der beteiligten Behörden durchgeführt werden. Darüber hinaus sollte präzisiert werden, dass eine Konformitätsbewertungsstelle, die gemäß mehr als einer der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurde, nur einmal einen Antrag stellen sollte, um gemäß dieser Verordnung benannt zu werden.

(18)

Um die reibungslose Anwendung und Kohärenz der Verordnung (EU) 2024/1689 sicherzustellen, sollte sie geändert werden. In Artikel 43 Absatz 3 Unterabsatz 1 der Verordnung (EU) 2024/1689 sollte eine technische Korrektur vorgenommen werden, um die Konformitätsbewertungsanforderungen und die Anforderungen an Anbieter von Hochrisiko-KI-Systemen nach Artikel 16 der genannten Verordnung in Einklang zu bringen. Darüber hinaus sollte klargestellt werden, dass ein Anbieter eines Hochrisiko-KI-Systems, wenn er dem Konformitätsbewertungsverfahren gemäß den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union unterliegt und wenn die Konformitätsbewertung auch die Konformität des Qualitätsmanagementsystems der genannten Verordnung und der Harmonisierungsrechtsvorschriften der Union betrifft, im Einklang mit Artikel 17 Absatz 3 der Verordnung (EU) 2024/1689 Aspekte des Qualitätsmanagementsystems gemäß der genannten Verordnung als Teil der Qualitätsmanagementsysteme entsprechend diesen Harmonisierungsrechtsvorschriften der Union aufnehmen können sollte. Artikel 43 Absatz 3 Unterabsatz 2 der genannten Verordnung sollte geändert werden, um klarzustellen, dass notifizierte Stellen, die nach den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden und Hochrisiko-KI-Systeme bewerten sollen, die unter die in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, berechtigt sein sollten, die Konformität von Hochrisiko-KI-Systemen unter bestimmten Bedingungen für eine Dauer von 18 Monaten ab dem 27. Juli 2026 zu bewerten. Diese Änderung lässt Artikel 28 der Verordnung (EU) 2024/1689 unberührt, sodass Konformitätsbewertungsstellen, die gemäß der genannten Verordnung benannt und notifiziert werden möchten, während und nach diesen 18 Monaten jederzeit einen Antrag stellen können. Ferner sollte die Verordnung (EU) 2024/1689 geändert werden, um klarzustellen, dass in Fällen, in denen ein Hochrisiko-KI-System sowohl unter die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union als auch unter einen der in Anhang III der genannten Verordnung aufgeführten Anwendungsfälle fällt, der Anbieter das einschlägige Konformitätsbewertungsverfahren gemäß diesen einschlägigen Harmonisierungsrechtsvorschriften befolgen sollte.

(19)

Die Verordnung (EU) 2024/1689 und die Verordnung (EU) 2024/2847 des Europäischen Parlaments und des Rates (15) ergänzen einander, damit die Sicherheit und Cybersicherheit von Produkten mit digitalen Elementen sichergestellt wird. Artikel 12 der Verordnung (EU) 2024/2847 sieht vor, dass, wenn Hochrisiko-KI-Systeme und von Herstellern festgelegte Verfahren den in der Verordnung (EU) 2024/2847 festgelegten grundlegenden Cybersicherheitsanforderungen genügen, sie als mit den Cybersicherheitsanforderungen gemäß Artikel 15 der Verordnung (EU) 2024/1689 konform gelten, soweit diese Anforderungen von der nach der Verordnung (EU) 2024/2847 ausgestellten EU-Konformitätserklärung oder Teilen davon abgedeckt sind. Um das Zusammenspiel der Verordnung (EU) 2024/1689 und der Verordnung (EU) 2024/2847 besser zu verdeutlichen, sollte die Vorschrift aus Artikel 12 der Verordnung (EU) 2024/2847 auch in der Verordnung (EU) 2024/1689 Niederschlag finden. Das Zusammenspiel zwischen den beiden Instrumenten sollte nicht beeinträchtigt werden.

(20)

Gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 werden KI-Systeme als Hochrisiko-KI-Systeme eingestuft, wenn ein KI-System, das ein Bauteil eines Produkts ist, das unter die in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fällt, eine Sicherheitsbauteil ist und für dieses Produkt eine Konformitätsbewertung durch Dritte erforderlich ist. Die Anforderung, dass für ein solches Produkt eine Konformitätsbewertung durch Dritte erforderlich ist, berührt jedoch nicht die Wahl des Herstellers hinsichtlich des Konformitätsbewertungsverfahrens für ein solches Produkt. Wenn die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union die Wahl eines auf harmonisierten Normen basierenden Konformitätsbewertungsverfahrens unter den verschiedenen Konformitätsbewertungsverfahren zulassen, gilt diese Möglichkeit auch für Produkte, in die ein Hochrisiko-KI-System eingebettet ist. Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 sollte nicht so verstanden werden, dass Produkte, in die ein Hochrisiko-KI-System eingebettet ist, automatisch einer Konformitätsbewertung durch Dritte unterzogen werden müssen, an der eine notifizierte Stelle beteiligt ist. Wenn diese Möglichkeit in den Harmonisierungsrechtsvorschriften der Union vorgesehen ist, könnte sich der Anbieter des Produkts, in das das Hochrisiko-KI-System eingebettet ist, weiterhin auf harmonisierte Normen stützen, um die Anforderungen der Harmonisierungsrechtsvorschriften der Union und der Verordnung (EU) 2024/1689 als Konformitätsbewertungsverfahren zu erfüllen.

(21)

Zur Stärkung von Wettbewerbsfähigkeit und Innovation ist es von wesentlicher Bedeutung, Wirtschaftsakteure zu unterstützen, die gleichzeitig die Anforderungen oder Verpflichtungen gemäß Kapitel III Abschnitte 2 und 3 der Verordnung (EU) 2024/1689 und die einschlägigen Anforderungen und Verpflichtungen, die in den in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union festgelegt sind, erfüllen müssen. Um die Verfahren zur Einhaltung der Rechtsvorschriften für diese Wirtschaftsakteure zu unterstützen und zu vereinfachen, sollte die Kommission die europäischen Normungsorganisationen unverzüglich auffordern, Normungsprodukte, gegebenenfalls einschließlich harmonisierter Normen, auszuarbeiten. Diese Normungsprodukte sollten auf den im Amtsblatt der Europäischen Union veröffentlichten harmonisierten Normen beruhen, die die Vermutung der Konformität mit den Anforderungen bzw. Verpflichtungen der Verordnung (EU) 2024/1689 begründen, sowie auf allen im Amtsblatt der Europäischen Union veröffentlichten einschlägigen harmonisierten Normen, die die Vermutung der Konformität mit den einschlägigen Anforderungen bzw. Verpflichtungen begründen, die in den in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union festgelegt sind. Solche Normungsprodukte sollten dazu beitragen, die Rechtsunsicherheit zu verringern, unnötige Doppelarbeit bei Konformitätsbewertungstätigkeiten sowie Prüf-, Dokumentations- und Berichterstattungspflichten zu verhindern und die Befolgungskosten, insbesondere für kleine und mittlere Unternehmen und Start-up-Unternehmen, zu senken. Die rasche Ausarbeitung solcher Produkte ist äußerst wichtig, um den Wirtschaftsakteuren praktische und zuverlässige technische Lösungen an die Hand zu geben, die Rechtssicherheit zu stärken und das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen im Einklang mit dieser Verordnung und den in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union zu erleichtern.

(22)

Um die Verfahren zur Sicherstellung der Einhaltung der Vorschriften zu straffen und damit verbundene Kosten zu senken, sollte die Registrierung der in Artikel 6 Absatz 3 der Verordnung (EU) 2024/1689 genannten KI-Systeme in der EU-Datenbank gemäß Artikel 49 Absatz 2 der genannten Verordnung vereinfacht werden, indem die nach Anhang VIII der genannten Verordnung erforderlichen Inhalte gestrafft werden. Zwar ist es für eine wirksame Marktüberwachung und die öffentliche Rechenschaftspflicht nach wie vor unerlässlich, dass solche KI-Systeme in der EU-Datenbank registriert werden, doch sollten die Registrierungsanforderungen vereinfacht und verhältnismäßiger gestaltet werden. Mit dieser Vereinfachung dürfte für mehr Ausgewogenheit gesorgt werden, ohne den in der Verordnung (EU) 2024/1689 vorgesehenen Schutz zu beeinträchtigen. Solche KI-Systeme gelten unter bestimmten Bedingungen nicht als hochriskant, wenn sie etwa kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen. Darüber hinaus bleibt ein Anbieter, der Artikel 6 Absatz 3 der Verordnung (EU) 2024/1689 anwendet, weiterhin verpflichtet, seine Bewertung zu dokumentieren, bevor dieses KI-System in Verkehr gebracht oder in Betrieb genommen wird. Die zuständigen nationalen Behörden sollten diese Bewertung beantragen können.

(23)

Die Artikel 57, 58 und 60 der Verordnung (EU) 2024/1689 sollten geändert werden, um die Zusammenarbeit von KI-Reallaboren auf Unionsebene weiter zu stärken, Klarheit und Kohärenz bei der Governance von KI-Reallaboren zu fördern und Hochrisiko-KI-Systeme, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, in Tests unter Realbedingungen außerhalb von KI-Reallaboren einzubeziehen. Insbesondere um die Verfahren der in den KI-Reallaboren beaufsichtigten Projekte, die auch Tests unter Realbedingungen umfassen, gegebenenfalls zu vereinfachen, sollte der Plan für einen Test unter Realbedingungen in den von den Anbietern oder zukünftigen Anbietern und der zuständigen Behörden vereinbarten Plan für das Reallabor integriert werden.

(24)

Des Weiteren sollte dem Europäischen Büro für Künstliche Intelligenz (im Folgenden „Büro für Künstliche Intelligenz“) die Möglichkeit eingeräumt werden, auf Unionsebene ein KI-Reallabor für KI-Systeme einzurichten, die unter Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 fallen. Um für Kohärenz, Rechtssicherheit und eine effiziente Aufteilung der Aufsichtsaufgaben zwischen der Union und der nationalen Ebene zu sorgen, sollte der Zuständigkeitsbereich des auf Unionsebene eingerichteten KI-Reallabors klar festgelegt werden, um Überschneidungen mit den gemäß der genannten Verordnung eingerichteten nationalen KI-Reallaboren zu verhindern. Um Innovationen voranzutreiben und die Einführung von KI zu erleichtern, sollten KMU, einschließlich Start-up-Unternehmen, und kleine Midcap-Unternehmen vorrangigen Zugang zu den vom Büro für Künstliche Intelligenz eingerichteten KI-Reallaboren erhalten.

(25)

Darüber hinaus sollten die Bestimmungen über die Zusammenarbeit zwischen den für den Betrieb eines KI-Reallabors zuständigen Behörden präzisiert werden, um ihr wirksames Funktionieren sicherzustellen. Aus diesem Grund sollte sich die Befugnis der Kommission, Durchführungsrechtsakte zu erlassen, in denen die detaillierten Vorkehrungen für die Einrichtung, die Entwicklung, die Umsetzung, den Betrieb und die Beaufsichtigung von KI-Reallaboren festgelegt werden, auch auf Aspekte der Governance solcher Reallabore erstrecken. Soweit die KI-Reallabore auch innovative KI-Systeme umfassen, die personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu Daten gewähren oder unterstützen, sollten zudem die jeweils zuständigen Aufsichtsbehörden den Betrieb des KI-Reallabors begleiten und im Maße des Umfangs ihrer entsprechenden Aufgaben und Befugnisse in die Überwachung dieser Aspekte einbezogen werden.

(26)

Zur Förderung von Innovationen sollte auch der Anwendungsbereich der Tests unter Realbedingungen außerhalb von KI-Reallaboren nach Artikel 60 der Verordnung (EU) 2024/1689 ausgeweitet werden, die derzeit für die in Anhang III der genannten Verordnung aufgeführten Hochrisiko-KI-Systeme gelten; zudem sollte es Anbietern und zukünftigen Anbietern von Hochrisiko-KI-Systemen, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ermöglicht werden, solche Systeme auch unter Realbedingungen zu testen, wobei ausreichende Schutzmaßnahmen zu treffen sind. Das übrige Unionsrecht oder nationale Recht für das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im Zusammenhang mit Produkten, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, bleibt davon unberührt.

(27)

Ferner sollte sichergestellt werden, dass es möglich ist, Hochrisiko-KI-Systeme, die unter die in Anhang I Abschnitt B der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen zu testen. Diese Systeme unterliegen den in den jeweiligen sektoralspezifischen Rechtsvorschriften festgelegten Anforderungen und Verfahren; die genannte Verordnung ist für sie zumeist nicht unmittelbar relevant. In die entsprechenden sektorspezifischen Rechtsakte werden zu gegebener Zeit Anforderungen aufgenommen, die den Anforderungen gemäß Artikel 8 bis 15 der genannten Verordnung entsprechen. Daher sollte sichergestellt werden, dass die Mitgliedstaaten gestatten können, dass diese KI-Systeme unter Realbedingungen getestet werden, um ihre Konformität mit den in den Artikeln 8 bis 15 der genannten Verordnung festgelegten Anforderungen zu bewerten und zu überprüfen. Wenn die Mitgliedstaaten beschließen, Tests dieser Art zu gestatten, sollten sie gemäß der genannten Verordnung Rahmenvorschriften erlassen müssen, in denen die genauen Anforderungen für die Tests festgelegt sind. In der genannten Verordnung sollte festgelegt werden, welche wesentlichen Elemente diese Rahmenvorschriften enthalten müssen. Bei der Ausgestaltung der entsprechenden Rahmenvorschriften sollten die Mitgliedstaaten sicherstellen, dass Gesundheit, Sicherheit und Grundrechte natürlicher Personen umfassend geschützt werden. Vor der Inkraftsetzung der Rahmenvorschriften sollten die Mitgliedstaaten die Kommission davon in Kenntnis setzen. Tests unter Realbedingungen sollten den in Anhang I Abschnitt B der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Harmonisierungsrechtsvorschriften der Union samt allen geltenden Bestimmungen über die Durchführung von Tests entsprechen. Die Anwendung des neuen Artikels über Tests unter Realbedingungen sollte davon jedoch unberührt bleiben.

(28)

Artikel 63 der Verordnung (EU) 2024/1689 bietet Kleinstunternehmen, die Anbieter von Hochrisiko-KI-Systemen sind, die Möglichkeit, die Verpflichtung zur Einrichtung eines Qualitätsmanagementsystems auf vereinfachte Weise zu erfüllen. Um die Einhaltung der Vorschriften für mehr Innovatoren zu erleichtern, sollte diese Möglichkeit auf alle KMU, einschließlich Start-up-Unternehmen, ausgeweitet werden.

(29)

Angesichts der wichtigen Rolle, die dem Büro für Künstliche Intelligenz hinsichtlich der wirksamen und koordinierten Governance der Verordnung (EU) 2024/1689 zukommt und durch die vorliegende Verordnung weiter gestärkt wird, sollte die Kommission dem Büro für Künstliche Intelligenz unbeschadet des nächsten mehrjährigen Finanzrahmens und des Haushaltsverfahrens angemessene personelle, finanzielle und technische Ressourcen bereitstellen, damit es seine Aufgaben im Zusammenhang mit der Durchsetzung der Verordnung (EU) 2024/1689 wirksam und innerhalb einer angemessen Zeit wahrnehmen kann, wobei dies auch die Zuweisung einer ausreichenden Zahl ständiger Mitarbeiter mit fundierten Kompetenzen und technischem Fachwissen einschließt.

(30)

Artikel 69 der Verordnung (EU) 2024/1689 sollte geändert werden, um die Gebührenstruktur des wissenschaftlichen Gremiums zu vereinfachen. Nehmen die Mitgliedstaaten das Fachwissen des Gremiums in Anspruch, sollten die für die Sachverständigen zu zahlenden Gebühren derjenigen Vergütung entsprechen, die die Kommission unter ähnlichen Umständen zu zahlen hat.

(31)

Um das Governance-System für KI-Systeme zu stärken, muss die Rolle, die das Büro für Künstliche Intelligenz bei der Überwachung und Beaufsichtigung der Konformität der KI-Systeme mit der Verordnung (EU) 2024/1689 spielt, präzisiert werden. Gemäß Artikel 88 der genannten Verordnung verfügt die Kommission in Bezug auf KI-Modelle mit allgemeinem Verwendungszweck über ausschließliche Befugnisse. Um die Kohärenz, Klarheit und Wirksamkeit zu erhöhen und angesichts der Reichweite und der Auswirkungen von KI-Systemen im Zusammenhang mit diesen Befugnissen sollte der Umfang der ausschließlichen Befugnis des Büros für Künstliche Intelligenz zur Überwachung von Systemen präzisiert werden. Insbesondere sollte das Büro für Künstliche Intelligenz die ausschließliche Befugnis für KI-Systeme haben, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen, und zwar nicht nur, wenn das System und das Modell von demselben Anbieter entwickelt werden, sondern auch, wenn sie von Anbietern entwickelt werden, die demselben Unternehmen angehören. In bestimmten Fällen und insbesondere bei einer speziellen branchenbezogenen Beaufsichtigung sollte die Zuständigkeit jedoch bei der jeweils zuständigen nationalen Behörde verbleiben. Dementsprechend sollten bestimmte Ausnahmen festgelegt werden. Der persönliche Geltungsbereich dieser ausschließlichen Zuständigkeit sollte sich auf die Anbieter dieser KI-Systeme und ihre Betreiber innerhalb desselben Unternehmens erstrecken. Andere Betreiber sollten weiterhin der nationalen Beaufsichtigung und Durchsetzung unterliegen. Zudem gilt dies nicht für KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden und gemäß Artikel 74 Absatz 9 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Europäischen Datenschutzbeauftragten unterliegen.

(32)

Des Weiteren ist es angesichts des bestehenden Aufsichts- und Durchsetzungssystems gemäß der Verordnung (EU) 2022/2065 des Europäischen Parlaments und des Rates (16) angezeigt, der Kommission die Befugnisse einer zuständigen Marktüberwachungsbehörde gemäß der Verordnung (EU) 2024/1689 zu übertragen, wenn ein KI-System als sehr große Online-Plattform oder sehr große Online-Suchmaschine nach Maßgabe der Verordnung (EU) 2022/2065 gilt oder in eine solche Plattform oder Suchmaschine eingebettet ist. So soll dazu beigetragen werden, dass die Aufsichts- und Durchsetzungsbefugnisse der Kommission gemäß der Verordnung (EU) 2024/1689 und der Verordnung (EU) 2022/2065 sowie die Befugnisse, die für in solche Plattformen oder Suchmaschinen integrierte KI-Modelle mit allgemeinem Verwendungszweck gelten, kohärent und wirksam ausgeübt werden. Dies ist auch in Anbetracht der Bedeutung angemessen, die diesen Plattformen und Suchmaschinen angesichts ihrer Reichweite, ihrer Auswirkungen und der mit ihnen verbundenen Gefahr, komplexe und umfangreiche gesellschaftliche Schäden zu verursachen, zukommt. Der persönliche Geltungsbereich dieser ausschließlichen Zuständigkeit sollte sich auf die Anbieter dieser KI-Systeme und ihre Betreiber innerhalb desselben Unternehmens erstrecken. Im Falle von KI-Systemen, die in einer sehr großen Online-Plattform oder Suchmaschine eingebettet sind oder als solche anzusehen sind, sind die in den Artikeln 34, 35 und 37 der Verordnung (EU) 2022/2065 vorgeschriebenen Risikobewertungen, Risikominderungsmaßnahmen und Prüfungspflichten der erste Ansatzpunkt für die Bewertung der KI-Systeme, unbeschadet der Befugnisse des Büros für Künstliche Intelligenz, Verstöße gegen die Vorschriften der Verordnung (EU) 2024/1689 nachträglich zu untersuchen und durchzusetzen. Im Zusammenhang mit der Analyse dieser Risikobewertungen, Risikominderungsmaßnahmen und Prüfungen können die für die Durchsetzung der Verordnung (EU) 2022/2065 zuständigen Kommissionsdienststellen die Stellungnahme des Büros für Künstliche Intelligenz zum Ergebnis einer möglichen früheren oder parallelen Risikobewertung, die gemäß der Verordnung (EU) 2024/1689 durchgeführt wurde, und zur Anwendbarkeit von Verboten gemäß der Verordnung (EU) 2024/1689 einholen. Darüber hinaus sollten das Büro für Künstliche Intelligenz und die zuständigen nationalen Behörden ihre Durchsetzungsbemühungen gemäß der Verordnung (EU) 2024/1689 mit den für die Beaufsichtigung und Durchsetzung der Verordnung (EU) 2022/2065 zuständigen Behörden, einschließlich der Kommission, koordinieren, um sicherzustellen, dass die Grundsätze der loyalen Zusammenarbeit und der Verhältnismäßigkeit sowie das Verbot der doppelten Strafverfolgung eingehalten werden, wobei die gemäß einer Verordnung erlangten Informationen nur dann für die Zwecke der Beaufsichtigung und Durchsetzung der anderen Verordnung zu verwenden sind, wenn das Unternehmen zustimmt. Damit sichergestellt ist, dass die insgesamt verhängten Geldbußen und Sanktionen angemessen sind und der Schwere der begangenen Zuwiderhandlung entsprechen, sollten diese Behörden insbesondere einen regelmäßigen Gedankenaustausch führen und in ihren jeweiligen Zuständigkeitsbereichen allen Geldbußen und Sanktionen Rechnung tragen, die im Wege einer rechtskräftigen Entscheidung in einem Verfahren wegen einer Zuwiderhandlung gegen andere Vorschriften der Union oder der Mitgliedstaaten wegen desselben Verhaltens gegen denselben Anbieter verhängt wurden.

(33)

Bei der Beaufsichtigung und Durchsetzung von Verpflichtungen in Bezug auf KI-Systeme in seinem Zuständigkeitsbereich hat das Büro für Künstliche Intelligenz die gleiche Funktion und Verantwortung wie eine Marktüberwachungsbehörde gemäß der Verordnung (EU) 2024/1689. Folglich muss das Büro für Künstliche Intelligenz über alle Befugnisse und Zuständigkeiten verfügen, die die Marktüberwachungsbehörden gemäß der genannten Verordnung und der Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates (17) haben (im Folgenden „allgemeine Befugnisse“). Diese sollten die angemessene und wirksame Durchsetzung der in der Verordnung (EU) 2024/1689 festgelegten Anforderungen und Verpflichtungen sicherstellen. Allerdings müssen bestimmte wesentliche Elemente und andere Aspekte der allgemeinen Befugnisse sowie die entsprechenden Schutzmaßnahmen präzisiert, ergänzt und eingeordnet werden (im Folgenden „spezifizierende Bestimmungen“). Insbesondere müssen Bestimmungen folgender Art festgelegt werden: Bestimmungen über die Beziehungen zwischen dem Büro für Künstliche Intelligenz und den nationalen Behörden, Bestimmungen zur Präzisierung, Ergänzung und Begrenzung der Befugnisse, Informationen anzufordern und Vor-Ort-Prüfungen durchzuführen, Bestimmungen über Untersuchungen, einschließlich der Möglichkeit, Verpflichtungszusagen für bindend zu erklären, und Bestimmungen, mit denen die Befugnis zur Feststellung von Verstößen, zur Verhängung von Geldbußen und zur Verhängung von Zwangsgeldern präzisiert und begrenzt wird. Wenn eine Art einer allgemeinen Befugnis auf diese Weise spezifiziert wurde, darf das Büro für Künstliche Intelligenz die Bedingungen und Grenzen, die bezüglich dieser Befugnisse bestehen, nicht dadurch umgehen, dass es sich auf eine damit verbundene allgemeine Befugnis stützt. Umgekehrt kann sich das Büro für Künstliche Intelligenz auf allgemeine Befugnisse solcher Art berufen, die in Bezug auf das Büro für Künstliche Intelligenz nicht präzisiert und begrenzt wurden, wie etwa die Befugnis zum Erlass von Maßnahmen gemäß Artikel 16 Absatz 3 der Verordnung (EU) 2019/1020. Soweit dies für die ordnungsgemäße Durchführung der Verordnung (EU) 2024/1689 erforderlich ist, kann die Kommission Durchführungsrechtsakte erlassen, in denen die Vorschriften und Verfahren für die Anwendung von Verjährungsfristen, die Akteneinsicht und die einvernehmliche Offenlegung von Informationen konkretisiert werden. Bei der Ausübung all dieser Befugnisse muss das Büro für Künstliche Intelligenz im Einklang mit der Charta handeln. Darüber hinaus unterliegt das Büro für Künstliche Intelligenz den in den spezifizierenden Bestimmungen festgelegten Schutzmaßnahmen und dem Schutz der Grundrechte.

(34)

Zusätzlich zu diesen Verfahrens- und Grundrechtsgarantien sollten die in Artikel 18 der Verordnung (EU) 2019/1020 vorgesehenen Verfahrensrechte unbeschadet der in der Verordnung (EU) 2024/1689 vorgesehenen spezifischeren Verfahrensrechte sinngemäß für die Anbieter von KI-Systemen gelten. Wenn die nationalen Marktüberwachungsbehörden das Büro für Künstliche Intelligenz über die zentrale Anlaufstelle ersuchen, Aufsichts- und Durchsetzungsmaßnahmen in Bezug auf KI-Systeme zu ergreifen, die seiner ausschließlichen Aufsicht unterliegen, sollte das Büro für Künstliche Intelligenz die zentrale Anlaufstelle spätestens vier Monate nach Eingang dieses Ersuchens über seine Absicht unterrichten, seine Aufsichts- und Durchsetzungsbefugnisse auszuüben, oder über die Gründe, aus denen es seine Befugnisse nicht ausübt. Beschließt das Büro für Künstliche Intelligenz, seine Aufsichts- und Durchsetzungsbefugnisse auszuüben, so sollte es die zentrale Anlaufstelle auch über das abschließende Ergebnis dieser Vorgänge und über zwischenzeitliche Entwicklungen informieren, die nach Ansicht des Büros für Künstliche Intelligenz erhebliche Auswirkungen auf die Untersuchung haben, einschließlich der Entscheidung, ein Verfahren einzuleiten, eine Geldbuße zu verhängen und das KI-System vom Markt zu nehmen oder zurückzurufen.

(35)

Um KI-Systemen, die nach Artikel 75 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Büros für Künstliche Intelligenz und einer Konformitätsbewertung durch Dritte unterliegen, den Zugang zum Unionsmarkt zu ermöglichen, sollte die Kommission dafür verantwortlich sein, dem Inverkehrbringen vorgeschaltete Konformitätsbewertungen für diese Systeme durchzuführen.

(36)

Artikel 77 und die damit zusammenhängenden Bestimmungen der Verordnung (EU) 2024/1689 stellen einen wichtigen Governance-Mechanismus dar, da sie die für die Durchsetzung oder Beaufsichtigung des Unionsrechts zum Schutz der Grundrechte zuständigen Behörden oder Stellen dazu befähigen sollen, ihren Auftrag unter bestimmten Bedingungen zu erfüllen, und zugleich die Zusammenarbeit mit den für die Beaufsichtigung und Durchsetzung der genannten Verordnung zuständigen Marktüberwachungsbehörden fördern sollen. Es ist erforderlich, den Umfang dieser Zusammenarbeit zu präzisieren und klarzustellen, welche Behörden oder öffentlichen Stellen davon profitieren. Um die Zusammenarbeit zu verstärken, sollte klargestellt werden, dass Anträge auf Zugang zu Informationen und Unterlagen an die zuständige Marktüberwachungsbehörde gerichtet werden sollten, die unverzüglich auf entsprechende Anträge reagieren sollte, und dass die beteiligten Behörden oder Stellen gegenseitig zur Zusammenarbeit verpflichtet sein sollten. Es sollte präzisiert werden, dass diese Bestimmungen unbeschadet der Zuständigkeiten, Aufgaben, Befugnisse und Unabhängigkeit gelten, die die zuständigen nationalen Behörden oder öffentlichen Stellen im Rahmen ihres jeweiligen Auftrags haben. Insbesondere schränken diese Bestimmungen nicht die Befugnisse ein, über die diese Behörden und Stellen nach anderen Bestimmungen des Unionsrechts oder nationalem Recht verfügen, wenn es um die Einholung von Auskünften geht. Dementsprechend behalten diese Behörden und Stellen die Befugnis, Auskünfte gemäß ihrem Auftrag oder dem Unionsrecht oder nationalem Recht direkt bei den Betreibern einzuholen.

(37)

Die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen an Hochrisiko-KI-Systeme betreffen spezifische Risiken, die KI-Systemen innewohnen und zu denen unter anderem Verzerrungen, ein unberechenbares Modellverhalten, mangelnde Robustheit oder Genauigkeit, die Anfälligkeit für Angriffe durch Dritte und die Intransparenz des KI-Systems zählen. Durch die Behandlung KI-spezifischer Risiken ergänzt die genannte Verordnung die Anforderungen der in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union, ohne sie zu duplizieren. Die Verordnung (EU) 2024/1689 sieht Mechanismen für die Wirtschaftsakteure vor, durch die der Befolgungsaufwand gering gehalten werden soll. Insbesondere Artikel 8 Absatz 2 über das Zusammenspiel mit den sektorspezifischen Rechtsvorschriften, Artikel 9 Absatz 10 über das Risikomanagement und Artikel 17 Absatz 3 über das Qualitätsmanagement ermöglichen es den Wirtschaftsakteuren, sofern erforderlich und angemessen eine Bewertung KI-spezifischer Risiken in bestehende Risiko- und Qualitätsmanagementsysteme zu integrieren. Gemäß Artikel 40 der Verordnung (EU) 2024/1689 muss die Kommission ferner angeben, dass die gemäß der genannten Verordnung entwickelten harmonisierten Normen mit den Normen konsistent sein müssen, die gemäß den in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union entwickelt wurden. Die Kommission sollte Leitlinien bereitstellen, um Wirtschaftsakteure von unter Anhang I der Verordnung (EU) 2024/1689 fallenden Hochrisiko-KI-Systeme bei der Einhaltung der genannten Verordnung zu unterstützen, wobei dies auch Leitlinien für die Anwendung von Artikel 8 Absatz 2, Artikel 9 Absatz 10 und Artikel 17 Absatz 3 der genannten Verordnung als Mechanismen zur Minimierung des Befolgungsaufwands im Einklang mit den Grundsätzen der Komplementarität und der Verhältnismäßigkeit umfassen sollte. Diese Leitlinien sollten spätestens bis zum 1. August 2027 veröffentlicht werden.

(38)

Um Anbietern generativer KI-Systeme, die den Kennzeichnungspflichten gemäß Artikel 50 Absatz 2 der Verordnung (EU) 2024/1689 unterliegen, ausreichend Zeit einzuräumen, um ihre Verfahren innerhalb einer angemessenen Frist anzupassen, ohne dabei den Markt zu stören, ist es angezeigt, einen Übergangszeitraum von vier Monaten für Anbieter einzuführen, die ihre Systeme bereits vor dem 2. August 2026 in Verkehr gebracht haben.

(39)

Um den Anbietern von Hochrisiko-KI-Systemen ausreichend Zeit einzuräumen und die für KI-Systeme, die bereits vor dem Geltungsbeginn der einschlägigen Bestimmungen der Verordnung (EU) 2024/1689 in Verkehr gebracht oder in Betrieb genommen wurden, geltenden Vorschriften zu präzisieren, sollte der Geltungsbereich der Übergangsfrist nach Artikel 111 Absatz 2 der genannten Verordnung präzisiert werden. Für die Zwecke von ebendiesem Artikel 111 Absatz 2 sollte die Übergangsfrist in Fällen gelten, in denen die betreffende Art und das betreffende Modell eines KI-Systems bereits in Verkehr gebracht wurde. Wenn also bereits eine einzelne Einheit des Hochrisiko-KI-Systems vor dem in Artikel 111 Absatz 2 genannten Datum rechtmäßig in Verkehr gebracht oder in Betrieb genommen wurde, gilt für andere einzelne Einheiten derselben Art und desselben Modells eines Hochrisiko-KI-Systems die in ebendiesem Artikel 111 Absatz 2 vorgesehene Übergangsfrist, und sie dürfen folglich ohne zusätzliche Verpflichtungen, Anforderungen oder Zertifizierung weiterhin auf dem Unionsmarkt in Verkehr gebracht, bereitgestellt oder in Betrieb genommen werden, solange die Gestaltung dieses Hochrisiko-KI-Systems unverändert bleibt. Für die Anwendung der Übergangsfrist nach Artikel 111 Absatz 2 ist das Datum entscheidend, an dem die erste Einheit dieser Art und dieses Modells eines Hochrisiko-KI-Systems erstmals auf dem Unionsmarkt in Verkehr gebracht oder in Betrieb genommen wurde. Jede signifikante Änderung der Gestaltung des betreffenden KI-Systems nach dem in Artikel 111 Absatz 2 genannten Datum sollte die Verpflichtung des Anbieters nach sich ziehen, alle einschlägigen für Hochrisiko-KI-Systeme geltenden Bestimmungen der genannten Verordnung, einschließlich der Anforderungen an die Konformitätsbewertung, in vollem Umfang einzuhalten.

(40)

In Artikel 113 der Verordnung (EU) 2024/1689 sind die Daten des Inkrafttretens und des Geltungsbeginns der Verordnung festgelegt, insbesondere, dass der allgemeine Geltungsbeginn der 2. August 2026 ist. In Bezug auf die in Kapitel III Abschnitte 1, 2 und 3 der Verordnung (EU) 2024/1689 festgelegten Verpflichtungen im Zusammenhang mit Hochrisiko-KI-Systemen führen die verzögerte Verfügbarkeit von Normen, gemeinsamen Spezifikationen und alternativen Leitlinien und die verzögerte Einrichtung der zuständigen nationalen Behörden zu Herausforderungen, die das wirksame Inkrafttreten dieser Verpflichtung gefährden und das Risiko einer derart erheblichen Erhöhung der Umsetzungskosten bergen, dass es nicht gerechtfertigt ist, ihren ursprünglichen Geltungsbeginn, d. h. den 2. August 2026, beizubehalten. Daher ist es angezeigt, den Geltungsbeginn von Kapitel III Abschnitte 1, 2 und 3 für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, auf den 2. Dezember 2027 und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind, auf den 2. August 2028 festzusetzen. Die unterschiedlichen Zeitpunkte des Geltungsbeginns der Vorschriften für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III bzw. Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, richten sich nach den in der Verordnung (EU) 2024/1689 ursprünglich vorgesehenen Zeitpunkten des Geltungsbeginns und dienen dazu, die erforderliche Zeit für die Anpassung und Umsetzung der entsprechenden Verpflichtungen einzuräumen. Die rechtzeitige Verfügbarkeit von Unterstützungsinstrumenten, darunter klare Leitlinien, einschlägige Normen, gemeinsame Spezifikationen und Praxisleitfäden, ist wichtig, um die Einhaltung der Vorschriften zu erleichtern und das Risiko einer unterschiedlichen Auslegung und einer uneinheitlichen Anwendung der Vorschriften in den Mitgliedstaaten zu verringern. Um Rechtssicherheit zu gewährleisten und zu verhindern, dass es bei der Anwendung der Verordnung (EU) 2024/1689 zu weiteren Verzögerungen kommt, sollte die Kommission sicherstellen, dass mit Blick auf die Einhaltung von Kapitel III Abschnitte 1, 2 und 3 der genannten Verordnung rechtzeitig Unterstützungsmaßnahmen ergriffen werden, um eine rasche und wirksame Umsetzung der erforderlichen Bestimmungen zu gewährleisten.

(41)

Angesichts des Ziels, die Herausforderungen zu verringern, auf die Bürger, Unternehmen und öffentliche Verwaltungen bei der Umsetzung stoßen, ist es von wesentlicher Bedeutung, dass harmonisierte Bedingungen für die Anwendung bestimmter Vorschriften nur angenommen werden, wenn dies unbedingt erforderlich ist. Zu diesem Zweck ist es angezeigt, bestimmte der Kommission übertragene Befugnisse, solche harmonisierten Bedingungen im Wege von Durchführungsrechtsakten zu erlassen, zu streichen, wenn dies nicht der Fall ist. Artikel 50 Absatz 7, Artikel 56 Absatz 6 und Artikel 72 Absatz 3 der Verordnung (EU) 2024/1689 sollten daher geändert werden, um die der Kommission übertragenen Befugnisse zum Erlass von Durchführungsrechtsakten zu streichen. Da die in Artikel 50 Absatz 7 und Artikel 56 Absatz 6 genannten Praxisleitfäden nur begrenzte Rechtswirkung haben und insbesondere keine Konformitätsvermutung begründen, ist es nicht unbedingt erforderlich, dass diese Leitfäden im Wege eines Durchführungsrechtsakts genehmigt werden. Anbieter sollten sich gemäß Artikel 53 Absatz 4 und Artikel 54 Absatz 2 der Verordnung (EU) 2024/1689 auf Praxisleitfäden stützen können, die gemäß Artikel 56 Absatz 6 der genannten Verordnung als angemessen bewertet wurden. Die Streichung der Befugnis zur Annahme eines harmonisierten Musters des Plans für die Beobachtung nach dem Inverkehrbringen in Artikel 72 Absatz 3 der Verordnung (EU) 2024/1689 hat den zusätzlichen Vorteil, dass so den Anbietern von Hochrisiko-KI-Systemen mehr Flexibilität bei der Einrichtung eines auf ihre Organisation zugeschnittenen Systems für die Beobachtung nach dem Inverkehrbringen geboten wird. Gleichzeitig sollte die Kommission angesichts der Notwendigkeit, Klarheit darüber zu schaffen, wie Anbieter von Hochrisiko-KI-Systemen ihre in Artikel 72 Absatz 1 der Verordnung (EU) 2024/1689 festgelegte Pflicht erfüllen müssen, verpflichtet sein, bis zum 2. September 2027 Leitlinien zu dem Plan für die Beobachtung nach dem Inverkehrbringen, einschließlich eines freiwilligen Musters, zu veröffentlichen.

(42)

Der Einsatz künstlicher Intelligenz in Maschinen kann dazu beitragen, Innovationen zu fördern und die Effizienz dieser Maschinen zu steigern. Bei der Anwendung der Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates (18) und der Verordnung (EU) 2024/1689 könnten Überschneidungen entstehen. Gleichzeitig ist es wichtig, in Bezug auf Risiken im Zusammenhang mit dem Einsatz künstlicher Intelligenz in Maschinen ein Schutzniveau sicherzustellen, das dem in der Verordnung (EU) 2024/1689 in Bezug auf Hochrisiko-KI-Systeme vorgesehenen Schutzniveau entspricht. Um der Notwendigkeit Rechnung zu tragen, den Rechtsrahmen für KI-gestützte Maschinen zu vereinfachen, ist es angesichts der besonderen Eigenschaften von Maschinen und des Maschinenbausektors angezeigt, zu einem sektorspezifischen Ansatz überzugehen, indem die Verordnung (EU) 2023/1230 von Anhang I Abschnitt A in Abschnitt B der Verordnung (EU) 2024/1689 verschoben wird. Dementsprechend sollte erstens die Anwendung der Verordnung (EU) 2024/1689 auf diese Maschinen auf die in Artikel 2 Absatz 2 der genannten Verordnung genannten Bestimmungen beschränkt werden. Der Verweis auf die Richtlinie 2006/42/EG sollte aus Anhang I Abschnitt A in Abschnitt B der Verordnung (EU) 2024/1689 verschoben und dahin gehend aktualisiert werden, dass auf die Verordnung (EU) 2023/1230 verwiesen wird. Zweitens ist unbedingt dafür zu sorgen, dass die Verordnung (EU) 2023/1230 grundlegende Sicherheits- und Gesundheitsschutzanforderungen für KI-Systeme enthält, die gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 als Hochrisiko-KI-Systeme gelten und als Sicherheitsbauteil in Maschinen oder Hochrisiko-KI-Systemen, die Maschinen darstellen, verwendet werden, wobei für ein Schutzniveau zu sorgen ist, das mit der Verordnung (EU) 2024/1689 im Einklang steht. Zu diesem Zweck sollte die Kommission verpflichtet werden, delegierte Rechtsakte zur Änderung von Anhang III der Verordnung (EU) 2023/1230 zu erlassen, mit denen den jeweiligen Anforderungen gemäß Kapitel III Abschnitt 2 und den Artikeln 17, 19, 72 und 73 der Verordnung (EU) 2024/1689 Rechnung getragen wird. Um zu verhindern, dass eine Rechtslücke entsteht, und die Angleichung an den Geltungsbeginn der einschlägigen Vorschriften für Hochrisiko-KI-Systeme gemäß der Verordnung (EU) 2024/1689 sicherzustellen, sollten diese delegierten Rechtsakte ab dem 2. August 2028 gelten. Aus denselben Gründen sollte es den Herstellern freistehen, sich auf harmonisierte Normen oder gemeinsame Spezifikationen zu stützen, auf die gemäß der Verordnung (EU) 2024/1689 Bezug genommen wird bzw. die gemäß der genannten Verordnung erlassen wurden und die die einschlägigen grundlegenden Anforderungen für die Konformitätsvermutung im Sinne von Artikel 20 der Verordnung (EU) 2023/1230 abdecken, bis auf harmonisierte Normen oder gemeinsame Spezifikationen für KI gemäß der Verordnung (EU) 2023/1230 verwiesen wird oder diese gemäß der genannten Verordnung erlassen wurden.

(43)

Konformitätsbewertungen von Hochrisiko-KI-Systemen gemäß der Verordnung (EU) 2024/1689 können die Einbeziehung von Konformitätsbewertungsstellen erfordern. Nur Konformitätsbewertungsstellen, die gemäß der genannten Verordnung benannt wurden, sind befähigt, Konformitätsbewertungen durchzuführen, und dies nur für die Tätigkeiten in Bezug auf die betreffenden Kategorien und Arten von KI-Systemen. Um den Geltungsbereich der Benennung von Konformitätsbewertungsstellen, die gemäß Artikel 30 der Verordnung (EU) 2024/1689 notifiziert wurden, angeben zu können, muss ein Verzeichnis von Codes, Kategorien und entsprechenden Arten von KI-Systemen erstellt werden. Bei dem Verzeichnis der Codes sollte berücksichtigt werden, ob es sich bei dem KI-System um das Bauteil eines Produkts oder um ein eigenständiges Produkt handelt, das unter die in Anhang I der Verordnung (EU) 2024/1689) aufgeführten Harmonisierungsrechtsvorschriften der Union fällt (im Falle von KI-Systemen, die unter die Produktvorschriften fallen, als „AIP-Codes“ bezeichnet), oder um ein in Anhang III der genannten Verordnung aufgeführtes System, was derzeit nur die in Anhang III Nummer 1 genannten biometrischen KI-Systeme betrifft (im Falle biometrischer KI-Systeme als „AIB-Codes“ bezeichnet). Sowohl AIP- als auch AIB-Codes sind vertikale Codes. Die AIP-Codes dienen als Referenzcodes, die eine Verbindung zu den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union herstellen. Bei den AIB-Codes handelt es sich um neue spezifische Codes der Verordnung (EU) 2024/1689, mit denen die in Anhang III Nummer 1 der genannten Verordnung aufgeführten biometrischen KI-Systeme bezeichnet werden. Darüber hinaus sollten in dem Verzeichnis der Codes auch spezifische Arten und zugrunde liegende Technologien von KI-Systemen (im Falle horizontaler KI-Systemcodes als „AIH-Codes“ bezeichnet) berücksichtigt werden. Bei den AIH-Codes handelt es sich um neue KI-technologiespezifische Codes, die in Verbindung mit vertikalen AIP- oder AIB-Codes angewandt werden können. Die AIH-Codes decken die zugrunde liegenden Arten und Technologien von KI-Systemen ab. Das Verzeichnis der Codes, das drei Kategorien umfasst, sollte eine mehrdimensionale Typologie von KI-Systemen vorsehen, mit der sichergestellt wird, dass die als notifizierte Stellen benannten Konformitätsbewertungsstellen über jegliche Kompetenz verfügen, die die von ihnen zu bewertenden KI-Systeme erfordern.

(44)

In der Verordnung (EU) 2018/1139 des Europäischen Parlaments und des Rates (19) sind gemeinsame Vorschriften für die Zivilluftfahrt festgelegt. Mit Artikel 108 der Verordnung (EU) 2024/1689 wird die Verordnung (EU) 2018/1139 geändert, damit die Kommission beim Erlass von etwaigen einschlägigen delegierten Rechtsakten oder Durchführungsrechtsakten gemäß der Verordnung (EU) 2018/1139 — auf der Grundlage der technischen und regulatorischen Besonderheiten des Zivilluftfahrtsektors und ohne Beeinträchtigung bestehender Governance-, Konformitätsbewertungs- und Durchsetzungsmechanismen sowie der damit eingerichteten Behörden — die in der Verordnung (EU) 2024/1689 festgelegten verbindlichen Anforderungen an Hochrisiko-KI-Systeme berücksichtigt. Eine technische Korrektur zur Änderung zusätzlicher Artikel der Verordnung (EU) 2018/1139 ist erforderlich, um sicherzustellen, dass sämtliche der in der Verordnung (EU) 2024/1689 festgelegten verbindlichen Anforderungen an Hochrisiko-KI-Systeme beim Erlass einschlägiger delegierter Rechtsakte oder Durchführungsrechtsakte gemäß der Verordnung (EU) 2018/1139 berücksichtigt werden.

(45)

Um bestimmte nicht wesentliche Bestimmungen der Verordnungen (EU) 2024/1689 und (EU) 2023/1230 zu ändern, sollte der Kommission die Befugnis übertragen werden, gemäß Artikel 290 des Vertrages über die Arbeitsweise der Europäischen Union Rechtsakte hinsichtlich Folgendem zu erlassen:

Es ist von besonderer Bedeutung, dass die Kommission im Zuge ihrer Vorbereitungsarbeit angemessene Konsultationen, auch auf der Ebene von Sachverständigen, durchführt, die mit den Grundsätzen im Einklang stehen, die in der Interinstituionellen Vereinbarung vom 13. April 2016  (20) niedergelegt wurden. Um insbesondere für eine gleichberechtigte Beteiligung an der Vorbereitung delegierter Rechtsakte zu sorgen, erhalten das Europäische Parlament und der Rat alle Dokumente zur gleichen Zeit wie die Sachverständigen der Mitgliedstaaten, und ihre Sachverständigen haben systematisch Zugang zu den Sitzungen der Sachverständigengruppen der Kommission, die mit der Vorbereitung der delegierten Rechtsakte befasst sind.

(46)

Um im Hinblick auf die unmittelbar bevorstehende allgemeine Anwendung der Verordnung (EU) 2024/1689 unverzügliche Rechtssicherheit zu gewährleisten, sollte die vorliegende Verordnung aus Gründen der Dringlichkeit am dritten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft treten.

(47)

Der Europäische Datenschutzbeauftragte und der Europäische Datenschutzausschuss wurden gemäß Artikel 42 Absätze 1 und 2 der Verordnung (EU) 2018/1725 angehört und haben am 20. Januar 2026 ihre gemeinsame Stellungnahme abgegeben —

1.

Artikel 1 Absatz 2 Buchstabe g erhält folgende Fassung:

2.

Artikel 2 wird wie folgt geändert:

3.

In Artikel 2 wird folgender Absatz angefügt:

(4)

Artikel 3 wird wie folgt geändert:

5.

Artikel 4 erhält folgende Fassung:

6.

Folgender Artikel wird eingefügt:

7.

Artikel 5 wird wie folgt geändert:

8.

In Artikel 6 werden die folgenden Absätze eingefügt:

9.

Artikel 10 wird wie folgt geändert:

10.

Artikel 11 Absatz 1 Unterabsatz 2 erhält folgende Fassung:

„Diese technische Dokumentation wird so erstellt, dass aus ihr der Nachweis hervorgeht, wie das Hochrisiko-KI-System die Anforderungen dieses Abschnitts erfüllt, und dass den zuständigen nationalen Behörden und den notifizierten Stellen die Informationen in klarer und verständlicher Form zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt. Sie enthält zumindest die in Anhang IV genannten Angaben. KMU, einschließlich Start-up-Unternehmen, und kleine Midcap-Unternehmen, können die in Anhang IV aufgeführten Elemente der technischen Dokumentation in vereinfachter Weise bereitstellen. Zu diesem Zweck erstellt die Kommission ein vereinfachtes Formular für die technische Dokumentation, das auf die Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, und von kleinen Midcap-Unternehmen zugeschnitten ist. Entscheidet sich ein KMU, einschließlich Start-up-Unternehmen, oder ein kleines Midcap-Unternehmen für eine vereinfachte Bereitstellung der in Anhang IV vorgeschriebenen Angaben, so verwendet es das in diesem Absatz genannte Formular. Die notifizierten Stellen akzeptieren das Formular für die Zwecke der Konformitätsbewertung.“

11.

Artikel 17 Absatz 2 erhält folgende Fassung:

12.

Artikel 25 wird wie folgt geändert:

13.

Artikel 27 wird wie folgt geändert:

14.

In Artikel 28 werden die folgenden Absätze angefügt:

15.

Artikel 29 Absatz 4 erhält folgende Fassung:

16.

Artikel 30 Absatz 2 erhält folgende Fassung:

17.

In Artikel 40 Absatz 2 wird folgender Unterabsatz angefügt:

„Die Kommission beauftragt im Einklang mit der Verordnung (EU) Nr. 1025/2012 des Europäischen Parlaments und des Rates (*1) unverzüglich die europäischen Normungsorganisationen, Normungsprodukte, gegebenenfalls einschließlich harmonisierter Normen, auszuarbeiten, um die gemeinsame Einhaltung und die Konformitätsvermutung mit den Anforderungen oder Verpflichtungen gemäß Kapitel III Abschnitte 2 und 3 dieser Verordnung und den einschlägigen Anforderungen und Verpflichtungen, die in den in Anhang I dieser Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union festgelegt sind, zu erleichtern.“

(*1)  Verordnung (EU) Nr. 1025/2012 des Europäischen Parlaments und des Rates vom 25. Oktober 2012 zur europäischen Normung, zur Änderung der Richtlinien 89/686/EWG und 93/15/EWG des Rates sowie der Richtlinien 94/9/EG, 94/25/EG, 95/16/EG, 97/23/EG, 98/34/EG, 2004/22/EG, 2007/23/EG, 2009/23/EG und 2009/105/EG des Europäischen Parlaments und des Rates und zur Aufhebung des Beschlusses 87/95/EWG des Rates und des Beschlusses Nr. 1673/2006/EG des Europäischen Parlaments und des Rates (ABl. L 316 vom 14.11.2012, S. 12, ELI: http://data.europa.eu/eli/reg/2012/1025/oj)."

18.

In Artikel 42 wird folgender Absatz angefügt:

19.

Artikel 43 Absatz 3 erhält folgende Fassung:

20.

Artikel 50 Absatz 7 erhält folgende Fassung:

21.

Artikel 56 Absatz 6 erhält folgende Fassung:

22.

Artikel 57 wird wie folgt geändert:

23.

Artikel 58 Absatz 1 Unterabsatz 1 wird wie folgt geändert:

24.

Artikel 60 wird wie folgt geändert:

25.

Folgender Artikel wird eingefügt:

26.

Artikel 63 Absatz 1 erhält folgende Fassung:

27.

In Artikel 64 wird folgender Absatz angefügt:

28.

Artikel 69 Absatz 2 erhält folgende Fassung:

29.

Artikel 70 Absatz 8 erhält folgende Fassung:

30.

Artikel 72 Absatz 3 erhält folgende Fassung:

31.

Artikel 75 wird wie folgt geändert:

32.

Die folgenden Artikel werden eingefügt:

(33)

In Artikel 76 Absatz 1 wird folgender Unterabsatz angefügt:

„Beruht der Test unter Realbedingungen auf Artikel 60a, so gilt jede Bezugnahme auf eine Marktüberwachungsbehörde in diesem Artikel als Bezugnahme auf die zuständige nationale Behörde oder die gemäß den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union zuständige Behörde, und Bezugnahmen auf Artikel 60 gelten entsprechend als Bezugnahmen auf Artikel 60a.“

(34)

Artikel 77 wird wie folgt geändert:

35.

Artikel 95 Absatz 4 erhält folgende Fassung:

36.

Artikel 96 Absatz 1 wird wie folgt geändert:

37.

Artikel 97 wird wie folgt geändert:

38.

Artikel 99 wird wie folgt geändert:

39.

Artikel 111 wird wie folgt geändert:

40.

Artikel 113 Absatz 3 wird wie folgt geändert:

41.

Anhang I wird wie folgt geändert:

42.

In Anhang VIII Abschnitt B werden die Nummern 7 und 9 gestrichen.

43.

Folgender Anhang wird hinzugefügt:

1.

In Artikel 27 wird folgender Absatz angefügt:

(*2)  Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (ABl. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“"

2.

In Artikel 31 wird folgender Absatz angefügt:

3.

In Artikel 32 wird folgender Absatz angefügt:

4.

In Artikel 36 wird folgender Absatz angefügt:

5.

In Artikel 39 wird folgender Absatz angefügt:

6.

In Artikel 50 wird folgender Absatz angefügt:

7.

In Artikel 53 wird folgender Absatz angefügt:

1.

In Artikel 8 werden folgende Absätze angefügt:

„Die Kommission erlässt gemäß Artikel 47 dieser Verordnung delegierte Rechtsakte zur Änderung des Anhangs III dieser Verordnung durch Hinzufügung von Sicherheits- und Gesundheitsschutzanforderungen in Bezug auf künstliche Intelligenz (KI)-Systeme, die gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 als hochriskant eingestuft werden, weil sie ein Sicherheitsbauteil eines unter diese Verordnung fallenden Produkts oder selbst ein unter diese Verordnung fallendes Produkt sind. Diese Anforderungen müssen sicherstellen, dass den einschlägigen Anforderungen in Kapitel III Abschnitt 2 und den Artikeln 17, 19, 72 und 73 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (*3) Rechnung getragen wird.

Beim Erlass der in Absatz 3 genannten delegierten Rechtsakte berücksichtigt die Kommission die Ziele der Verordnung (EU) 2024/1689 und gewährleistet ein Schutzniveau, das mit der genannten Verordnung im Einklang steht. Diese delegierten Rechtsakte gelten ab dem 2. August 2028.

(*3)  Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (ABl. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“"

2.

In Artikel 20 wird folgender Absatz angefügt:

3.

Artikel 47 wird wie folgt geändert: