(1)

Mit dem Beschluss (EU) 2022/2349 (1) ermächtigte der Rat die Kommission zur Aufnahme von Verhandlungen im Namen der Union über ein Übereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit. Am 17. Mai 2024 wurden die Verhandlungen mit der Paraphierung des Rahmenübereinkommens über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Übereinkommen“) und seiner Annahme durch das Ministerkomitee des Europarats erfolgreich abgeschlossen.

(2)

In dem Übereinkommen werden allgemeine Grundsätze und Verpflichtungen festgelegt, die die Vertragsparteien des Übereinkommens einhalten sollten, um den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit im Zusammenhang mit den Tätigkeiten im Lebenszyklus von Systemen künstlicher Intelligenz zu gewährleisten.

(3)

Am 13. Juni 2024 erließen das Europäische Parlament und der Rat auf der Grundlage der Artikel 16 und 114 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (2), die harmonisierte Vorschriften enthält, die im hauptsächlich auf einer vollständigen Harmonisierung beruhen, die das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz in der Union regeln. Diese Vorschriften gelten unmittelbar in den Mitgliedstaaten, sofern in jener Verordnung nicht ausdrücklich etwas anderes vorgesehen ist. Das Übereinkommen ist in der Union ausschließlich durch die Verordnung (EU) 2024/1689 und gegebenenfalls durch anderen einschlägigen Besitzstand der Union umzusetzen.

(4)

Tätigkeiten im Lebenszyklus von Systemen künstlicher Intelligenz, die im Zusammenhang mit dem Schutz nationaler Sicherheitsinteressen stehen, sind aus dem Anwendungsbereich des Übereinkommens ausgeschlossen. Die Verordnung (EU) 2024/1689, die der wichtigste Rechtsakt der Union zur Umsetzung des Übereinkommens sein wird, schließt ferner Systeme künstlicher Intelligenz, die ausschließlich für Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder, mit oder ohne Änderungen, verwendet werden, sowie die Ausgaben von Systemen künstlicher Intelligenz, die in der Union ausschließlich für solche Zwecke verwendet werden, aus dem Anwendungsbereich aus, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt. Darüber hinaus fällt die nationale Sicherheit weiterhin gemäß Artikel 4 Absatz 2 des Vertrags über die Europäische Union (EUV) in die alleinige Verantwortung der einzelnen Mitgliedstaaten. Folglich sollten in dem auf der durch das Übereinkommen eingerichteten Tagung der Konferenz der Vertragsparteien vertretenen Standpunkt der Union die oben dargelegten Einschränkungen beachtet werden. Insbesondere sollte die Kommission davon absehen, auf den Tagungen der Konferenz der Vertragsparteien Tätigkeiten im Lebenszyklus von Systemen künstlicher Intelligenz, die im Zusammenhang mit dem Schutz nationaler Sicherheitsinteressen stehen, zu erörtern oder dazu Stellung zu nehmen.

(5)

Da der persönliche und sachliche Anwendungsbereich des Übereinkommens sowie dessen materiellrechtliche Bestimmungen mit der Verordnung (EU) 2024/1689, die durch anderen einschlägigen Besitzstand der Unionergänzt wird, weitgehend übereinstimmen, kann der Abschluss des Übereinkommens — im Sinne des Artikels 3 Absatz 2 AEUV — gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern. Zu diesem anderen einschlägigen Besitzstand der Union gehören Rechtsakte, die auf die Umsetzung der in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte abzielen, wie die Rechtsvorschriften der Union zur Nichtdiskriminierung, einschließlich der Richtlinien 2000/43/EG (3) und 2000/78/EG (4) des Rates; den Besitzstand der Union im Bereich des Schutzes personenbezogener Daten, einschließlich der Verordnungen (EU) 2016/679 (5) und (EU) 2022/2065 (6) des Europäischen Parlaments und des Rates, die darauf abzielen, ein sicheres, vorhersehbares und vertrauenswürdiges Online-Umfeld zu gewährleisten, in dem die Grundrechte, einschließlich des Rechts auf freie Meinungsäußerung und des Rechts, Informationen zu empfangen und weiterzugeben, geachtet werden; die Verordnung (EU) 2024/900 des Europäischen Parlaments und des Rates (7); und die Rechtsvorschriften zur Produktsicherheit und zur Haftung für fehlerhafte Produkte, einschließlich der Richtlinie 85/374/EWG des Rates (8). Die Union besitzt daher die ausschließliche Außenkompetenz für die Unterzeichnung des Übereinkommens. Folglich sollte nur die Union Vertragspartei des Übereinkommens werden, vorbehaltlich seines Abschlusses zu einem späteren Zeitpunkt.

(6)

Die Konferenz der Vertragsparteien wird eine wesentliche Rolle bei der wirksamen Umsetzung des Übereinkommens spielen, unter anderem durch die Abgabe spezifischer Empfehlungen hinsichtlich seiner Auslegung und Anwendung. Die Konferenz der Vertragsparteien wird außerdem mögliche Änderungen des Übereinkommens prüfen. Gemäß Artikel 218 Absatz 9 AEUV sollte der Rat auf Vorschlag der Kommission Beschlüsse zur Festlegung der Standpunkte erlassen, die im Namen der Union in der Konferenz der Vertragsparteien zu vertreten sind, wenn dieses Gremium Instrumente mit Rechtswirkung zu erlassen hat, insbesondere die Geschäftsordnung der Konferenz der Vertragsparteien. Bei der Aushandlung der Geschäftsordnung, die innerhalb von zwölf Monaten nach Inkrafttreten des Übereinkommens einvernehmlich anzunehmen ist, wird es das Ziel der Union sein, sicherzustellen, dass sie — entsprechend der Zahl ihrer Mitgliedstaaten — 27 Stimmen erhält. Werden der Union die 27 Stimmen zugesprochen, so sollte die Kommission — die die Union vertritt — für eine verstärkte Zusammenarbeit mit den Mitgliedstaaten sorgen, damit einheitliche Standpunkte in der Konferenz der Vertragsparteien vertreten werden, und ihr Stimmrecht im Namen der Union ausüben. Diese verstärkte Zusammenarbeit ist besonders wichtig, da alle Mitgliedstaaten auch Mitglieder des Europarats sind, sowie angesichts des sich rasch entwickelnden Bereichs der künstlichen Intelligenz und der Notwendigkeit, über einen kohärenten weltweit anwendbaren Rahmen in diesem Bereich zu verfügen. Zur Gewährleistung der verstärkten Zusammenarbeit sollte der Rat in die Ausarbeitung jeglicher Art von Standpunkten eingebunden werden, auch solcher auf Grundlage von Artikel 16 Absatz 1 EUV und Artikel 218 Absatz 9 AEUV. Sollte die Union trotz aller Bemühungen nicht in der Lage sein, 27 Stimmen zu erhalten, so sollte die Kommission — um sicherzustellen, dass die Union über eine Anzahl von Stimmen verfügt, die ihr Gewicht im Europarat widerspiegelt und es ihr ermöglicht, ihre Interessen angemessen zu verteidigen — vorschlagen, dass die Mitgliedstaaten ermächtigt werden, gemäß Artikel 2 Absatz 1 AEUV und unter uneingeschränkter Achtung der ausschließlichen Zuständigkeit der Union, zusätzlich zur Union dem Übereinkommen beizutreten.

(7)

Die Kommission wird die Mitgliedstaaten ersuchen, jeweils einen Vertreter zur Begleitung der Vertretung der Kommission als Teil der Delegation der Union zu den Tagungen der Konferenz der Vertragsparteien zu entsenden. Der Grundsatz der loyalen Zusammenarbeit ist zu respektieren.

(8)

Bezüglich aller anderen Übereinkünfte, die künftig unter der Schirmherrschaft des Europarats oder in anderen internationalen Gremien geschlossen werden können, auch im Bereich der künstlichen Intelligenz, und bezüglich aller Änderungen des Übereinkommens, sollte die Verteilung der Außenkompetenzen zwischen der Union und den Mitgliedstaaten unter Berücksichtigung der spezifischen Merkmale jedes einzelnen Instruments bewertet werden. Es ist von größter Bedeutung, dass die Union und ihre Mitgliedstaaten weiterhin ihre direkte und aktive Rolle wahrnehmen können, wenn es darum geht, der Stimme der Union Ausdruck zu verleihen und ihre Interessen zu verteidigen, und zwar in kohärenter und koordinierter Weise, unter uneingeschränkter Achtung der Verträge.

(9)

Im Einklang mit den Verträgen soll die Kommission, die Unterzeichnung des Überkommens — vorbehaltlich seines Abschlusses zu einem späteren Zeitpunkt — sicherstellen —