(1)

Im Jahr 2021 hat das Ministerkomitee des Europarates einen Ausschuss für künstliche Intelligenz (Committee on Artificial Intelligence, CAI) für den Zeitraum 2022-2024 eingerichtet, dessen Aufgabe es ist, einen internationalen Verhandlungsprozess zur Aufstellung eines Rechtsrahmens für die Konzeption, Entwicklung und Anwendung künstlicher Intelligenz (KI) einzuleiten, der auf den Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit beruht und Innovationen fördert.

(2)

Am 30. Juni 2022 hat das Ministerkomitee des Europarates das CAI damit beauftragt, auf der Grundlage der Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit gemäß seinem Mandat rasch ein rechtsverbindliches Instrument bereichsübergreifender Art, entweder ein Übereinkommen oder ein Rahmenübereinkommen“ über KI auszuarbeiten, dessen Schwerpunkt auf allgemeinen gemeinsamen Grundsätzen liegt, das der Innovation förderlich ist und der Beteiligung von Drittstaaten offensteht, wobei andere einschlägige internationale Rechtsrahmen, die bereits bestehen oder gerade entwickelt werden, zu berücksichtigen sind.

(3)

Anschließend hat der Vorsitz des CAI einen Vorentwurf für ein Übereinkommen oder ein Rahmenübereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Übereinkommen“) vorgeschlagen. Dieser Vorentwurf enthält Bestimmungen über Zweck und Gegenstand, Anwendungsbereich, Begriffsbestimmungen, wesentliche Grundsätze sowie Verfahrensgarantien und Rechte, die für alle KI-Systeme unabhängig von ihrem Risikoniveau gelten, zusätzliche Maßnahmen für KI-Systeme im öffentlichen Sektor und für KI-Systeme, die ein „unannehmbares“ bzw. „erhebliches“ Risiko bergen, und einen Follow-up- und Kooperationsmechanismus; Schlussbestimmungen, einschließlich der Möglichkeit, dass die Union einem solchen Übereinkommen beitreten kann, und eine in Ausarbeitung befindliche Anlage über eine Methodik für die Risiko- und Folgenabschätzung in Bezug auf KI-Systeme.

(4)

Die Union hat gemeinsame Regeln angenommen, auf die sich die für das Übereinkommen erwogenen Elemente auswirken werden. Zu diesen Elementen gehören insbesondere ein umfassendes Regelwerk im Bereich des Binnenmarkts für Produkte (1) und Dienstleistungen (2),für die KI-Systeme verwendet werden können, sowie Sekundärrecht der Union (3) zur Umsetzung der Charta der Grundrechte der EU (4), denn es ist wahrscheinlich, dass diese Rechte unter bestimmten Umständen durch die Entwicklung und Verwendung bestimmter KI-Systeme beeinträchtigt werden.

(5)

Überdies hat die Kommission am 21. April 2021 einen Legislativvorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für KI vorgelegt, über den derzeit im Europäischen Parlament und im Rat verhandelt wird. Das Übereinkommen überschneidet sich in seinem Anwendungsbereich weitgehend mit dem Legislativvorschlag, denn mit beiden Instrumenten sollen Vorschriften für die Konzeption, Entwicklung und Anwendung von KI-Systemen festgelegt werden, die von öffentlichen oder privaten Einrichtungen angeboten und verwendet werden.

(6)

Daher kann der Abschluss des Übereinkommens im Sinne von Artikel 3 Absatz 2 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) bestehende und vorhersehbare künftige gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern.

(7)

Verhandlungen im Hinblick auf den Abschluss des Übereinkommens im Hinblick auf Angelegenheiten, die unter die ausschließliche Zuständigkeit der Union fallen, sollten aufgenommen werden, um die Integrität des Unionsrechts zu schützen und den Fortbestand der Kohärenz zwischen den Regeln des Völkerrechts und denen des Unionsrechts sicherzustellen.

(8)

Es ist möglich, dass mit dem Übereinkommen hohe internationale Standards für die Regulierung von KI festgelegt werden, die sich auf die Menschenrechte, das Funktionieren der Demokratie und die Achtung der Rechtsstaatlichkeit auswirken, insbesondere vor dem Hintergrund der bereits vom Europarat in diesem Bereich geleisteten Arbeit.

(9)

Dieser Beschluss sollte die Teilnahme der Mitgliedstaaten an den Verhandlungen über das Übereinkommen und jede spätere Entscheidung der Mitgliedstaaten über den Abschluss, die Unterzeichnung oder die Ratifizierung des Übereinkommens oder die Teilnahme der Mitgliedstaaten an Verhandlungen über den Beitritt der Union zu dem Übereinkommen unberührt lassen.

(10)

Die nationale Sicherheit fällt weiterhin gemäß Artikel 4 Absatz 2 des Vertrags über die Europäische Union (EUV) in die alleinige Verantwortung der einzelnen Mitgliedstaaten. Bei der Umsetzung des Übereinkommens ist es Sache der Mitgliedstaaten, gemäß Artikel 216 Absatz 2 AEUV ihre wesentlichen Sicherheitsinteressen festzulegen und geeignete Maßnahmen zu ergreifen, um ihre innere und äußere Sicherheit zu gewährleisten, ohne das Unionsrecht unanwendbar zu machen oder sie von ihrer Verpflichtung zur Einhaltung des Unionsrechts zu befreien.

(11)

Alle Mitgliedstaaten sind auch Mitglieder des Europarats. Angesichts dieser besonderen Situation sollten die bei den Verhandlungen über das Übereinkommen anwesenden Mitgliedstaaten nach dem Grundsatz der loyalen Zusammenarbeit gemäß Artikel 4 Absatz 3 EUV und unter uneingeschränkter gegenseitiger Achtung den Verhandlungsführer der Union bei der Erfüllung der Aufgaben unterstützen, die sich aus den Verträgen ergeben.

(12)

Der Europäische Datenschutzbeauftragte wurde gemäß Artikel 42 Absatz 1 der Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates (5) angehört und hat am 13. Oktober 2022 eine Stellungnahme abgegeben (6) —