EUROPÄISCHE KOMMISSION
Brüssel, den 3.6.2025
COM(2025) 265 final
2025/0136(NLE)
Vorschlag für einen
BESCHLUSS DES RATES
über den Abschluss – im Namen der Europäischen Union – des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
BEGRÜNDUNG
1.KONTEXT DES VORSCHLAGS
•Gründe und Ziele des Vorschlags
Mit der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (im Folgenden „KI-Verordnung“) 1 hat die Union die ersten umfassenden Rechtsvorschriften für künstliche Intelligenz erlassen, mit der sie weltweite Standards setzt. Mit der KI-Verordnung, die am 1. August 2024 in Kraft trat, werden die Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in den Mitgliedstaaten vollständig harmonisiert 2 , um die Innovation und die Einführung vertrauenswürdiger KI zu fördern und gleichzeitig den Schutz der Gesundheit, Sicherheit und Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umwelt, zu gewährleisten.
Verschiedene internationale Organisationen, darunter auch der Europarat, haben ihre Bemühungen zur Regulierung der KI ebenfalls verstärkt, weil sie sich des grenzüberschreitenden Charakters der KI und der Notwendigkeit einer internationalen Zusammenarbeit zur Bewältigung der gemeinsamen Herausforderungen, die aus diesen Technologien erwachsen, bewusst sind.
Zwischen Juni 2022 und März 2024 hat der Ausschuss für künstliche Intelligenz (CAI) 3 des Europarats ein rechtsverbindliches Rahmenübereinkommen (im Folgenden „Übereinkommen“) ausgearbeitet, um den potenziellen Risiken zu begegnen, die KI für die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit birgt.
Am 17. Mai 2024 nahm das Ministerkomitee des Europarats den Wortlaut des Übereinkommens 4 an, kam darin überein, das Übereinkommen am 5. September 2024 zur Unterzeichnung aufzulegen, und ersuchte die Mitglieder des Europarats, andere Drittländer, die sich an der Ausarbeitung des Übereinkommens beteiligt haben, und die Union, die Unterzeichnung des Übereinkommens bei dieser Gelegenheit in Erwägung zu ziehen, wobei es daran erinnerte, dass das Übereinkommen auch für andere Nichtmitgliedstaaten zum Beitritt offensteht 5 .
Die Union unterzeichnete das Übereinkommen am 5. September 2024 nach der Annahme des Beschlusses (EU) 2024/2218 des Rates vom 28. August 2024 über die Unterzeichnung – im Namen der Europäischen Union – des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit 6 . Bei dieser Gelegenheit wurde das Übereinkommen auch von Andorra, Georgien, Island, Israel, Montenegro, Norwegen, der Republik Moldau, San Marino, dem Vereinigten Königreich und den Vereinigten Staaten von Amerika unterzeichnet. Es liegt ferner für andere Mitglieder des Europarats und für Nichtmitgliedstaaten, die sich an seiner Ausarbeitung beteiligt haben, jederzeit zur Unterzeichnung auf. Nach seinem Inkrafttreten kann das Ministerkomitee des Europarats nach dem Verfahren des Artikels 31 des Übereinkommens auch Nichtmitgliedstaaten des Europarats, die sich nicht an der Ausarbeitung dieses Übereinkommens beteiligt haben, dazu einladen, dem Übereinkommen beizutreten.
In diesem Zusammenhang hat der vorliegende Vorschlag für einen Beschluss des Rates den Zweck, das Verfahren für den Abschluss des Übereinkommens im Namen der Union gemäß den Bestimmungen des Beschlusses (EU) 2024/2218 des Rates zur Genehmigung der Unterzeichnung des Übereinkommens einzuleiten. Der Abschluss der ersten internationalen KI-Übereinkunft bietet der Union eine wertvolle Gelegenheit, einen gemeinsamen Ansatz für die Regulierung der KI auf internationaler Ebene zu fördern und einen Rahmen für die Zusammenarbeit mit Mitgliedern des Europarats und Drittländern, die Vertragsparteien des Übereinkommens werden, zu schaffen.
•Inhalt des Übereinkommens
Das Ziel des Übereinkommens besteht darin, dafür zu sorgen, dass alle Tätigkeiten im Lebenszyklus von KI-Systemen uneingeschränkt mit den Menschenrechten, der Demokratie und der Rechtsstaatlichkeit vereinbar sind.
Die Vertragsparteien des Übereinkommens werden das Übereinkommen durch geeignete Rechts-, Verwaltungs- oder sonstige Maßnahmen umzusetzen haben, um seinen Bestimmungen Wirkung zu verleihen, und zwar nach einem abgestuften und differenzierten Ansatz je nach Schwere und Wahrscheinlichkeit der negativen Auswirkungen. Das Übereinkommen sollte in der Union ausschließlich durch die KI-Verordnung, mit der die Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen harmonisiert werden, und gegebenenfalls durch anderes einschlägiges Unionsrecht vollständig umgesetzt werden.
Der Anwendungsbereich des Übereinkommens erstreckt sich auf KI-Systeme, die möglicherweise in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingreifen, wobei ein differenzierter Ansatz verfolgt wird. Die im Übereinkommen vorgesehenen Grundsätze und Verpflichtungen werden für Tätigkeiten im Lebenszyklus von KI-Systemen gelten, die von Behörden oder in deren Namen handelnden privaten Akteuren durchgeführt werden. Was den Privatsektor anbelangt, sind die Vertragsparteien verpflichtet, Risiken und Auswirkungen, die sich aus Tätigkeiten privater Akteure im Lebenszyklus von KI-Systemen ergeben, in einer Weise anzugehen, die mit dem Ziel und Zweck des Übereinkommens im Einklang steht, sie haben jedoch die Wahl, ob sie dazu die Verpflichtungen des Übereinkommens anwenden oder andere geeignete Maßnahmen ergreifen. Der Entwurf einer Erklärung, in der sich die Union dazu verpflichtet, die in den Kapiteln II bis VI des Übereinkommens festgelegten Grundsätze und Verpflichtungen in Bezug auf Tätigkeiten privater Akteure, die KI-Systeme in der Union in Verkehr bringen, in Betrieb nehmen und verwenden, durch die KI-Verordnung und anderes einschlägiges Unionsrecht umzusetzen, ist dem vorliegenden Vorschlag für einen Beschluss des Rates beigefügt.
KI-Tätigkeiten im Zusammenhang mit der nationalen Sicherheit sind aus dem Anwendungsbereich des Übereinkommens ausgeschlossen, wobei aber davon ausgegangen wird, dass diese Tätigkeiten im Einklang mit den geltenden internationalen Menschenrechtsnormen und unter Achtung der demokratischen Institutionen und Prozesse durchgeführt werden. Das Übereinkommen schließt auch Forschungs- und Entwicklungstätigkeiten in Bezug auf noch nicht zur Verwendung bereitgestellte KI-Systeme aus, es sei denn, durch solche Tests oder ähnliche Tätigkeiten kann in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingegriffen werden. Nach der Satzung des Europarats fallen Angelegenheiten im Zusammenhang mit der Landesverteidigung nicht in den Anwendungsbereich des Übereinkommens.
Das Übereinkommen sieht ferner eine Reihe allgemeiner Verpflichtungen und Grundprinzipien vor, darunter den Schutz der Menschenwürde und der individuellen Autonomie sowie die Förderung der Gleichstellung und Nichtdiskriminierung. Überdies schreibt es die Achtung der Privatsphäre und den Schutz personenbezogener Daten ebenso vor wie Transparenz und Aufsicht, um die Rechenschaftspflicht und Verantwortung zu gewährleisten. Einer der Grundsätze gilt auch der sicheren Innovation und Erprobung in kontrollierten Umgebungen.
In einem eigenen Kapitel über Rechtsbehelfe sieht das Übereinkommen zudem eine Reihe von Maßnahmen vor, mit denen sichergestellt werden soll, dass bei Menschenrechtsverletzungen, die sich aus Tätigkeiten im Lebenszyklus von KI-Systemen ergeben, leicht zugängliche und wirksame Rechtsbehelfe zur Verfügung stehen. Es enthält auch wirksame Verfahrensgarantien und Schutzvorkehrungen für Personen, deren Rechte durch den Einsatz von KI-Systemen erheblich beeinträchtigt worden sind. Darüber hinaus sollten Einzelpersonen darauf hingewiesen werden, dass sie es mit einem KI-System und nicht mit einem Menschen zu tun haben.
Das Übereinkommen enthält auch ein Kapitel über Maßnahmen zur Bewertung und Minderung von Risiken und negativen Auswirkungen, die auf iterative Weise durchzuführen sind, um tatsächliche und potenzielle Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu ermitteln und geeignete Präventions- und Minderungsmaßnahmen zu ergreifen.
Darüber hinaus sieht das Übereinkommen vor, dass die Vertragsparteien prüfen sollten, ob Verbote oder Moratorien für bestimmte Anwendungen von KI-Systemen nötig sind, die als mit der Achtung der Menschenrechte, dem Funktionieren der Demokratie oder der Rechtsstaatlichkeit unvereinbar angesehen werden.
Das Übereinkommen sieht einen Weiterverfolgungsmechanismus im Rahmen einer Konferenz der Vertragsparteien vor, die sich aus Vertretern der Vertragsparteien zusammensetzt und regelmäßig Konsultationen abhält, um die wirksame Anwendung und Umsetzung des Übereinkommens zu erleichtern.
Außerdem sieht das Übereinkommen einen Mechanismus für die internationale Zusammenarbeit sowohl zwischen den Vertragsparteien des Übereinkommens als auch in den Beziehungen zu Drittländern und einschlägigen Interessenträgern vor, um den Zweck des Übereinkommens zu erreichen.
Darüber hinaus sollte jede Vertragspartei auf innerstaatlicher Ebene einen oder mehrere wirksame Aufsichtsmechanismen einrichten oder benennen, um die Einhaltung der Verpflichtungen aus dem Übereinkommen, wie sie von den Vertragsparteien in Kraft gesetzt wurden, zu beaufsichtigen.
•Kohärenz mit den bestehenden Vorschriften in diesem Politikbereich
In dem Übereinkommen werden allgemeine Grundsätze und Verpflichtungen zum Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit festgelegt, die vollständig im Einklang stehen mit den Zielen der KI-Verordnung, den detaillierten Anforderungen an KI-Systeme und den Verpflichtungen, die Anbietern und Betreibern solcher Systeme auferlegt werden.
Die im Übereinkommen festgelegte Begriffsbestimmung für „System der künstlichen Intelligenz“ steht vollständig im Einklang mit der Begriffsbestimmung in der KI-Verordnung, denn beide beruhen auf der Begriffsbestimmung für solche Systeme, die in den KI-Grundsätzen 7 der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung enthalten ist, wodurch ein gemeinsames Verständnis dafür sichergestellt wird, welche digitalen Technologien KI darstellen.
Sowohl das Übereinkommen als auch die KI-Verordnung folgen einem risikobasierten Ansatz für die Regulierung von KI-Systemen und enthalten besondere Bestimmungen über Risiko- und Folgenabschätzungen sowie Risikominderungsmaßnahmen. Die KI-Verordnung enthält insbesondere eine Reihe einschlägiger Verbote und Hochrisiko-Anwendungsfälle für KI-Systeme in allen öffentlichen und privaten Sektoren, auch in den Bereichen Demokratie und Justiz. Die detaillierten Vorschriften und Verfahren der KI-Verordnung in Bezug auf die Entwicklung, das Inverkehrbringen und den Einsatz von KI-Systemen in diesen Bereichen werden somit sicherstellen, dass Grundrechte, Demokratie und Rechtsstaatlichkeit über den gesamten KI-Lebenszyklus hinweg geachtet werden.
Das Übereinkommen enthält Grundsätze und Verpflichtungen, die bereits in der KI-Verordnung enthalten sind, beispielsweise Maßnahmen in Bezug auf den Schutz der Menschenrechte, die Sicherheit und Zuverlässigkeit, die Rechenschaftspflicht und Verantwortung, die Daten-Governance und den Datenschutz, die Transparenz und Aufsicht, die Gleichstellung und Nichtdiskriminierung sowie digitale Kompetenzen und Fähigkeiten.
Die Transparenz ist ein weiteres gemeinsames Element beider Rechtsinstrumente, was auch Maßnahmen zur Identifizierung der durch KI erzeugten Inhalte und die Benachrichtigung von Personen, die mit KI-Systemen interagieren, einschließt. Ebenso enthalten beide Rechtsinstrumente einschlägige Bestimmungen über Risiko- und Folgenabschätzungen und das Risikomanagement, Aufzeichnungspflichten, die Offenlegung (gegenüber befugten Stellen und Behörden und gegebenenfalls gegenüber den Betroffenen), die Rückverfolgbarkeit und Erklärbarkeit, eine sichere Innovation und Erprobung in kontrollierten Umgebungen sowie eine Reihe von Maßnahmen, die wirksame Rechtsbehelfe ermöglichen, einschließlich des Rechts, Informationen anzufordern und zu erhalten und bei einer zuständigen Behörde Beschwerde einzulegen, sowie bestimmte Verfahrensgarantien.
Das im Übereinkommen vorgesehene Aufsichtssystem steht ebenfalls vollständig im Einklang mit dem umfassenden Governance- und Durchsetzungssystem der KI-Verordnung, das aus einer Durchsetzung auf Unionsebene und auf nationaler Ebene besteht und Verfahren für die einheitliche Umsetzung der Unionsvorschriften in den Mitgliedstaaten umfasst. Insbesondere sieht das Übereinkommen einen oder mehrere wirksame Aufsichtsmechanismen auf innerstaatlicher Ebene vor, die unabhängig und unparteiisch tätig sein und über die erforderlichen Befugnisse, Fachkenntnisse und Ressourcen verfügen müssen, um die Aufgaben der Beaufsichtigung der Einhaltung der Verpflichtungen aus dem Übereinkommen, wie sie von den Vertragsparteien in Kraft gesetzt wurden, wirksam zu erfüllen.
Die KI-Verordnung wird für KI-Systeme gelten, die in der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden; das Übereinkommen hat dagegen eine größere geografische Reichweite, denn Vertragspartei können die Mitglieder des Europarats und Drittstaaten aus der ganzen Welt werden. Das Übereinkommen bietet somit eine einzigartige Gelegenheit, vertrauenswürdige KI über die Union hinaus mit einem ersten rechtsverbindlichen internationalen Vertrag zu fördern, der auf einem eindeutig menschenrechtsbasierten Ansatz für die KI-Regulierung beruht.
Sowohl das Übereinkommen als auch die KI-Verordnung sind feste Bestandteile eines Regulierungskonzepts für KI mit kohärenten und sich gegenseitig verstärkenden Verpflichtungen auf mehreren internationalen Ebenen, und sie dienen dem gemeinsamen Ziel, eine vertrauenswürdige KI zu gewährleisten.
•Kohärenz mit der Politik der Union in anderen Bereichen
Das Übereinkommen hat auch gemeinsame Ziele mit anderen Politikbereichen und Rechtsvorschriften der Union, mit denen die in der Charta der Grundrechte der Union 8 verankerten Grundrechte umgesetzt werden sollen.
Insbesondere steht der im Übereinkommen verankerte Grundsatz der Gleichstellung und Nichtdiskriminierung voll und ganz mit den Nichtdiskriminierungsvorschriften der Union im Einklang und wird die Berücksichtigung der Gleichstellungsaspekte bei der Konzeption, Entwicklung und Verwendung von KI-Systemen und die wirksame Umsetzung des Diskriminierungsverbots gemäß dem geltenden Völkerrecht und dem innerstaatlichen Recht der Vertragsparteien fördern.
Darüber hinaus steht das Übereinkommen mit dem bestehenden Unionsrecht im Bereich des Datenschutzes im Einklang, darunter der Datenschutz-Grundverordnung 9 , und zwar bezüglich der Grundrechte auf Achtung der Privatsphäre und Schutz personenbezogener Daten durch wirksame Garantien und Schutzvorkehrungen, die für Einzelpersonen entsprechend den geltenden innerstaatlichen und völkerrechtlichen Verpflichtungen der Vertragsparteien bestehen müssen.
Die im Übereinkommen vorgesehenen Maßnahmen zum Schutz der demokratischen Prozesse der Vertragsparteien im Zusammenhang mit Tätigkeiten im Lebenszyklus von KI-Systemen stehen voll und ganz im Einklang mit den Zielen und den detaillierten Vorschriften des Gesetzes über digitale Dienste 10 (und des Verhaltenskodex zur Bekämpfung von Desinformation 11 ), das die Erbringung von Vermittlungsdiensten in der Union regelt, um ein sicheres, berechenbares und vertrauenswürdiges Online-Umfeld zu gewährleisten, in dem die Grundrechte, einschließlich des Rechts auf freie Meinungsäußerung und des Rechts, Informationen zu erhalten und weiterzugeben, geachtet werden. Sie stehen auch im Einklang mit der Verordnung über die Transparenz und das Targeting politischer Werbung 12 , die eine besondere Transparenzanforderung an KI-Systeme, die zur Verbreitung politischer Werbung verwendet werden, enthält. Außerdem stehen die Maßnahmen im Einklang mit der Politik der Union zugunsten der Demokratie und freier, fairer und stabiler Wahlen 13 , die u. a. den Europäischen Aktionsplan für Demokratie von 2020 14 , das Paket zum Schutz der Integrität von Wahlen 15 und jüngst das Paket zur Verteidigung der Demokratie von 2023 16 umfasst.
Das Übereinkommen steht im Einklang mit der Digitalstrategie der Union insgesamt, denn es trägt dazu bei, eine Technologie zu fördern, die den Menschen zugutekommt – eines der drei Hauptziele, die in der Mitteilung zur „Gestaltung der digitalen Zukunft Europas“ 17 genannt werden. Damit soll erreicht werden, dass KI so entwickelt wird, dass die Rechte der Menschen geachtet werden und sie sich ihr Vertrauen verdient – um Europa für das digitale Zeitalter zu wappnen und die nächsten zehn Jahre zur digitalen Dekade zu machen 18 .
Darüber hinaus enthält die Europäische Erklärung zu den digitalen Rechten und Grundsätzen für die digitale Dekade 19 mehrere digitale Rechte und Grundsätze, die mit den Zielen und Grundsätzen des Übereinkommens im Einklang stehen, und beide Rechtsinstrumente fördern einen eindeutig menschenrechtsbasierten Ansatz für den Umgang mit Technologie.
Das Übereinkommen steht auch im Einklang mit der EU-Kinderrechtsstrategie 20 und der europäischen Strategie für ein besseres Internet für Kinder (BIK+) 21 , mit denen erreicht werden soll, dass Kinder im Internet geschützt, geachtet und dazu befähigt werden, den Herausforderungen im Zusammenhang mit neuen virtuellen Welten und künstlicher Intelligenz zu begegnen.
2.RECHTSGRUNDLAGE, SUBSIDIARITÄT UND VERHÄLTNISMÄẞIGKEIT
•Rechtsgrundlage
Der Vorschlag für einen Beschluss zur Genehmigung des Abschlusses des Übereinkommens im Namen der Union wird dem Rat gemäß Artikel 218 Absatz 6 Buchstabe a Ziffer v AEUV vorgelegt.
Die verfahrensrechtliche Grundlage für den Beschluss des Rates – Artikel 218 Absatz 6 Buchstabe a Ziffer v AEUV – sieht einen Beschluss des Rates über den Abschluss der Übereinkunft auf Vorschlag der Kommission als Verhandlungsführer vor, bei einer Übereinkunft in einem Bereich, für den das ordentliche Gesetzgebungsverfahren gilt, nach Zustimmung des Europäischen Parlaments. Artikel 218 Absatz 8 Unterabsatz 1 AEUV sieht für die Annahme des Beschlusses des Rates die Beschlussfassung mit qualifizierter Mehrheit vor.
Die materielle Rechtsgrundlage für einen Beschluss nach Artikel 218 Absatz 6 Buchstabe a Ziffer v AEUV hängt in erster Linie vom Ziel und Inhalt der Übereinkunft ab. Ergibt die Prüfung einer Unionsmaßnahme, dass sie zwei Zielsetzungen hat oder zwei Komponenten umfasst, und lässt sich eine von ihnen als die hauptsächliche oder überwiegende ausmachen, während die andere nur nebensächliche Bedeutung hat, so ist – nach geltender Rechtsprechung – die Maßnahme nur auf eine Rechtsgrundlage zu stützen, und zwar auf die, die die hauptsächliche oder überwiegende Zielsetzung oder Komponente erfordert. Verfolgt eine Maßnahme dagegen mehrere Zielsetzungen zugleich oder umfasst sie mehrere Komponenten, die untrennbar miteinander verbunden sind, ohne dass die eine gegenüber der anderen nebensächlich ist, sodass verschiedene Vertragsbestimmungen anwendbar sind, muss sie ausnahmsweise auf die entsprechenden verschiedenen Rechtsgrundlagen gestützt werden.
Was die materielle Rechtsgrundlage betrifft, fällt der sachliche Anwendungsbereich des Übereinkommens in den Anwendungsbereich der KI-Verordnung, auch bezüglich der Ausnahme vom Anwendungsbereich für KI-Systeme, die ausschließlich für Tätigkeiten der Forschung und Entwicklung, der nationalen Sicherheit und des Militärs verwendet werden. Die obige Analyse hat auch ergeben, dass die Grundsätze und Verpflichtungen des Übereinkommens weitgehend von den detaillierteren Anforderungen an KI-Systeme und den spezifischen Verpflichtungen der Anbieter und Betreiber solcher Systeme, die in der der KI-Verordnung festgelegt sind, abgedeckt werden und sich mit ihnen überschneiden. Wenn der Rat den vorgeschlagenen Beschluss annimmt und die Union das Übereinkommen abschließt, wird die KI-Verordnung die primäre Rechtsvorschrift der Union zur Umsetzung des Übereinkommens in die Rechtsordnung der Union sein – mit vollständig harmonisierten Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union, die unmittelbar in allen Mitgliedstaaten gelten, sofern in der KI-Verordnung nicht ausdrücklich etwas anderes vorgesehen ist 22 .
Da der Anwendungsbereich und die Ziele des Übereinkommens mit denen der KI-Verordnung übereinstimmen und voll und ganz im Einklang stehen und es erhebliche Überschneidungen zwischen beiden Rechtsinstrumenten gibt, ist die materielle Rechtsgrundlage für den Abschluss des Übereinkommens der Artikel 114 AEUV, der auch die primäre Rechtsgrundlage der KI-Verordnung ist.
Die Rechtsnatur einer internationalen Übereinkunft („nur EU“ oder „gemischt“) hängt davon ab, ob der besondere Gegenstand eher mit der ausschließlichen oder der geteilten Zuständigkeit der Union vereinbar ist.
Nach Artikel 3 Absatz 2 AEUV hat die Union die ausschließliche Zuständigkeit „für den Abschluss internationaler Übereinkünfte, … soweit er gemeinsame Regeln beeinträchtigen oder deren Tragweite verändern könnte“. Eine internationale Übereinkunft kann gemeinsame Regeln beeinträchtigen oder ihre Tragweite verändern, wenn der Anwendungsbereich der Übereinkunft das Unionsrecht überschneidet oder bereits weitgehend durch das Unionsrecht erfasst ist 23 .
Der persönliche Anwendungsbereich des Übereinkommens stimmt insofern vollständig mit dem der KI-Verordnung überein, als beide Rechtsinstrumente grundsätzlich sowohl öffentliche als auch private Akteure erfassen (wobei die Anwendung der Grundsätze und Verpflichtungen des Übereinkommens auf private Akteure, die nicht im Namen von Behörden handeln, wahlweise erfolgen kann); vom sachlichen Anwendungsbereich beider Rechtsinstrumente sind ausschließlich KI-Tätigkeiten im Zusammenhang mit der nationalen Sicherheit, dem Militär und der Forschung ausgenommen.
Da sich der persönliche und sachliche Anwendungsbereich des Übereinkommens und der KI-Verordnung überschneiden, kann der Abschluss des Übereinkommens im Sinne des Artikels 3 Absatz 2 AEUV gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern. Folglich ist davon auszugehen, dass die Union die ausschließliche Außenkompetenz für den Abschluss des Übereinkommens besitzt und dass das Übereinkommen im Namen der Union als „reine EU-Übereinkunft“ abgeschlossen werden sollte, denn es wurde gemäß der mit dem Beschluss (EU) 2024/2218 des Rates erteilten Genehmigung unterzeichnet.
•Verhältnismäßigkeit
Das Übereinkommen geht nicht über das zur Erreichung der politischen Ziele erforderliche Maß hinaus, da ein kohärenter Ansatz für die KI-Regulierung auf internationaler Ebene verfolgt wird.
Mit dem Übereinkommen wird ein allgemeiner Rechtsrahmen für KI geschaffen, der Flexibilität erlaubt und es den Vertragsparteien ermöglicht, die Umsetzungsrahmen konkret selbst auszugestalten. Ähnlich wie bei der KI-Verordnung wird durch den risikobasierten Ansatz auch die Verhältnismäßigkeit der Vorschriften gewahrt und eine Differenzierung der Umsetzungsmaßnahmen in einer den Risiken angemessenen Weise ermöglicht.
•Wahl des Instruments
Als Instrument wird ein Vorschlag für einen Beschluss des Rates gemäß Artikel 218 Absatz 6 Buchstabe a Ziffer v AEUV gewählt.
3.ERGEBNISSE DER EX-POST-BEWERTUNG, DER KONSULTATION DER INTERESSENTRÄGER UND DER FOLGENABSCHÄTZUNG
•Grundrechte
Mit dem Übereinkommen soll möglichen Risiken und Beeinträchtigungen der Menschenrechte entgegengewirkt werden, indem sichergestellt wird, dass die Tätigkeiten im Lebenszyklus von KI-Systemen mit den Grundsätzen der Achtung der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit im Einklang stehen, wobei auch das Potenzial der KI anerkannt wird, die Ausübung dieser Rechte im digitalen Umfeld zu schützen und zu erleichtern, das gesellschaftliche und ökologische Wohlergehen zu verbessern und den technologischen Fortschritt zu fördern.
Die in dem Übereinkommen vorgesehenen konkreten Grundsätze und Verpflichtungen sollen dem Schutz und der Achtung der Menschenrechte dienen, welche in zahlreichen internationalen und regionalen Instrumenten 24 verankert sind, die für die Vertragsparteien gelten, einschließlich der Charta der Grundrechte der Union sowie internationaler Menschenrechtsinstrumente, die die Union geschlossen hat.
Das Übereinkommen schafft somit einen gemeinsamen Mindeststandard für den Schutz der Menschenrechte im Zusammenhang mit KI, während gleichzeitig bereits bestehende Vorkehrungen für den Schutz der Menschenrechte gewahrt bleiben und es den Vertragsparteien ermöglicht wird, einen umfassenderen Schutz mit strengeren Schutzvorkehrungen festzulegen.
4.AUSWIRKUNGEN AUF DEN HAUSHALT
Das Übereinkommen sieht finanzielle Beiträge von Nichtmitgliedstaaten zu den Tätigkeiten der Konferenz der Vertragsparteien vor. Während alle Mitglieder des Europarats gemäß der Satzung des Europarats ihren Beitrag zum ordentlichen Haushalt des Europarats leisten, werden Vertragsparteien, die keine Mitglieder sind, außerbudgetäre Beiträge entrichten. Der Beitrag eines Nichtmitglieds des Europarats wird vom Ministerkomitee und diesem Nichtmitglied gemeinsam festgelegt.
Das Übereinkommen greift nicht in innerstaatliche Gesetze und Regelungen der Vertragsparteien in Bezug auf haushaltspolitische Zuständigkeiten und Haushaltsverfahren ein. Im Rahmenübereinkommen ist nicht bestimmt worden, wie die Beiträge von Vertragsparteien, die nicht Mitglieder des Europarats sind (einschließlich der Beträge und Modalitäten), festzulegen sind. Rechtsgrundlage für den Beitrag dieser Vertragsparteien sind das Rahmenübereinkommen selbst und die Rechtsakte, mit denen dieser Beitrag festgelegt wird 25 .
5.WEITERE ANGABEN
•Durchführungspläne sowie Monitoring-, Bewertungs- und Berichterstattungsmodalitäten
Die Konferenz der Vertragsparteien, die sich aus Vertretern der Vertragsparteien zusammensetzt, wird die wirksame Umsetzung des Übereinkommens durch die Vertragsparteien überwachen und diesbezüglich spezifische Empfehlungen abgeben. Die Konferenz der Vertragsparteien wird außerdem mögliche Änderungen des Übereinkommens prüfen.
Jede Vertragspartei muss der Konferenz der Vertragsparteien innerhalb von zwei Jahren nach ihrem Beitritt und danach in regelmäßigen Abständen einen Bericht vorlegen, in dem sie die zur Umsetzung des Übereinkommens getroffenen Maßnahmen darlegt. Außerdem werden die Vertragsparteien dazu ermuntert, bei der Verwirklichung der Ziele des Übereinkommens zusammenzuarbeiten. Diese internationale Zusammenarbeit kann den Austausch einschlägiger Informationen über KI und ihr Potenzial umfassen, die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu beeinträchtigen oder positiv zu beeinflussen.
Zur Gewährleistung der Überwachung und Umsetzung des Übereinkommens muss jede Vertragspartei einen oder mehrere wirksame Aufsichtsmechanismen auf innerstaatlicher Ebene benennen. Auf Unionsebene wird die Kommission im Einklang mit den Verträgen für die Überwachung und Umsetzung des Übereinkommens sorgen.
In den Erwägungsgründen des vorliegenden Vorschlags für den Abschluss des Übereinkommens wird bestätigt, dass gemäß Artikel 218 Absatz 9 AEUV der Rat auf Vorschlag der Kommission Beschlüsse zur Festlegung der Standpunkte erlassen sollte, die im Namen der Union in der Konferenz der Vertragsparteien zu vertreten sind, wenn dieses Gremium Instrumente mit Rechtswirkung zu erlassen hat, insbesondere die Geschäftsordnung der Konferenz der Vertragsparteien. Bei der Aushandlung der Geschäftsordnung, die innerhalb von zwölf Monaten nach Inkrafttreten des Übereinkommens 26 einvernehmlich anzunehmen ist, wird es das Ziel der Union sein, sicherzustellen, dass sie – entsprechend der Zahl ihrer Mitgliedstaaten – 27 Stimmen erhält. Werden der Union die 27 Stimmen zugesprochen, so wird die Kommission – die die Union vertritt – eine verstärkte Zusammenarbeit mit den Mitgliedstaaten anstreben, damit einheitliche Standpunkte in der Konferenz der Vertragsparteien vertreten werden, und ihr Stimmrecht im Namen der Union ausüben. Diese verstärkte Zusammenarbeit ist besonders wichtig, da alle Mitgliedstaaten auch Mitglieder des Europarats sind, sowie angesichts des sich rasch entwickelnden Bereichs der künstlichen Intelligenz und der Notwendigkeit, über einen kohärenten weltweit anwendbaren Rahmen in diesem Bereich zu verfügen. Zur Gewährleistung der verstärkten Zusammenarbeit sollte der Rat in die Ausarbeitung jeglicher Art von Standpunkten eingebunden werden, auch solcher auf Grundlage von Artikel 16 Absatz 1 EUV und Artikel 218 Absatz 9 AEUV. Sollte die Union trotz aller Bemühungen nicht in der Lage sein, 27 Stimmen zu erhalten, so wird die Kommission – um sicherzustellen, dass die Union über eine Anzahl von Stimmen verfügt, die ihr Gewicht im Europarat widerspiegelt und es ihr ermöglicht, ihre Interessen angemessen zu verteidigen – vorschlagen, dass die Mitgliedstaaten ermächtigt werden, gemäß Artikel 2 Absatz 1 AEUV und unter uneingeschränkter Achtung der ausschließlichen Zuständigkeit der Union, zusätzlich zur Union dem Übereinkommen beizutreten.
Die Kommission wird die Mitgliedstaaten ersuchen, jeweils einen Vertreter zur Begleitung der Vertretung der Kommission als Teil der Delegation der Union zu den Tagungen der Konferenz der Vertragsparteien zu entsenden. Der Grundsatz der loyalen Zusammenarbeit ist zu respektieren.
2025/0136 (NLE)
Vorschlag für einen
BESCHLUSS DES RATES
über den Abschluss – im Namen der Europäischen Union – des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
DER RAT DER EUROPÄISCHEN UNION —
gestützt auf den Vertrag über die Arbeitsweise der Europäischen Union, insbesondere auf Artikel 114 in Verbindung mit Artikel 218 Absatz 6 Buchstabe a Ziffer v,
auf Vorschlag der Europäischen Kommission,
nach Zustimmung des Europäischen Parlaments,
in Erwägung nachstehender Gründe:
(1)Im Einklang mit dem Beschluss (EU) 2024/2218 des Rates 27 wurde das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Übereinkommen“) – vorbehaltlich seines späteren Abschlusses – am 5. September 2024 im Namen der Europäischen Union unterzeichnet.
(2)In dem Übereinkommen werden allgemeine Grundsätze und Verpflichtungen festgelegt, die die Vertragsparteien des Übereinkommens einhalten sollten, um den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit im Zusammenhang mit den Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz (KI) zu gewährleisten.
(3)Am 13. Juni 2024 erließen das Europäische Parlament und der Rat auf der Grundlage der Artikel 16 und 114 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates 28 , die harmonisierte Vorschriften enthält, die hauptsächlich auf einer vollständigen Harmonisierung beruhen und das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz in der Union regeln. Diese Vorschriften gelten unmittelbar in den Mitgliedstaaten, sofern in jener Verordnung nicht ausdrücklich etwas anderes vorgesehen ist. Das Übereinkommen ist in der Union ausschließlich durch die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates und gegebenenfalls durch andere einschlägige Rechtsvorschriften der Union umzusetzen.
(4)Tätigkeiten im Lebenszyklus von Systemen künstlicher Intelligenz, die im Zusammenhang mit dem Schutz nationaler Sicherheitsinteressen stehen, sind aus dem Anwendungsbereich des Übereinkommens ausgeschlossen. Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates, die der wichtigste Rechtsakt der Union zur Umsetzung des Übereinkommens sein wird, schließt ferner Systeme künstlicher Intelligenz, die ausschließlich für Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder, mit oder ohne Änderungen, verwendet werden, sowie die Ausgaben von Systemen künstlicher Intelligenz, die in der Union ausschließlich für solche Zwecke verwendet werden, aus dem Anwendungsbereich aus, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt. Darüber hinaus fällt die nationale Sicherheit weiterhin gemäß Artikel 4 Absatz 2 des Vertrags über die Europäische Union (EUV) in die alleinige Verantwortung der einzelnen Mitgliedstaaten. Folglich sollten in dem auf der durch das Übereinkommen eingerichteten Tagung der Konferenz der Vertragsparteien vertretenen Standpunkt der Union die oben dargelegten Einschränkungen beachtet werden. Insbesondere sollte die Kommission davon absehen, auf den Tagungen der Konferenz der Vertragsparteien Tätigkeiten im Lebenszyklus von Systemen künstlicher Intelligenz, die im Zusammenhang mit dem Schutz nationaler Sicherheitsinteressen stehen, zu erörtern oder dazu Stellung zu nehmen.
(5)Da der persönliche und sachliche Anwendungsbereich des Übereinkommens sowie dessen materiellrechtlichen Bestimmungen mit der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates, die durch andere einschlägige Rechtsvorschriften der Union ergänzt wird, weitgehend übereinstimmen, kann der Abschluss des Übereinkommens – im Sinne des Artikels 3 Absatz 2 AEUV – gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern. Zu diesen anderen einschlägigen Rechtsvorschriften der Union gehören Rechtsakte, die auf die Umsetzung der in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte abzielen, wie die Rechtsvorschriften der Union zur Nichtdiskriminierung, einschließlich der Richtlinien 2000/43/EG 29 und 2000/78/EG 30 des Rates; der Besitzstand der Union im Bereich des Schutzes personenbezogener Daten, einschließlich der Verordnungen (EU) 2016/679 31 und (EU) 2022/2065 32 des Europäischen Parlaments und des Rates, die darauf abzielen, ein sicheres, vorhersehbares und vertrauenswürdiges Online-Umfeld zu gewährleisten, in dem die Grundrechte, einschließlich des Rechts auf freie Meinungsäußerung und des Rechts, Informationen zu empfangen und weiterzugeben, geachtet werden; die Verordnung (EU) 2024/900 des Europäischen Parlaments und des Rates über politische Werbung 33 ; die Rechtsvorschriften zur Produktsicherheit und zur Haftung für fehlerhafte Produkte, einschließlich der Richtlinie 85/374/EWG des Rates 34 . Die Union besitzt daher die ausschließliche Außenkompetenz für den Abschluss des Übereinkommens. Folglich sollte nur die Union Vertragspartei des Übereinkommens werden.
(6)Die Konferenz der Vertragsparteien wird eine wesentliche Rolle bei der wirksamen Umsetzung des Übereinkommens spielen, unter anderem durch die Abgabe spezifischer Empfehlungen hinsichtlich seiner Auslegung und Anwendung. Die Konferenz der Vertragsparteien wird außerdem mögliche Änderungen des Übereinkommens prüfen. Gemäß Artikel 218 Absatz 9 AEUV sollte der Rat auf Vorschlag der Kommission Beschlüsse zur Festlegung der Standpunkte erlassen, die im Namen der Union in der Konferenz der Vertragsparteien zu vertreten sind, wenn dieses Gremium Instrumente mit Rechtswirkung zu erlassen hat, insbesondere die Geschäftsordnung der Konferenz der Vertragsparteien. Bei der Aushandlung der Geschäftsordnung, die innerhalb von zwölf Monaten nach Inkrafttreten des Übereinkommens einvernehmlich anzunehmen ist, wird es das Ziel der Union sein, sicherzustellen, dass sie – entsprechend der Zahl ihrer Mitgliedstaaten – 27 Stimmen erhält. Werden der Union die 27 Stimmen zugesprochen, so sollte die Kommission – die die Union vertritt – für eine verstärkte Zusammenarbeit mit den Mitgliedstaaten sorgen, damit einheitliche Standpunkte in der Konferenz der Vertragsparteien vertreten werden, und ihr Stimmrecht im Namen der Union ausüben. Diese verstärkte Zusammenarbeit ist besonders wichtig, da alle Mitgliedstaaten auch Mitglieder des Europarats sind, sowie angesichts des sich rasch entwickelnden Bereichs der KI und der Notwendigkeit, über einen kohärenten weltweit anwendbaren Rahmen in diesem Bereich zu verfügen. Zur Gewährleistung der verstärkten Zusammenarbeit sollte der Rat in die Ausarbeitung jeglicher Art von Standpunkten eingebunden werden, auch solcher auf Grundlage von Artikel 16 Absatz 1 EUV und Artikel 218 Absatz 9 AEUV. Sollte die Union trotz aller Bemühungen nicht in der Lage sein, 27 Stimmen zu erhalten, so sollte die Kommission – um sicherzustellen, dass die Union über eine Anzahl von Stimmen verfügt, die ihr Gewicht im Europarat widerspiegelt und es ihr ermöglicht, ihre Interessen angemessen zu verteidigen – vorschlagen, dass die Mitgliedstaaten ermächtigt werden, gemäß Artikel 2 Absatz 1 AEUV und unter uneingeschränkter Achtung der ausschließlichen Zuständigkeit der Union, zusätzlich zur Union dem Übereinkommen beizutreten.
(7)Die Kommission wird die Mitgliedstaaten ersuchen, jeweils einen Vertreter zur Begleitung der Vertretung der Kommission als Teil der Delegation der Union zu den Tagungen der Konferenz der Vertragsparteien zu entsenden. Der Grundsatz der loyalen Zusammenarbeit ist zu respektieren.
(8)Bezüglich aller anderen Übereinkünfte, die künftig unter der Schirmherrschaft des Europarats oder in anderen internationalen Gremien geschlossen werden können, auch im Bereich der KI, und bezüglich aller Änderungen des Übereinkommens, sollte die Verteilung der Außenkompetenzen zwischen der Union und den Mitgliedstaaten unter Berücksichtigung der spezifischen Merkmale jedes einzelnen Instruments bewertet werden. Es ist von größter Bedeutung, dass die Union und ihre Mitgliedstaaten weiterhin ihre direkte und aktive Rolle wahrnehmen können, wenn es darum geht, der Stimme der Union Ausdruck zu verleihen und ihre Interessen zu verteidigen, und zwar in kohärenter und koordinierter Weise, unter uneingeschränkter Achtung der Verträge.
(9)Das Übereinkommen sollte im Namen der Union genehmigt werden —
HAT FOLGENDEN BESCHLUSS ERLASSEN:
Artikel 1
Der Abschluss des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Übereinkommen“) wird im Namen der Union genehmigt.
Der Wortlaut des abzuschließenden Übereinkommens ist diesem Beschluss als Anhang I beigefügt.
Artikel 2
Die Erklärungen an den Generalsekretär des Europarats, die diesem Beschluss als Anhang II beigefügt sind, werden im Namen der Union genehmigt.
Artikel 3
Das Übereinkommen wird in der Union ausschließlich durch die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und gegebenenfalls durch andere einschlägige Rechtsvorschriften der Union umgesetzt.
Artikel 4
Dieser Beschluss tritt am […] in Kraft.
Geschehen zu Brüssel am
Im Namen des Rates
Der Präsident /// Die Präsidentin
EUROPÄISCHE KOMMISSION
Brüssel, den 3.6.2025
COM(2025) 265 final
ANHÄNGE
des
Vorschlags für einen Beschluss des Rates
über den Abschluss – im Namen der Europäischen Union – des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
ANHANG I
Wortlaut des Rahmenübereinkommens des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
Vilnius, den 5.9.2024
Präambel
Die Mitgliedstaaten des Europarats und die anderen Unterzeichner dieses Übereinkommens —
in Anbetracht der Tatsache, dass der Europarat eine größere Einheit zwischen seinen Mitgliedern erreichen will, insbesondere gestützt auf die Achtung der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit;
in Anerkennung der Bedeutung einer verstärkten Zusammenarbeit zwischen den Vertragsparteien dieses Übereinkommens und der Ausweitung dieser Zusammenarbeit auf andere Staaten, die dieselben Werte teilen;
in dem Bewusstsein der sich beschleunigenden Entwicklungen in Wissenschaft und Technik und der tiefgreifenden Veränderungen, die durch Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz herbeigeführt werden und die das Potenzial haben, den menschlichen Wohlstand sowie das individuelle und gesellschaftliche Wohlergehen, die nachhaltige Entwicklung, die Gleichstellung der Geschlechter und die Stärkung der Rolle aller Frauen und Mädchen sowie andere wichtige Ziele und Interessen zu fördern, indem Fortschritte und Innovationen vorangetrieben werden;
in der Erkenntnis, dass Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz beispiellose Möglichkeiten bieten können, die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu schützen und zu fördern;
besorgt über die Tatsache, dass Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz die Menschenwürde und die individuelle Autonomie, die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit aushöhlen können;
besorgt über die Risiken der Diskriminierung im digitalen Kontext, insbesondere im Zusammenhang mit Systemen der künstlichen Intelligenz, und über die möglichen Auswirkungen der Diskriminierung, einschließlich derer, mit denen Frauen und Personen in prekären Situationen konfrontiert sind, in Bezug auf die Wahrnehmung ihrer Menschenrechte und ihre uneingeschränkte, gleichberechtigte und wirksame Beteiligung an wirtschaftlichen, sozialen, kulturellen und politischen Angelegenheiten;
besorgt über den Missbrauch von Systemen der künstlichen Intelligenz und in Ablehnung des Einsatzes solcher Systeme zu repressiven Zwecken unter Verletzung der internationalen Menschenrechtsnormen, unter anderem durch willkürliche oder unrechtmäßige Überwachungs- und Zensurpraktiken, die die Privatsphäre und die individuelle Autonomie untergraben;
in dem Bewusstsein, dass die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit untrennbar miteinander verflochten sind;
in der Überzeugung, dass vorrangig ein weltweit anwendbarer Rechtsrahmen geschaffen werden muss, in dem gemeinsame allgemeine Grundsätze und Regeln für die Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz festgelegt werden, der die gemeinsamen Werte wirksam bewahrt und die Vorteile der künstlichen Intelligenz für die Förderung dieser Werte in einer Weise nutzt, die einer verantwortungsvollen Innovation förderlich ist;
in Anerkennung dessen, dass die digitalen Kompetenzen, das Wissen über und das Vertrauen in die Gestaltung, Entwicklung, Nutzung und Stilllegung von Systemen der künstlichen Intelligenz gefördert werden müssen;
in Anerkennung des Rahmencharakters dieses Übereinkommens, der durch weitere Instrumente ergänzt werden kann, um spezifische Fragen im Zusammenhang mit den Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz anzugehen;
unter Hervorhebung der Tatsache, dass mit diesem Übereinkommen spezifische Herausforderungen, die sich während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz ergeben, angegangen werden sollten und dass die Berücksichtigung weiter reichender Risiken und Auswirkungen im Zusammenhang mit diesen Technologien gefördert werden sollte, die unter anderem die menschliche Gesundheit und die Umwelt, sowie sozioökonomische Aspekte wie Beschäftigung und Arbeit betreffen;
in Anbetracht einschlägiger Bemühungen zur Förderung des internationalen Verständnisses und der Zusammenarbeit im Bereich der künstlichen Intelligenz durch andere internationale und supranationale Organisationen und Foren;
eingedenk der anwendbaren internationalen Menschenrechtsinstrumente, wie der Allgemeinen Erklärung der Menschenrechte von 1948, der Europäischen Konvention zum Schutze der Menschenrechte und Grundfreiheiten von 1950 (SEV Nr. 5), des Internationalen Pakts über bürgerliche und politische Rechte von 1966, des Internationalen Pakts über wirtschaftliche, soziale und kulturelle Rechte von 1966, der Europäischen Sozialcharta von 1961 (SEV Nr. 35), sowie deren jeweiliger Protokolle, und der (überarbeiteten) Europäischen Sozialcharta von 1996 (SEV Nr. 163);
eingedenk auch des Übereinkommens der Vereinten Nationen über die Rechte des Kindes von 1989 und des Übereinkommens der Vereinten Nationen über die Rechte von Menschen mit Behinderungen von 2006;
eingedenk auch des Rechts auf Schutz der Privatsphäre und des Rechts auf Schutz personenbezogener Daten, wie sie zum Beispiel nach dem Übereinkommen des Europarats von 1981 zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten (SEV Nr. 108) anwendbar und zuerkannt sind;
in Bekräftigung des Engagements der Vertragsparteien für den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit und für die Förderung der Vertrauenswürdigkeit der Systeme der künstlichen Intelligenz durch dieses Übereinkommen —
sind wie folgt übereingekommen:
Kapitel I – Allgemeine Bestimmungen
Artikel 1 – Ziel und Zweck
(1)Mit den Bestimmungen dieses Übereinkommens soll dafür gesorgt werden, dass alle Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz uneingeschränkt mit den Menschenrechten, der Demokratie und der Rechtsstaatlichkeit vereinbar sind.
(2)Jede Vertragspartei trifft geeignete Rechts-, Verwaltungs- oder sonstige Maßnahmen oder erhält diese aufrecht, um den in diesem Übereinkommen festgelegten Bestimmungen Wirkung zu verleihen. Diese Maßnahmen folgen einem abgestuften und differenzierten Ansatz, soweit dies angesichts der Schwere und Wahrscheinlichkeit negativer Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz erforderlich ist. Dies kann spezifische oder horizontale Maßnahmen umfassen, die unabhängig von der Art der verwendeten Technologie gelten.
(3)Um die wirksame Durchführung dieses Übereinkommens durch die Vertragsparteien sicherzustellen, schafft dieses Übereinkommen einen Weiterverfolgungsmechanismus und sieht eine internationale Zusammenarbeit vor.
Artikel 2 – Begriffsbestimmung „System der künstlichen Intelligenz“
Für die Zwecke dieses Übereinkommens bezeichnet der Ausdruck „System der künstlichen Intelligenz“ ein maschinengestütztes System, das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. Die verschiedenen Systeme der künstlichen Intelligenz unterscheiden sich in ihrem Grad der Autonomie und der Anpassungsfähigkeit nach ihrer Einführung.
Artikel 3 – Anwendungsbereich
(1)Der Anwendungsbereich dieses Übereinkommens erfasst alle Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz, die in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingreifen können.
a)Jede Vertragspartei wendet dieses Übereinkommen auf die Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz an, die von Behörden oder von in deren Namen handelnden privaten Akteuren durchgeführt werden.
b)Jede Vertragspartei behandelt Risiken und Auswirkungen, die sich aus Tätigkeiten privater Akteure im Lebenszyklus von Systemen der künstlichen Intelligenz ergeben, soweit diese nicht unter den Buchstaben a fallen, in einer Weise, die mit dem Ziel und Zweck dieses Übereinkommens im Einklang steht.
Jede Vertragspartei gibt in einer dem Generalsekretär des Europarats bei der Unterzeichnung oder bei der Hinterlegung ihrer Ratifikations-, Annahme-, Genehmigungs- oder Beitrittsurkunde vorgelegten Erklärung an, wie sie diese Verpflichtung umsetzen will, und zwar entweder durch Anwendung der Grundsätze und Verpflichtungen der Kapitel II bis VI dieses Übereinkommens auf Tätigkeiten privater Akteure oder durch andere geeignete Maßnahmen, um der Verpflichtung nach diesem Unterabsatz nachzukommen. Die Parteien können ihre Erklärungen jederzeit in gleicher Weise ändern.
Bei der Umsetzung der Verpflichtung nach diesem Unterabsatz darf eine Vertragspartei nicht von ihren internationalen Verpflichtungen zum Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit abweichen oder deren Anwendung einschränken.
(2)Eine Vertragspartei ist nicht verpflichtet, dieses Übereinkommen auf Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz im Zusammenhang mit dem Schutz ihrer nationalen Sicherheitsinteressen anzuwenden, wobei davon ausgegangen wird, dass diese Tätigkeiten im Einklang mit dem geltenden Völkerrecht, einschließlich der Verpflichtungen im Bereich der internationalen Menschenrechtsnormen, und unter Achtung ihrer demokratischen Institutionen und Prozesse durchgeführt werden.
(3)Unbeschadet des Artikels 13 und des Artikels 25 Absatz 2 gilt dieses Übereinkommen nicht für Forschungs- und Entwicklungstätigkeiten in Bezug auf Systeme der künstlichen Intelligenz, die noch nicht zur Verwendung bereitgestellt werden, es sei denn, Tests oder ähnliche Tätigkeiten werden so durchgeführt, dass sie in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingreifen können.
(4)Angelegenheiten der Landesverteidigung fallen nicht in den Anwendungsbereich dieses Übereinkommens.
Kapitel II – Allgemeine Pflichten
Artikel 4 – Schutz der Menschenrechte
Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, um sicherzustellen, dass die Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz mit den im geltenden Völkerrecht und in ihrem innerstaatlichen Recht verankerten Verpflichtungen zum Schutz der Menschenrechte im Einklang stehen.
Artikel 5 – Integrität demokratischer Prozesse und Achtung der Rechtsstaatlichkeit
(1)Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, um sicherzustellen, dass Systeme der künstlichen Intelligenz nicht dazu genutzt werden, die Integrität, Unabhängigkeit und Wirksamkeit demokratischer Institutionen und Prozesse zu untergraben, einschließlich des Grundsatzes der Gewaltenteilung, der Achtung der Unabhängigkeit der Justiz und des Zugangs zur Justiz.
(2)Jede Vertragspartei trifft Maßnahmen, die darauf abzielen, ihre demokratischen Prozesse im Zusammenhang mit Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz zu schützen, einschließlich des fairen Zugangs von Einzelpersonen zu und deren Beteiligung an öffentlichen Debatten sowie ihrer Fähigkeit, sich frei eine Meinung zu bilden, oder erhält diese aufrecht.
Kapitel III – Grundsätze in Bezug auf Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz
Artikel 6 – Allgemeiner Ansatz
In diesem Kapitel werden die allgemeinen gemeinsamen Grundsätze festgelegt, die jede Vertragspartei in Bezug auf Systeme der künstlichen Intelligenz in einer Weise umsetzt, die ihrem innerstaatlichen Rechtssystem und den anderen Verpflichtungen aus diesem Übereinkommen angemessen ist.
Artikel 7 – Menschenwürde und individuelle Autonomie
Jede Vertragspartei trifft Maßnahmen zur Achtung der Menschenwürde und der individuellen Autonomie in Bezug auf Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz oder erhält diese aufrecht.
Artikel 8 – Transparenz und Aufsicht
Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, um sicherzustellen, dass angemessene Anforderungen an die Transparenz und Aufsicht bestehen, die auf die spezifischen Zusammenhänge und Risiken von Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz zugeschnitten sind, auch in Bezug auf die Identifizierung von durch Systeme der künstlichen Intelligenz erzeugten Inhalten.
Artikel 9 – Rechenschaftspflicht und Verantwortung
Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, um die Rechenschaftspflicht und die Verantwortung für negative Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit, die sich aus Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz ergeben, sicherzustellen.
Artikel 10 – Gleichstellung und Nichtdiskriminierung
(1)Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, um sicherzustellen, dass bei Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz das Gleichstellungsgebot, einschließlich der Gleichstellung der Geschlechter, und das Diskriminierungsverbot nach geltendem Völkerrecht und innerstaatlichem Recht geachtet wird.
(2)Jede Vertragspartei verpflichtet sich, im Zusammenhang mit Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz Maßnahmen zur Überwindung von Ungleichheiten zu treffen oder aufrechtzuerhalten, um faire, gerechte und ausgewogene Ergebnisse im Einklang mit ihren geltenden innerstaatlichen und internationalen Menschenrechtsverpflichtungen zu erzielen.
Artikel 11 – Privatsphäre und Schutz personenbezogener Daten
Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, um in Bezug auf Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz Folgendes sicherzustellen:
a)Die Rechte von Einzelpersonen auf Privatsphäre und den Schutz ihrer personenbezogenen Daten werden gewahrt, unter anderem durch geltende innerstaatliche und internationale Gesetze, Normen und Rahmenbedingungen und
b)es bestehen wirksame Verfahrensgarantien und Schutzvorkehrungen für Einzelpersonen im Einklang mit den geltenden innerstaatlichen und internationalen rechtlichen Verpflichtungen.
Artikel 12 – Zuverlässigkeit
Jede Vertragspartei trifft gegebenenfalls Maßnahmen zur Förderung der Zuverlässigkeit von Systemen der künstlichen Intelligenz und des Vertrauens in ihre Ergebnisse, die auch Anforderungen in Bezug auf eine angemessene Qualität und Sicherheit während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz umfassen könnten.
Artikel 13 – Sichere Innovation
Um Innovationen zu fördern und gleichzeitig negative Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu vermeiden, wird jede Vertragspartei aufgerufen, gegebenenfalls die Schaffung kontrollierter Entwicklungs-, Versuchs- und Testumgebungen für Systeme der künstlichen Intelligenz unter der Aufsicht ihrer zuständigen Behörden zu ermöglichen.
Kapitel IV – Rechtsbehelfe
Artikel 14 – Rechtsbehelfe
(1)Soweit Rechtsbehelfe aufgrund ihrer internationalen Verpflichtungen erforderlich sind und mit ihrem innerstaatlichen Rechtssystem im Einklang stehen, ergreift jede Vertragspartei Maßnahmen oder erhält diese aufrecht, um die Verfügbarkeit zugänglicher und wirksamer Rechtsbehelfe für Menschenrechtsverletzungen zu gewährleisten, die sich aus Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz ergeben.
(2)Zur Durchführung des Absatzes 1 führt jede Vertragspartei Maßnahmen ein oder erhält diese aufrecht, die Folgendes umfassen:
a)Maßnahmen, mit denen sichergestellt wird, dass einschlägige Informationen über Systeme der künstlichen Intelligenz, die die Menschenrechte erheblich beeinträchtigen können, und ihre entsprechende Nutzung dokumentiert und den zum Zugang zu diesen Informationen befugten Stellen sowie gegebenenfalls betroffenen Personen zur Verfügung gestellt oder mitgeteilt werden;
b)Maßnahmen, mit denen sichergestellt wird, dass die unter Buchstabe a genannten Informationen ausreichen, damit die betroffenen Personen die unter Verwendung des Systems getroffenen oder durch die Verwendung des Systems erheblich bestimmten Entscheidungen sowie – sofern relevant und angemessen – die Verwendung des Systems selbst anfechten können;
c)eine wirksame Möglichkeit für betroffene Personen, bei den zuständigen Behörden Beschwerde einzulegen.
Artikel 15 – Verfahrensgarantien
(1)Jede Vertragspartei stellt sicher, dass in Fällen, in denen sich ein System der künstlichen Intelligenz erheblich auf die Wahrnehmung der Menschenrechte auswirkt, den davon betroffenen Personen im Einklang mit dem geltenden Völkerrecht und dem innerstaatlichen Recht wirksame Verfahrensgarantien, Schutzvorkehrungen und Rechte zur Verfügung stehen.
(2)Jede Vertragspartei bemüht sich sicherzustellen, dass Personen, die mit Systemen der künstlichen Intelligenz interagieren, entsprechend dem jeweiligen Kontext darüber informiert werden, dass sie es mit solchen Systemen und nicht mit einem Menschen zu tun haben.
Kapitel V – Bewertung und Minderung von Risiken und negativen Auswirkungen
Artikel 16 – Rahmen für das Risiko- und Auswirkungsmanagement
(1)Jede Vertragspartei trifft unter Berücksichtigung der in Kapitel III festgelegten Grundsätze Maßnahmen zur Ermittlung, Bewertung, Prävention und Minderung von Risiken, die von Systemen der künstlichen Intelligenz ausgehen, oder erhält diese aufrecht und trägt dabei den tatsächlichen und potenziellen Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit Rechnung.
(2)Diese Maßnahmen folgen gegebenenfalls einem abgestuften und differenzierten Ansatz und
a)tragen dem Kontext und der beabsichtigten Verwendung von Systemen der künstlichen Intelligenz gebührend Rechnung, insbesondere im Hinblick auf Risiken für die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit;
b)tragen der Schwere und Wahrscheinlichkeit potenzieller Auswirkungen gebührend Rechnung;
c)berücksichtigen gegebenenfalls die Perspektiven der einschlägigen Interessenträger, insbesondere der Personen, deren Rechte beeinträchtigt werden könnten;
d)werden auf iterative Weise während der gesamten Tätigkeiten im Lebenszyklus des Systems der künstlichen Intelligenz angewendet;
e)umfassen die Überwachung von Risiken für und negativen Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit;
f)umfassen eine Dokumentation der Risiken, der tatsächlichen und potenziellen Auswirkungen und des Ansatzes für das Risikomanagement;
g)verpflichten gegebenenfalls dazu, dass Systeme der künstlichen Intelligenz getestet werden, bevor sie für die erste Verwendung zur Verfügung gestellt werden und wenn sie erheblich verändert werden.
(3)Jede Vertragspartei trifft Maßnahmen oder erhält diese aufrecht, mit denen sichergestellt werden soll, dass die negativen Auswirkungen von Systemen der künstlichen Intelligenz auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit angemessen angegangen werden. Solche negativen Auswirkungen und die Maßnahmen zu ihrer Bewältigung sollten dokumentiert werden und in die in Absatz 2 beschriebenen einschlägigen Risikomanagementmaßnahmen einfließen.
(4)Jede Vertragspartei prüft die Notwendigkeit eines Moratoriums oder Verbots oder anderer geeigneter Maßnahmen in Bezug auf bestimmte Anwendungen von Systemen der künstlichen Intelligenz, wenn sie diese Anwendungen als mit der Achtung der Menschenrechte, dem Funktionieren der Demokratie oder der Rechtsstaatlichkeit unvereinbar ansieht.
Kapitel VI – Durchführung des Übereinkommens
Artikel 17 – Nichtdiskriminierung
Die Durchführung dieses Übereinkommens durch die Vertragsparteien muss im Einklang mit ihren internationalen Verpflichtungen zum Schutz der Menschenrechte ohne jedwede Diskriminierung sichergestellt sein.
Artikel 18 – Rechte von Menschen mit Behinderungen und von Kindern
Jede Vertragspartei trägt im Einklang mit ihrem innerstaatlichen Recht und den geltenden internationalen Verpflichtungen allen besonderen Bedürfnissen und der Schutzbedürftigkeit in Bezug auf die Achtung der Rechte von Menschen mit Behinderungen und von Kindern gebührend Rechnung.
Artikel 19 – Öffentliche Konsultation
Jede Vertragspartei bemüht sich sicherzustellen, dass wichtige Fragen, die im Zusammenhang mit Systemen der künstlichen Intelligenz aufgeworfen werden, gegebenenfalls im Rahmen öffentlicher Gespräche und Konsultationen verschiedener Interessenträger unter Berücksichtigung der sozialen, wirtschaftlichen, rechtlichen, ethischen, ökologischen und sonstigen relevanten Auswirkungen gebührend abgewogen werden.
Artikel 20 – Digitale Kompetenzen und Fähigkeiten
Jede Vertragspartei fördert und unterstützt angemessene digitale Kompetenzen und Fähigkeiten für alle Bevölkerungsgruppen, einschließlich besonderer Fachkompetenzen für diejenigen, die für die Ermittlung, Bewertung, Prävention und Minderung von Risiken, die von Systemen der künstlichen Intelligenz ausgehen, zuständig sind.
Artikel 21 – Schutzvorkehrungen für bestehende Menschenrechte
Dieses Übereinkommen ist nicht so auszulegen, dass es die Menschenrechte oder andere damit zusammenhängende Rechte und Pflichten, die möglicherweise nach den einschlägigen Rechtsvorschriften einer Vertragspartei oder einer anderen einschlägigen internationalen Übereinkunft, deren Vertragspartei sie ist, garantiert sind, einschränkt, davon abweicht oder diese in sonstiger Weise beeinträchtigt.
Artikel 22 – Umfassenderer Schutz
Keine Bestimmung dieses Übereinkommens ist so auszulegen, dass sie die Möglichkeit einer Vertragspartei, eine weiter gehende Schutzmaßnahme als in diesem Übereinkommen vorgesehen zu gewähren, einschränkt oder in sonstiger Weise beeinträchtigt.
Kapitel VII – Weiterverfolgungsmechanismus und Zusammenarbeit
Artikel 23 – Konferenz der Vertragsparteien
(1)Die Konferenz der Vertragsparteien setzt sich aus den Vertretern der Vertragsparteien des Übereinkommens zusammen.
(2)Die Vertragsparteien konsultieren einander in regelmäßigen Abständen im Hinblick auf
a)die Erleichterung der wirksamen Anwendung und Durchführung dieses Übereinkommens, einschließlich des Erkennens dabei etwa auftretender Probleme und der Folgen etwaiger Vorbehalte nach Artikel 34 Absatz 1 oder Erklärungen, die gemäß diesem Übereinkommen abgegeben wurden;
b)Überlegungen über eine etwaige Ergänzung oder Änderung des Übereinkommens;
c)die Prüfung von Fragen und die Abgabe spezifischer Empfehlungen zur Auslegung und Anwendung dieses Übereinkommens;
d)die Erleichterung des Austauschs von Informationen über wichtige rechtliche, politische oder technische Entwicklungen, die für die Durchführung dieses Übereinkommens von Bedeutung sind, auch zur Verfolgung der in Artikel 25 festgelegten Ziele;
e)erforderlichenfalls die Erleichterung der gütlichen Beilegung von Streitigkeiten im Zusammenhang mit der Anwendung dieses Übereinkommens;
f)die Erleichterung der Zusammenarbeit mit den einschlägigen Interessenträgern in Bezug auf relevante Aspekte der Durchführung dieses Übereinkommens, gegebenenfalls auch durch öffentliche Anhörungen.
(3)Die Konferenz der Vertragsparteien wird vom Generalsekretär des Europarats einberufen, wann immer erforderlich und immer dann, wenn eine Mehrheit der Vertragsparteien oder das Ministerkomitee um ihre Einberufung ersucht.
(4)Die Konferenz der Vertragsparteien gibt sich innerhalb von zwölf Monaten nach Inkrafttreten dieses Übereinkommens einvernehmlich eine Geschäftsordnung.
(5)Die Vertragsparteien werden bei der Wahrnehmung ihrer Aufgaben nach diesem Artikel vom Sekretariat des Europarats unterstützt.
(6)Die Konferenz der Vertragsparteien kann dem Ministerkomitee geeignete Möglichkeiten zur Heranziehung einschlägigen Fachwissens zur Unterstützung der wirksamen Durchführung dieses Übereinkommens vorschlagen.
(7)Jede Vertragspartei, die nicht Mitglied des Europarats ist, trägt zur Finanzierung der Tätigkeiten der Konferenz der Vertragsparteien bei. Der Beitrag eines Nichtmitglieds des Europarats wird vom Ministerkomitee und diesem Nichtmitglied gemeinsam festgelegt.
(8)Die Konferenz der Vertragsparteien kann beschließen, wegen eines schwerwiegenden Verstoßes gegen Artikel 3 der Satzung des Europarats (SEV Nr. 1) die Teilnahme einer Vertragspartei, die gemäß Artikel 8 der Satzung nicht mehr Mitglied des Europarats ist, an ihrer Arbeit zu beschränken. Ebenso können Maßnahmen gegenüber einer Vertragspartei, die nicht Mitglied des Europarats ist, durch Beschluss des Ministerkomitees zur Einstellung seiner Beziehungen zu diesem Staat aus ähnlichen Gründen wie den in Artikel 3 der Satzung genannten getroffen werden.
Artikel 24 – Berichtspflicht
(1)Jede Vertragspartei legt der Konferenz der Vertragsparteien innerhalb der ersten zwei Jahre, nachdem sie Vertragspartei geworden ist, und danach in regelmäßigen Abständen einen Bericht mit Einzelheiten über die zur Umsetzung von Artikel 3 Absatz 1 Buchstaben a und b ergriffenen Maßnahmen vor.
(2)Die Konferenz der Vertragsparteien legt das Format und das Verfahren für den Bericht im Einklang mit ihrer Geschäftsordnung fest.
Artikel 25 – Internationale Zusammenarbeit
(1)Die Vertragsparteien arbeiten bei der Verwirklichung des Ziels dieses Übereinkommens zusammen. Die Vertragsparteien werden ferner dazu ermuntert, gegebenenfalls Staaten, die keine Vertragsparteien dieses Übereinkommens sind, dabei zu unterstützen, im Sinne dieses Übereinkommens zu handeln und Vertragspartei zu werden.
(2)Die Vertragsparteien tauschen gegebenenfalls sachdienliche und nützliche Informationen über Aspekte im Zusammenhang mit künstlicher Intelligenz aus, die erhebliche positive oder negative Auswirkungen auf die Ausübung der Menschenrechte, das Funktionieren der Demokratie und die Achtung der Rechtsstaatlichkeit haben können, einschließlich der Risiken und Auswirkungen, die im Forschungskontext und in Bezug auf den Privatsektor aufgetreten sind. Die Vertragsparteien werden dazu ermuntert, gegebenenfalls einschlägige Interessenträger und Staaten, die keine Vertragsparteien dieses Übereinkommens sind, in diesen Informationsaustausch einzubeziehen.
(3)Die Vertragsparteien werden dazu ermuntert, die Zusammenarbeit – gegebenenfalls auch mit einschlägigen Interessenträgern – zu stärken, um Risiken und negative Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit im Zusammenhang mit Tätigkeiten im Lebenszyklus von Systemen der künstlichen Intelligenz zu verhindern und zu mindern.
Artikel 26 – Wirksamer Aufsichtsmechanismus
(1)Jede Vertragspartei richtet einen oder mehrere wirksame Mechanismen zur Aufsicht über die Einhaltung der Verpflichtungen aus diesem Übereinkommen ein oder benennt diese.
(2)Jede Vertragspartei stellt sicher, dass diese Mechanismen ihre Aufgaben unabhängig und unparteiisch wahrnehmen und dass sie über die erforderlichen Befugnisse, Fachkenntnisse und Ressourcen verfügen, um ihre Aufgaben der Aufsicht über die Einhaltung der Verpflichtungen aus diesem Übereinkommen in der von den Vertragsparteien in Kraft gesetzten Fassung wirksam erfüllen zu können.
(3)Hat eine Vertragspartei mehr als einen solchen Mechanismus vorgesehen, so ergreift sie – soweit durchführbar – Maßnahmen, um eine wirksame Zusammenarbeit zwischen ihnen zu erleichtern.
(4)Hat eine Vertragspartei Mechanismen vorgesehen, die sich von den bestehenden Menschenrechtsstrukturen unterscheiden, so ergreift sie – soweit durchführbar – Maßnahmen, um eine wirksame Zusammenarbeit zwischen den in Absatz 1 genannten Mechanismen und solchen bestehenden innerstaatlichen Menschenrechtsstrukturen zu fördern.
Kapitel VIII – Schlussbestimmungen
Artikel 27 – Wirkungen des Übereinkommens
(1)Haben zwei oder mehr Vertragsparteien bereits eine Übereinkunft oder einen Vertrag über Fragen geschlossen, die in diesem Übereinkommen geregelt sind, oder haben sie ihre Beziehungen in diesen Fragen anderweitig geregelt, so sind sie auch berechtigt, die Übereinkunft oder den Vertrag oder die entsprechenden Regelungen auf diese Beziehungen anzuwenden, sofern sie dies auf eine Weise tun, die nicht dem Ziel und Zweck dieses Übereinkommens zuwiderläuft.
(2)Unbeschadet des Ziels und Zwecks dieses Übereinkommens und seiner uneingeschränkten Anwendung gegenüber anderen Vertragsparteien wenden Vertragsparteien, die Mitglieder der Europäischen Union sind, in ihren Beziehungen untereinander die Vorschriften der Europäischen Union an, die in den Anwendungsbereich dieses Übereinkommens fallende Angelegenheiten betreffen. Gleiches gilt für die anderen Vertragsparteien, soweit sie an diese Vorschriften gebunden sind.
Artikel 28 – Änderungen
(1)Jede Vertragspartei, das Ministerkomitee des Europarats oder die Konferenz der Vertragsparteien kann Änderungen dieses Übereinkommens vorschlagen.
(2)Alle Änderungsvorschläge werden den Vertragsparteien vom Generalsekretär des Europarats übermittelt.
(3)Jede von einer Vertragspartei oder vom Ministerkomitee vorgeschlagene Änderung wird der Konferenz der Vertragsparteien übermittelt; diese legt dem Ministerkomitee ihre Stellungnahme zu dem Änderungsvorschlag vor.
(4)Das Ministerkomitee prüft den Änderungsvorschlag und die von der Konferenz der Vertragsparteien vorgelegte Stellungnahme und kann die Änderung genehmigen.
(5)Der Wortlaut jeder vom Ministerkomitee nach Absatz 4 genehmigten Änderung wird den Vertragsparteien zur Annahme übermittelt.
(6)Jede nach Absatz 4 genehmigte Änderung tritt am dreißigsten Tag nach dem Tag in Kraft, an dem alle Vertragsparteien dem Generalsekretär mitgeteilt haben, dass sie sie angenommen haben.
Artikel 29 – Beilegung von Streitigkeiten
Im Fall einer Streitigkeit zwischen Vertragsparteien über die Auslegung oder Anwendung dieses Übereinkommens bemühen sich diese Vertragsparteien, die Streitigkeit durch Verhandlungen oder andere friedliche Mittel ihrer Wahl beizulegen, auch mithilfe der Konferenz der Vertragsparteien, wie in Artikel 23 Absatz 2 Buchstabe e vorgesehen.
Artikel 30 – Unterzeichnung und Inkrafttreten
(1)Dieses Übereinkommen liegt für die Mitgliedstaaten des Europarats, für die Nichtmitgliedstaaten, die sich an der Ausarbeitung des Übereinkommens beteiligt haben, und für die Europäische Union zur Unterzeichnung auf.
(2)Dieses Übereinkommen bedarf der Ratifikation, Annahme oder Genehmigung. Die Ratifikations-, Annahme- oder Genehmigungsurkunden werden beim Generalsekretär des Europarats hinterlegt.
(3)Dieses Übereinkommen tritt am ersten Tag des Monats in Kraft, der auf einen Zeitabschnitt von drei Monaten nach dem Tag folgt, an dem fünf Unterzeichner, darunter mindestens drei Mitgliedstaaten des Europarats, nach Absatz 2 ihre Zustimmung ausgedrückt haben, durch dieses Übereinkommen gebunden zu sein.
(4)Für jeden Unterzeichner, der später seine Zustimmung ausdrückt, durch das Übereinkommen gebunden zu sein, tritt es am ersten Tag des Monats in Kraft, der auf einen Zeitabschnitt von drei Monaten nach Hinterlegung seiner Ratifikations-, Annahme- oder Genehmigungsurkunde folgt.
Artikel 31 – Beitritt
(1)Nach Inkrafttreten dieses Übereinkommens kann das Ministerkomitee des Europarats nach Konsultation der Vertragsparteien des Übereinkommens und mit deren einhelliger Zustimmung jeden Nichtmitgliedstaat des Europarats, der sich nicht an der Ausarbeitung des Übereinkommens beteiligt hat, einladen, diesem Übereinkommen beizutreten; der Beschluss dazu wird mit der in Artikel 20 Buchstabe d der Satzung des Europarats vorgesehenen Mehrheit und mit einhelliger Zustimmung der Vertreter der Vertragsparteien, die Anspruch auf einen Sitz im Ministerkomitee haben, gefasst.
(2)Für jeden beitretenden Staat tritt dieses Übereinkommen am ersten Tag des Monats in Kraft, der auf einen Zeitabschnitt von drei Monaten nach Hinterlegung der Beitrittsurkunde beim Generalsekretär des Europarats folgt.
Artikel 32 – Räumlicher Geltungsbereich
(1)Jeder Staat oder die Europäische Union kann bei der Unterzeichnung oder bei der Hinterlegung der Ratifikations-, Annahme-, Genehmigungs- oder Beitrittsurkunde einzelne oder mehrere Hoheitsgebiete bezeichnen, auf die dieses Übereinkommen Anwendung findet.
(2)Jede Vertragspartei kann danach durch eine an den Generalsekretär des Europarats gerichtete Erklärung die Anwendung dieses Übereinkommens auf jedes weitere in der Erklärung bezeichnete Hoheitsgebiet erstrecken. Dieses Übereinkommen tritt für dieses Hoheitsgebiet am ersten Tag des Monats in Kraft, der auf einen Zeitabschnitt von drei Monaten nach Eingang der Erklärung beim Generalsekretär folgt.
(3)Jede nach den Absätzen 1 und 2 abgegebene Erklärung kann in Bezug auf jedes darin bezeichnete Hoheitsgebiet durch eine an den Generalsekretär des Europarats gerichtete Notifikation zurückgenommen werden. Die Rücknahme wird am ersten Tag des Monats wirksam, der auf einen Zeitabschnitt von drei Monaten nach Eingang der Notifikation beim Generalsekretär folgt.
Artikel 33 – Bundesstaatsklausel
(1)Ein Bundesstaat kann sich das Recht vorbehalten, Verpflichtungen nach diesem Übereinkommen so weit zu übernehmen, wie sie mit den Grundprinzipien vereinbar sind, welche die Beziehungen zwischen seiner Zentralregierung und seinen Gliedstaaten oder anderen gleichartigen Gebietseinheiten regeln, vorausgesetzt, das Übereinkommen findet auf die Zentralregierung des Bundesstaats Anwendung.
(2)Hinsichtlich derjenigen Bestimmungen dieses Übereinkommens, für deren Anwendung die Gliedstaaten oder anderen gleichartigen Gebietseinheiten die Gesetzgebungszuständigkeit besitzen, ohne nach der Verfassungsordnung des Bundes zum Erlass von Rechtsvorschriften verpflichtet zu sein, bringt die Bundesregierung den zuständigen Stellen dieser Staaten die genannten Bestimmungen befürwortend zur Kenntnis und ermutigt sie, geeignete Maßnahmen zu treffen, um sie durchzuführen.
Artikel 34 – Vorbehalte
(1)Jeder Staat kann durch eine an den Generalsekretär des Europarats gerichtete schriftliche Notifikation bei der Unterzeichnung oder bei der Hinterlegung seiner Ratifikations-, Annahme-, Genehmigungs- oder Beitrittsurkunde erklären, dass er von der Möglichkeit Gebrauch macht, nach Artikel 33 Absatz 1 Vorbehalte anzubringen.
(2)Sonstige Vorbehalte zu diesem Übereinkommen sind nicht zulässig.
Artikel 35 – Kündigung
(1)Jede Vertragspartei kann dieses Übereinkommen jederzeit durch eine an den Generalsekretär des Europarats gerichtete Notifikation kündigen.
(2)Die Kündigung wird am ersten Tag des Monats wirksam, der auf einen Zeitabschnitt von drei Monaten nach Eingang der Notifikation beim Generalsekretär folgt.
Artikel 36 – Notifikation
Der Generalsekretär des Europarats notifiziert den Mitgliedstaaten des Europarats, den Nichtmitgliedstaaten, die sich an der Ausarbeitung dieses Übereinkommens beteiligt haben, der Europäischen Union sowie jedem Unterzeichner, jedem Vertragsstaat, jeder Vertragspartei und jedem Staat, der zum Beitritt zu diesem Übereinkommen eingeladen worden ist,
a)jede Unterzeichnung,
b)jede Hinterlegung einer Ratifikations-, Annahme-, Genehmigungs- oder Beitrittsurkunde,
c)jeden Zeitpunkt des Inkrafttretens dieses Übereinkommens nach Artikel 30 Absätze 3 und 4 und Artikel 31 Absatz 2,
d)jede nach Artikel 28 beschlossene Änderung sowie den Zeitpunkt, zu dem sie in Kraft tritt,
e)jede aufgrund von Artikel 3 Absatz 1 Buchstabe b abgegebene Erklärung,
f)jeden Vorbehalt und jede Rücknahme eines Vorbehalts nach Artikel 34,
g)jede Kündigung nach Artikel 35,
h)jede sonstige Handlung, Erklärung, Notifikation oder Mitteilung im Zusammenhang mit diesem Übereinkommen.
Zu Urkund dessen haben die hierzu gehörig befugten Unterzeichneten dieses Übereinkommen unterschrieben.
Geschehen zu Vilnius am 5. September 2024 in englischer und französischer Sprache, wobei jeder Wortlaut gleichermaßen verbindlich ist, in einer Urschrift, die im Archiv des Europarats hinterlegt wird. Der Generalsekretär des Europarats übermittelt allen Mitgliedstaaten des Europarats, den Nichtmitgliedstaaten, die sich an der Ausarbeitung dieses Übereinkommens beteiligt haben, der Europäischen Union und allen zum Beitritt zu dem Übereinkommen eingeladenen Staaten beglaubigte Abschriften.
ANHANG II
1.Erklärung der Europäischen Union zum Anwendungsbereich in Bezug auf private Akteure gemäß Artikel 3 Absatz 1 Buchstabe b des Übereinkommens
Unter Hinweis auf die Verpflichtung nach Artikel 3 Absatz 1 Buchstabe b des Übereinkommens, Risiken und Auswirkungen, die sich aus Tätigkeiten privater Akteure im Lebenszyklus von Systemen der künstlichen Intelligenz ergeben, soweit diese nicht unter den Buchstaben a der genannten Bestimmung fallen, in einer Weise zu behandeln, die mit dem Ziel und Zweck des Übereinkommens im Einklang steht, erklärt die Union, dass sie die in den Kapiteln II bis VI des Übereinkommens festgelegten Grundsätze und Pflichten auf Tätigkeiten privater Akteure, die KI-Systeme in der Europäischen Union in Verkehr bringen, bereitstellen und verwenden, dadurch anwenden wird, dass sie die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung) durchführt. Zudem können andere einschlägige Bestimmungen des Unionsrechts für diese Tätigkeiten gelten und zur Umsetzung der Grundsätze und Verpflichtungen des Übereinkommens beitragen.
2.Erklärung der Europäischen Union zum räumlichen Geltungsbereich gemäß Artikel 32 Absatz 1 des Übereinkommens
Bezugnehmend auf Artikel 32 Absatz 1 des Übereinkommens erklärt die Union, dass das Rahmenübereinkommen über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit hinsichtlich der Zuständigkeit der Union für die Gebiete gelten soll, in denen die EU-Verträge gemäß Artikel 52 EUV und unter den unter anderem in Artikel 355 AEUV festgelegten Bedingungen angewandt werden.