Šis dokumentas gautas iš interneto svetainės „EUR-Lex“
Dokumentas 52022PC0414
Recommendation for a COUNCIL DECISION authorising the opening of negotiations on behalf of the European Union for a Council of Europe convention on artificial intelligence, human rights, democracy and the rule of law
Empfehlung für einen BESCHLUSS DES RATES über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
Empfehlung für einen BESCHLUSS DES RATES über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
COM/2022/414 final
EUROPÄISCHE KOMMISSION
Brüssel, den 18.8.2022
COM(2022) 414 final
Empfehlung für einen
BESCHLUSS DES RATES
über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
BEGRÜNDUNG
KONTEXT DES VORSCHLAGS
Künstliche Intelligenz (KI) eröffnet große Chancen für die Gesellschaft, die Umwelt und die Wirtschaft. Gleichzeitig können bestimmte KI-Systeme je nach den Umständen ihrer konkreten Anwendung und Nutzung aber auch materiellen oder immateriellen Schaden verursachen und Risiken für die öffentlichen Interessen und die Grundrechte und Grundfreiheiten von Personen bergen. Um diese Herausforderungen meistern und das Potenzial der KI nutzen zu können, kommt es daher entscheidend darauf an, dass ein kohärenter Rechtsrahmen für KI geschaffen wird, der die öffentlichen Interessen und die Grundrechte schützt und gleichzeitig Vertrauen und Innovation fördert.
Im April 2021 schlug die Europäische Kommission eine umfassende Verordnung über künstliche Intelligenz vor, mit der die Vorschriften für KI-Systeme in allen 27 EU-Mitgliedstaaten harmonisiert werden sollen 1 . Über diesen Vorschlag verhandeln derzeit das Europäische Parlament und der Rat im Rahmen des ordentlichen Gesetzgebungsverfahrens. Verschiedene internationale Organisationen, darunter auch der Europarat, haben ihre Bemühungen in diesem Bereich ebenfalls verstärkt, denn sie haben den grenzüberschreitenden Charakter der KI und die Notwendigkeit einer internationalen Zusammenarbeit zur Bewältigung der gemeinsamen Herausforderungen erkannt.
Auf dem Weg zu einem Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
Am 11. September 2019 beschloss das Ministerkomitee des Europarates, einen Ad-hoc-Ausschuss für künstliche Intelligenz (CAHAI) einzusetzen 2 . Seine Aufgabe war es, die Durchführbarkeit und mögliche Elemente eines Rechtsrahmens für die Konzeption, Entwicklung und Anwendung von KI zu prüfen, wobei die Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit sowie die bestehenden einschlägigen internationalen Rechtsinstrumente berücksichtigt werden sollten 3 . Die Arbeiten des CAHAI stützten sich auf eine Durchführbarkeitsstudie 4 und eine Konsultation verschiedener Interessenträger, die im Frühjahr 2021 durchgeführt wurden 5 . Am 3. Dezember 2021 schloss der CAHAI seine Arbeit ab und legte ein Abschlussdokument vor, in dem die möglichen Elemente eines solchen Rechtsrahmens aufgezeigt wurden 6 . Diesem Bericht zufolge ist für die Konzeption, Entwicklung und Anwendung von KI-Systemen ein Rechtsinstrument erforderlich, das die wesentlichen Grundsätze des Schutzes der Menschenwürde und der Achtung der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit festschreibt. Dieses Instrument sollte die Festlegung einer Methodik für die Risikoklassifizierung von KI-Systemen mit den Kategorien „niedriges Risiko“, „hohes Risiko“ und „unannehmbares Risiko“ vorsehen. KI-Anwendungen, die „unannehmbare“ Risiken bergen, sollten verboten werden 7 . Um zu verhindern, dass es zu unerwünschten Verzerrungseffekten kommt, sollte darin auch eine Bestimmung über die Gleichbehandlung und Nichtdiskriminierung aufgenommen werden. Die rechtlichen Schutzvorkehrungen sollten zumindest das Recht auf einen wirksamen Rechtsbehelf vor einer nationalen Behörde, das Recht auf Information über die Verwendung eines KI-Systems in einem Entscheidungsprozess, das Recht auf Wahl der Interaktion mit einem Menschen und das Recht auf Information darüber, dass der Nutzer es mit einem KI-System zu tun hat, gewährleisten. Auf Einzelfragen wie die Manipulation von Inhalten („Deepfakes“) sollte jedoch in anderen sektorspezifischen Instrumenten eingegangen werden. Ferner sollte eine Verpflichtung zur Schaffung von Mechanismen zur Sicherung der Einhaltung und von nationalen Aufsichtsbehörden in Erwägung gezogen werden. Das Rechtsinstrument könnte durch ein unverbindliches Folgenabschätzungsmodell ergänzt werden.
Als Nachfolger des CAHAI wurde der Ausschuss für künstliche Intelligenz (CAI) für den Zeitraum 2022–2024 eingesetzt. Entsprechend seinem Mandat 8 soll der CAI einen internationalen Verhandlungsprozess zur Schaffung eines Rechtsrahmens für die Konzeption, Entwicklung und Anwendung von KI einleiten. Dieser Rahmen sollte auf den Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit beruhen und die Innovation fördern. Er soll bis zum 15. November 2023 ausgearbeitet werden und bis zur Abwicklung des CAI im Jahr 2024 fertiggestellt werden. Bei der Erfüllung seines Mandats sollte der CAI seine Arbeit mit anderen zwischenstaatlichen Ausschüssen und Einrichtungen des Europarates koordinieren; er sollte seine Arbeit auf solide Fakten und einen inklusiven Konsultationsprozess – auch mit internationalen und supranationalen Partnern – stützen und das Abschlussdokument des CAHAI berücksichtigen.
Vom 4.–6. April 2022 fand die konstituierende Sitzung des CAI statt, auf der ein Vorsitz, ein stellvertretender Vorsitz und ein Vorstand gewählt wurden. Am 30. Juni 2022 beauftragte das Ministerkomitee des Europarates den CAI damit, auf der Grundlage der Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit gemäß seinem Mandat rasch ein rechtsverbindliches Instrument bereichsübergreifender Art („Übereinkommen“/„Rahmenübereinkommen“) über künstliche Intelligenz auszuarbeiten; der Schwerpunkt soll auf allgemeinen gemeinsamen Grundsätzen liegen, es soll der Innovation förderlich sein und der Beteiligung von Drittstaaten offenstehen, wobei andere einschlägige internationale Rechtsrahmen, die bereits bestehen oder gerade entwickelt werden, zu berücksichtigen sind 9 .
Anschließend übermittelte der Vorsitz des CAI einen Vorentwurf des künftigen (Rahmen-)Übereinkommens, in dem die wesentlichen Grundsätze und Regeln festgelegt werden, mit denen sichergestellt werden soll, dass die Konzeption, Entwicklung und Anwendung von KI-Systemen im Einklang mit der Achtung der Menschenrechte, dem Funktionieren der Demokratie und der Wahrung der Rechtsstaatlichkeit erfolgt. Das künftige (Rahmen-)Übereinkommen muss in den jeweiligen Rechtssystemen der Vertragsparteien umgesetzt werden. Sein Anwendungsbereich erstreckt sich sowohl auf öffentliche als auch private Anbieter und Nutzer von KI-Systemen, schließt jedoch KI-Systeme im Verteidigungsbereich aus. Im Vorentwurf wird vorgeschlagen, folgende Bestimmungen aufzunehmen:
·Zweck und Anwendungsbereich des (Rahmen-)Übereinkommens,
·Begriffsbestimmungen für die Begriffe KI-System, Lebenszyklus, Anbieter, Nutzer und „KI-Subjekt“,
·bestimmte wesentliche Grundsätze, Verfahrensgarantien und Rechte der KI-Subjekte, die für alle KI-Systeme unabhängig von ihrem Risikoniveau gelten würden,
·zusätzliche Maßnahmen für den öffentlichen Sektor sowie für KI-Systeme, die anhand einer Risiko- und Folgenabschätzungsmethode als mit einem „unannehmbaren“ und „erheblichen“ Risiko behaftet eingestuft wurden (später in einem Anhang des Übereinkommens festzulegen),
·Follow-up- und Kooperationsmechanismus zwischen den Vertragsparteien,
·Schlussbestimmungen mit der Möglichkeit, dass EU-Mitgliedstaaten in Belangen, die unter das Übereinkommen fallen, in ihren gegenseitigen Beziehungen EU-Recht anwenden, und der Möglichkeit, dass die Union dem Übereinkommen beitreten kann.
Der Vorentwurf soll auf den Plenarsitzungen des CAI, die für den 21.–23. September und den 23.–25. November 2022 in Straßburg angesetzt sind, erörtert werden. Außerdem sind für 2023 vier Sitzungen und für 2024 eine Sitzung geplant.
•Gründe und Ziele des Vorschlags
Diese Empfehlung für einen Beschluss wird dem Rat gemäß Artikel 218 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) vorgelegt. Mit dem Beschluss würden die Aufnahme von Verhandlungen im Namen der Union über ein künftiges Übereinkommen des Europarats über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit, die Annahme von Verhandlungsrichtlinien und die Benennung der Kommission als Verhandlungsführer der Union genehmigt.
Nach Artikel 3 Absatz 2 AEUV hat die Union die ausschließliche Zuständigkeit „für den Abschluss internationaler Übereinkünfte, (...) soweit er gemeinsame Regeln beeinträchtigen oder deren Tragweite verändern könnte“. Ein internationales Übereinkommen kann gemeinsame Regeln beeinträchtigen oder ihre Tragweite verändern, wenn sich der Anwendungsbereich des Übereinkommens mit dem Unionsrecht überschneidet oder bereits weitgehend durch das Unionsrecht erfasst ist 10 .
So enthält das EU-Recht bereits umfassende gemeinsame Binnenmarktvorschriften für Produkte 11 und Dienstleistungen 12 , für die KI-Systeme verwendet werden können. Zudem kann durch die Entwicklung und Verwendung bestimmter KI-Systeme die Ausübung der Grundrechte beeinträchtigt werden, die in der Charta der Grundrechte der EU 13 und im Sekundärrecht der EU verankert sind. Dazu gehören beispielsweise die Rechte auf körperliche und geistige Unversehrtheit 14 , auf den Schutz personenbezogener Daten 15 und der Privatsphäre 16 , auf Nichtdiskriminierung 17 , Meinungs- und Informationsfreiheit 18 , auf die Unschuldsvermutung 19 und auf einen wirksamen Rechtsbehelf und ein faires Verfahren 20 . Die Entwicklung und Verwendung von KI kann sich auch auf die Werte auswirken, auf denen die Union gegründet ist, einschließlich der Menschenwürde, der Demokratie und der Rechtsstaatlichkeit 21 .
Bei der Beurteilung der Frage, ob ein Bereich weitgehend unter EU-Recht fällt, ist nicht nur das EU-Recht in seiner derzeitigen Form, sondern auch die künftige Entwicklung des betreffenden Bereichs zu berücksichtigen, soweit diese zum Zeitpunkt der betreffenden Analyse vorhersehbar ist 22 . Angesichts des im April 2021 vorgelegten Vorschlags der Kommission für eine Verordnung über künstliche Intelligenz (im Folgenden „KI-Gesetz“) 23 , über den derzeit im Europäischen Parlament und im Rat verhandelt wird, ist der Bereich, der unter das künftige KI-Übereinkommen des Europarats fallen wird, für eine solche vorhersehbare künftige Entwicklung von unmittelbarer Bedeutung.
Die Verhandlungen über das künftige KI-(Rahmen-)Übereinkommen des Europarates beziehen sich auf Angelegenheiten, die in die Zuständigkeit der Union fallen, und es gibt hinsichtlich des Anwendungsbereichs, der Art und des Inhalts sehr große Überschneidungen zwischen dem Vorentwurf des Übereinkommens und dem vorgeschlagenen KI-Gesetz. Deshalb ist es wichtig, dass die Verhandlungen im Namen der Union so geführt werden, dass die Kohärenz und Einheitlichkeit der EU-Vorschriften für KI und das ordnungsgemäße Funktionieren des durch diese Vorschriften geschaffenen Systems nicht untergraben werden und dass ein künftiges Übereinkommen des Europarats vollständig mit dem derzeit geltenden und künftigen EU-Recht in diesem Bereich vereinbar ist.
•Kohärenz mit den bestehenden Vorschriften in diesem Bereich
Am 21. April 2021 legte die Kommission einen Vorschlag für eine Verordnung mit harmonisierten Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union vor. Dieser Vorschlag hat das zweifache Ziel, einen Binnenmarkt zur Förderung der Entwicklung und Einführung von KI zu schaffen und gleichzeitig den Risiken für die Sicherheit, die Gesundheit und die Grundrechte entgegenzutreten. Der Vorschlag ist horizontaler Art und soll für alle Anbieter und Nutzer von KI-Systemen gelten, unabhängig davon, ob es sich um öffentliche Stellen oder private Einrichtungen oder Personen handelt. KI-Systeme, die ausschließlich für militärische Zwecke entwickelt oder verwendet werden, sind vom Anwendungsbereich ausgenommen.
In dem Vorschlag werden verhältnismäßige Anforderungen und Verpflichtungen festgelegt, die auf das Minimum beschränkt sind, das erforderlich ist, um die Risiken für die Gesundheit, die Sicherheit und die Grundrechte zu bewältigen, ohne aber die technische Entwicklung der KI zu behindern oder den finanziellen und administrativen Aufwand für die Anbieter unverhältnismäßig zu erhöhen. Dazu wird ein risikobasierter Ansatz verfolgt, bei dem KI-Systeme in verschiedene Risikokategorien eingeteilt werden, nämlich „unannehmbar“, „hoch“, „transparenzbezogen“ und „niedrig“ oder „minimal“.
·Für KI-Systeme, die als mit den Werten der EU unvereinbar angesehen werden und eine klare Bedrohung für die Sicherheit, die Existenzgrundlagen oder die Rechte der Menschen darstellen und so ein „unannehmbares Risiko“ bergen (z. B. Bewertung des sozialen Verhaltens durch Behörden, schädliche manipulative KI-Praktiken, biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit wenigen begrenzten Ausnahmen), wird ein Verbot vorgeschlagen.
·„Hochrisiko“-KI-Systeme, die erhebliche Risiken für die Gesundheit, die Sicherheit oder die Grundrechte bergen, müssen Konformitätsprüfungen unterzogen werden und bestimmte verbindliche Anforderungen erfüllen (z. B. in Bezug auf Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht, Genauigkeit, Cybersicherheit), bevor sie in der Union in Verkehr gebracht oder verwendet werden dürfen. Außerdem werden Anbietern und Nutzern verhältnismäßige und wirksame Überwachungs- und Beaufsichtigungspflichten mit eindeutigen Aufgaben und Zuständigkeiten entlang der gesamten Wertschöpfungskette auferlegt, wobei andere Verpflichtungen aus sektorspezifischen Rechtsvorschriften unberührt bleiben.
·Bei KI-Systemen, die ein „transparenzbezogenes Risiko“ bergen, sollten Menschen informiert werden, wenn sie es mit solchen Systemen zu tun haben oder ihnen ausgesetzt sind (z. B. Chatbots, Emotionserkennungssysteme, Systeme zur biometrischen Kategorisierung, Deepfakes).
·Alle anderen Systeme, die ein „minimales“ oder „niedriges“ Risiko für die Gesundheit, die Sicherheit und die Grundrechte bergen, sind ohne weitere Einschränkungen zulässig, die Anbieter können sich aber freiwilligen Verhaltenskodizes anschließen.
Der Vorschlag wird derzeit vom Rat und vom Europäischen Parlament im ordentlichen Gesetzgebungsverfahren erörtert.
Bei den Verhandlungen über das künftige Übereinkommen des Europarats über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit sollte sichergestellt werden, dass die Bestimmungen mit dem EU-Recht und den sich daraus ergebenden Verpflichtungen der Mitgliedstaaten vereinbar sind, wobei dessen künftige Entwicklung und das vorgeschlagene KI-Gesetz zu berücksichtigen sind. Außerdem ist dafür zu sorgen, dass das Übereinkommen des Europarats eine Trennungsklausel enthält, die es den EU-Mitgliedstaaten, die Vertragsparteien des Übereinkommens werden, ermöglicht, ihre Beziehungen untereinander auf der Grundlage des EU-Rechts zu regeln. Das vorgeschlagene KI-Gesetz, wie es sich im Gesetzgebungsverfahren und in den Verhandlungen der beiden Gesetzgeber und schließlich in seiner endgültigen (angenommenen) Form weiterentwickelt, sollte unter den EU-Mitgliedstaaten gewahrt bleiben. Die Europäische Union sollte dem Übereinkommen ebenfalls als Vertragspartei beitreten können.
•Kohärenz mit der Politik der Union in anderen Bereichen
Die Empfehlung ist von Belang für andere laufende oder geplante Initiativen der Kommission, mit denen die im Weißbuch zur KI 24 aufgezeigten Probleme, die bei der Entwicklung und der Verwendung von KI auftreten, angegangen werden sollen. Zu diesen weiteren Initiativen gehören die Überarbeitung sektorspezifischer Produktvorschriften (z. B. der Maschinenrichtlinie 25 und der Richtlinie über die allgemeine Produktsicherheit 26 ) sowie anstehende Initiativen, die sich mit Haftungsfragen im Zusammenhang mit neuer Technik, einschließlich KI-Systemen, befassen.
Die Empfehlung steht auch im Einklang mit der von der Kommission insgesamt verfolgten Digitalstrategie, mit der Technik gefördert wird, die den Menschen zugutekommt – eines der drei Hauptziele der politischen Zielvorstellungen, die in der Mitteilung zur „Gestaltung der digitalen Zukunft Europas“ 27 dargelegt wurden. So soll erreicht werden, dass KI so entwickelt wird, dass die Rechte der Menschen geachtet werden und sie sich ihr Vertrauen verdient – um Europa für das digitale Zeitalter zu wappnen und die nächsten zehn Jahre zur digitalen Dekade 28 zu machen.
Die vorgeschlagene Empfehlung soll zudem die Rolle der Union bei der Gestaltung weltweiter Normen und Standards sowie bei der Förderung einer vertrauenswürdigen KI, die mit den Werten und Interessen der Union im Einklang steht, erheblich stärken. Sie verschafft der Union eine solide Grundlage für die Stärkung der digitalen Diplomatie der EU 29 und für die Aushandlung – mit anderen europäischen und außereuropäischen Ländern – des ersten rechtsverbindlichen internationalen Übereinkommens über KI auf der Grundlage gemeinsamer Werte und Grundsätze.
2.RECHTSGRUNDLAGE, SUBSIDIARITÄT UND VERHÄLTNISMÄẞIGKEIT
•Rechtsgrundlage
Nach Artikel 218 Absatz 3 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) unterbreitet die Kommission dem Rat Empfehlungen, der seinerseits einen Beschluss über die Ermächtigung zur Aufnahme von Verhandlungen erlässt und den Verhandlungsführer der Union benennt. Nach Artikel 218 Absatz 4 AEUV kann der Rat dem Verhandlungsführer Richtlinien erteilen.
•Subsidiarität (bei nicht ausschließlicher Zuständigkeit)
Mit dem vorgeschlagenen KI-Gesetz werden harmonisierte Vorschriften für KI-Systeme in der Union festgelegt, wodurch die Mitgliedstaaten daran gehindert werden, selbst weitergehende Beschränkungen festzulegen, sofern dies nicht ausdrücklich im Gesetz vorgesehen ist. Nach Artikel 3 Absatz 2 AEUV hat die Union die ausschließliche Zuständigkeit für den Abschluss internationaler Übereinkünfte, soweit diese gemeinsame Regeln beeinträchtigen oder deren Tragweite verändern könnten. Daraus ergibt sich, dass die Union hinsichtlich aller Angelegenheiten im Zusammenhang mit der Konzeption, Entwicklung und Anwendung von KI-Systemen, die weitgehend vom Unionsrecht erfasst werden oder infolge der vorhersehbaren künftigen Entwicklung des Unionsrechts und insbesondere des vorgeschlagenen KI-Gesetzes unter das Unionsrecht fallen werden, die Zuständigkeit für die Aushandlung des künftigen Übereinkommens des Europarats über KI haben sollte.
•Verhältnismäßigkeit
Diese Initiative geht nicht über das zur Erreichung der angestrebten politischen Ziele erforderliche Maß hinaus.
•Wahl des Instruments
Als Instrument wird eine Empfehlung für einen Beschluss des Rates gemäß Artikel 218 Absätze 3 und 4 AEUV gewählt.
3.ERGEBNISSE DER EX-POST-BEWERTUNG, DER KONSULTATION DER INTERESSENTRÄGER UND DER FOLGENABSCHÄTZUNG
•Ex-post-Bewertung/Eignungsprüfungen bestehender Rechtsvorschriften
entfällt
•Konsultation der Interessenträger
entfällt
•Einholung und Nutzung von Expertenwissen
Die Kommission hat die Ansichten berücksichtigt, die von den Sachverständigen der Mitgliedstaaten bei den Beratungen in der zuständigen Ratsarbeitsgruppe zur Vorbereitung der Verhandlungen geäußert wurden.
•Folgenabschätzung
entfällt
•Effizienz der Rechtsetzung und Vereinfachung
entfällt
•Grundrechte
Sowohl das vorgeschlagene KI-Gesetz als auch das erwogene Übereinkommen des Europarats zielen darauf ab, Risiken zu minimieren und ein hohes Maß des Schutzes der Grundrechte zu gewährleisten, die unter bestimmten Umständen durch die Entwicklung und Verwendung von KI beeinträchtigt werden könnten; außerdem wird in beiden Instrumenten das Potenzial der KI für den Schutz und die Erleichterung der Ausübung dieser Rechte im digitalen Umfeld und für die Verbesserung des gesellschaftlichen und ökologischen Wohlergehens und die Förderung des technischen Fortschritts anerkannt.
4.AUSWIRKUNGEN AUF DEN HAUSHALT
Es ergeben sich keine Auswirkungen auf den Unionshaushalt.
5.WEITERE ANGABEN
•Durchführungspläne sowie Monitoring-, Bewertungs- und Berichterstattungsmodalitäten
Der Verhandlungsprozess wird voraussichtlich bis 2024 dauern. Im Anschluss daran kann das Übereinkommen dann unterzeichnet und abgeschlossen werden.
Empfehlung für einen
BESCHLUSS DES RATES
über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
DER RAT DER EUROPÄISCHEN UNION —
gestützt auf den Vertrag über die Arbeitsweise der Europäischen Union, insbesondere auf Artikel 218 Absätze 3 und 4,
auf Empfehlung der Europäischen Kommission,
in Erwägung nachstehender Gründe:
(1)Im Jahr 2021 setzte das Ministerkomitee des Europarates einen Ausschuss für künstliche Intelligenz (CAI) für den Zeitraum 2022–2024 ein, der damit beauftragt wurde, einen internationalen Verhandlungsprozess zur Aufstellung eines Rechtsrahmens für die Konzeption, Entwicklung und Anwendung künstlicher Intelligenz (KI) einzuleiten, der auf den Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit beruht und Innovationen fördert 30 .
(2)Am 30. Juni 2022 beauftragte das Ministerkomitee des Europarates den Ausschuss für künstliche Intelligenz damit, auf der Grundlage der Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit gemäß seinem Mandat rasch ein rechtsverbindliches Instrument bereichsübergreifender Art („Übereinkommen“/„Rahmenübereinkommen“) über künstliche Intelligenz auszuarbeiten; der Schwerpunkt soll auf allgemeinen gemeinsamen Grundsätzen liegen, es soll der Innovation förderlich sein und der Beteiligung von Drittstaaten offenstehen, wobei andere einschlägige internationale Rechtsrahmen, die bereits bestehen oder gerade entwickelt werden, zu berücksichtigen sind 31 .
(3)Anschließend schlug der Vorsitz des Ausschusses für künstliche Intelligenz einen Vorentwurf des (Rahmen-)Übereinkommens vor, das für die Konzeption, Entwicklung und Anwendung von KI-Systemen gelten soll. Dieser Vorentwurf enthält: Bestimmungen über Zweck und Gegenstand, Anwendungsbereich, Begriffsbestimmungen, wesentliche Grundsätze sowie Verfahrensgarantien und Rechte, die für alle KI-Systeme unabhängig von ihrem Risikoniveau gelten, zusätzliche Maßnahmen für KI-Systeme im öffentlichen Sektor und für KI-Systeme, die ein „unannehmbares“ und „erhebliches“ Risiko bergen, und einen Follow-up- und Kooperationsmechanismus; Schlussbestimmungen, einschließlich der Möglichkeit, dass die Union dem Übereinkommen beitreten kann; eine in Ausarbeitung befindliche Anlage über eine Methodik für die Risiko- und Folgenabschätzung in Bezug auf KI-Systeme.
(4)Die Union hat gemeinsame Regeln angenommen, auf die sich die für das Übereinkommen des Europarats erwogenen Elemente auswirken werden. Dazu gehören insbesondere ein umfassendes Regelwerk im Bereich des Binnenmarkts für Produkte 32 und Dienstleistungen 33 , für die KI-Systeme verwendet werden können, sowie Vorschriften zum Schutz der Grundrechte, die in der Charta der Grundrechte der EU 34 verankert sind und im Sekundärrecht der Union umgesetzt 35 wurden, denn es ist wahrscheinlich, dass diese Rechte unter bestimmten Umständen durch die Entwicklung und Verwendung bestimmter KI-Systeme beeinträchtigt werden.
(5)Überdies hat die Kommission am 21. April 2021 einen Legislativvorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für KI 36 vorgelegt, über den derzeit im Europäischen Parlament und im Rat verhandelt wird. Das ins Auge gefasste Übereinkommen des Europarats überschneidet sich in seinem Anwendungsbereich weitgehend mit dem Legislativvorschlag, denn mit beiden Instrumenten sollen Vorschriften für die Konzeption, Entwicklung und Anwendung von KI-Systemen festgelegt werden, die von öffentlichen oder privaten Einrichtungen angeboten und verwendet werden.
(6)Daher kann der in Betracht gezogene Abschluss des Übereinkommens des Europarats im Sinne von Artikel 3 Absatz 2 des Vertrags über die Arbeitsweise der Europäischen Union bestehende und vorhersehbare künftige gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern.
(7)Um die Integrität des Unionsrechts zu schützen und den Fortbestand der Kohärenz zwischen den Regeln des Völkerrechts und denen des Unionsrechts sicherzustellen, ist es erforderlich, dass die Kommission dazu ermächtigt wird, im Namen der Union das Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit auszuhandeln.
(8)Der Europäische Datenschutzbeauftragte wurde gemäß Artikel 42 Absatz 1 der Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates angehört und hat am … eine Stellungnahme abgegeben —
HAT FOLGENDEN BESCHLUSS ERLASSEN:
Artikel 1
Die Kommission wird ermächtigt, im Namen der Union das (Rahmen-)Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit auszuhandeln.
Artikel 2
Die Verhandlungsrichtlinien sind im Anhang festgelegt.
Artikel 3
Die Verhandlungen werden im Benehmen mit dem [Bezeichnung des Sonderausschusses, vom Rat einzufügen] geführt.
Artikel 4
Dieser Beschluss ist an die Kommission gerichtet.
Geschehen zu Brüssel am […]
Im Namen des Rates
Der Präsident /// Die Präsidentin
EUROPÄISCHE KOMMISSION
Brüssel, den 18.8.2022
COM(2022) 414 final
ANHANG
der
EMPFEHLUNG FÜR EINEN BESCHLUSS DES RATES
über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
ANHANG
der Empfehlung für einen Beschluss des Rates über die Ermächtigung zur Aufnahme von Verhandlungen im Namen der Europäischen Union über ein Übereinkommen des Europarats über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit
In Bezug auf den Verhandlungsprozess sollte die Union folgende Ergebnisse anstreben:
1.Der Verhandlungsprozess ist offen, inklusiv und transparent und beruht auf soliden Fakten und einer Zusammenarbeit in gutem Glauben.
2.Der Verhandlungsprozess beruht auf einem inklusiven Konsultationsprozess und ermöglicht eine sinnvolle Beteiligung aller einschlägigen Interessenträger, einschließlich der Zivilgesellschaft, des Privatsektors, der Wissenschaft, nichtstaatlicher Organisationen, Normungsorganisationen und anderer relevanter Akteure mit Fachwissen in Bezug auf die Regulierung der Konzeption, Entwicklung und Anwendung von Systemen der künstlichen Intelligenz (KI).
3.Sämtliche Beiträge aller Verhandlungsparteien werden gleichberechtigt berücksichtigt, um einen inklusiven Prozess zu gewährleisten.
4.Der Verhandlungsprozess beruht auf einem wirksamen und realistischen Arbeitsprogramm für die Ausarbeitung des (Rahmen-)Übereinkommens.
In Bezug auf die allgemeinen Verhandlungsziele sollte die Union folgende Ergebnisse anstreben:
1.Das Übereinkommen ist mit dem EU-Binnenmarktrecht und anderen Bereichen des EU-Rechts vereinbar, auch mit den allgemeinen Grundsätzen des EU-Rechts und den Grundrechten und Grundfreiheiten, die in der Charta der Grundrechte der EU verankert sind und im sekundären EU-Recht umgesetzt wurden.
2.Das Übereinkommen ist mit dem vorgeschlagenen Gesetz über künstliche Intelligenz (KI-Gesetz) 1 vereinbar, auch unter Berücksichtigung künftiger Entwicklungen im Gesetzgebungsverfahren.
3.Das Übereinkommen dient als wirksamer und zukunftssicherer Rechtsrahmen für KI, um ein hohes Maß an Schutz der Menschenrechte und die Wahrung der europäischen Werte zu gewährleisten und gleichzeitig die Innovation zu fördern und die Rechtssicherheit und das Vertrauen zu erhöhen; im Übereinkommen werden zudem die potenziellen Vorteile der KI für wichtige öffentliche Interessen anerkannt, auch im Hinblick auf den Schutz und die Erleichterung der Ausübung der Menschenrechte im digitalen Umfeld, die Verbesserung des gesellschaftlichen und ökologischen Wohlergehens und der Gesundheit sowie auf die Förderung des technischen Fortschritts.
4.Das Übereinkommen stärkt die internationale Zusammenarbeit zwischen der Europäischen Union und anderen europäischen und außereuropäischen Ländern, die dem Übereinkommen beitreten können.
5.Das Übereinkommen ist mit den bestehenden Instrumenten des Europarats vereinbar, insbesondere mit der Europäischen Konvention zum Schutz der Menschenrechte und Grundfreiheiten und ihren Protokollen, dem Übereinkommen Nr. 108 des Europarats zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten in der durch das Protokoll CETS 223 geänderten Fassung und anderen einschlägigen Rechtsinstrumenten des Europarats; im Übereinkommen werden Überschneidungen mit diesen Instrumenten und nachteilige Folgen für deren Anwendung oder den späteren Beitritt eines Landes zu diesen Instrumenten vermieden; im Übereinkommen wird auf die neuartigen Risiken und Herausforderungen eingegangen, die sich aus den besonderen Merkmalen bestimmter KI-Systeme für die Einhaltung und wirksame Durchsetzung bestehender, durch solche Instrumente geschützter Rechte ergeben.
6.Das Übereinkommen ist mit den Verpflichtungen der Europäischen Union aus anderen internationalen Übereinkünften, deren Vertragspartei sie ist, vereinbar und führt zu keinen nachteiligen Folgen für deren wirksame Anwendung; insbesondere ist das Übereinkommen mit den internationalen Handelsverpflichtungen der Union vereinbar und vermeidet unnötige oder ungerechtfertigte Handelsbeschränkungen.
In Bezug auf den Inhalt der Verhandlungen sollte die Union folgende Ergebnisse anstreben:
1.Die Bestimmungen des Übereinkommens sind uneingeschränkt mit dem EU-Binnenmarktrecht und anderen Bereichen des EU-Rechts vereinbar, auch mit den allgemeinen Grundsätzen des EU-Rechts und den Grundrechten, die in der Charta der Grundrechte der EU verankert sind und im sekundären EU-Recht umgesetzt wurden.
2.Die Bestimmungen des Übereinkommens sind uneingeschränkt mit den Bestimmungen des vorgeschlagenen KI-Gesetzes vereinbar, auch unter Berücksichtigung künftiger Entwicklungen im Gesetzgebungsverfahren.
3.Die Bestimmungen des Übereinkommens erlauben es den Vertragsparteien, einen umfassenderen Schutz zu gewähren, als im Übereinkommen selbst vorgesehen, und untergraben in keiner Weise den Schutz der Grundrechte und Grundfreiheiten und die Garantien, die im Unionsrecht vorgesehen sind, einschließlich des Grundsatzes, dass die Behörden, die die Wahrung der Grundrechte beaufsichtigen, unabhängig sein müssen, soweit nach dem EU-Recht erforderlich.
4.Das Übereinkommen folgt einem risikobasierten Ansatz und legt verhältnismäßige, wirksame und eindeutige Regeln für öffentliche und private Einrichtungen entlang der gesamten KI-Wertschöpfungskette fest, mit denen die Risiken, die sich aus der Konzeption, Entwicklung und Anwendung bestimmter KI-Systeme ergeben, minimiert werden sollen, wobei unnötige und unverhältnismäßige Belastungen oder Einschränkungen der Tätigkeiten dieser Einrichtungen oder Beschränkungen der technischen Entwicklung vermieden werden sollten; insbesondere sind regulatorische Eingriffe entsprechend dem von den KI-Systemen ausgehenden Risiko in ihrem Umfang und ihrer Strenge ausgewogen, gerechtfertigt und gestaffelt.
5.Die Bestimmungen des Übereinkommens werden so weit wie möglich zukunftssicher und flexibel formuliert, damit künftige technische, marktbezogene, gesellschaftliche und ökologische Entwicklungen im Zusammenhang mit KI berücksichtigt werden können.
6.Das Übereinkommen enthält Vorschriften für die Konzeption, Entwicklung und Anwendung von KI-Systemen, die Überschneidungen vermeiden und gegenüber anderen einschlägigen internationalen oder regionalen Übereinkünften, insbesondere im Bereich des Datenschutzes, einen sinnvollen Mehrwert bieten; diese Vorschriften für KI sind mit solchen Übereinkünften und internationalen Menschenrechtsnormen vereinbar.
7.Das Übereinkommen enthält Bestimmungen zur wirksamen Umsetzung der Vorschriften für die Konzeption, Entwicklung und Anwendung von KI-Systemen, insbesondere anhand geeigneter Ex-ante- und Ex-post-Mechanismen zur Sicherung der Einhaltung und zur Kontrolle, und erkennt die Rolle von Normen und Zertifizierungsmechanismen, unabhängiger Dritter, die an der Kontrolle der Einhaltung mitwirken, und der zuständigen Aufsichtsbehörden an.
8.Das Übereinkommen erlaubt Innovationsfördermaßnahmen, einschließlich der Erprobung von KI-Systemen und der Einrichtung und des Betriebs von Reallaboren, um KI-Innovationen in einem kontrollierten Umfeld unter der Aufsicht der zuständigen Behörden voranzubringen.
9.Das Übereinkommen trägt den besonderen Bedürfnissen kleiner und mittlerer Unternehmen (KMU) Rechnung, beeinträchtigt ihre Wettbewerbsfähigkeit nicht unverhältnismäßig und verpflichtet die Vertragsparteien, besondere Maßnahmen zu ihrer Unterstützung zu ergreifen.
10.Das Übereinkommen trägt den Interessen der Strafverfolgungs- und Justizbehörden zu Zwecken der Prävention, Ermittlung, Aufdeckung und Verfolgung von Straftaten, auch im Hinblick auf die Vertraulichkeit und Integrität solcher Ermittlungen, Rechnung.
11.Das Übereinkommen sieht eine wirksame Beaufsichtigung durch zuständige Behörden sowie Kooperationsmechanismen vor, die eine wirksame Umsetzung des Übereinkommens ermöglichen.
In Bezug auf das Funktionieren des Übereinkommens sollte die Union folgende Ergebnisse anstreben:
1.Das Übereinkommen enthält eine Trennungsklausel, die es den EU-Mitgliedstaaten ermöglicht, in Angelegenheiten, die in den Anwendungsbereich des Übereinkommens fallen, in ihren gegenseitigen Beziehungen weiterhin das EU-Recht anzuwenden.
2.In dem Übereinkommen ist ein geeigneter Mechanismus vorgesehen, um seine Durchführung zu gewährleisten, und es enthält Schlussbestimmungen, unter anderem über die Beilegung von Streitigkeiten, die Unterzeichnung, die Ratifizierung, die Annahme, die Genehmigung und den Beitritt, das Inkrafttreten, die Änderung, die Aussetzung, die Kündigung und den Verwahrer sowie über die Sprachen, die, soweit möglich und angemessen, den Bestimmungen anderer einschlägiger Übereinkünfte des Europarats nachempfunden sind.
3.Das Übereinkommen erlaubt den Beitritt der Europäischen Union zu dem Übereinkommen.
