This document is an excerpt from the EUR-Lex website
Document 52025PC0518
Proposal for a COUNCIL DECISION on the position to be taken on behalf of the European Union on the Draft Recommendation of the Committee of Ministers of the Council of Europe on equality and artificial intelligence
Vorschlag für einen BESCHLUSS DES RATES über den Standpunkt, der im Namen der Europäischen Union in Bezug auf den Entwurf einer Empfehlung des Ministerkomitees des Europarats zu Gleichstellung und künstlicher Intelligenz zu vertreten ist
Vorschlag für einen BESCHLUSS DES RATES über den Standpunkt, der im Namen der Europäischen Union in Bezug auf den Entwurf einer Empfehlung des Ministerkomitees des Europarats zu Gleichstellung und künstlicher Intelligenz zu vertreten ist
COM/2025/518 final
EUROPÄISCHE KOMMISSION
Brüssel, den 19.9.2025
COM(2025) 518 final
2025/0291(NLE)
Vorschlag für einen
BESCHLUSS DES RATES
über den Standpunkt, der im Namen der Europäischen Union in Bezug auf den Entwurf einer Empfehlung des Ministerkomitees des Europarats zu Gleichstellung und künstlicher Intelligenz zu vertreten ist
BEGRÜNDUNG
1.Gegenstand des Vorschlags
Dieser Vorschlag betrifft den Beschluss zur Festlegung des Standpunkts, der im Namen der Union im Ministerkomitee des Europarats in Bezug auf die geplante Annahme der Empfehlung des Europarats zu Gleichstellung und künstlicher Intelligenz (im Folgenden „Empfehlung“) zu vertreten ist. Die Empfehlung wurde vom Sachverständigenausschuss für künstliche Intelligenz, Gleichstellung und Diskriminierung (im Folgenden „GEC/ADI-AI“) ausgearbeitet und soll auf der gemeinsamen Plenartagung der Kommission für Geschlechtergleichstellung (im Folgenden „GEC“) und des Lenkungsausschusses für Antidiskriminierung, Diversität und Inklusion (im Folgenden „CDADI“) in seiner Sitzung vom 18. bis 20. November 2025 gebilligt werden, damit sie dem Ministerkomitee bis Ende 2025 zur Annahme vorgelegt werden kann.
2.Kontext des Vorschlags
2.1.Das Ministerkomitee des Europarats
Das Ministerkomitee ist das Entscheidungsgremium des Europarats, das sich aus den Außenministern oder Ständigen Vertretern der 46 Mitgliedstaaten des Europarats in Straßburg zusammensetzt. Die Aufgaben und Funktionen des Ministerkomitees sind in Kapitel IV der Satzung des Europarats (im Folgenden „Satzung“) beschrieben. Gemäß Artikel 14 der Satzung hat jedes Mitglied des Europarats Anspruch auf einen Vertreter im Ministerkomitee, der über eine Stimme verfügt. Alle EU-Mitgliedstaaten sind Mitglieder des Europarats und somit im Ministerkomitee vertreten. Die EU hat Beobachterstatus ohne Stimmrecht.
2.2.Der Sachverständigenausschuss für künstliche Intelligenz, Gleichstellung und Diskriminierung (GEC/ADI-AI)
Der GEC/ADI-AI ist ein gemeinsamer Unterausschuss der GEC und des CDADI, der vom Ministerkomitee beauftragt wurde, bis Ende 2025 eine Empfehlung zu den Auswirkungen von Systemen künstlicher Intelligenz, ihrem Potenzial zur Förderung der Gleichstellung, einschließlich der Geschlechtergleichstellung, und den Risiken, die sie in Bezug auf Nichtdiskriminierung mit sich bringen könnten, auszuarbeiten.
Der GEC/ADI-AI setzt sich aus acht Vertretern der Mitgliedstaaten des Europarats, vier der GEC und vier des CDADI sowie sechs unabhängigen Sachverständigen mit nachweislicher Expertise in den Bereichen künstliche Intelligenz, Menschenrechte, Gleichstellung, einschließlich Geschlechtergleichstellung, und Nichtdiskriminierung zusammen. Jedes Mitglied des GEC/ADI-AI hat eine Stimme. Die EU ist Teilnehmerin ohne Stimmrecht.
Die GEC und der CDADI setzen sich jeweils aus Vertretern der 46 Mitgliedstaaten des Europarats zusammen, die jeweils eine Stimme haben. Darüber hinaus nehmen an den Plenartagungen Vertreter verschiedener Gremien des Europarats, zwischenstaatlicher Organisationen, Vertreter von Staaten mit Beobachterstatus sowie Nichtregierungsorganisationen und spezialisierte Einrichtungen teil. Gelegentlich nehmen – ohne Stimmrecht – Vertreter der Europäischen Union an den Plenartagungen teil.
2.3.Das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit
Am 17. Mai 2024 nahm das Ministerkomitee das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Rahmenübereinkommen“) an, einen rechtsverbindlichen Vertrag, mit dem sichergestellt werden soll, dass Tätigkeiten im Lebenszyklus von Systemen künstlicher Intelligenz uneingeschränkt mit den Menschenrechten, der Demokratie und der Rechtsstaatlichkeit im Einklang stehen und gleichzeitig dem technologischen Fortschritt und der Innovation förderlich sind.
Das Rahmenübereinkommen erstreckt sich auf KI-Systeme, die möglicherweise in die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit eingreifen. Die im Rahmenübereinkommen vorgesehenen Grundsätze und Verpflichtungen werden für Tätigkeiten im Lebenszyklus von KI-Systemen gelten, die von Behörden oder in deren Namen handelnden privaten Akteuren durchgeführt werden. Die Vertragsparteien sind außerdem verpflichtet, Risiken und Auswirkungen, die sich aus Tätigkeiten privater Akteure im Lebenszyklus von KI-Systemen ergeben, in einer Weise anzugehen, die mit dem Ziel und Zweck des Übereinkommens im Einklang steht, sie haben jedoch die Wahl, ob sie dazu die Verpflichtungen des Übereinkommens anwenden oder andere geeignete Maßnahmen ergreifen. Das Übereinkommen sieht eine Reihe weiterer allgemeiner Verpflichtungen und Grundprinzipien in Bezug auf den Schutz der Menschenwürde und der individuellen Autonomie sowie die Förderung der Gleichstellung und Nichtdiskriminierung vor. Überdies schreibt es die Achtung der Privatsphäre und den Schutz personenbezogener Daten ebenso vor wie Transparenz und Aufsicht, um die Rechenschaftspflicht und Verantwortung zu gewährleisten. Einer der Grundsätze gilt auch der sicheren Innovation und Erprobung in kontrollierten Umgebungen.
Das Übereinkommen sieht zudem eine Reihe von Maßnahmen vor, mit denen sichergestellt werden soll, dass bei Menschenrechtsverletzungen, die sich aus Tätigkeiten im Lebenszyklus von KI-Systemen ergeben, leicht zugängliche und wirksame Rechtsbehelfe zur Verfügung stehen. Es enthält auch wirksame Verfahrensgarantien und Schutzvorkehrungen für Personen, deren Rechte durch den Einsatz von KI-Systemen erheblich beeinträchtigt worden sind. Darüber hinaus sollten Einzelpersonen darauf hingewiesen werden, dass sie es mit einem KI-System und nicht mit einem Menschen zu tun haben.
Das Übereinkommen enthält auch Maßnahmen zur Bewertung und Minderung von Risiken und negativen Auswirkungen, die auf iterative Weise durchzuführen sind, um tatsächliche und potenzielle Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu ermitteln und geeignete Präventions- und Minderungsmaßnahmen zu ergreifen.
Schließlich sieht das Übereinkommen vor, dass die Vertragsparteien prüfen sollten, ob Verbote oder Moratorien für bestimmte Anwendungen von KI-Systemen nötig sind, die als mit der Achtung der Menschenrechte, dem Funktionieren der Demokratie oder der Rechtsstaatlichkeit unvereinbar angesehen werden.
Jede Vertragspartei sollte auf innerstaatlicher Ebene einen oder mehrere wirksame Aufsichtsmechanismen einrichten oder benennen, um die Einhaltung der Verpflichtungen aus dem Übereinkommen, wie sie von den Vertragsparteien in Kraft gesetzt wurden, zu beaufsichtigen.
Die Union unterzeichnete das Übereinkommen am 5. September 2024 nach der Annahme des Beschlusses (EU) 2024/2218 des Rates vom 28. August 2024 über die Unterzeichnung – im Namen der Europäischen Union – des Rahmenübereinkommens. Das Übereinkommen wurde auch von Andorra, Kanada, Georgien, Island, Israel, Japan, Liechtenstein, Montenegro, Norwegen, der Republik Moldau, San Marino, der Schweiz, der Ukraine, dem Vereinigten Königreich und den Vereinigten Staaten von Amerika unterzeichnet.
Am 3. Juni 2025 nahm die Kommission einen Vorschlag für einen Beschluss des Rates an, das Verfahren für den Abschluss des Rahmenübereinkommens im Namen der Union gemäß den Bestimmungen des Beschlusses (EU) 2024/2218.1 des Rates einzuleiten.
Das Übereinkommen wird in der Union ausschließlich durch die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz („KI-Verordnung“) 1 und gegebenenfalls durch andere einschlägige Rechtsvorschriften der Union 2 umgesetzt. Die KI-Verordnung enthält umfassende Regelungen über künstliche Intelligenz, die darauf abzielen, Innovationen und die Einführung vertrauenswürdiger künstlicher Intelligenz zu fördern und gleichzeitig den Schutz der Gesundheit, Sicherheit und Grundrechte zu gewährleisten, wie sie in der Charta der Grundrechte der Europäischen Union (im Folgenden „Charta“) verankert sind, einschließlich des Rechts auf Nichtdiskriminierung und der Geschlechtergleichstellung. Die KI-Verordnung enthält harmonisierte Vorschriften, die hauptsächlich auf einer vollständigen Harmonisierung beruhen und das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz in der Union regeln. Diese Vorschriften gelten unmittelbar in den Mitgliedstaaten, sofern in jener Verordnung nicht ausdrücklich etwas anderes vorgesehen ist.
2.4.Die geplante Empfehlung des Europarats zu Gleichstellung und künstlicher Intelligenz
Der Schwerpunkt der Empfehlung liegt auf dem Potenzial der KI zur Förderung der Gleichstellung, einschließlich der Geschlechtergleichstellung, und auf den Risiken, die sie in Bezug auf Nichtdiskriminierung mit sich bringen könnte. Ziel ist es, den allgemeinen Rahmen des Rahmenübereinkommens in Bezug auf den Grundsatz der Gleichheit in Bezug auf künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (SEV Nr. 225) zu ergänzen, der in enger Zusammenarbeit mit dem Ausschuss für künstliche Intelligenz (CAI) ausgearbeitet wurde.
Die Empfehlung stützt sich auf die von der GEC und dem CDADI im Jahr 2023 gebilligte Studie mit dem Titel „Study on the impact of artificial intelligence systems, their potential for promoting equality, including gender equality, and the risks they may cause in relation to non-discrimination“ (Studie über die Auswirkungen von Systemen künstlicher Intelligenz, ihr Potenzial zur Förderung der Gleichstellung, einschließlich der Geschlechtergleichstellung, und die Risiken, die sie im Zusammenhang mit Nichtdiskriminierung mit sich bringen könnten) 3 . In der Studie wurden vier sich ergänzende regulatorische und politische Handlungsfelder ermittelt, um einen soliden menschenrechtsbasierten Ansatz für künstliche Intelligenz zu gewährleisten: 1) Prävention, Transparenz und Rechenschaftspflicht, 2) Zugang zur Justiz und zu Rechtsbehelfen, 3) Diversität, Inklusion, Vertretung und Teilhabe, 4) demokratische Teilhabe, Sensibilisierung der Öffentlichkeit und Aufbau von Kapazitäten.
Um Beiträge von Interessenträgern und der interessierten Öffentlichkeit einzuholen, führte der Europarat vom 10. März 2025 bis zum 28. April 2025 eine öffentliche Konsultation zu dem Empfehlungsentwurf durch.
Der Empfehlungsentwurf wurde in den Sitzungen des GEC/ADI-AI vom 25. bis 26. September 2024 und 26. bis 27. Februar 2025 erörtert. Eine letzte Sitzung der Expertengruppe ist für den 7. bis 9. Oktober 2025 geplant, auf der der Empfehlungsentwurf fertiggestellt werden soll. Im Vorfeld dieser Sitzung wurde Ende Juli eine fünfte überarbeitete Fassung der Empfehlung (GEC/ADI-AI(2024)7rev5) ausgegeben.
Der Empfehlungsentwurf wurde auch in den Sitzungen der GEC und des CDADI im November 2024 erörtert und soll auf einer gemeinsamen Plenartagung der GEC und des CDADI vom 18. bis 20. November 2025 zur Vorlage im Ministerkomitee gebilligt werden. Das Ministerkomitee beabsichtigt, die Empfehlung bis zum Frühjahr 2026 förmlich anzunehmen.
Zweck der geplanten Empfehlung ist es, „die Mitgliedstaaten dabei zu unterstützen, die Gleichstellung, einschließlich der Geschlechtergleichstellung, zu fördern und alle Formen der Diskriminierung bei alle ihren Tätigkeiten und denen der Akteure des öffentlichen und privaten Sektors während des Lebenszyklus von KI-Systemen zu verhindern und zu bekämpfen“.
Die Empfehlung würde keine rechtlichen Wirkungen entfalten oder Verpflichtungen schaffen, sondern auf der freiwilligen Anwendung durch die Mitgliedstaaten des Europarats beruhen. Gemäß Artikel 15 Buchstabe b der Satzung kann das Ministerkomitee jedoch die Regierungen der Mitgliedstaaten ersuchen, „ihm mitzuteilen, was sie auf diese Empfehlungen hin veranlasst haben“.
3.Im Namen der Union zu vertretender Standpunkt
Es wird vorgeschlagen, dass die Union den Standpunkt vertreten sollte, der Annahme des Empfehlungsentwurfs durch das Ministerkomitee zuzustimmen, sofern gewährleistet ist, dass dieser im Einklang mit dem Besitzstand der Union, insbesondere der KI-Verordnung, und mit dem Rahmenübereinkommen des Europarats steht. Mit dem aktuellen Entwurf der Empfehlung (Rev5 vom Juli 2025) ist dieser Einklang noch nicht vollständig hergestellt.
Die Union sollte der Annahme des Empfehlungsentwurfs unter der Bedingung zustimmen, dass die Empfehlung insbesondere die folgenden Anforderungen erfüllt:
1.Maßnahmen, die Akteure im Lebenszyklus von KI-Systemen betreffen, gehen nicht über die Verpflichtungen hinaus, die in der KI-Verordnung festgelegt sind, mit der die Vorschriften für KI in der Union, auch im Bereich der Gleichstellung, hauptsächlich vollständig harmonisiert werden.
Insbesondere sollte die Empfehlung eine ausreichende Flexibilität bei der Umsetzung der KI-Verordnung (im Einklang mit dem Ansatz des Rahmenübereinkommens) ermöglichen, was voraussetzen würde, dass die Verweise auf die Notwendigkeit „wirksamer Maßnahmen“ in den Absätzen 7, 9, 10 und 36 des Empfehlungsentwurfs in angemessener Weise geändert werden.
·Die in den Absätzen 9, 10.1 und 18.2 des Empfehlungsentwurfs vorgeschlagenen Maßnahmen sollten in geeigneter Weise so geändert werden, dass Empfehlungen vermieden werden, die zu zusätzlichen positiven Verpflichtungen in Bezug auf die Förderung der Gleichstellung durch Anbieter und Betreiber von KI-Systemen führen würden.
·Die Bestimmungen von Absatz 5.1 des Empfehlungsentwurfs sollten in geeigneter Weise angepasst werden, um eine unbefristete Beschränkung der Nutzung von KI zu vermeiden, die mit dem Ansatz der EU für die Regulierung von KI und mit der Innovationspolitik der EU unvereinbar ist.
2.Die Formulierung der Maßnahmen und Normen in der Empfehlung wird im Wortlaut präzisiert, um die terminologische und inhaltliche Kohärenz und Interoperabilität mit dem Rechtsrahmen der Union zu gewährleisten.
·Insbesondere sollten in Absatz 18 die Verweise auf „einheitliche Normen“ angemessen angepasst werden, damit eine ausreichende Flexibilität bei der Umsetzung gewährleistet ist, sowie die Verweise auf „Verzerrungen“, um sicherzustellen, dass die Maßnahmen verhältnismäßig bleiben und ihr Schwerpunkt auf Schäden liegt.
3.Die Schutzvorkehrungen in Bezug auf eine menschliche Überprüfung und Beschwerdeverfahren (Absatz 16a) werden in geeigneter Weise im Einklang mit der KI-Verordnung und dem Rahmenübereinkommen angepasst, wodurch die Kohärenz zwischen den beiden Instrumenten sichergestellt und gleichzeitig die Einführung KI-spezifischer Verpflichtungen für Anbieter oder Betreiber von KI-Systemen, die im Besitzstand der Union nicht vorgesehen sind, vermieden wird 4 .
4.Die Aufzählung der Sektoren am Ende von Absatz 36 des Empfehlungsentwurfs, auf denen ein besonderes Augenmerk liegen muss, wird geändert, um sicherzustellen, dass sie mit der KI-Verordnung im Einklang steht und nicht über die darin (Anhänge I und III) festgelegten Hochrisikobereiche hinausgeht, was verhindert, dass dort Sektoren Eingang finden, die in der Verordnung nicht aufgeführt sind, oder es wird alternativ eine Neuformulierung solcher Nennungen im Hinblick auf Überwachungsmaßnahmen oder andere ausreichend flexible Ansätze vorgenommen 5 .
4.Rechtsgrundlage
4.1.Verfahrensrechtliche Grundlage
4.1.1.Grundsätze
Nach Artikel 218 Absatz 9 AEUV erlässt der Rat Beschlüsse „zur Festlegung der Standpunkte, die im Namen der Union in einem durch eine Übereinkunft eingesetzten Gremium zu vertreten sind, sofern dieses Gremium rechtswirksame Akte, mit Ausnahme von Rechtsakten zur Ergänzung oder Änderung des institutionellen Rahmens der betreffenden Übereinkunft, zu erlassen hat.“
Artikel 218 Absatz 9 AEUV gilt unabhängig davon, ob die Union ein Mitglied des betreffenden Gremiums oder Vertragspartei der betreffenden Übereinkunft ist 6 .
Der Begriff „rechtswirksame Akte“ erfasst auch Rechtsakte, die kraft völkerrechtlicher Regelungen, denen das jeweilige Gremium unterliegt, Rechtswirkung entfalten. Darunter fallen auch Instrumente, die völkerrechtlich nicht bindend sind, aber dennoch „geeignet [sind], den Inhalt der vom Unionsgesetzgeber … erlassenen Regelung maßgeblich zu beeinflussen“ 7 .
4.1.2.Anwendung auf den vorliegenden Fall
Wie in Abschnitt 2 dargelegt, soll die Empfehlung vom Ministerkomitee angenommen werden, bei dem es sich um ein durch ein internationales Übereinkommen eingesetztes Gremium handelt, das Rechtswirkung schaffen könnte, indem es auf die Art und Weise der Umsetzung und Anwendung der KI-Verordnung Einfluss nimmt.
Insbesondere ist in einigen Bestimmungen der KI-Verordnung ausdrücklich festgelegt, dass bei der Umsetzung der KI-Verordnung bestehende „internationale Ansätze“ und „internationale Normen“ berücksichtigt werden sollten. So sieht Artikel 40 Absatz 3 der KI-Verordnung vor, dass die am Normungsprozess Beteiligten „bestehende internationale Normen im Bereich der KI, die mit den Werten, Grundrechten und Interessen der Union im Einklang stehen“ berücksichtigen müssen. Die Empfehlung wird Leitlinien zur Förderung der Gleichstellung im Lebenszyklus von KI-Systemen enthalten, die eine der Benchmarks darstellen könnten, anhand derer harmonisierte Normen bewertet werden. Gleichzeitig ist das Büro für Künstliche Intelligenz bei der Förderung und Erleichterung der Ausarbeitung von Praxisleitfäden auf Unionsebene nach Artikel 56 Absatz 1 der KI-Verordnung verpflichtet, „internationale Ansätze“ zu berücksichtigen. Der erste Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck wurde von der Kommission bereits fertiggestellt und als angemessen bewertet, damit Anbieter von KI-Modellen mit allgemeinem Verwendungszweck die Einhaltung der einschlägigen Verpflichtungen aus der KI-Verordnung nachweisen können.
Gemäß Artikel 56 Absatz 6 Unterabsatz 1 der KI-Verordnung überwachen und bewerten das Büro für Künstliche Intelligenz und das KI-Gremium regelmäßig die Verwirklichung der Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung.
Zum geplanten Zeitpunkt der Annahme der Empfehlung werden die Arbeiten zu den harmonisierten Normen vorangekommen und der Praxisleitfaden der KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck fertiggestellt worden sein. Die Empfehlung könnte für künftige Aktualisierungen des Praxisleitfadens und der Normen relevant sein.
Somit ist Artikel 218 Absatz 9 AEUV die verfahrensrechtliche Grundlage für den vorgeschlagenen Beschluss.
4.2.Materielle Rechtsgrundlage
4.2.1.Grundsätze
Die materielle Rechtsgrundlage für einen Beschluss nach Artikel 218 Absatz 9 AEUV hängt in erster Linie vom Zweck und Gegenstand des vorgesehenen Rechtsakts ab, zu dem ein im Namen der Union zu vertretender Standpunkt festgelegt wird. Liegt dem vorgesehenen Akt ein doppelter Zweck oder Gegenstand zugrunde und ist einer davon der wesentliche und der andere von untergeordneter Bedeutung, so muss der Beschluss nach Artikel 218 Absatz 9 AEUV auf eine einzige materielle Rechtsgrundlage gestützt werden, nämlich auf diejenige, die der wesentliche oder vorrangige Zweck oder Gegenstand verlangt.
4.2.2.Anwendung auf den vorliegenden Fall
Das erklärte Ziel der geplanten Empfehlung besteht darin, „die Mitgliedstaaten bei ihren Maßnahmen zur Förderung der Gleichstellung, einschließlich der Geschlechtergleichstellung, und zur Verhütung und Bekämpfung aller Formen der Diskriminierung bei all ihren Tätigkeiten und denen der Akteure des öffentlichen und privaten Sektors während des Lebenszyklus von KI-Systemen zu unterstützen“.
Dies steht im Einklang mit der Zielsetzung der KI-Verordnung, „das Funktionieren des Binnenmarkts zu verbessern, indem ein einheitlicher Rechtsrahmen insbesondere für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz in der Union im Einklang mit den Werten der Union festgelegt wird, um die Einführung von menschenzentrierter und vertrauenswürdiger künstlicher Intelligenz zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und der in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sicherzustellen, den Schutz vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und gleichzeitig die Innovation zu unterstützen“.
Die Empfehlung überschneidet sich mit der KI-Verordnung vor allem in folgenden Punkten:
·Die Empfehlung zielt darauf ab, sich aus KI ergebende Ungleichheiten zu bekämpfen, was dem Ziel der KI-Verordnung ähnelt, d. h. ein hohes Schutzniveau in Bezug auf die in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte, einschließlich des Rechts auf Gleichheit und Nichtdiskriminierung, vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten.
·Der persönliche und sachliche Anwendungsbereich, für den die KI-Verordnung und die Empfehlung (bzw. die darin genannten Maßnahmen) gelten sollen, ist im Wesentlichen deckungsgleich, d. h. öffentliche und private Akteure, die KI und Tätigkeiten im Lebenszyklus von KI-Systemen entwickeln oder einsetzen.
·Sowohl in der KI-Verordnung als auch in der Empfehlung wird im Einklang mit dem Rahmenübereinkommen über künstliche Intelligenz ein ähnlicher abgestufter und differenzierter Ansatz für KI-Systeme verfolgt.
·In der Empfehlung sind Anforderungen an Transparenz und (menschliche) Aufsicht für die Ermittlung, Verhütung und Bekämpfung von Diskriminierung im Anschluss an Tätigkeiten im Lebenszyklus von KI-Systemen enthalten, die denen ähneln, die in der KI-Verordnung, insbesondere in den Artikeln 13, 14, 49, 50 und 86, festgelegt sind.
·Die Anforderungen in der Empfehlung in Bezug auf die Ermittlung, Bewertung, Minderung und Überwachung von Diskriminierungsrisiken ähneln den Anforderungen und Pflichten in der KI-Verordnung für Anbieter oder Betreiber von Hochrisiko-KI-Systemen, insbesondere in den Artikeln 9, 10, 17, 26 und 27. Auch Bestimmungen in Bezug auf Normen sind in der Empfehlung enthalten, die denen der harmonisierten Normen der Union in den Artikeln 40 bis 49 ähneln.
·Die Empfehlung enthält Maßnahmen in Bezug auf Dokumentation, Verfahrensgarantien und Rechtsbehelfe, die denen in der KI-Verordnung, insbesondere in den Artikeln 11, 12, 26, 53, 85 und 86 ähneln.
·In der Empfehlung sind Zielsektoren genannt, in denen der Aspekt der Gleichstellung durchgängig zu berücksichtigen ist, und es werden Maßnahmen gefordert, wo das Diskriminierungsrisiko besonders akut ist, was sich teilweise mit der Hochrisiko-Kategorisierung der KI-Verordnung (Artikel 6 und Anhänge I und III) deckt.
Die Empfehlung enthält auch Elemente, die dem Besitzstand der Union in den Bereichen Nichtdiskriminierung und Gleichstellung gemeinsam sind. Dies betrifft insbesondere die auf der Grundlage der Artikel 19 und 157 AEUV erlassenen Richtlinien über Gleichbehandlungsstellen 8 . Zu den relevanten Elementen der Empfehlung zählen:
·Anforderungen an die Mitgliedstaaten, die Gleichstellungsstellen mit ausreichenden finanziellen, personellen und technischen Ressourcen auszustatten und mit ihnen bei der Ausarbeitung geeigneter Rechtsvorschriften, Strategien und administrativer, regulatorischer oder sonstiger Rahmen zusammenzuarbeiten (für Artikel 3 und 4 der Richtlinien relevant);
·Anforderungen in Bezug auf Transparenz und Aufsicht, die es den Gleichbehandlungsstellen ermöglichen, zu prüfen, ob eine Diskriminierung vorliegt, und zu bewerten, ob für solche KI-Systeme ein Moratorium oder ein Verbot verhängt werden sollte (für Artikel 8 und 9 der Richtlinien relevant);
·Anforderungen an die Unterstützung und Betreuung der Opfer von Diskriminierung aufgrund von KI bei der Durchsetzung ihrer Rechte, unter anderem indem den Gerichten Stellungnahmen übermittelt werden (für Artikel 6, 7, 8, 9, 10 und 11 der Richtlinien relevant).
Zwar zielt die Empfehlung darauf ab, die Gleichstellung zu fördern und Diskriminierung zu verhindern, doch enthält sie in erster Linie legislative und politische Maßnahmen, die sich an die Akteure im Lebenszyklus von KI-Systemen richten (siehe Punkt 2 der Empfehlung). Insbesondere enthält sie Empfehlungen zu Folgenabschätzungen in Bezug auf Gleichstellung, zu Zertifizierung, Transparenz, Überwachung und Aufsicht von KI-Systemen, wie oben erläutert.
In der Union wird der überwiegende Teil der Empfehlung nicht durch horizontale Gleichstellungsvorschriften umgesetzt werden, die auf alle Wirtschaftsakteure anwendbar sind, wie etwa die Rechtsvorschriften über Gleichbehandlungsstellen, sondern durch Rechtsvorschriften, die speziell für Akteure gelten, die KI-Systeme bereitstellen und einsetzen, insbesondere die KI-Verordnung und/oder deren Durchführungsmaßnahmen. In der Begründung wird ausdrücklich anerkannt, dass die Empfehlungen mit der KI-Verordnung bereits (teilweise) umgesetzt werden (siehe Absatz 11 der Begründung).
Daraus folgt, dass die Empfehlung schwerpunktmäßig in den von der KI-Verordnung erfassten Bereich fällt. Die materielle Rechtsgrundlage für den Standpunkt, der im Namen der Union zu diesen Elementen der Empfehlung zu vertreten ist, sollte daher Artikel 114 AEUV sein, der auch die primäre Rechtsgrundlage der KI-Verordnung ist.
Somit ist Artikel 114 AEUV die materielle Rechtsgrundlage des vorgeschlagenen Beschlusses.
4.3.Schlussfolgerung
Die Rechtsgrundlage für den vorgeschlagenen Beschluss sollte Artikel 114 AEUV in Verbindung mit Artikel 218 Absatz 9 AEUV sein.
2025/0291 (NLE)
Vorschlag für einen
BESCHLUSS DES RATES
über den Standpunkt, der im Namen der Europäischen Union in Bezug auf den Entwurf einer Empfehlung des Ministerkomitees des Europarats zu Gleichstellung und künstlicher Intelligenz zu vertreten ist
DER RAT DER EUROPÄISCHEN UNION —
gestützt auf den Vertrag über die Arbeitsweise der Europäischen Union, insbesondere auf Artikel 114 in Verbindung mit Artikel 218 Absatz 9,
auf Vorschlag der Europäischen Kommission,
in Erwägung nachstehender Gründe:
(1)Der Europarat beabsichtigt, eine Empfehlung (im Folgenden „Empfehlung“) anzunehmen, um die Auswirkungen von Systemen künstlicher Intelligenz (KI), ihr Potenzial zur Förderung der Gleichstellung, einschließlich der Geschlechtergleichstellung, und die Risiken, die sie für die Diskriminierungsfreiheit mit sich bringen könnten, anzugehen. Die Empfehlung soll von der Kommission für die Gleichstellung der Geschlechter des Europarats (GEC) und dem Lenkungsausschuss für Antidiskriminierung, Diversität und Inklusion (CDADI) auf ihrer gemeinsamen Plenartagung vom 18. bis 20. November 2025 angenommen und vom Ministerkomitee des Europarats förmlich gebilligt werden.
(2)Die Empfehlung zielt darauf ab, das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (im Folgenden „Rahmenübereinkommen“), das von der Union gemäß dem Beschluss (EU) 2024/2218 des Rates unterzeichnet wurde, in Bezug auf den Gleichheitsgrundsatz durch detaillierte, gleichstellungsspezifische Empfehlungen an die Mitgliedstaaten zu ergänzen.
(3)Im Rahmenübereinkommen sind allgemeine Grundsätze und Verpflichtungen festgelegt, die die Vertragsparteien des Rahmenübereinkommens einhalten sollten, um den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit im Zusammenhang mit den Tätigkeiten im Lebenszyklus von KI-Systemen zu gewährleisten. Die Kommission hat vorgeschlagen, dass die Union das Rahmenübereinkommen abschließt 9 . Der Beschluss des Rates über den Abschluss des Rahmenübereinkommens befindet sich derzeit im Annahmeverfahren durch den Rat.
(4)Am 13. Juni 2024 erließen das Europäische Parlament und der Rat auf der Grundlage der Artikel 16 und 114 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV) die Verordnung (EU) 2024/1689 10 , die harmonisierte Vorschriften festlegt, die hauptsächlich auf einer vollständigen Harmonisierung beruhen und das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz in der Union regeln. Diese Vorschriften gelten unmittelbar in den Mitgliedstaaten, sofern nicht ausdrücklich etwas anderes vorgesehen ist.
(5)Das Rahmenübereinkommen ist in der Union ausschließlich durch die KI-Verordnung und gegebenenfalls durch andere einschlägige Rechtsvorschriften der Union umzusetzen.
(6)Es ist angezeigt, den Standpunkt festzulegen, der im Namen der Union auf der gemeinsamen Plenartagung der GEC und des CDADI sowie im Ministerkomitee in Bezug auf die Empfehlung zu vertreten ist, da die Empfehlung zwar nicht verbindlich, jedoch geeignet ist, den Inhalt des Unionsrechts, insbesondere der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, maßgeblich zu beeinflussen.
(7)Der persönliche und sachliche Anwendungsbereich der Empfehlung stimmt weitgehend mit der Verordnung (EU) 2024/1689 überein, die Vorschriften für KI enthält, die hauptsächlich auf einer vollständigen Harmonisierung innerhalb der Union beruhen.
(8)Die Annahme der Empfehlung könnte im Sinne von Artikel 3 Absatz 2 AEUV bestehende und vorhersehbare künftige gemeinsame Regeln der Union beeinträchtigen oder deren Tragweite verändern. Die Union verfügt daher über die ausschließliche Außenkompetenz, im Namen der Union einen Standpunkt zur Annahme der Empfehlung zu vertreten.
(9)Die Union sollte sicherstellen, dass die Empfehlung mit dem Unionsrecht vereinbar ist und in Bezug auf alle auf Unionsebene harmonisierten Aspekte durch den bestehenden Besitzstand der Union, insbesondere die Verordnung (EU) 2024/1689 und die Richtlinien 2024/1499 und 2024/1500, in der Rechtsordnung der Union umgesetzt werden kann. In Bezug auf spezifische Empfehlungen, die die Entwicklung und Verwendung von KI-Systemen betreffen, die in der Union vollständig harmonisiert sind, sollte die Union bestrebt sein, zu gewährleisten, dass die Empfehlung mit den Bestimmungen der KI-Verordnung und den Grundsätzen des Rahmenübereinkommens des Europarats über künstliche Intelligenz im Einklang steht.
(10)Sofern diese Bedingungen erfüllt sind, kann die Empfehlung im Namen der Union auf der gemeinsamen Plenartagung der GEC und des CDADI am 18. bis 20. November 2025 und in einer späteren Sitzung des Ministerkomitees genehmigt werden.
(11)Da die Union nicht selbst, sondern all ihre Mitgliedstaaten Mitglied des Europarats sind, ist der Standpunkt der Union von den Mitgliedstaaten vorzutragen, die gemeinsam handeln —
HAT FOLGENDEN BESCHLUSS ERLASSEN:
Artikel 1
Im Namen der Union ist auf der gemeinsamen Plenartagung der GEC und des CDADI sowie in der Sitzung des Ministerkomitees der Standpunkt zu vertreten, dass keine Einwände gegen die Annahme der Empfehlung zu KI und Gleichstellung erhoben werden, sofern die folgenden Bedingungen berücksichtigt werden:
(1)Die Maßnahmen, die Akteure im Lebenszyklus von KI-Systemen betreffen, gehen nicht über die Verpflichtungen hinaus, die in der KI-Verordnung festgelegt sind, mit der die Vorschriften für KI in der Union, auch im Bereich der Gleichstellung, generell vollständig harmonisiert werden. Insbesondere sollte die Empfehlung im Einklang mit dem Konzept des Rahmenübereinkommens ausreichende Flexibilität bei ihrer Umsetzung ermöglichen. Es sollte auch vermieden werden, die Einführung zusätzlicher positiver Verpflichtungen in Bezug auf die Förderung der Gleichstellung durch Anbieter und Betreiber von KI-Systemen zu empfehlen oder unbefristete Beschränkungen bei der Verwendung der KI aufzuerlegen.
(2)Die Formulierung der Maßnahmen und Normen in der Empfehlung muss die terminologische und inhaltliche Kohärenz und Interoperabilität mit dem Rechtsrahmen der Union gewährleisten.
(3)Die Schutzvorkehrungen in Bezug auf eine menschliche Überprüfung und die Einspruchsverfahren müssen mit der KI-Verordnung und dem Rahmenübereinkommen im Einklang stehen, wodurch die Kohärenz zwischen den beiden Instrumenten sichergestellt und gleichzeitig vermieden wird, dass KI-spezifische Verpflichtungen für Anbieter oder Betreiber von KI-Systemen eingeführt werden, die im Besitzstand der Union nicht vorgesehen sind.
(4)Die Aufzählung der Sektoren in der Empfehlung, auf denen ein besonderes Augenmerk liegen muss, sollte mit den in der KI-Verordnung festgelegten Hochrisikobereichen (Anhänge I und III) im Einklang stehen und nicht über diese hinausgehen. Alternativ sollte in der Empfehlung bei der Behandlung der Sektoren in Bezug auf Überwachungsmaßnahmen oder andere ausreichend flexible Vorgehensweisen in angemessener Form differenziert werden.
Artikel 2
Der in Artikel 1 genannte Standpunkt wird von den Mitgliedstaaten der Union vorgetragen, die Mitglieder des Europarats sind und gemeinsam handeln.
Artikel 3
Dieser Beschluss ist an die Mitgliedstaaten gerichtet.
Geschehen zu Brüssel am
Im Namen des Rates
Der Präsident/Die Präsidentin