—

Zweck und Anwendungsbereich des (Rahmen-)Übereinkommens;

—

Begriffsbestimmungen für die Begriffe KI-System, Lebenszyklus, Anbieter, Nutzer und „KI-Subjekt“;

—

bestimmte wesentliche Grundsätze, Verfahrensgarantien und Rechte der KI-Subjekte, die für alle KI-Systeme unabhängig von ihrem Risikoniveau gelten würden;

—

zusätzliche Maßnahmen für den öffentlichen Sektor sowie für KI-Systeme, die anhand einer Risiko- und Folgenabschätzungsmethode als mit einem „unannehmbaren“ und „erheblichen“ Risiko behaftet eingestuft wurden (später in einem Anhang des Übereinkommens festzulegen);

—

Follow-up- und Kooperationsmechanismus zwischen den Vertragsparteien;

—

Schlussbestimmungen mit der Möglichkeit, dass EU-Mitgliedstaaten in Belangen, die unter das Übereinkommen fallen, in ihren gegenseitigen Beziehungen EU-Recht anwenden, und der Möglichkeit, dass die Union dem Übereinkommen beitreten kann.

(1)

Dem Ziel, „ein hohes Maß an Schutz der Menschenrechte und die Wahrung der europäischen Werte zu gewährleisten“ sollte im Einklang mit dem Wesen und dem Mandat des Europarates mehr Gewicht verliehen werden.

(2)

Das Wort „auch“ nach „mit dem EU-Binnenmarktrecht und anderen Bereichen des EU-Rechts vereinbar“ in den Richtlinien 5 und 11 sollte gestrichen werden, um dem Zusammenspiel zwischen allgemeinen Grundsätzen und Grundrechten einerseits und dem Sekundärrecht (EU-Binnenmarktrecht und andere Rechtsbereiche) andererseits besser Rechnung zu tragen.

(3)

Es sollte eine Richtlinie hinzugefügt werden, die an die Notwendigkeit erinnert, das richtige Gleichgewicht zwischen dem öffentlichen Interesse und den Interessen der Personen, die von KI-Systemen berührt sind, zu finden und die vollständige Einhaltung der Grundrechte auf Privatsphäre und auf den Schutz personenbezogener Daten sowie der anderen betroffenen, Grundrechte, insbesondere des Rechts auf Unschuldsvermutung und auf ein faires Verfahren, dem Recht auf eine gute Verwaltung und dem Grundsatz der Nichtdiskriminierung sicherzustellen.

(4)

In einer Richtlinie sollte festgelegt werden, dass das Übereinkommen verfahrenstechnisch bestimmte Mindestverfahrensgarantien und Rechte für die von der Nutzung der KI-Systeme betroffenen Personen vorsehen sollte.

(5)

In einer Richtlinie sollte festgelegt werden, dass das Übereinkommen Mindestanforderungen an die Transparenz, Erklärbarkeit und Überprüfbarkeit von KI-Systemen vorsehen sollte.

(6)

Es sollte in der Richtlinie 14 die Vorgabe aufgenommen werden, dass die von KI-Systemen ausgehenden Risiken für die Gesellschaft/Gruppen ebenfalls bewertet und gemildert werden müssen.

(7)

In den Verhandlungsrichtlinien sollte vorgesehen werden, dass bestimmte KI-Systeme, die mit unannehmbaren Risiken behaftet sind, verboten werden sollten, und es sollte eine unverbindliche Liste solcher KI-Systeme vorgesehen werden.

(8)

Es sollte eine Verhandlungsrichtlinie vorgesehen werden, wonach das Übereinkommen die Einführung des Konzeptes des Datenschutzes durch Technikgestaltung und datenschutzfreundliche Voreinstellungen in jedem Schritt des Lebenszyklus von KI-Systemen fördern sollte.

(9)

Der Inhalt der Richtlinie 17 sollte wie folgt näher ausgeführt werden:

(10)

Es sollte eine Richtlinie aufgenommen werden, nach der das Übereinkommen vorsehen sollte, dass die zuständigen Aufsichtsbehörden mit angemessenen Ermittlungs- und Durchsetzungsbefugnissen ausgestattet werden müssen.

(11)

Es sollte eine Verhandlungsrichtlinie hinzugefügt werden, die sicherstellt, dass das Übereinkommen die grenzüberschreitende Zusammenarbeit zwischen den zuständigen Behörden erleichtert und fördert.