31.8.2017 |
DE |
Amtsblatt der Europäischen Union |
C 288/1 |
Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses zum Thema „Künstliche Intelligenz — die Auswirkungen der künstlichen Intelligenz auf den (digitalen) Binnenmarkt sowie Produktion, Verbrauch, Beschäftigung und Gesellschaft“
(Initiativstellungnahme)
(2017/C 288/01)
Berichterstatterin: |
Catelijne MULLER |
Beschluss des Plenums |
22.9.2016 |
Rechtsgrundlage |
Artikel 29 Absatz 2 der Geschäftsordnung |
|
Initiativstellungnahme |
|
|
Zuständige Fachgruppe |
Binnenmarkt, Produktion, Verbrauch |
Annahme in der Fachgruppe |
4.5.2017 |
Verabschiedung auf der Plenartagung |
31.5.2017 |
Plenartagung Nr. |
526 |
Ergebnis der Abstimmung (Ja-Stimmen/Nein-Stimmen/Enthaltungen) |
159/3/14 |
1. Schlussfolgerungen und Empfehlungen
1.1. |
Im Bereich der künstlichen Intelligenz (KI) findet derzeit eine Reihe wichtiger Entwicklungen statt, die rasant Niederschlag in der Gesellschaft finden. Das Marktvolumen für KI beläuft sich auf ca. 664 Millionen USD und wird bis 2025 voraussichtlich auf 38,8 Milliarden USD anwachsen. Da sich KI sowohl positiv als auch negativ auf die Gesellschaft auswirken kann, beabsichtigt der Europäische Wirtschafts- und Sozialausschuss (EWSA), die Entwicklungen in diesem Bereich aufmerksam zu verfolgen, und zwar nicht nur unter technischen Gesichtspunkten, sondern ausdrücklich auch im Hinblick auf ethische, sicherheitspolitische und gesellschaftliche Aspekte. |
1.2. |
Als Vertreter der europäischen Zivilgesellschaft wird der EWSA die gesellschaftliche Debatte über KI in der nächsten Zeit maßgeblich mitgestalten, bündeln und vorantreiben und dabei alle relevanten Akteure — politische Entscheidungsträger, Industrie, Sozialpartner, Verbraucher, NGO, Bildungs- und Betreuungseinrichtungen, Experten, Wissenschaftler und Forscher verschiedener Fachrichtungen (u. a. KI, Sicherheit, Ethik, Wirtschaft, Arbeitswissenschaften, Rechtswissenschaften, Verhaltenswissenschaften, Psychologie und Philosophie) — einbinden. |
1.3. |
Derzeit dreht sich die Debatte fast ausschließlich um das — sicherlich wichtige — Thema „Superintelligenz“, wodurch die Diskussion über die Auswirkungen aktueller KI-Anwendungen in den Hintergrund gedrängt wird. Aufgabe und Ziel wird es daher u. a. sein, das Wissen über KI zu vergrößern und zu verbreiten und so eine informierte und ausgewogene Debatte ohne Weltuntergangsszenarien oder Verharmlosungen zu fördern. Der EWSA wird sich dabei dafür einsetzen, dass die Entwicklung von KI zum Wohle der Menschheit gefördert wird. Eine weitere wichtige Aufgabe und Zielsetzung ist es, bahnbrechende Entwicklungen im Bereich der KI und in verwandten Bereichen auszumachen, zu benennen und zu überwachen, damit angemessen und rechtzeitig darauf reagiert werden kann. So sollen eine stärkere gesellschaftliche Einbindung, Vertrauen und ein Konsens über die nachhaltige Weiterentwicklung und den Einsatz von KI gewährleistet werden. |
1.4. |
Die Auswirkungen von KI machen nicht an Grenzen halt, und daher müssen auch auf supranationaler Ebene politische Leitprinzipien festgelegt werden. Der EWSA ist der Auffassung, dass die EU bei der Festlegung globaler, klarer Leitlinien für KI in Übereinstimmung mit den europäischen Werten und Grundrechten eine weltweite Vorreiterrolle übernehmen sollte. Hierzu kann und will der EWSA einen Beitrag liefern. |
1.5. |
Der EWSA weist auf zurzeit elf Bereiche hin, in denen sich durch KI gesellschaftliche Herausforderungen ergeben: Ethik, Sicherheit, Schutz der Privatsphäre und Datenschutz, Transparenz und Nachvollziehbarkeit, Arbeit, Bildung und Qualifikationen, (Un-)Gleichheit und Inklusion, Rechts- und Verwaltungsvorschriften, Regierungsführung und Demokratie, Kriegsführung sowie Superintelligenz. Dazu spricht er im Folgenden einige Empfehlungen aus. |
1.6. |
Der EWSA plädiert für einen menschenkontrollierten KI-Ansatz, der auf eine verantwortungsvolle, sichere und nützliche Entwicklung von KI ausgerichtet ist, bei der Maschinen Maschinen bleiben und Menschen jederzeit die Kontrolle über diese Maschinen behalten. |
1.7. |
Der EWSA fordert einen Verhaltenskodex für die Entwicklung, den Einsatz und die Nutzung von KI, um zu gewährleisten, dass während der gesamten Nutzungsdauer von KI-Systemen Menschenwürde, Integrität, Freiheit, Schutz der Privatsphäre und Datenschutz, kulturelle und Geschlechtervielfalt sowie die grundlegenden Menschenrechte gewahrt werden. |
1.8. |
Der EWSA plädiert für die Erarbeitung von Normungsverfahren sowie für die Überprüfung, Validierung und Kontrolle von KI-Systemen auf der Grundlage eines breiten Spektrums an Standards aus den Bereichen Sicherheit, Transparenz, Verständlichkeit, Nachvollziehbarkeit und ethische Werte. |
1.9. |
Der EWSA spricht sich für eine europäische KI-Infrastruktur mit quelloffenen Lernumgebungen aus, die den Schutz der Privatsphäre gewährleisten, sowie für reale (real life) Testumgebungen und hochwertige Datensätze für die Entwicklung und das Training von KI-Systemen. Der EWSA weist auf den (Wettbewerbs-)Vorteil hin, den sich die EU durch die Entwicklung und Förderung von „KI-Systemen unter der Verantwortung der EU“ mit einer europäischen KI-Zertifizierung und einem entsprechenden Gütesiegel auf dem Weltmarkt sichern könnte. |
1.10. |
Die EU, die nationalen Behörden und die Sozialpartner müssen gemeinsam ermitteln, in welchen Bereichen des Arbeitsmarkts in welchem Ausmaß und zu welchem Zeitpunkt mit Auswirkungen von KI zu rechnen sein wird, und nach Lösungen für die Folgen suchen, die sich für die Beschäftigung, die Art der Arbeit, die Sozialsysteme und die (Un-)Gleichheit ergeben. Im Anschluss daran sollte in jene Arbeitsmarktsektoren investiert werden, auf die sich KI nur gering bis gar nicht auswirkt. |
1.11. |
Der EWSA rät den vorgenannten Interessenträgern, sich gemeinsam für komplementäre KI-Systeme und ihre Ko-Kreation am Arbeitsplatz einzusetzen, etwa für Mensch-Maschine-Teams, wobei KI die menschliche Leistung ergänzt und verbessert. Außerdem müssen die Interessenträger in formelles und informelles Lernen, allgemeine und berufliche Bildung sowie Weiterbildung investieren, damit alle mit KI umzugehen lernen, aber auch um jene Fertigkeiten zu entwickeln, die nicht von KI übernommen werden bzw. nicht übernommen werden können. |
1.12. |
Eine spezifische Evaluierung der Rechts- und Verwaltungsvorschriften der sechs vom Referat Wissenschaftliche Vorausschau (STOA) benannten Gebiete, die möglicherweise überprüft bzw. angepasst werden müssen, ist bereits jetzt erforderlich. Der EWSA kann und will einen Beitrag zu dieser Überprüfung leisten. Der EWSA spricht sich gegen die Einführung einer Form von Rechtspersönlichkeit für Roboter oder KI aus. Die präventive Abhilfewirkung des Haftungsrechts würde damit konterkariert, woraus sich sowohl bei der Entwicklung als auch beim Einsatz von KI ein moralisches Risiko sowie Missbrauchsmöglichkeiten ergeben würden. |
1.13. |
Die Entwicklung von KI-Anwendungen mit gesellschaftlichem Nutzen, die die Inklusion stärken und das Leben der Menschen verbessern, muss sowohl von öffentlicher als auch von privater Seite aktiv unterstützt und gefördert werden. Die Europäische Kommission muss im Rahmen ihrer Programme Mittel für Forschungsarbeiten zu den gesellschaftlichen Folgen von KI sowie von EU-geförderten KI-Innovationen bereitstellen. |
1.14. |
Der EWSA schließt sich der Forderung von Human Rights Watch nach einem Verbot autonomer Waffensysteme an. Der EWSA begrüßt die angekündigten Beratungen über dieses Thema in den Vereinten Nationen, ist jedoch der Auffassung, dass dabei auch über KI-Anwendungen in der Cyberkriegsführung beraten werden sollte. |
2. Künstliche Intelligenz
2.1. |
Es gibt keine allgemein anerkannte, feststehende Definition von KI. KI ist ein Oberbegriff für eine Vielzahl an (Teil-)Bereichen wie Cognitive Computing (Algorithmen, die über ein höheres, d. h. menschlicheres Denk- und Begriffsvermögen verfügen), maschinelles Lernen (Algorithmen, die eigenständig lernen, Aufgaben zu bewältigen), erweiterte Intelligenz (Zusammenarbeit zwischen Mensch und Maschine) und KI-Robotik (in Roboter eingebaute KI-Systeme). Das Hauptziel der Forschung und Entwicklung im Bereich der KI besteht aber in der Automatisierung intelligenten Verhaltens wie denken, Informationen sammeln, planen, lernen, kommunizieren, beeinflussen, signalisieren und sogar kreativ sein, träumen und wahrnehmen. |
2.2. |
KI lässt sich grob in schwache (narrow) KI und allgemeine (general) KI unterteilen. Schwache KI ist in der Lage, spezifische Aufgaben zu erledigen. Allgemeine KI ist in der Lage, jede intellektuelle Aufgabe zu bewältigen, zu der Menschen fähig sind. |
2.3. |
Im Bereich der schwachen KI sind in der letzten Zeit große Fortschritte zu verzeichnen, insbesondere durch die gestiegene Rechnungsleistung von Computern, die Verfügbarkeit großer Datenmengen und die Entwicklung des maschinellen Lernens (ML). ML umfasst Algorithmen, die sich selbstständig bestimmte Tätigkeiten beibringen, ohne dafür programmiert worden zu sein. Dieses Verfahren beruht auf der Verarbeitung von „Trainingsdaten“, auf deren Grundlage der Algorithmus lernt, Muster zu erkennen und Regeln aufzustellen. Beim Deep Learning, einer Form des ML, wird auf Strukturen (neuronale Netze) zurückgegriffen, die entfernt dem menschlichen Gehirn ähneln und durch Üben und Feedback lernen. In der Zwischenzeit wurden bereits KI-Systeme entwickelt, die mittels Algorithmen eigenständig lernen, autonom handeln und anpassungsfähig sind. |
2.4. |
Der Schwerpunkt der Forschung und Entwicklung im Bereich der KI liegt seit einiger Zeit auf dem Denken, der Wissensverarbeitung, der Planung, der Kommunikation und der (visuellen, auditiven und sensorischen) Wahrnehmung. Daraus sind viele KI-Anwendungen wie z. B. virtuelle Assistenten, selbstfahrende Autos, automatische Datenaggregation, Spracherkennung, Übersetzungsprogramme, Sprachsynthese, automatisierter Handel von Finanzprodukten, Sicherstellung digitaler Beweisstücke für Gerichtsverfahren („eDiscovery“) entstanden. |
2.5. |
Der EWSA weist darauf hin, dass die Zahl der KI-Anwendungen und die Investitionen in KI in jüngster Zeit exponentiell zugenommen haben. Das Marktvolumen für KI beläuft sich derzeit auf ca. 664 Millionen USD und wird bis 2025 voraussichtlich auf 38,8 Milliarden USD anwachsen. |
3. Chancen und Risiken von KI
3.1. |
Dass KI große gesellschaftliche Vorteile haben kann, ist beinahe unstrittig — in diesem Zusammenhang sei auf die Anwendungen hingewiesen, die KI für eine nachhaltige Landwirtschaft, mehr Verkehrssicherheit, mehr Sicherheit im Finanzsystem, umweltfreundlichere Produktionsprozesse, eine bessere Medizin, mehr Arbeitssicherheit, eine stärker auf den Einzelnen zugeschnittene Bildung, eine bessere Rechtsprechung und mehr Sicherheit in der Gesellschaft nutzen. Möglicherweise kann KI sogar zur Beseitigung von Krankheiten und Armut beitragen. Außerdem kann KI einen wichtigen Beitrag zum Wachstum der Industrie und zur Stärkung der Wettbewerbsfähigkeit der EU leisten. |
3.2. |
Wie andere bahnbrechende Technologien, birgt KI jedoch auch Risiken und bringt komplexe politische Herausforderungen in den Bereichen Sicherheit und Kontrollierbarkeit, sozioökonomische Aspekte, Ethik und Schutz der Privatsphäre, Zuverlässigkeit usw. mit sich. |
3.3. |
Wir befinden uns derzeit an einen entscheidenden Punkt für die Festlegung der (Rahmen-)Bedingungen für die aktuelle und künftige Entwicklung und den Einsatz von KI. Diese Vorteile von KI können nur dann auf Dauer gesichert werden, wenn auch die Herausforderungen im Zusammenhang mit KI adäquat angegangen werden. Dazu müssen politische Entscheidungen getroffen werden. |
a) |
Ethik |
3.4. |
Die Entwicklung von KI wirft zahlreiche ethische Fragen auf. Wie wirken sich autonome (selbstlernende) KI-Systeme auf unsere persönliche Integrität, Autonomie, Würde, Selbstständigkeit, Gleichheit, Sicherheit und Entscheidungsfreiheit aus? Wie können wir sicherstellen, dass unsere grundlegenden Normen, Werte und die Menschenrechte gebührend geachtet und geschützt werden? |
3.5. |
Ein weiterer Aspekt ist, dass die Entwicklung von KI derzeit in einem homogenen Umfeld stattfindet, das überwiegend aus jungen weißen Männern besteht, wodurch (bewusst oder unbewusst) kulturelle und geschlechtsspezifische Unterscheide in KI-Systemen verankert werden, u. a. dadurch, dass diese Systeme auf der Grundlage von Trainingsdaten lernen. Diese Daten müssen korrekt und hochwertig, vielfältig, ausreichend detailliert und vorurteilsfrei sein. Üblicherweise wird davon ausgegangen, dass Daten per definitionem objektiv sind, aber dem ist nicht so. Daten sind leicht zu manipulieren, sie können verfälscht sein und kulturelle, geschlechtsspezifische und andere Vorurteile und Präferenzen widerspiegeln sowie Fehler enthalten. |
3.6. |
Die derzeit in Entwicklung befindlichen KI-Systeme enthalten keine ethische Wertung. Es ist Aufgabe von uns Menschen, KI-Systeme und die Umgebung, in der sie eingesetzt werden, damit auszustatten. Die Entwicklung, der Einsatz und die Nutzung von KI-Systemen (sowohl für öffentliche als auch für kommerzielle Zwecke) müssen innerhalb der Grenzen unserer grundlegenden Normen, Werte und Freiheiten sowie unter Wahrung der Menschenrechte erfolgen. Der EWSA fordert daher, einen einheitlichen ethischen Verhaltenskodex für die Entwicklung, den Einsatz und die Nutzung von KI zu erarbeiten und festzulegen. |
b) |
Sicherheit |
3.7. |
Die Nutzung von KI in der realen Welt wirft unzweifelhaft Sicherheitsfragen auf. Dabei kann zwischen interner und externer Sicherheit unterschieden werden.
|
3.8. |
Der EWSA ist der Auffassung, dass KI-Systeme nur dann in Betrieb genommen werden dürfen, wenn sie spezifische Voraussetzungen für die interne und externe Sicherheit umfassend erfüllen. Diese Voraussetzungen müssen von den politischen Entscheidungsträgern, KI- und Sicherheitsspezialisten, Unternehmen und Organisationen der Zivilgesellschaft gemeinsam festgelegt werden. |
c) |
Transparenz, Verständlichkeit, Kontrollierbarkeit und Nachvollziehbarkeit |
3.9. |
Voraussetzung für die Akzeptanz sowie für die nachhaltige Entwicklung und die Anpassung von KI ist es, dass die Funktionsweise, das Handeln und die Entscheidungen von KI-Systemen verstanden, kontrolliert und diese insbesondere auch im Nachhinein nachvollzogen werden können. |
3.10. |
KI-Systeme greifen (mittels intelligenter Algorithmen) zunehmend in unser Leben ein. Beispiele dafür sind der Einsatz von KI bei informationsbasierter Polizeiarbeit, bei der Bewertung von Darlehensanträgen und bei der Prüfung potentieller Versicherungsnehmer. Die Verständlichkeit, Kontrollierbarkeit und Nachvollziehbarkeit der Entscheidungsprozesse von KI-Systemen ist in diesem Zusammenhang von entscheidender Bedeutung. |
3.11. |
Bereits jetzt sind viele KI-Systeme für Nutzer nur sehr schwer zu verstehen. Dies gilt jedoch zunehmend auch für die Entwickler dieser Systeme. Insbesondere neuronale Netze sind häufig „black boxes“, in denen (Entscheidungs-)Prozesse ablaufen, die nicht nachvollzogen werden können und für die es keine Erklärungsmuster gibt. |
3.12. |
Der EWSA spricht sich für transparente, verständliche und kontrollierbare KI-Systeme aus, deren Funktionsweise auch im Nachhinein nachvollzogen werden kann. Darüber hinaus muss festgelegt werden, welche Entscheidungsprozesse KI-Systemen übertragen werden können und welche nicht und wann menschliches Eingreifen erwünscht bzw. verpflichtend sein soll. |
d) |
Privatsphäre/Datenschutz |
3.13. |
Das Thema Schutz der Privatsphäre und Datenschutz wirft im Zusammenhang mit KI viele Fragen auf. Bereits jetzt kommen in zahlreichen (Konsum-)Gütern KI-Anwendungen zum Einsatz, etwa in Haushaltsgeräten, Kinderspielzeug, Autos, Gesundheitsapps und Smartphones. Diese Produkte übermitteln allesamt (oftmals personenbezogene) Daten an die Cloud-Plattformen der Hersteller. Angesichts der Tatsache, dass der Handel mit Daten derzeit boomt, was bedeutet, dass generierte Daten nicht beim Produzenten bleiben, sondern an Dritte veräußert werden, besteht Anlass zur Sorge, ob der Schutz der Privatsphäre und der Datenschutz tatsächlich umfassend gewährleistet bleibt. |
3.14. |
Außerdem können KI-Systeme durch die Analyse sehr großer Mengen an (oftmals) personenbezogenen Daten die Entscheidungen von Menschen in einer Vielzahl von Bereichen — von Kaufentscheidungen bis hin zum Abstimmungsverhalten bei Wahlen und Referenden — beeinflussen. Kinder sind in dieser Beziehung besonders schutzbedürftig. Der EWSA ist besorgt über KI-Anwendungen, die darauf ausgerichtet sind, gezielt das Verhalten und die Wünsche von Kindern zu manipulieren. |
3.15. |
Es muss sichergestellt werden, dass der Zugriff von KI-Systemen auf personenbezogene Daten nicht zu einer Einschränkung der tatsächlichen bzw. subjektiven Freiheit von Menschen führt. In ihrer Datenschutz-Grundverordnung räumt die EU dem Schutz digital übermittelter personenbezogener Daten großen Stellenwert ein. Ob das Recht des Einzelnen auf freie Zustimmung zur Weitergabe von Daten nach vorheriger Aufklärung, aber auch auf Zugang, Berichtigung und Überprüfung dieser Daten in der Praxis umfassend gewahrt wird, muss angesichts der Entwicklung von KI eingehend überwacht werden. |
e) |
Normen, Standards und Infrastruktur |
3.16. |
Es müssen neue Normungsverfahren für die Überprüfung und Validierung von KI-Systemen auf der Grundlage eines breiten Spektrums an Standards entwickelt werden, um die Sicherheit, Transparenz, Verständlichkeit, Nachvollziehbarkeit und ethische Vertretbarkeit von KI-Systemen beurteilen und kontrollieren zu können. |
3.17. |
Der EWSA spricht sich dafür aus, dass die EU eine eigene KI-Infrastruktur mit quelloffenen Lernumgebungen entwickelt, die den Schutz der Privatsphäre und den Datenschutz gewährleisten sowie für hochwertige Datensätze für die Entwicklung und das Training von KI-Systemen. Durch die Förderung von KI-Systemen, die unter der Verantwortung der EU stehen, könnte sich die EU zudem einen (Wettbewerbs-)Vorteil auf dem Weltmarkt sichern. Der EWSA empfiehlt in diesem Zusammenhang, die Möglichkeit einer EU-Zertifizierung und eines Gütesiegels für KI-Systeme zu prüfen. |
f) |
Auswirkungen auf Arbeit, Beschäftigung, Arbeitsbedingungen und Sozialsysteme |
3.18. |
Über die Geschwindigkeit und den Umfang, in dem dies der Fall sein wird, gehen die Meinungen auseinander, aber es ist klar, dass sich KI auf das Beschäftigungsniveau sowie die Art und Natur zahlreicher Arbeitsplätze und damit auch auf die Systeme der sozialen Sicherung auswirken wird. |
3.19. |
Brynjolfsson und McAfee vom MIT bezeichnen die aktuellen technologischen Entwicklungen (einschließlich KI) als das zweite Maschinenzeitalter. Es gibt jedoch zwei große Unterschiede: i) Die „alten“ Maschinen ersetzten vor allem Muskelkraft, während die neuen Maschinen Denken und kognitive Fähigkeiten ersetzen, wodurch nicht nur gering qualifizierte (blue collar workers), sondern auch qualifizierte und hoch qualifizierte Arbeitskräfte (white collar workers) betroffen sind, und ii) handelt es sich um eine allgemeine Technologie (general purpose technology), die praktisch alle Bereiche gleichzeitig beeinflusst. |
3.20. |
KI kann erhebliche Vorteile haben, wenn sie bei gefährlicher, schwerer, anstrengender, schmutziger, unangenehmer, repetitiver oder langweiliger Arbeit eingesetzt wird. Aber auch routinemäßig auszuführende Arbeit sowie Datenverarbeitung und -analyse oder Arbeit, bei der Vorhersage und Planung eine große Rolle spielen — Arbeit, die häufig von hoch qualifizierten Arbeitskräften ausgeführt wird —, kann zunehmend von KI-Systemen erledigt werden. |
3.21. |
Allerdings werden bei den meisten Arbeitsplätzen verschiedene Tätigkeiten verrichtet. Die Wahrscheinlichkeit, dass alle von einer Person ausgeführten Tätigkeiten von KI oder Robotern übernommen werden, scheint gering. Fast alle Menschen werden sich jedoch mit der Automatisierung von Teilen ihrer Funktion konfrontiert sehen. Die dadurch frei werdende Zeit lässt sich für andere Aufgaben nutzen, sofern die Regierungen und die Sozialpartner sich dafür einsetzen. Dabei sind die Auswirkungen, die diese Entwicklungen auf Fach- und Führungskräfte haben können, im Auge zu behalten, und ihre Einbindung muss gefördert werden, sodass sie Herr der Lage bleiben und nicht zu Opfern werden. |
3.22. |
Zudem werden auch neue Arbeitsplätze entstehen. Allerdings kann niemand vorhersagen kann, wie diese aussehen, wie viele es sein werden und wie schnell dies geschieht. Unternehmen wie Google und Facebook erreichen mit einer relativ geringen Zahl von Arbeitskräften eine gigantische Wertschöpfung. Darüber hinaus sind die neuen Arbeitsplätze nicht immer hochwertig. Es besteht die Sorge, dass durch die Weiterentwicklung von KI für eine wachsende Gruppe flexibel einsetzbarer Arbeitskräfte nur noch gering bezahlte Mini-Aufgaben übrig bleiben. |
3.23. |
KI wird nicht nur die verfügbare Menge an Arbeit, sondern auch die Art der Arbeit beeinflussen. KI-Systeme bieten immer mehr Möglichkeiten zur Begleitung und Überwachung der Arbeitskräfte, was Selbstbestimmung sowie Schutz der Privatsphäre und Datenschutz in Gefahr bringt. Bereits jetzt wird Arbeit häufig mithilfe von Algorithmen definiert und verteilt, ohne menschliches Zutun, wodurch die Art der Arbeit und die Arbeitsbedingungen beeinflusst werden. Zudem besteht durch die Nutzung von KI-Systemen die Gefahr, dass die Tätigkeiten an Inhalt verlieren und wichtige Kompetenzen verlernt werden. |
3.24. |
Fakt bleibt jedoch, dass uns Technologie nicht „passiert“. Die Regierungen und die Sozialpartner können die Art und Weise, in der KI weiterentwickelt und im Arbeitsablauf eingesetzt wird, bestimmen und müssen diese Möglichkeit auch voll und ganz ausschöpfen. Dabei gilt es, sich nicht nur darauf zu konzentrieren, was mit KI erreicht werden kann, sondern gerade auch darauf, wozu der Mensch fähig ist (Kreativität, Empathie, Zusammenarbeit), was weiterhin vom Menschen getan werden soll und wie Mensch und Maschine besser zusammenarbeiten können (Komplementarität). |
3.25. |
Erweiterte Intelligenz (augmented intelligence — Komplementarität), bei der Mensch und Maschine zusammenarbeiten und sich gegenseitig stärken, ist die interessanteste KI-Anwendung, da es hier um den Menschen mit der Maschine im Gegensatz zum Menschen statt der Maschine geht. Ko-Kreation ist allerdings sehr wichtig: Die Arbeitskräfte müssen in die Entwicklung solcher komplementärer KI-Systeme einbezogen werden, um sicherzustellen, dass diese nutzbar sind und für die Arbeitskräfte ausreichend Autonomie und Kontrolle (human in command), Erfüllung und Zufriedenheit am Arbeitsplatz erhalten bleibt. |
g) |
Bildung und Kompetenzen |
3.26. |
Damit sich die Menschen an die rasche Entwicklung im Bereich der KI anpassen können, sind die Pflege bzw. der Erwerb digitaler Kompetenzen erforderlich. Mit ihrem Bündnis für digitale Kompetenzen und Arbeitsplätze (Digital Skills and Jobs Coalition) setzt die Europäische Kommission stark auf die Entwicklung digitaler Kompetenzen. Nicht jeder ist jedoch in der Lage oder daran interessiert, zu codieren und Programmierer zu werden. Politische Maßnahmen und Finanzmittel müssen deshalb auch auf Bildung und Entwicklung von Kompetenzen in Bereichen ausgerichtet werden, die nicht durch KI-Systeme bedroht werden (z. B. Tätigkeiten, bei denen die menschliche Interaktion im Vordergrund steht, bei denen Mensch und Maschine zusammenarbeiten oder die weiterhin von Menschen ausgeführt werden sollen). |
3.27. |
Dort, wo auf die Komplementarität von Mensch und KI gesetzt wird (augmented intelligence), wird für alle von Kindesbeinen an Bildung im Umgang und für die Arbeit mit KI-Systemen erforderlich sein, um sicherzustellen, dass die Menschen bei ihrer Arbeit Autonomie und Kontrolle (human-in-command) behalten. Hier ist insbesondere auch Aufklärung in Bezug auf Ethik und Schutz der Privatsphäre/Datenschutz wichtig, da KI in diesen Bereichen erhebliche Auswirkungen hat. |
h) |
Zugänglichkeit, soziale (Un-)Gleichheit, Inklusion, Verteilung |
3.28. |
Der allergrößte Teil der Entwicklung von KI und aller dazugehöriger Elemente (Entwicklungsplattformen, Daten, Wissen und Fachwissen) befindet sich in der Hand von fünf großen Technologieunternehmen (Amazon, Facebook, Apple, Google, Microsoft). Obwohl diese Unternehmen die offene Entwicklung von KI befürworten und einige ihre KI-Entwicklungsplattformen als quelloffen (open source) anbieten, ist der uneingeschränkte Zugang zu KI-Systemen damit nicht gewährleistet. Der EU, internationalen politischen Entscheidungsträgern und Organisationen der Zivilgesellschaft kommt hier eine wichtige Rolle zu, indem sie dafür sorgen, dass KI-Systeme für alle zugänglich sind, aber auch, dass ihre Entwicklung in einem offenen Umfeld stattfindet. |
3.29. |
Technologischer Wandel zugunsten des Kapitals, bei dem Innovationen vor allem den Eigentümern der entsprechenden Innovation Vorteile bieten, verschlechtert die Position der Arbeit im Vergleich zu der des Kapitals. Der technologische Wandel kann auch zu (Einkommens-)Ungleichheiten zwischen den Menschen führen (sowohl lokal als auch regional und weltweit). KI kann diese Tendenzen weiter verstärken. |
3.30. |
Es ist wichtig, diese Tendenzen aufmerksam zu verfolgen und angemessen zu reagieren. Es wird bereits für eine KI-Steuer, KI-Dividende bzw. gemeinsames Eigentum von Arbeitnehmern und Arbeitgebern an KI-Systemen plädiert. Zudem ist immer öfter von der Notwendigkeit eines unbedingten Grundeinkommens die Rede. |
3.31. |
In einer früheren Stellungnahme (1) hat der EWSA die Möglichkeit einer digitalen Dividende und ihrer ausgewogenen Verteilung mit dem Ziel positiver Wachstumseffekte aufgezeigt. Der EWSA hält es für wichtig, all diese Lösungen zu prüfen, wobei das richtige Gleichgewicht gefunden werden muss zwischen der Entwicklung von KI zum Wohle der Menschheit und eventuellen negativen Folgen derartiger Lösungen. Auch das moralische Risiko, das entsteht, wenn die Verantwortung für KI-Systeme auf eine Stelle abgeschoben wird, die nicht tatsächlich belangt werden kann, muss vermieden werden. |
i) |
Rechts- und Verwaltungsvorschriften |
3.32. |
Die Auswirkungen von KI auf die geltenden Rechts- und Verwaltungsvorschriften sind groß. Im Juni 2016 wurde im Rahmen der STOA des Europäischen Parlaments eine Übersicht über die Rechts- und Verwaltungsvorschriften der EU veröffentlicht, die von den Entwicklungen in den Bereichen Robotik, cyberphysikalische Systeme und KI betroffen sein werden. Die STOA-Lenkungsgruppe nennt sechs Bereiche — Verkehr, Systeme mit doppeltem Verwendungszweck, bürgerliche Freiheiten, Sicherheit, Gesundheit und Energie —, für die nicht weniger als 39 EU-Verordnungen, -Richtlinien, -Erklärungen und -Mitteilungen sowie die Europäische Charta der Grundrechte möglicherweise überprüft oder angepasst werden müssen. Diese Evaluierung sollte rasch und entschlossen angegangen werden, und der EWSA kann und wird dabei eine Rolle spielen. |
3.33. |
Es wird darüber diskutiert, wer haftbar gemacht werden kann, wenn ein KI-System Schaden verursacht. Insbesondere stellt sich diese Frage, wenn das KI-System selbstlernend ist und nach seiner Inbetriebnahme weiter lernt. Das Europäische Parlament hat Empfehlungen für das Zivilrecht im Bereich Robotertechnik ausgesprochen, in denen es vorschlägt, eine sogenannte „elektronische Persönlichkeit“ (e-personality) für Roboter zu prüfen, damit diese für durch sie verursachte Schäden zivilrechtlich haftbar gemacht werden können. Der EWSA spricht sich dagegen aus, Robotern oder KI(-Systemen) eine Form der Rechtspersönlichkeit zuzuerkennen, da dies ein nicht hinnehmbares moralisches Risiko in sich birgt. Die Haftung hat einen präventiven Effekt auf das Verhalten, der möglicherweise wegfällt, wenn der Hersteller nicht mehr das Haftungsrisiko trägt, da dieses auf den Roboter (bzw. das KI-System) übertragen wurde. Zudem besteht die Gefahr des unsachgemäßen Gebrauchs und des Missbrauchs einer derartigen Rechtsform. Der Vergleich mit der beschränkten Haftung von Gesellschaften ist hier fehl am Platz, da hier stets eine natürliche Person in letzter Konsequenz verantwortlich ist. In diesem Zusammenhang ist zu untersuchen, inwieweit die derzeitigen nationalen und europäischen Rechts- und Verwaltungsvorschriften und die entsprechende Rechtsprechung im Bereich der (Produkt- und Risiko-)Haftung und des eigenen Verschuldens diese Frage hinreichend beantworten und falls nicht, welche rechtlichen Lösungen dann geboten sind. |
3.34. |
Für eine angemessene Herangehensweise an Rechts- und Verwaltungsvorschriften im Zusammenhang mit KI ist ferner ein fundiertes Wissen darüber, was KI kann, nicht kann und kurz-, mittel- und langfristig möglicherweise können wird, von entscheidender Bedeutung. |
3.35. |
KI kennt keine Grenzen. Deshalb ist es wichtig, die Notwendigkeit weltweiter Regelungen zu prüfen, da regionale Vorschriften unzureichend sein und sogar unerwünschte Auswirkungen haben werden. Angesichts ihres bewährten Systems von Produkt- und Sicherheitsnormen, der protektionistischen Bestrebungen auf anderen Kontinenten, des hohen Wissensstands in Europa, des Systems der Grundrechte und sozialen Werte in Europa sowie des sozialen Dialogs empfiehlt der EWSA der EU, bei der Festlegung globaler, klarer Strategierahmen für KI eine Führungsrolle zu übernehmen und diesen Prozess weltweit zu stimulieren. |
j) |
Regierungshandeln und Demokratie |
3.36. |
KI-Anwendungen können zu einer besseren Einbeziehung der Menschen in die öffentliche Verwaltung und zu einer transparenteren politischen Entscheidungsfindung beitragen. Der EWSA fordert die EU und die nationalen Regierungen auf, KI hierfür zu nutzen. |
3.37. |
Der EWSA zeigt sich besorgt über den gezielten Einsatz von KI-Systemen (in Form von intelligenten Algorithmen) für die Datenaggregation beispielsweise in sozialen Medien, die anscheinend zur Beschränkung von Informationen und zur weiteren Spaltung der Gesellschaft geführt haben (z. B. durch „Filterblasen“) und gefälschte Nachrichten (fake news) auf Twitter und Facebook während der Wahlen in den Vereinigten Staaten). |
3.38. |
Zudem ist der EWSA besorgt über die Anzeichen dafür, dass KI-Systeme eingesetzt worden sein sollen, um das (Stimm-)Verhalten der Bürger zu beeinflussen. Mithilfe intelligenter Algorithmen sollen Präferenzen und Verhalten von Menschen vorhergesagt und gezielt beeinflusst worden sein. Dies ist eine Bedrohung für eine faire und offene Demokratie. In der heutigen Zeit der Polarisierung und des Rückbaus internationaler Institutionen können Präzision und Wirkungskraft einer solchen Propagandatechnologie die Gesellschaft schnell in eine noch größere Schieflage bringen. Das ist einer der Gründe dafür, dass Normen zur Transparenz und Kontrollierbarkeit (intelligenter) Algorithmen erforderlich sind. |
k) |
Kriegsführung |
3.39. |
Im Rahmen des UN-Übereinkommens über konventionelle Waffen wurde beschlossen, die Auswirkungen autonomer Waffen 2017 durch Experten erörtern zu lassen. Der EWSA begrüßt dies und schließt sich der Forderung von u. a. Human Rights Watch nach einem Verbot autonomer Waffensysteme an. Seiner Ansicht nach muss ein solches Verbot sorgfältig geprüft und erwogen werden. Das reicht jedoch nicht aus, um angemessen gegen die Einsatzmöglichkeiten von KI in Kriegs- und Konfliktsituationen vorzugehen. Auch die Anwendung von KI bei der Cyberkriegsführung sollte Gegenstand dieser UN-Beratungen sein. |
3.40. |
Darüber hinaus muss verhindert werden, dass KI Menschen oder Regimes in die Hände fällt, die sie für terroristische Aktivitäten nutzen wollen. |
l) |
Superintelligenz |
3.41. |
Schließlich stellt sich die Frage nach den Chancen und Risiken für die Entwicklung einer Superintelligenz. Laut Stephen Hawking wird die Entwicklung allgemeiner KI bereits das Ende der Menschheit bedeuten. Ab diesem Zeitpunkt werde sich KI in einem Tempo weiterentwickeln, bei dem Menschen nicht mithalten können. Einige Fachleute plädieren deshalb für einen Sperrschalter (kill switch) bzw. Rücksetzknopf (reset button), mit dem außer Kontrolle geratene oder superintelligente KI-Systeme desaktiviert oder rückgesetzt werden können. |
3.42. |
Der EWSA plädiert für einen menschenkontrollierten Ansatz mit einer verantwortungsvollen und sicheren Entwicklung von KI als Rahmen, bei dem Maschinen Maschinen bleiben und Menschen jederzeit die Kontrolle über diese Maschinen behalten können. Die Debatte über Superintelligenz ist dabei wichtig, drängt aber die Diskussion über die Auswirkungen aktueller KI-Anwendungen derzeit in den Hintergrund. |
4. KI im Dienste der Menschheit
4.1. |
Große Wirtschaftsakteure haben inzwischen verschiedene Initiativen für die offene, sichere und sozial verantwortungsvolle Entwicklung von KI (wie OpenAI) ergriffen. Die politischen Entscheidungsträger dürfen dies jedoch nicht den Unternehmen überlassen, sondern müssen hier eine Rolle spielen. Es sind gezielte Maßnahmen und Unterstützung für die Forschung zu den gesellschaftlichen Herausforderungen im Zusammenhang mit KI sowie für die Entwicklung sicherer und robuster KI-Systeme erforderlich. |
4.2. |
EU-Programme wie Horizont 2020 sind besonders geeignet, um diese Herausforderung anzugehen. Der EWSA hat festgestellt, dass insbesondere der Pfeiler „Gesellschaftliche Herausforderungen“ von Horizont 2020 finanziell weniger gut ausgestattet ist als die beiden anderen Pfeiler „Wissenschaftsexzellenz“ und „Führende Rolle der Industrie“ und diese Mittel noch gekürzt werden. Der EWSA dringt darauf, dass den großen gesellschaftlichen Herausforderungen sowie den gesellschaftlichen Anwendungen von KI im Rahmen des Pfeilers „Gesellschaftliche Herausforderungen“ besondere Aufmerksamkeit gewidmet wird. |
4.3. |
Auch mögliche bereichsübergreifende Auswirkungen von KI müssen behandelt werden. Parallel zur Finanzierung der Entwicklung bahnbrechender KI-Innovationen müssen die Erforschung der gesellschaftlichen Auswirkungen dieser Innovationen und ihre Handhabung finanziert werden. |
4.4. |
Forschung und Entwicklung für KI im Dienste der Menschheit erfordern zudem ein breites Spektrum hochwertiger und öffentlich zugänglicher Trainings- und Testdaten sowie reale (real life) Testumgebungen. Bisher sind die KI-Infrastruktur und viele hochwertige Daten nur bei einer begrenzten Anzahl und für eine begrenzte Anzahl privater Akteure verfügbar, und es ist nicht ohne Weiteres möglich, KI im öffentlichen Raum zu testen, wodurch die Anwendung von KI in anderen Bereichen behindert wird. Die Entwicklung öffentlich zugänglicher hochwertiger Daten sowie einer europäischen KI-Infrastruktur ist von entscheidender Bedeutung, um eine sichere, robuste und nützliche KI zu schaffen. |
5. Überwachung und Handhabung
5.1. |
Welche gesellschaftliche Tragweite KI haben wird, ist noch nicht ganz abschätzbar. Unbestritten ist jedoch, dass sie groß sein wird. KI entwickelt sich derzeit in rasantem Tempo, was eine kritische und umfassende Überwachung erfordert, sodass mit bedeutenden und bahnbrechenden Entwicklungen im Bereich der KI und in verwandten Bereichen, die sowohl technischer als auch gesellschaftlicher Natur sein können (game changers), rechtzeitig und angemessen umgegangen werden kann. |
5.2. |
Unter bahnbrechenden technischen Entwicklungen sind z. B. auffallende oder erhebliche Sprünge bei der Entwicklung von KI-Kompetenzen zu verstehen, die möglicherweise Anzeichen für das Erreichen allgemeiner KI sind. Gesellschaftliche „game changers“ sind beispielsweise massive Arbeitsplatzverluste ohne Aussicht auf Ersatzarbeitsplätze, unsichere Situationen, Systemversagen oder unerwartete internationale Entwicklungen. |
5.3. |
Politische Entscheidungsträger, Industrie, Sozialpartner, Verbraucher, NGO, Bildungs- und Betreuungseinrichtungen sowie Wissenschaftler, Forscher und Fachleute aus verschiedenen Disziplinen (u. a. (angewandte) KI, Ethik, Sicherheit, Wirtschafts-, Arbeits-, Rechts- und Verhaltenswissenschaften, Psychologie und Philosophie) müssen die Entwicklungen im Bereich KI genau beobachten und diese bahnbrechenden Entwicklungen identifizieren und aktualisieren, um so im richtigen Moment die richtigen Maßnahmen in Form von Politik, Rechts- und Verwaltungsvorschriften, Selbstregulierung und sozialem Dialog ergreifen zu können. |
5.4. |
Der EWSA als Vertreter der europäischen Zivilgesellschaft wird diese Debatte über KI unter Einbindung zahlreicher Interessenträger in der nächsten Zeit gestalten, bündeln und stimulieren. |
Brüssel, den 31. Mai 2017
Der Präsident des Europäischen Wirtschafts- und Sozialausschusses
Georges DASSIS
(1) ABl. C 13 vom 15.1.2016, S. 161.