Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses zur „Mitteilung der Kommission an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen — Künstliche Intelligenz für Europa“

(COM(2018) 237 final)

(2018/C 440/08)

Berichterstatter:	Giuseppe GUERINI
Mitberichterstatter:	Gonçalo LOBO XAVIER

Befassung	Europäische Kommission, 12.7.2018
Rechtsgrundlage	Artikel 304 des Vertrags über die Arbeitsweise der Europäischen Union
Zuständige Fachgruppe	Fachgruppe Binnenmarkt, Produktion, Verbrauch
Annahme in der Fachgruppe	4.9.2018
Verabschiedung auf der Plenartagung	19.9.2018
Plenartagung Nr.	537
Ergebnis der Abstimmung (Ja-Stimmen/Nein-Stimmen/Enthaltungen)	199/1/2

1. Schlussfolgerungen und Empfehlungen

1.1.

Der Europäische Wirtschafts- und Sozialausschuss (EWSA) ist der Auffassung, dass künstliche Intelligenz (KI) und Automatisierungsprozesse ein enormes Potenzial bieten, um die europäische Gesellschaft in den Bereichen Innovation und positiver Wandel voranzubringen, dass sie aber auch mit erheblichen Herausforderungen, Risiken und Problemen verbunden sind. Deshalb ist es wichtig, dass die europäischen Institutionen rasch und umfassend eine vollumfängliche Entwicklung und Regulierung der KI in Angriff nehmen.

1.2.

Ein fortschrittliches europäisches KI-Konzept muss mehrere Aspekte umfassen, so u. a. i) öffentliche und private Investitionen in FuE sowie in fortgeschrittene digitale Infrastrukturen, ii) Umsetzung neuer bzw. Anpassung geltender Rechtsvorschriften, iii) Gewährleistung angemessener Kenntnisse und Sensibilisierung von Bürgern und Verbrauchern und iv) gezielte Schulungsprogramme für Arbeitnehmer.

1.3.

Insbesondere die Haftungsfragen in Verbindung mit den neuen digitalen Technologien sollten systematisch ermittelt und auf internationaler, EU- und Mitgliedstaatsebene geklärt werden. Der EWSA wäre bereit, eng mit den EU-Institutionen bei der Analyse und Bewertung sämtlicher EU-Rechtsvorschriften zu Haftung, Produktsicherheit und zivilrechtlicher Verantwortlichkeit zusammenzuarbeiten, die entsprechend zu ändern wären.

1.4.

Der EWSA begrüßt das Ziel der Kommissionsmitteilung, die industrielle und technologische Leistungsfähigkeit der EU zu stärken, um die KI in der europäischen Wirtschaft zu verbreiten. Angesichts der enormen Anstrengungen, die erforderlich sind, um mit den anderen globalen Akteuren Schritt zu halten, ist eine Koordinierung zwischen allen auf europäischer und nationaler Ebene verfügbaren Instrumenten und Finanzierungsmöglichkeiten unerlässlich.

Allerdings dürfen die Werte und Grundsätze der EU nicht auf dem Altar der globalen Wettbewerbsfähigkeit geopfert werden.

1.5.

1.6.

Die Europäische Kommission und die Mitgliedstaaten sollten gemeinsam und unter Beteiligung aller relevanten öffentlichen und privaten Interessenträger Leitlinien zur Ethik in der künstlichen Intelligenz entwickeln. In diesen Leitlinien muss der Grundsatz der Transparenz bei der Nutzung von KI-Systemen für die Einstellung von Mitarbeitern und die Bewertung oder Überwachung ihrer Leistung verankert werden. Der EWSA schlägt vor, neben ethischen Leitlinien auch einen klaren, harmonisierten und verpflichtenden EU-Rechtsrahmen aufzustellen, um KI gebührend zu regulieren und durch KI berührte geltende Rechtsvorschriften zu aktualisieren, insbesondere in Verbindung mit Herstellerhaftung und Verbraucherschutz. Der EWSA ist daran interessiert, eng mit den EU-Institutionen bei der Analyse und Bewertung einschlägiger EU-Rechtsvorschriften zusammenzuarbeiten, die künftig infolge der Entwicklung der KI geändert werden müssen.

1.6.1.

Die Europäische Kommission wird ferner eine gründliche Bewertung der Auswirkungen der KI auf den Arbeitsmarkt durchführen müssen. Bei dieser Prüfung muss sowohl berücksichtigt werden, dass manche Arbeitnehmer möglicherweise durch elektronische Geräte oder Roboter ersetzt werden, als auch die Tatsache, dass einige Aufgaben zwar nicht vollkommen automatisiert, aber durch die neuen Technologien grundlegend verändert werden.

1.7.

Aus diesem Grund empfiehlt der EWSA, „die Einbeziehung aller“ über einen frommen Wunsch oder Mahnruf hinaus konkret umzusetzen.

1.8.

Es muss betont werden, wie wichtig Berufsbildungsprogramme sind, wenn es darum geht, europäische Arbeitnehmer zu schützen, die mit einem radikalen Wandel infolge der zunehmenden Verbreitung der KI konfrontiert sind. Die europäischen Bürger sollten Zugang zu einschlägigen Informationen haben, um die infolge des rasanten technologischen Fortschritts verfügbaren Geräte und Anwendungen auf verantwortungsvolle und sachkundige Weise nutzen zu können.

1.9.

Sobald öffentliche Verwaltungen technologiegestützt organisatorische Entscheidungen treffen und raschere Beschlüsse fassen können, muss mithilfe eines klaren Rechtsrahmens, der eine umfassende Rechenschaftspflicht der Verwaltung gegenüber den Bürgern gewährleistet, geklärt werden, wer letztlich für diese Entscheidungen rechtlich haftbar ist.

1.10.

Besondere Aufmerksamkeit sollte der Rolle gelten, die der Zivilgesellschaft und den sozialwirtschaftlichen Organisationen dabei zukommt, für eine größere aktive Beteiligung der Bürger an den wirtschaftlichen und sozialen Prozessen zu sorgen, mit denen dank der künstlichen Intelligenz die Partizipation in unserer Gesellschaft verstärkt werden kann. Die Organisationen der Zivilgesellschaft und soziale Unternehmen können eine wichtige Rolle dabei spielen, Technologieverständnis und -akzeptanz der Bürger zu fördern, insbesondere durch Kooperationsmechanismen, die eine Einbeziehung der Bürger in den derzeitigen digitalen Wandel ermöglichen.

1.11.

Die gegenwärtige technologische Revolution kann und darf nicht ohne eine umfassende und aktive Beteiligung von Arbeitnehmern, Verbrauchern und sozialen Organisationen erfolgen, und die technologische Entwicklung muss auf eine stärkere und verantwortungsbewusste Teilhabe umfassend informierter Bürger ausgerichtet werden. Deshalb empfiehlt der EWSA der Europäischen Kommission, bei der Einrichtung der Europäischen Allianz für KI die Notwendigkeit zu berücksichtigen, eine inklusive, multiprofessionelle und repräsentative Plattform für die unterschiedlichen Interessenträger zu schaffen, die die europäischen Bürger sowie die Arbeitnehmer, die mit intelligenten Maschinen interagieren müssen, vertreten (1).

2. Allgemeine Bemerkungen

2.1.

Durch digitale Geräte sowie Großlernmaschinen verbessert sich täglich die Fähigkeit der Algorithmen, enorme Datenmengen zu bewältigen. Dank der so genannten „neuronalen Netze“ (die z. B. bereits von Smartphones für die visuelle Erkennung von Gegenständen, Gesichtern und Bildern genutzt werden) werden diese Fähigkeiten in Zukunft voraussichtlich noch weiter ausgebaut.

2.2.

Diese Entwicklungen verändern die bisherige „Lernweise“ von KI-Geräten, die nicht mehr nur aus Daten Regeln ableiten können, sondern eine flexible und adaptive Lernfähigkeit entwickeln. Dadurch wird die Fähigkeit der KI gesteigert, in der realen Welt zu lernen und Handlungen auszuführen.

2.3.

Angesichts des derzeitigen rasanten technologischen Wandels ist es nunmehr von entscheidender Bedeutung, dass die Kommission und die Mitgliedstaaten gemeinsam und unter Einbeziehung aller einschlägigen öffentlichen und privaten Akteure eine ausführliche Analyse der neuen Herausforderungen vornehmen, die durch die rasche Entwicklung der KI entstehen, ohne dadurch den Fortschritt und die technologische Entwicklung zu hemmen.

2.4.

Die Kommissionsmitteilung COM(2018) 237 final zielt darauf ab, die industrielle und technologische Leistungsfähigkeit der EU zu stärken und die Verbreitung der KI in der europäischen Wirtschaft, sowohl im privaten als auch im öffentlichen Sektor, zu fördern. Wie bereits in seiner Initiativstellungnahme (2) betont, unterstützt der EWSA die Initiative der Kommission, die zahlreiche der vom EWSA seinerzeit unterbreiteten Vorschläge in ihrer Mitteilung aufgegriffen hat. Gleichzeitig mahnt er die Kommission an, schnell und entschlossen zu handeln.

2.5.

Bei einem wirksamen europäischen Ansatz im Bereich der KI müssen umfangreiche Investitionen in Forschung und Innovation sowie in digitale Infrastrukturen gefördert werden. Sie sind für eine Vorbereitung auf die sozioökonomischen Herausforderungen erforderlich, die in den kommenden Jahren infolge der Entwicklung der neuen Technologien auf die europäische Gesellschaft und die europäischen Märkte zukommen werden.

2.6.

Die Europäische Kommission und die Mitgliedstaaten sollten gemeinsam und unter Einbeziehung aller relevanten öffentlichen und privaten Interessenträger Leitlinien zur Ethik in der künstlichen Intelligenz aufstellen.

2.7.

Gleichzeitig muss auf europäischer Ebene ein harmonisierter Rechtsrahmen angenommen werden, der mit der Grundrechtecharta der EU und den in den EU-Verträgen verankerten Grundsätzen im Einklang steht. Der neue Rechtsrahmen sollte präzise Vorschriften zur Regelung der Probleme enthalten, die in Verbindung mit maschinellen Lernen auftreten, bspw. fehlende Markttransparenz, mangelnder Wettbewerb, Diskriminierung, unlautere Geschäftspraktiken, Bedrohungen der Cybersicherheit und Beeinträchtigung der Produktsicherheit.

Die rechtlichen Schutzbestimmungen sollten insbesondere dann streng sein, wenn datengetriebene KI-Systeme die Daten automatisch bei der Nutzung elektronischer Geräte und Computer abrufen.

2.8.

Der EWSA stellt fest, dass in der der Mitteilung beigefügten Arbeitsunterlage der Kommissionsdienststellen SWD(2018) 137 final die Auswirkungen der KI auf die Rechtsvorschriften der EU gebührend analysiert und ein Überblick über die Haftungsfragen in Verbindung mit den neuen digitalen Technologien gegeben werden.

2.9.

Weiter werden umfassende Aktionspläne benötigt, um i) die Modernisierung der Systeme der allgemeinen und beruflichen Bildung durch die Förderung der neuen, auf dem künftigen Arbeitsmarkt gefragten Berufe zu unterstützen, und ii) angesichts der erwarteten Herausforderungen einen hohen Schutz für Bürger und Arbeitnehmer zu gewährleisten (3).

2.10.

Der EWSA ruft die Kommission auf, schnell weitere Maßnahmen im Bereich der Regulierung wie auch der Förderung von Investitionen zu ergreifen, da das Tempo des derzeitigen Wandels eine rasche Anpassung erforderlich macht.

3. Der Kommissionsvorschlag: EU-Förderung und -Investitionen im Bereich künstliche Intelligenz

3.1.

In ihrer Mitteilung kündigt die Kommission an, dass sie die Verbreitung von KI sowohl im Bereich der Grundlagenforschung als auch der industriellen Anwendung unterstützen wird. In diesem Zusammenhang betont der EWSA, wie wichtig es ist, alle Arten Interessenträger an diesem Prozess zu beteiligen, u. a. KMU, Dienstleistungsunternehmen, soziale Unternehmen, Landwirte, Genossenschaften, Verbraucherverbände und Seniorenverbände.

3.2.

In Bezug auf das Ziel der Kommission, „KI allen potenziellen Nutzern und insbesondere kleinen und mittleren Unternehmen zugänglich“ zu machen, ist der EWSA der Auffassung, dass es für die Bewältigung der Herausforderungen der globalen Wettbewerbsfähigkeit unerlässlich ist, die KI möglichst vielen Akteuren zugänglich zu machen. Neben der von der Kommission bereits vorgesehenen Entwicklung einer „Plattform für KI auf Abruf“ ist es auch wichtig, angemessene Formen der Beteiligung und Konsultation der verschiedenen Interessenträger, einschließlich KMU, Netze der Sozialwirtschaft und Organisationen der Zivilgesellschaft zu gewährleisten (den Letzteren kommt eine ausschlaggebende Rolle dabei zu, die EU-Bürger zu einer sachkundigen und aktiven Mitwirkung zu bewegen).

3.3.

Die Kommission hat angekündigt, dass sie Innovationen im KI-Bereich mithilfe eines Pilotprogramms des Europäischen Innovationsrates fördern wird, für welches für den Zeitraum 2018-2020 Mittel in Höhe von 2,7 Mrd. EUR zur Verfügung stehen.

3.4.

Der EWSA ist der Auffassung, dass eine solche Initiative für die Entwicklung von KI durchaus zweckmäßig sein könnte, betont jedoch gleichzeitig, dass die Forschungsfinanzierung rasch von der Testphase zur strukturellen Phase übergehen sollte. Darüber hinaus sollte die Kommission die verschiedenen in den einzelnen Mitgliedstaaten befindlichen Forschungszentren dazu bewegen, ein der künstlichen Intelligenz gewidmetes Kooperationsnetz auf europäischer Ebene zu schaffen.

3.5.

Der EWSA nimmt zur Kenntnis, dass die Kommission die KI-Investitionen im Zuge des Programms „Horizont 2020“ bis Ende 2020 auf rund 1,5 Mrd. EUR erhöhen will. Bei einer raschen Umsetzung im Rahmen der bestehenden öffentlich-privaten Partnerschaften könnte dieser Ansatz innerhalb von zwei Jahren weitere Investitionen in Höhe von 2,5 Mrd. EUR bringen. Der gleiche Ansatz muss auch im künftigen Rahmenprogramm „Horizont Europa“ verfolgt werden.

3.6.

Aus einem anderen Blickwinkel betrachtet, ist auch zu begrüßen, dass die Europäische Kommission und der Europäische Fonds für strategische Investitionen, der bei der Förderung der Entwicklung von KI in der EU eine zentrale Lenkungsrolle spielen sollte, das Programm VentureEU aufgelegt haben. Es handelt sich dabei um einen Risikokapitalfonds mit Mitteln in Höhe von 2,1 Mrd. EUR zur Förderung von Investitionen in innovative Unternehmen in ganz Europa.

3.7.

Angesichts der enormen Anstrengungen, die erforderlich sind, um mit den anderen globalen Akteuren Schritt zu halten, sind jedoch eine Koordinierung und die Schaffung von Synergien zwischen allen auf europäischer und nationaler Ebene verfügbaren Instrumenten und Finanzierungsmöglichkeiten unerlässlich. Es liegt auf der Hand, dass die auf europäischer Ebene tätigen öffentlichen und privaten Akteure ihre Kräfte bündeln müssen, um mit den Investitionen Chinas und der USA im KI-Sektor konkurrieren und weltweit eine Führungsrolle der Europäischen Union gewährleisten zu können.

3.8.

Um im KI-Bereich profitabel, wettbewerbsfähig und überzeugend zu sein, muss die EU auch angemessen in die entsprechende IT-Software, Hardware und digitale Infrastruktur investieren.

3.9.

Bei Investitionen in KI sollte der besonderen Stärke europäischer Unternehmen in den Bereichen Automatisierung und Robotik Rechnung getragen werden. Diese Bereiche, die im weiteren Sinn auch zur KI zählen, könnten daher wesentlich dazu beitragen, der EU eine globale technologische Führungsrolle zu sichern, weshalb ihnen besondere Aufmerksamkeit zukommen sollte.

4. Die künstliche Intelligenz und ihre Auswirkungen auf Mensch und Arbeitnehmer

4.1.

Die Entwicklung der KI schreitet unbestreitbar sehr rasch voran. Deshalb müssen die EU-Institutionen bei der Abschätzung der Folgen sämtlicher Regulierungsmaßnahmen im KI-Bereich einen bereichsübergreifenden Ansatz verfolgen, bei dem nicht nur verwaltungstechnischen, rechtlichen und wirtschaftlichen Aspekten, sondern auch anthropologischen, psychologischen, soziologischen und technologischen Erwägungen Rechnung getragen wird.

4.2.

Um diese Innovationen zu fördern, vor allem aber um sie auf den Menschen zu zentrieren, ist es wichtig, dass die Europäische Union einerseits auf eine hohe technologische Wettbewerbsfähigkeit hinarbeitet, ohne andererseits wesentliche ethische, soziale und menschliche Überlegungen außer Acht zu lassen.

4.3.

Der EWSA hält es daher für wesentlich: i) mittels angemessener Rechtsinstrumente die Privatsphäre zu schützen und für einen verantwortungsvollen Umgang mit personenbezogenen Daten zu sorgen, bspw. durch die wirksame Umsetzung der neuen Datenschutz-Grundverordnung, die ggf. fortwährend an die rasche Weiterentwicklung der KI angepasst werden muss; ii) wichtige Teile der relevanten EU-Rechtsvorschriften zu bewerten und erforderlichenfalls an die neuen KI-bedingten Gegebenheiten anzupassen; und iii) die Kompetenzen und Fähigkeiten auszubauen, die die Bürger, die öffentlichen Verwaltungen und die europäischen Unternehmen benötigen, um die Vorteile der künstlichen Intelligenz wirksam nutzen zu können.

4.4.

Die Analyse sollte bei der Tatsache ansetzen, dass die KI sich auf die Nutzung und Verarbeitung großer Mengen von Daten stützt, die die Grundlage aller auf den neuen Technologien basierenden Anwendungen sind. Die größte Herausforderung für die europäischen Regulierungsbehörden ist deshalb die Sicherstellung eines transparenten und regulierten Zugangs zu den Daten der Endnutzer.

4.5.

Je höher die Qualität der verarbeiteten Daten, desto genauer und leistungsfähiger die KI-Systeme. Allerdings darf hierbei nicht außer Acht gelassen werden, dass die Beschaffung der personenbezogenen Daten auf legale Weise erfolgen und ihre Nutzung den Betroffenen bekannt sein muss, damit die Nutzung personenbezogener Daten zu vorab festgelegten und transparenten Zwecken erfolgt, denen die Nutzer in Kenntnis der Sachlage zuvor ordnungsgemäß zugestimmt haben.

4.6.

Es sei darauf hingewiesen, dass zum Schutz der Endverbraucher einige wichtige Teile des europäischen Rechts (z. B. im Zusammenhang mit Online-Werbung, unlauteren Geschäftspraktiken, Produktsicherheit und -haftung, Verbraucherrechten, missbräuchlichen Vertragsklauseln, Verbrauchsgüterkauf und Garantien für Verbrauchsgüter, Versicherungen und Preisangaben) möglicherweise geändert und an die neuen Szenarien angepasst werden müssen, die mit einer umfassenderen und verbesserten Nutzung der künstlichen Intelligenz einhergehen.

4.7.

Mit der maßgebenden Frage der Produktsicherheit und -haftung hat die Kommission sich in ihrer Arbeitsunterlage SWD(2018) 137 final eingehend befasst, sie hat einschlägige Fallstudien analysiert und eine Liste von EU-Rechtsvorschriften zur weiteren Prüfung und Bewertung aufgestellt. Der EWSA bestärkt die Kommission darin, diese Arbeit fortzusetzen, und ist bereit, dazu beizutragen.

4.8.

Es sollte betont werden, wie wichtig die kulturelle, schulische und akademische Bildung auf der einen Seite und eine angemessene allgemeine Aufklärung der Öffentlichkeit auf der anderen Seite ist, um die Rechte der EU-Bürger angesichts des Fortschritts der KI zu schützen. Insbesondere müssen Transparenz und Sorgfalt bei der Verwaltung der KI-Algorithmen und ihrer Datengrundlagen gewährleistet werden.

4.9.

Deshalb müssen die EU-Bürger unbedingt entsprechend geschult werden und einfache, verständliche Informationen erhalten, sodass sie die infolge des rasanten technologischen Fortschritts verfügbaren und zunehmend allgegenwärtigen Geräte und Anwendungen verantwortungsvoll und sachkundig nutzen können.

4.10.

Die EU und die Mitgliedstaaten müssen für all diese Anliegen klare und wirksame Lösungen bieten, indem sie insbesondere ein zeitgerechtes Bildungssystem und lebenslanges Lernen auf dem Arbeitsmarkt und in der Zivilgesellschaft fördern.

4.11.

Die Europäische Kommission wird eine gründliche Bewertung der Auswirkungen der KI auf den Arbeitsmarkt durchführen müssen. Diese gehören zu den größten Sorgen der langjährigen, aber noch weit vom Rentenalter entfernten Arbeitnehmer in der EU, die die derzeitige Entwicklung mit Argwohn und Angst beobachten. Bei dieser Prüfung muss sowohl berücksichtigt werden, dass manche Arbeitnehmer möglicherweise durch elektronische Geräte oder Roboter ersetzt werden, als auch die Tatsache, dass einige Aufgaben zwar nicht vollkommen automatisiert, aber durch die neuen Technologien grundlegend verändert werden. Folglich dürfen sich die Prüfung und Bewertung nicht nur auf die unvermeidlichen und erwarteten Veränderungen bei den Produktionsketten richten, sondern in Verbindung mit einem angemessenen sozialen Dialog mit den Arbeitnehmern auch auf neue Denkansätze bei den Organisationsabläufen und Geschäftszielen.

4.12.

Wie auch bei vielen anderen Technologien wird es in einigen Fällen ratsam sein, die KI schrittweise nach der Methode der sukzessiven Annäherung zu erproben, bevor sie in großem Maßstab eingesetzt werden, um den Betroffenen die Möglichkeit zu geben, sich — auch mithilfe entsprechender Schulungen — mit den neuen Technologien vertraut zu machen und etwaige Anpassungsfehler im Laufe des Prozesses zu beheben (4).

4.13.

Die Einführung neuer Technologien in Unternehmen erfordert einen sozialen Dialog zwischen den verschiedenen Betroffenen. Die Arbeitnehmerorganisationen und Gewerkschaften müssen diesbezüglich fortwährend informiert und konsultiert werden.

5. Künstliche Intelligenz, öffentliche Verwaltung und Zivilgesellschaft

5.1.

Die KI ist eine technologische und soziale Innovation, die tiefgreifende Veränderungen in der gesamten Gesellschaft mit sich bringen und auch den öffentlichen Sektor und die Beziehung zwischen den Bürgern und der öffentlichen Verwaltung auf positive Weise verändern kann. Die künstliche Intelligenz bietet Chancen sowohl im Hinblick auf eine effizientere Organisation der Verwaltung als auch auf die Zufriedenheit der Bürger mit den Dienstleistungen der öffentlichen Verwaltung und mit einem effizienten öffentlichen Dienst.

5.2.

Zur Erreichung dieser Ziele müssen auch die Bediensteten der öffentlichen Verwaltung auf die durch die KI bedingten Veränderungen und Herausforderungen für die europäische Gesellschaft vorbereitet werden. Die Beamten und administrativen Führungskräfte — ebenso wie die bereits erwähnten Lehrkräfte, Ausbilder und Universitätsmitarbeiter — müssen das Phänomen der KI voll und ganz verstehen, um entscheiden zu können, welche neuen Instrumente sie bei den Verwaltungsabläufen nutzen wollen.

5.3.

Die Einführung der KI im öffentlichen und privaten Sektor setzt die Konzipierung von Verfahren voraus, die mittels Kooperationsmechanismen, über die die Bürger — soweit möglich anhand von Systemen für eine partizipative Governance — einen Beitrag zur Entwicklung der auf der KI basierenden Technologien leisten können, Technologieverständnis und -akzeptanz der Nutzer fördern.

5.4.

Um diesbezüglich nennenswerte Ergebnisse zu erzielen, könnte es sich als sinnvoll erweisen, zunehmend tragfähige Formen der Zusammenarbeit und Partnerschaften zwischen öffentlichem und privatem Sektor zur Nutzung der durch die technischen Anwendungen, künstliche Intelligenz und Robotik gebotenen Möglichkeiten zu entwickeln.

5.5.

Die öffentlichen Verwaltungen stehen hinsichtlich Legalität und Legitimität vor einem besonders heiklen Problem, da die öffentlichen Interessen (mit denen die Ausübung staatlicher Befugnisse verbunden ist) und die Einzelinteressen (konkreter Ausdruck der Freiheit des Einzelnen) angemessen gegeneinander abgewogen werden müssen. So setzt die Nutzung der KI durch die öffentliche Verwaltung bspw. voraus, dass in einem klaren und expliziten Rechtsrahmen der Grundsatz der Transparenz und Offenlegung der Verwaltungsakte mit dem Schutz personenbezogener Daten und dem Recht des Einzelnen auf Privatsphäre in Einklang gebracht wird.

5.6.

Sobald öffentliche Verwaltungen technologiegestützt organisatorische Entscheidungen treffen und raschere Beschlüsse fassen können — z. B. bei der Auswahl von Auftragnehmern bei Ausschreibungsverfahren, bei der Führung von Wartelisten für besondere Dienstleistungen oder bei der Einstellung neuer Mitarbeiter im öffentlichen Sektor —, muss mithilfe eines klaren Rechtsrahmens, der eine umfassende Rechenschaftspflicht der Verwaltung gegenüber den Bürgern gewährleistet, geklärt werden, wer letztlich für diese Entscheidungen rechtlich haftbar ist.

5.7.

Den Organisationen der Zivilgesellschaft und sozialen Unternehmen kommt eine wichtige Rolle bei der Förderung von Technologieverständnis und -akzeptanz der Bürger zu, insbesondere durch Kooperationsmechanismen, die eine Einbeziehung in den digitalen Wandel ermöglichen. In diesem Zusammenhang ist die Möglichkeit wichtig, Systeme für eine partizipative Verwaltung dieser Instrumente — beispielsweise in kooperativer Form — zu schaffen, angefangen bei den digitalen Plattformen, über die bereits neue Formen der wirtschaftlichen Beziehungen bei der Arbeitsorganisation entstehen.

5.8.

Für Marktüberwachungsmechanismen zuständige Verwaltungsbehörden sollten über die Sachkenntnis und die Befugnisse verfügen, für einen fairen Wettbewerb zu sorgen und die Verbraucherrechte sowie die Sicherheit und Rechte der Arbeitnehmer zu schützen. Für die Prüfung von Algorithmen sollten öffentliche oder unabhängige Stellen zuständig sein. Gleichzeitig sollten Unternehmen wirksame Mechanismen einführen, um die Datennutzung durch KI zu überprüfen.

Brüssel, den 19. September 2018

Der Präsident des Europäischen Wirtschafts- und Sozialausschusses

Luca JAHIER

(1) Siehe die Stellungnahme des EWSA „Künstliche Intelligenz: Antizipation ihrer Auswirkungen auf die Beschäftigung zur Gewährleistung eines gerechten Übergangs“ (INT/845), Berichterstatterin: Frau Salis-Madinier (siehe Seite 1 dieses Amtsblatts).

(2) Siehe die Stellungnahme des EWSA vom 31. Mai 2017„Künstliche Intelligenz — die Auswirkungen der künstlichen Intelligenz für den (digitalen) Binnenmarkt und Produktion, Verbrauch, Beschäftigung und Gesellschaft“ (INT/806) (ABl. C 288 vom 31.8.2017, S. 1).

(3) Siehe die Stellungnahme des EWSA „EU-Konzepte zur Gestaltung von Übergängen in eine digitalisierte Arbeitswelt“ (SOC/578) (ABl. C 367 vom 10.10.2018, S. 15).

(4) Siehe die Stellungnahme des EWSA „Künstliche Intelligenz: Antizipation ihrer Auswirkungen auf die Beschäftigung zur Gewährleistung eines gerechten Übergangs“ (INT/845), Berichterstatterin: Frau Salis-Madinier (siehe Seite 1 dieses Amtsblatts).