Europäischer Wirtschafts- und Sozialausschuss
TEN/679
Die digitale Revolution und die Bedürfnisse und Rechte der Bürgerinnen und Bürger
STELLUNGNAHME
Europäischer Wirtschafts- und Sozialausschuss
Die digitale Revolution und die Bedürfnisse und Rechte der Bürgerinnen und Bürger
(Initiativstellungnahme)
Berichterstatter: Ulrich SAMM
|
Beschluss des Plenums
|
12/7/2018
|
|
Rechtsgrundlage
|
Artikel 29 Absatz 2 der Geschäftsordnung
|
|
|
Initiativstellungnahme
|
|
|
|
|
Zuständige Fachgruppe
|
Fachgruppe Verkehr, Energie, Infrastrukturen, Informationsgesellschaft
|
|
Annahme in der Fachgruppe
|
11/02/2019
|
|
Verabschiedung auf der Plenartagung
|
20/02/2019
|
|
Plenartagung Nr.
|
541
|
|
Ergebnis der Abstimmung
(Ja-Stimmen/Nein-Stimmen/Enthaltungen)
|
129/2/1
|
1.Schlussfolgerungen und Empfehlungen
1.1Die derzeitige digitale Revolution hat das Potenzial, die Gesellschaft und Wirtschaft sowie das Arbeitsumfeld grundlegend zu verändern und langfristige Vorteile sowohl für das Wirtschaftswachstum als auch die Lebensqualität mit sich zu bringen, was sich auf alle Sektoren auswirken und die Art, wie wir leben, arbeiten und kommunizieren, verändern wird. Der EWSA hat deutlich zum Ausdruck gebracht, dass der – von Menschen initiierte – Wandel allen zugutekommen sollte. Der EWSA begrüßt daher alle politischen und zivilgesellschaftlichen Maßnahmen, die den europäischen Bürgerinnen und Bürgern helfen. In dieser Stellungnahme geht es in erster Linie um die Bedürfnisse und Anliegen der Bürger, sei es in ihrer Eigenschaft als Arbeitnehmer, Arbeitgeber oder allgemein als Verbraucher, und um die Bereiche, in denen die Einbeziehung der Zivilgesellschaft von entscheidender Bedeutung ist. Der digitale Wandel kann nur dann erfolgreich sein, wenn er vorausschauend gestaltet wird.
1.2Die Digitalisierung kann, gerade wenn neue digitale Produkte und Dienstleistungen eingeführt werden, sehr rasch voranschreiten (wie im Falle der Mobiltelefone/Smartphones) oder aber sie kann in bestimmten Bereichen, in denen die Öffentlichkeit und die Gesellschaft insgesamt die Technologie nicht ohne weiteres annehmen, auch langsam vonstattengehen, beispielsweise, wenn die Autonomie, Verantwortung, Sicherheit, Würde und Privatsphäre der Menschen berührt werden.
1.3Die Digitalisierung eröffnet den Menschen in bisher ungekannter Weise eine Fülle neuer Entscheidungsmöglichkeiten für ein besseres Leben. Indes sind wir, je stärker die Digitalisierung unser Leben bestimmt, desto anfälliger für Manipulation. In Bereichen wie Autofahren, Essensauswahl, gesundheitsbewusstes Verhalten, Heizen des Wohnbereichs, Rauchen, Trinken, Umgang mit Geld und vielem mehr kann so unsere Autonomie untergraben werden. Der EWSA fordert, dass mit Blick auf diese sich rasch entwickelnden Technologien transparente Regeln entwickelt, angepasst und angewandt werden. Gute Technik, die überzeugt, sollte nicht durch Manipulation, sondern durch Schulungen und unter Beachtung des Grundsatzes der Entscheidungsfreiheit vermittelt werden, um menschliche Autonomie zu gewährleisten.
1.4Der EWSA hat eine eindeutige Haltung zu der Frage, inwieweit es ethisch vertretbar ist, die Verantwortung für Entscheidungen (mit moralischer Tragweite) auf KI-gestützte Systeme zu übertragen. Automatisierte Systeme – wie komplex sie auch immer sein mögen – müssen im Rahmen eines menschenkontrollierten Ansatzes betrieben werden. Nur Menschen treffen endgültige Entscheidungen und tragen dafür auch die Verantwortung.
1.5Mit der zunehmenden Gebäudeautomation bieten sich Hackern immer mehr Angriffspunkte. Die Verbraucher müssen über diese Risiken informiert werden und Unterstützung in Sicherheitsfragen erhalten, insbesondere wenn Hacker versuchen, die Kontrolle über intelligente Geräte zu übernehmen. Der EWSA fordert die EU dazu auf, bestehende Sicherheitsvorschriften zu überarbeiten und für neue, sich ständig weiterentwickelnde Technologien strenge Sicherheitsbestimmungen zum Schutz der Bürgerinnen und Bürger in ihrem Zuhause zu entwerfen und anzupassen.
1.6Der EWSA begrüßt den Ansatz, die Straßenverkehrssicherheit durch mehr digitale Technologie in Autos zu verbessern, bringt aber auch seine Besorgnis darüber zum Ausdruck, dass diese Verbesserungen nur langsam greifen. Um den Übergang zu mehr automatisiertem Fahren zu beschleunigen, fordert der EWSA von der EU mehr Anreize sowohl mit Blick auf die hohen Kosten (Anschaffung von Neuwagen) als auch auf die unzureichende Akzeptanz der Assistenzsysteme (Komplexität, fehlende Anleitung). Der EWSA ist der Auffassung, dass für einen Erfolg vollkommen autonomer, 100 %ig sicherer Fahrzeuge eine europäische Strategie zur Anpassung der Straßensysteme entwickelt werden muss.
1.7Der EWSA fordert angesichts der sich rasch verändernden digitalen Technologie eine Anpassung und Überarbeitung der Datenschutz-Grundverordnung (DS-GVO). Insbesondere neue Gesichtserkennungstechniken sind eine Bedrohung für unsere Privatsphäre. Da diese Technik immer billiger und für jedermann immer leichter zugänglich wird, könnte dies letztlich dazu führen, dass es nicht mehr möglich sein wird, anonym spazieren zu gehen oder einzukaufen. Die Bedrohung der Privatsphäre und der Autonomie nimmt noch zu, wenn diese Technologien für Profiling oder Scoring eingesetzt werden. Der EWSA vertritt entschieden die Ansicht, dass Menschen auch im öffentlichen Raum ein Recht auf Privatsphäre haben sollten. Der EWSA fordert die Kommission dazu auf, die DS-GVO sowie die damit zusammenhängenden Bestimmungen entsprechend dem Tempo des technologischen Wandels regelmäßig zu überarbeiten.
1.8Der einzelne Verbraucher, der nicht über professionelle digitale Kompetenzen verfügt, benötigt viel Unterstützung bei der Nutzung komplexer digitaler Systeme, seien es Haushaltsgeräte oder digitale Plattformen. Benutzerhandbücher können sehr lang sein, und die Erlaubnis zur Nutzung bestimmter Daten wird oft unwissentlich erteilt. Der EWSA ist der Überzeugung, dass Transparenz allein nicht ausreicht, und dementsprechend sind zur Unterstützung der Verbraucher auch Vereinfachungen und EU-weit standardisierte Verfahren notwendig.
1.9Digitale Plattformen können das Verhalten ihre Nutzer problemlos mit einfachen Werkzeugen verfolgen. Dies bedeutet, dass bei einer vorsätzlich missbräuchlichen Verwendung von Daten, von der die betroffenen Menschen keine Kenntnis haben, die DS-GVO keinen ausreichenden Schutz der Privatsphäre gewährleistet. Der EWSA ist der Überzeugung, dass der Schutz der Privatsphäre nur dadurch gewährleistet werden kann, wenn außerdem der Zugang zu sensiblen Daten auf eine begrenzte Anzahl von Personen mit besonderen Zugriffsrechten beschränkt wird. Die Sicherheitsmaßnahmen müssen den strengsten und zuverlässigsten Normen entsprechen und regelmäßig durch unabhängige Stellen der EU überprüft werden.
1.10Der EWSA ist darüber besorgt, dass auf biometrischen Daten beruhende Überwachungssysteme zu einer falschen Einstufung und zu Stigmatisierung führen können, wenn beispielsweise jemand automatisch einer bestimmten Kategorie zugeordnet und als Terrorist, Krimineller oder unzuverlässige Person eingestuft wird. Systeme, die Menschen automatisch als verdächtig einstufen, sollten niemals ohne intensive menschliche Beteiligung und gründliche Überprüfung arbeiten.
1.11Es wird davon ausgegangen, dass Robotertechnik auch im Gesundheitswesen zum Einsatz kommen wird. Roboter sind allerdings Geräte, die im Bereich der Pflege von Menschen keine empathischen Fähigkeiten besitzen und nicht in der Lage sind, die Wechselwirkungen menschlicher Beziehungen nachzuahmen. Ohne entsprechende Rahmenbedingungen kann der Einsatz von Robotern die Menschenwürde beeinträchtigen. Pflegeroboter sollten daher nur für Pflegeaufgaben, die keine menschliche Zuwendung erfordern und keine Körperpflege beinhalten, eingesetzt werden.
1.12Der EWSA empfiehlt – wann immer in Industrie und Handel sowie im Dienstleistungssektor neue Automatisierungssysteme geplant werden – die Nutzung objektiver wissenschaftlicher Methoden zur Optimierung und Bewertung der Mensch-Maschine-Interaktion. Die wissenschaftlichen Methoden der kognitiven Ergonomie ermöglichen eine objektive Bewertung der psychischen Anforderungen beim Umgang mit neuen technischen Assistenzsystemen. Zur Einschätzung von Benutzerschnittstellen kommen in ihr verschiedene Forschungsdisziplinen, wie z. B. Psychologie und Ergonomie, zum Einsatz. Der EWSA ist davon überzeugt, dass die Digitalisierung langfristig nur mit einem Ansatz erfolgreich sein kann, bei dem der Mensch im Mittelpunkt steht.
1.13Der EWSA spricht sich dafür aus, zu untersuchen, inwieweit ein ungleicher Zugang zu den neuen digitalen Technologien und damit verbundene Kompetenzlücken ein regionales Entwicklungsgefälle und mögliche soziale Ungleichheiten mitsamt ihren potenziellen Auswirkungen auf den Zusammenhalt der EU bedingen.
2.Einführung
2.1Der EWSA hat bereits in früheren Stellungnahmen die Einrichtung eines Programms „Digitales Europa“ durch die Europäische Kommission begrüßt, das darauf ausgerichtet ist, Europa zu einem der führenden Akteure im Bereich der Digitalisierung zu machen und seine wirtschaftliche Stärke und Wettbewerbsfähigkeit auf der Weltbühne auszubauen, um die Entstehung eines digitalen Binnenmarkts zu ermöglichen und für alle Bürger Europas den digitalen Wandel in positiver Weise zu gestalten.
2.2Die aktuelle digitale Revolution hat die Gesellschaft bereits verändert und wird dies in Zukunft noch stärker viel tun. Dieser Wandel betrifft die Wirtschaft ebenso wie die einzelnen Arbeitsplätze, geht mit langfristigen Vorteilen sowohl für das Wirtschaftswachstum als auch für die Lebensqualität einher, wird sich auf alle Sektoren auswirken und die Art, wie wir leben, arbeiten und kommunizieren, verändern. Der EWSA hat deutlich zum Ausdruck gebracht, dass der – von Menschen initiierte – Wandel allen zugutekommen sollte. Der EWSA begrüßt daher alle politischen und zivilgesellschaftlichen Maßnahmen, die den europäischen Bürgerinnen und Bürgern helfen. In dieser Stellungnahme liegt der Schwerpunkt in erster Linie auf den Bedürfnissen und Anliegen der Bürger‚ sei es als Arbeitnehmer, Arbeitgeber oder als Verbraucher im Allgemeinen. Es werden Bereiche aufgezeigt, in denen die Einbeziehung der Zivilgesellschaft entscheidend für eine vorausschauende und erfolgreiche Gestaltung des digitalen Wandels ist.
2.3Die Digitalisierung kann, gerade wenn neue digitale Produkte und Dienstleistungen eingeführt werden, sehr rasch voranschreiten (wie im Falle der Mobiltelefone/Smartphones) oder aber sie kann in bestimmten Bereichen, in denen die Öffentlichkeit und die Gesellschaft insgesamt die Technologie nicht ohne weiteres annehmen, auch langsam vonstattengehen, beispielsweise, wenn die Autonomie, Verantwortung, Sicherheit, Würde und Privatsphäre der Menschen berührt werden. Die Analyse in dieser Stellungnahme beruht zum Teil auf einer Arbeit von Royakkers et al., Ethics and Information Technology (2018).
2.4Die Entwicklung neuer digitaler Anwendungen wird nicht nur, wie viele glauben, von den Internetgiganten wie Google, Apple, Facebook, Amazon oder Microsoft vorangetrieben, sondern von vielen technikbegeisterten Menschen in der Industrie, in Laboratorien und an Hochschulen. Und diese Begeisterung wird von vielen Menschen in der Gesellschaft geteilt. Allerdings gibt es auch eine erhebliche Minderheit, die skeptisch oder besorgt ist, sei es, weil sie ihre Privatsphäre, ihre Eigenständigkeit, ihre Sicherheit oder Ähnliches bedroht sieht, sei es vielleicht aber auch, weil es an Verständnis mangelt oder eine grundlegende Angst vor der Zukunft besteht. Der digitale Wandel ist nicht allein technologiebestimmt. Die Bedürfnisse und Wünsche der Menschen und der Gesellschaft sollten ebenso wie ihre Rechte die weitere technische Entwicklung maßgeblich beeinflussen. Eine große Herausforderung für alle Beteiligten und insbesondere für die Zivilgesellschaft ist die Einbeziehung der Menschen in die Gestaltung und Entscheidungsfindung, damit der digitale Wandel zu einem Erfolg wird. Dies bedeutet auch, dass der Zugang zu sicheren und erschwinglichen Internetanschlüssen gewährleistet sein sollte, damit Diskriminierung und Ausgrenzung vermieden werden.
3.Die Geschwindigkeit des digitalen Wandels
3.1Die digitale Revolution bezeichnet den Übergang von der mechanischen und analogen elektronischen Technologie zur digitalen Elektronik, der sich zwischen dem Ende der 50er Jahre und dem Ende der 70er Jahre des letzten Jahrhunderts mit dem Aufkommen und der Verbreitung von Großrechnern und PCs vollzog. In den 80er Jahren fand die Digitaltechnik in vielen Bereichen erhebliche Verbreitung. Tablets und Smartphones werden mittlerweile mehr genutzt als PCs.
3.2Im Jahr 1991 wurde das World Wide Web für die Öffentlichkeit zugänglich, und so gab es eine neue Infrastruktur, über die digitale Geräte miteinander verbunden und neue Funktionen geschaffen werden konnten, die weit über die Möglichkeiten des einzelnen digitalen Geräts hinausgingen. Die Kombination dieser technischen Möglichkeiten hat die Art und Weise, wie wir kommunizieren, arbeiten und Geschäfte tätigen, grundlegend verändert. Digitale Plattformen haben völlig neue Möglichkeiten eröffnet. Einige Beispiele sind hier Airbnb, Uber und Amazon, die sich in wenigen Jahren zu wichtigen Wirtschaftsakteuren entwickelt haben.
3.3Einer weiteren Digitalisierung scheinen keinerlei Grenzen gesetzt zu sein. Die zunehmende Verwendung intelligenter Sensoren ermöglicht es, Daten (Standort, Bewegung, Umweltdaten, biologische Daten, chemische Daten) völlig beliebiger Gegenstände zu erfassen und zu verarbeiten (Internet der Dinge). Es gibt praktisch keine Beschränkung der Anzahl der Sensoren, so dass es theoretisch möglich ist, eine digitale Karte unserer gesamten physikalischen Umgebung zu erstellen. Mit der künftigen schnellen Breitbandtechnik (5G) wird es möglich sein, in Echtzeit auf Sensordaten zu reagieren.
3.4Riesige Datenmengen aus Sensoren und Plattformaktivitäten (Big Data) werden von Computerprogrammen auf der Grundlage bestimmter Algorithmen verarbeitet. Programmierer können diese Algorithmen entweder eng definieren oder sie dynamisch mithilfe einer Reihe von Eingabedaten (maschinelles Lernen oder künstliche Intelligenz) erzeugen. Vor allem von der künstlichen Intelligenz erhoffen sich viele bedeutende technologische Durchbrüche
. Die Frage, in was für einem Umfang wir Maschinen gestatten, Entscheidungen (mit moralischer Tragweite) zu treffen, ist von maßgebender Bedeutung und erfordert soziale und politische Kontrolle. Erheblicher Kontrollverlust und mangelnde Transparenz haben den Ruf nach Einschränkungen für automatische Computersysteme in bestimmten Bereichen (z. B. in der Finanztechnologie) bereits unüberhörbar werden lassen.
3.5Die Digitalisierung der Gesellschaft schreitet ungemein rasch voran. Öffentliche Einrichtungen und Unternehmen verfolgen vielfältige neue Ansätze. Das zeigen Pilotprojekte und neue Produkte, die bereits auf dem Markt eingeführt werden. Die Marktdurchdringung dieser neuen Produkte kann jedoch je nach Bereich erhebliche Unterschiede aufweisen und auch langsam erfolgen. Dies ist in bestimmten Bereichen der Fall, in denen eine Technologie nicht kritiklos angenommen wird, wie es in den folgenden Absätzen beschrieben ist.
3.6Ein typisches Beispiel für das Internet der Dinge mit begrenzter Akzeptanz sind Gebäudeautomation oder Smart-Home-Systeme zur Steuerung von Beleuchtung, Heizung, Unterhaltungsgeräten oder -einheiten, Haushaltsgeräten und vielem anderem mehr. Zugangskontrollsysteme und mit Kameras ausgestattete Alarmanlagen können Videos hochladen. Für Gebäudeautomationssysteme gibt es keine technischen Standards, weshalb die Entwicklung einheitlich funktionierender Anwendungen für verschiedene Objekte schwierig ist. Eventuell sind auch Fachkenntnisse und ständige Aktualisierungen erforderlich. Eine weitere Schwierigkeit liegt darin, dass es sich bei den meisten Wohnbereichen um gemeinsame Lebensbereiche von Menschen mit unterschiedlichen Interessen, Kenntnissen und Fähigkeiten (z. B. Kinder, ältere Menschen und Gäste) handelt. Das Leben von nur einer Person lässt sich in einem intelligenten Zuhause viel leichter regeln.
3.7Intelligente Fahrzeugsensoren ermöglichen eine vernetzte und automatisierte Mobilität‚ indem sie ein neues Spektrum an Funktionen für mehr Komfort und Sicherheit und letztendlich bei einer umfassenden Automatisierung für eine größtmögliche Sicherheit im Straßenverkehr
eröffnen. Die Technik des automatisierten Fahrens ist angemessen ausgereift, aber aus verschiedenen Gründen schreitet die flächendeckende Anwendung nur langsam voran. Erstens sind höhere Stufen automatisierten Fahrens nur mit Neuwagen möglich, bei denen die Sensoren und zentralen Recheneinheiten integraler Bestandteil des Fahrzeugs sind. Die entsprechenden Kosten für Einzelpersonen und die Gesellschaft sind ein Hindernis für die Marktdurchdringung. Zweitens kann eine wachsende Zahl von Assistenzsystemen das Führen eines Fahrzeugs erheblich komplexer machen, was wiederum zu einer beschränkten Akzeptanz führt. Drittens ist die Anforderung, dass vollkommen autonome Fahrzeuge 100 % sicher sein sollen, ein großes Hindernis, solange sich diese Fahrzeuge die Straße mit konventionellen Pkw und anderen Verkehrsteilnehmern teilen. Vollständig autonome Fahrzeuge stellen eine Herausforderung dar, da sie eine grundlegende Neugestaltung des Straßensystems erforderlich machen.
3.8Google und Facebook nutzen künstliche Intelligenz bereits intensiv und erfolgreich zur „Optimierung“ bei der Darstellung von Informationen und Werbung. Es gibt jedoch viele weitere Bereiche, in denen KI zum Einsatz kommen kann und wird und (beispielsweise in wissensbasierten Berufen) eine enorme Unterstützung bei kognitiven Arbeiten bietet. Die Entwicklungen können in einigen dieser Bereiche jedoch langsamer vonstattengehen als erwartet, was auf ein grundlegendes Problem zurückzuführen ist, das kürzlich so beschrieben wurde: „Die künstliche Intelligenz stößt nicht infolge technischer Probleme (Computerleistung) an Grenzen, sondern weil uns grundlegendes Wissen über menschliche Lern- und Denkprozesse fehlt“. Das Verlassen bisheriger Denkmuster und ein lebenserfahrungsbasierter Ansatz sind immer noch dem Menschen vorbehalten.
3.9Es gibt einige sehr erfolgreiche Vorreiter bei der Gestaltung öffentlicher Dienstleistungen als flexible e-Lösungen. In Estland beispielsweise ist eine Vielzahl von Dienstleistungen, wie elektronische Behördendienste‚ elektronische Steuerverwaltung, elektronische Gesundheitsdienste oder elektronische Stimmabgabe gut angenommen worden und wird von vielen als beispielhafte Technik gesehen, die – mit Blick auf die Interoperabilität vorzugsweise mit denselben Standards – in allen EU-Ländern umgesetzt werden sollte. Nur über eine EU‑weite Strategie und finanziell gut ausgestattete Projekte können die Hindernisse überwunden werden, die sich aus der bestehenden großen Vielfalt von Regionen, Institutionen und Kulturen sowie aufgrund der Forderung nach Subsidiarität anstatt zentraler Regelung ergeben.
4.Bedenken und Empfehlungen
4.1Im Jahr 2017 veröffentlichte die Europäische Kommission eine Eurobarometer-Umfrage
, aus der hervorgeht, dass 76 % der Menschen, die das Internet täglich nutzen, die Auswirkungen dieser Technik auf ihre Lebensqualität als positiv empfinden, wohingegen 38 % das Internet überhaupt nicht nutzen. Der letztgenannte Prozentsatz kann auf einen Mangel an digitalen Kompetenzen zurückzuführen sein, aber es gibt auch eine beträchtliche Zahl von Personen, die zwar über die erforderlichen Fähigkeiten verfügen, aber ernsthafte Bedenken hinsichtlich der Internetnutzung haben und daher davor zurückschrecken. Dieser Standpunkt muss respektiert und ernst genommen werden. Geäußert werden Bedenken insbesondere mit Blick auf die Fragen Autonomie, Verantwortung, Sicherheit, Menschenwürde, Schutz der Privatsphäre und Arbeitsbedingungen. Darauf wird im Folgenden eingegangen.
4.2Autonomie
4.2.1Wenn jemand den Anspruch erhebt, besser zu wissen, was für andere Menschen gut ist, als diese Menschen selbst, sprechen wir von Bevormundung, die als technische Bevormundung auch durch Technik ausgeübt werden kann. Bevormundung kann über Überzeugung oder Zwang ausgeübt werden. Gute Technik, die überzeugt, sollte nicht durch Manipulation, sondern durch Schulungen und unter Beachtung der erforderlichen Entscheidungsfreiheit vermittelt werden, um menschliche Autonomie zu gewährleisten. Die Digitalisierung eröffnet den Menschen in bisher ungekannter Weise eine Fülle neuer Entscheidungsmöglichkeiten für ein besseres Leben. Indes sind wir, je stärker die Digitalisierung unser Leben bestimmt, desto anfälliger für Manipulation. Dies untergräbt unsere Autonomie in Bereichen wie Autofahren, Essensauswahl, gesundheitsbewusstes Verhalten, Heizen des Wohnbereichs, Rauchen, Trinken, Umgang mit Geld und – wie Ereignisse der jüngsten Vergangenheit zeigen – sogar Wahlen, was, wenn es zu Manipulationen kommt, eine Bedrohung für die Demokratie darstellen kann. Der EWSA fordert die Entwicklung, Anpassung und Anwendung transparenter Vorschriften sowie gegebenenfalls strenger rechtlicher Maßnahmen für diese sich rasch entwickelnden Technologien.
4.2.2Das augenfälligste Beispiel für einen extremen Einsatz der Digitaltechnik zur Beeinflussung von Menschen ist in China zu beobachten. Jedem einzelnen Bürger wird von der chinesischen Regierung im Rahmen eines Sozialkreditsystems ein Bürgerwert zugesprochen, aufgrund dessen beschlossen wird, ob jemand für ein Darlehen, ein Visum oder eine Arbeitsstelle in Frage kommt. Dies steht im krassen Gegensatz zu den europäischen Werten und Rechten (Datenschutz, Privatsphäre, Sozialschutz, Nachhaltigkeit).
4.2.3Es ist die Tendenz zu beobachten, dass Menschen einen wachsenden Wunsch nach einem stärker analogen Leben entwickeln, zumindest zeitweise. Es gibt „Digital-Detox“-Ferien‚ bei denen Erwachsene ein netzfreies Wochenende ohne digitale Medien verbringen. Oder Menschen sind offline, um sich ihren Kindern, Familien und Freunden zu widmen, d. h. ohne Smartphone in der Hand. Die Nachfrage nach Dingen, die nunmehr als analog gelten, ist konstant, auch wenn es digitale Alternativen gibt: Bücher, Musik, die ohne Computer entstanden ist, Vinylplatten, Papier, Füllfederhalter und vieles mehr. Eine Reihe hochrangiger Führungskräfte ist dafür bekannt, dass sie bei ihren E-Mails ab und zu Tabula rasa machen und jede E-Mail in ihrem Posteingang löschen oder ihr Konto gar vollständig schließen, um sich von der Flut der elektronischen Kommunikation zu erholen. Der EWSA ist der Auffassung, dass auch eine derartige Gegensteuerung benötigt wird, damit der digitale Wandel erfolgreich und für alle akzeptabel sein kann, und er warnt davor, die Ersetzung analoger Techniken mit zu viel Druck zu betreiben.
4.3Verantwortung
„Man out of the loop“ (d. h. ohne menschliche Intervention) bezeichnet im Englischen die vollständige Automatisierung‚ bei der das System eine Entscheidung ohne menschliches Eingreifen trifft. Entsprechende Beispiele sind Wissenssysteme, die medizinische Diagnosen auf der Grundlage einer großen Menge von Informationen erstellen, oder Militärroboter, die anhand von Informationen aus verschiedenen Quellen Entscheidungen über Leben und Tod fällen. Die entscheidende Frage, die häufig gestellt wird, lautet: Inwieweit ist es ethisch vertretbar, KI‑basierten Systemen Entscheidungen (mit moralischer Tragweite) zu übertragen? Der EWSA hat sich diesbezüglich bereits klar geäußert
: „Verantwortung“ und „Moral“ sind Begriffe, die ausschließlich mit Blick auf den Menschen Gültigkeit haben, wohingegen bestimmte Merkmale des Geistes oder der Persönlichkeit auf Roboter nicht zutreffen. Automatisierte Systeme – wie komplex sie auch immer sein mögen – müssen im Rahmen eines menschenkontrollierten Ansatzes betrieben werden. Nur Menschen treffen endgültige Entscheidungen und tragen dafür auch die Verantwortung.
4.4Sicherheit und Verbraucher
4.4.1Coole neue technische Spielereien, die unsere Häuser zu Smart Homes machen, machen sie auch anfälliger. Wenn immer mehr unserer Geräte – Smart-TV, Webcams, Spielkonsolen und Smartwatches – mit dem Internet verbunden sind, ist auch ein guter Verteidigungsplan für das Heimnetzwerk erforderlich. Smartwatches und andere tragbare Geräte sind eine Erweiterung des Smartphones und ermöglichen den sofortigen Zugriff auf leistungsstarke Apps, E-Mail, Textnachrichten und das Internet. Hacker haben nicht nur Interesse daran, auf Informationen zugreifen zu können, sondern auch daran, die Kontrolle über intelligente Geräte zu übernehmen. Sicherheitsexperten haben gezeigt, wie einfach es ist, die Spielzeugpuppe Cayla zu hacken, und dass selbst eine Insulinpumpe gehackt oder der Besitzer einer Smartwatch ausspioniert werden kann. Die Verbraucher müssen auf diese Risiken aufmerksam gemacht werden. Der EWSA fordert die EU dazu auf, bestehende Sicherheitsvorschriften zu überarbeiten und für neue, sich ständig weiterentwickelnde Technologien strenge Sicherheitsbestimmungen zum Schutz der Bürgerinnen und Bürger in ihrem Zuhause zu entwerfen und anzupassen.
4.4.2Biometrische Anwendungen (Gesichtserkennung, Fingerabdrücke, Irisscan) sind großartig, wenn das System gut funktioniert. Für die Menschen jedoch, die das System fälschlicherweise als verdächtig einstuft, ist es häufig jedoch sehr schwierig, diese Fehler zu korrigieren. Die Nutzung biometrischer Daten kann zu einer falschen Einstufung und Stigmatisierung führen, wenn jemand automatisch einer bestimmten Kategorie zugeordnet und als Terrorist, Krimineller oder unzuverlässige Person eingestuft wird. Dies kann zu einer Umkehr der Unschuldsvermutung führen. Außerdem scheint es, als ob biometrische Daten nicht für alle genutzt werden können. So können aufgrund fortgeschrittenen Alters, der Zugehörigkeit zu bestimmten Berufen oder einer chemotherapeutischen Behandlung beispielsweise 2 % der menschlichen Fingerabdrücke nicht „gelesen“ werden. Die digitalen Systeme, die in unserer Gesellschaft genutzt werden, müssen so gestaltet sein, dass Menschen, die in irgendeiner Hinsicht aus der Norm fallen, nicht ausgeschlossen oder diskriminiert werden. Systeme, die Menschen automatisch als verdächtig einstufen, sollten niemals ohne intensive menschliche Beteiligung und gründliche Überprüfung arbeiten.
4.4.3Identitätsbetrug ist ein großes Problem. Identitätsbetrug bezeichnet die vorsätzliche Erlangung, Aneignung, Verwendung oder Schaffung falscher persönlicher Daten in der Absicht, Straftaten zu begehen. Unsere Gesellschaft braucht ausreichende rechtliche Unterstützung, um die Opfer eines derartigen Identitätsbetrugs zu schützen.
4.5Würde des Menschen
4.5.1Robotertechnik im Gesundheitswesen gibt Anlass zur Sorge. Roboter sind Geräte, die im Bereich der Pflege von Menschen keine empathischen Fähigkeiten besitzen und nicht in der Lage sind, die Wechselwirkungen menschlicher Beziehungen nachzuahmen. Pflegeroboter sollten daher nur für Pflegeaufgaben, die keine menschliche Zuwendung erfordern und keine Körperpflege beinhalten, eingesetzt werden. Ohne entsprechende Rahmenbedingungen kann der Einsatz von Robotern die Menschenwürde beeinträchtigen.
4.6Privatsphäre
4.6.1Gesichtserkennung dient dazu, das Gesichtsprofil einer Person mit einer Datenbank daraufhin abzugleichen, ob die überprüfte Person in dieser Datenbank erfasst ist. Genutzt wird die Gesichtserkennung bei polizeilichen Ermittlungen oder im Zusammenhang mit Sicherheitskameras im öffentlichen Raum im Rahmen gesetzlicher Regelungen. Derartig hochsensible Informationen müssen sicher aufbewahrt werden. Die Kosten für Gesichtserkennung werden jedoch sinken, und die Möglichkeit ihrer Anwendung wird überall einfacher – in Geschäften, Unternehmen und sogar für Privatpersonen. Es gibt Bestrebungen, diese Techniken sogar für die Erkennung von Emotionen einzusetzen. Es besteht die Angst, dass die Gesichtserkennungstechnik letztlich dazu führen könnte, dass es nicht mehr möglich ist, anonym spazieren zu gehen oder einzukaufen. Nach Ansicht des EWSA müssen die Menschen auch im öffentlichen Raum ein Recht auf eine Privatsphäre haben. Grundsätzlich muss eine Gesichtserkennung über Kameras ohne Kenntnis der betroffenen Personen verboten werden.
4.6.2Das Szenario des „Großen Bruders“, in dem eine Regierung alle Menschen unter Beobachtung hält, ist zwar bereits bekannt, aber das Szenario des „Kleinen Bruders“, in dem sich Privatpersonen oder kleine Unternehmen gegenseitig ausspionieren, rückt immer mehr in den Bereich des Möglichen. So können z. B. als Smartglasses bekannte Datenbrillen dazu genutzt werden, Daten über einen Gesprächspartner oder Besucher zu erfassen und abzurufen. Mit dem Fortschreiten weit entwickelter und erschwinglicher Techniken wird es weitere elektronische Überwachungsgeräte geben. Der EWSA betont, dass über die aktuelle DS-GVO hinaus klare und strenge Bestimmungen zum Schutz der Privatsphäre der Menschen erforderlich sind.
4.6.3Je höher der Grad der Hausautomation, desto transparenter wird der Wohnbereich, der eigentlich als Privatsphäre betrachtet wird. Die Trennlinie zwischen Wohnbereich und Außenwelt verschwimmt, da die Wände das Haus nicht mehr vor neugierigen Blicken schützen. Unterhaltungsgeräte, Alarmsysteme mit Sicherheitskameras und zentrale Steuerungsanlagen (Desktop-Computer, Smartphones, intelligente Lautsprecher) bieten Hackern eine Reihe von Angriffspunkten. Der EWSA fordert ein koordiniertes Vorgehen der EU, um Verbraucher über diese Risiken zu informieren und ihnen Unterstützung in Sicherheitsfragen zu geben.
4.6.4Ein Risiko digitaler Systeme liegt in ihrer Komplexität. Insbesondere der einzelne Verbraucher ohne professionelle digitale Kompetenzen benötigt viel Unterstützung. Beispielsweise können Handbücher für digitale Geräte sehr lang sein. Normalerweise wird in ihnen vor Datenschutzproblemen gewarnt, aber die Freigabe bestimmter Daten erfolgt häufig unbewusst, weil die Menschen nicht das gesamte Handbuch verstehen oder weil sie aufgrund der vielen Datennutzungseinwilligungen, die gegeben werden müssen, wenn Geräte Daten erfassen, „einwilligungsmüde“ sind. Dies wirft die Frage auf, wo hier die Verantwortung liegt. Der EWSA spricht sich für eine Vereinfachung aus und schlägt vor, EU-weit einheitliche Verfahren oder für alle einfach verständliche Standardpakete zum Schutz der Privatsphäre einzuführen.
4.6.5Die Frage der Privatsphäre betrifft auch digitale Plattformen. Plattformen können das Verhalten ihre Nutzer problemlos mit einfachen Werkzeugen verfolgen. Beispielsweise nutzten Angestellte des Unternehmens Uber die unternehmensinterne Anwendung „God View“, um Fahrten von Politikern, Prominenten und anderen Personen zu verfolgen, eine Praxis, die nach einem Gerichtsverfahren ein Ende gefunden hat. Dennoch werden technisch nach wie vor Verfolgungs- und Verbindungsdaten erfasst. Der EWSA ist der Überzeugung, dass der Schutz der Privatsphäre nur durch weitere Maßnahmen gewährleistet werden kann: Beschränkung des Zugangs zu sensiblen Daten auf eine begrenzte Anzahl von Personen mit besonderen Zugriffsrechten. Derartige Sicherheitsmaßnahmen müssen den strengsten und zuverlässigsten Normen entsprechen und regelmäßig durch unabhängige Stellen der EU überprüft werden.
4.7Arbeit in der Zukunft
4.7.1Auch im digitalen Zeitalter wird die Arbeit die wesentliche Einnahmequelle bleiben. Im digitalen Wandel sind die Beschäftigungsfähigkeit aus Sicht des Arbeitgebers und die Arbeitsfähigkeit aus Sicht des Arbeitnehmers zwei Seiten ein- und derselben Medaille. Die Anpassungsfähigkeit der Arbeitnehmer an neue Aufgaben entspricht der Möglichkeit, die Arbeit mittels digitaler Technik an individuelle Arbeitsaufträge anzupassen. Da die Grenze zwischen Erwerbsarbeit und privater Arbeit immer mehr verschwimmt, stehen insbesondere die Sozialpartner vor der Herausforderung, neue Kriterien für eine gerechte Bemessung der individuellen Leistung zu finden und festzulegen. Eine vorausschauende Sicht auf den digitalen Wandel erfordert die Einbeziehung der Arbeitnehmer durch Information, Konsultation und Beteiligung. Soziale Sicherheit, öffentliche Dienstleistungen von allgemeinem Interesse und die Sicherung der ökologischen Lebensgrundlagen bleiben die Voraussetzungen für die künftige arbeitende Gesellschaft im digitalen Wandel.
4.7.2Automatisierung und Roboter werden erhebliche Auswirkungen auf die Zukunft der Arbeit haben. So ist die Nutzung fahrerloser Transportsysteme in Lagerhäusern bereits allgemein üblich. Roboter können darüber hinaus für eintönige, schwere oder gefährliche Arbeitsabläufe eingesetzt werden. Eine neue Generation dieser „kollaborativen Roboter“ kann zu physischen Partnern von Arbeitern werden und gerade für Menschen mit körperlichen Behinderungen besonders hilfreich sein. Gegenwärtig werden Roboter vorwiegend für physische Tätigkeiten eingesetzt, aber mit künstlicher Intelligenz ausgestattete Roboter werden auch intellektuelle Tätigkeiten übernehmen. Die entsprechenden Auswirkungen werden in vielen Berufen zu spüren sein, da bestimmte Aufgaben dann von Robotern übernommen werden oder menschliche Arbeitnehmer sogar vollständig durch Roboter ersetzt werden. Das war in den vergangenen Jahrzehnten bereits zu beobachten. Schätzungen zufolge wird die Beschäftigungssituation bis 2022 in allen Industriezweigen stabil bleiben. Ein Blick auf die großen Unternehmen zeigt sogar, dass im Zuge des Wandels bei der Arbeitsteilung zwischen Mensch und Maschine fast doppelt so viele neue Arbeitsplätze und funktionale Rollen entstanden sind, wie weggefallen sind. Der EWSA hat sich mit diesen Fragen in diversen Stellungnahmen befasst
.
4.7.3Ein ungleicher Zugang zu den neuen digitalen Technologien und damit verbundene Kompetenzlücken können ein allmählich wachsendes regionales Entwicklungsgefälle mit Auswirkungen auf die wirtschaftliche, kulturelle und folglich auch gesellschaftliche Entwicklung der betroffenen Regionen zur Folge haben. Der EWSA spricht sich dafür aus, das Ausmaß möglicher sozialer Ungleichheiten mitsamt den potenziellen Auswirkungen auf den Zusammenhalt der EU zu untersuchen.
4.7.4Für Arbeitnehmer‚ die mit automatisierten Systemen arbeiten oder interagieren oder die mit großen Informationsmengen arbeiten, können bestimmte Probleme auftreten. Sie müssen komplexe informationsintensive Aufgaben bewältigen. Virtuelle Realität wird beispielsweise für Ausbildungs- und Planungszwecke genutzt; erweiterte Realität dient der Unterstützung von Wartungsarbeiten. Der EWSA empfiehlt – wann immer in Industrie und Handel neue Automatisierungssysteme geplant werden – die Nutzung objektiver wissenschaftlicher Methoden zur Optimierung und Bewertung der Mensch-Maschine-Interaktion.
4.7.5Arbeitgeber andererseits stehen vor der Herausforderung, aus dem breiten Spektrum neuer Techniken geeignete digitale Lösungen auszuwählen. Es ist wichtig, geeignete technische Assistenzsysteme für die Tätigkeiten und Arbeitsabläufe von Unternehmen zu entwickeln. Vor der Einführung neuer Techniken wird ferner empfohlen, die technische Kompetenz der Arbeitnehmer zu überprüfen und gegebenenfalls Schulungen anzubieten. Die Einbindung der Arbeitnehmer in die Einführung neuer Techniken ist ein weiterer zentraler Punkt.
4.7.6Der Forschungsbereich der kognitiven Ergonomie erlebt im jetzigen Zeitalter der Digitalisierung einen Aufschwung. Die wissenschaftlichen Methoden der kognitiven Ergonomie ermöglichen eine objektive Bewertung der psychischen Anforderungen beim Umgang mit neuen technischen Assistenzsystemen. Zur Einschätzung von Benutzerschnittstellen kommen in ihr verschiedene Forschungsdisziplinen, wie z. B. Psychologie und Ergonomie, zum Einsatz. Das Ziel ist die optimale Gestaltung des Arbeitsplatzes und damit sowohl für Arbeitnehmer als auch Arbeitgeber vorteilhaft. Die Beschäftigten erreichen auf der Arbeit das optimale Maß an Zufriedenheit, Wohlbefinden und Gesundheit und bleiben für die Unternehmen langfristig möglichst leistungsfähig und produktiv. Der EWSA empfiehlt, dass solche Bewertungsmethoden zum Nutzen der Arbeitnehmer und Unternehmen zum allgemeinen Standard werden sollten. Der digitale Wandel sollte im Wege einer umfassenden und von der EU finanzierten arbeitsorientierten Untersuchung zum Thema „Digitalisierung für gute Arbeit“ überwacht werden. Der EWSA ist davon überzeugt, dass die Digitalisierung langfristig nur dann erfolgreich sein kann, wenn die Systeme der Industrie 4.0 einem effizienten und arbeitnehmerfreundlichen Ansatz folgen.
Brüssel, den 20. Februar 2019
Luca JAHIER
Präsident des Europäischen Wirtschafts- und Sozialausschusses
_____________