52018AE4761

EUR-Lex

Access to European Union law

This document is an excerpt from the EUR-Lex website

EUROPA
EUR-Lex home
EUR-Lex - 52018AE4761 - EN

Help

Search tips

Need more search options? Use the Advanced search

Document 52018AE4761

Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses zu dem „Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Verhinderung der Verbreitung terroristischer Online-Inhalte“ — Ein Beitrag der Europäischen Kommission zur Tagung der Staats- und Regierungschefs vom 19./20. September 2018 in Salzburg (COM(2018) 640 final — 2018/0331 (COD))

EESC 2018/04761

ABl. C 110 vom 22.3.2019, p. 67–71 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

HTML

PDF

Official Journal

22.3.2019

Amtsblatt der Europäischen Union

C 110/67

Ein Beitrag der Europäischen Kommission zur Tagung der Staats- und Regierungschefs vom 19./20. September 2018 in Salzburg

(COM(2018) 640 final — 2018/0331 (COD))

(2019/C 110/13)

Berichterstatter:

José Antonio MORENO DÍAZ

Befassung	Europäischer Rat, 24.10.2018 Europäisches Parlament, 22.10.2018
Rechtsgrundlage	Artikel 114 Absatz 1 und Artikel 304 des Vertrags über die Arbeitsweise der Europäischen Union
Zuständige Fachgruppe	Fachgruppe Beschäftigung, Sozialfragen, Unionsbürgerschaft
Beschluss des Präsidiums	11.12.2018
Verabschiedung auf der Plenartagung	12.12.2018
Plenartagung Nr.	539
Ergebnis der Abstimmung (Ja-Stimmen/Nein-Stimmen/Enthaltungen)	126/0/3

1. Schlussfolgerungen und Empfehlungen

1.1.

Der Europäische Wirtschafts- und Sozialausschuss (EWSA) begrüßt die Initiative zur Verbesserung der Sicherheit der Menschen in der EU. Allerdings hat sich der Ausschuss in der Debatte über das Verhältnis zwischen Sicherheit und Freiheit immer für die notwendige Verteidigung der Grundfreiheiten ausgesprochen, darunter die Meinungsfreiheit, den Informations- und Kommunikationszugang, das Telekommunikationsgeheimnis sowie den Zugang zu einem effektiven Rechtsschutz und einem gerechten und zügigen Verfahren.

1.2.

Die jüngsten Terroranschläge in der EU haben deutlich gemacht, wie Terroristen soziale Netze auf illegale Weise nutzen, um Unterstützer zu gewinnen und vorzubereiten. Terroristen nutzen verschlüsselte Kommunikationskanäle, um terroristische Aktivitäten zu planen und zu erleichtern, und sie nutzen Websites, um ihre Gräueltaten zu verherrlichen, andere aufzufordern, ihrem Beispiel zu folgen, und in der Öffentlichkeit Angst zu schüren.

1.3.

Der EWSA fordert, vage Rechtsbegriffe wie „terroristische Informationen“, „terroristische Handlungen“, „terroristische Gruppierungen“ oder „Verherrlichung des Terrorismus“ durch entsprechende Kriterien möglichst genau zu definieren.

1.4.

Terroristische Inhalte, die für diese Zwecke im Internet geteilt werden, werden durch die Anbieter von Hostingdiensten, die das Hochladen von Inhalten Dritter erlauben, weiterverbreitet. Bei mehreren Terroranschlägen, die Europa in jüngster Zeit erschütterten, haben terroristische Inhalte im Internet nachweislich eine entscheidende Rolle dabei gespielt, sog. „einsame Wölfe“ zu radikalisieren und zu Anschlägen zu bewegen.

1.5.

Darüber hinaus sind technische Präventivmaßnahmen (Parameter-Automation, Algorithmen, Suchmaschinen usw.) zwar sehr nützlich, doch ist das Handeln des Menschen als Mittler und Vermittler bei der richtigen Bewertung entsprechender Inhalte wesentlich.

1.6.

Der EWSA hält es für notwendig, die Verbreitung terroristischer Informationen und die Online-Anwerbung über soziale Netze zu bekämpfen. Ebenso muss aber auch Zensur oder auferlegte Selbstzensur im Internet bekämpft werden. Der Ausschuss weist darauf hin, dass im Bereich des Internets für alle Menschen in der EU ein wirksames Recht auf Information und auf freie Meinungsäußerung garantiert werden muss.

1.7.

Der Schutz des Internets und die Bekämpfung radikaler Gruppen sollten dazu beitragen, das Vertrauen in das Internet zu stärken und deshalb die wirtschaftliche Entwicklung dieser Branche zu gewährleisten.

1.8.

Der EWSA betont, dass bewertet werden muss, wie sich die Umsetzung dieses Vorschlags auf kleine und mittlere Unternehmen auswirken würde und ob diesbezüglich ein Übergangszeitraum möglich ist, damit sich die KMU besser vorbereiten können und Wettbewerbsverzerrungen zum Vorteil der großen Unternehmen vermieden werden.

1.9.

Die im Verordnungsvorschlag enthaltenen Maßnahmen für den Schutz des Internets und den Schutz von Jugendlichen und der Bevölkerung müssen strengen gesetzlichen Regelungen unterliegen und allen Menschen das Recht auf Information und den Rechtsbehelf gegen Verwaltungsentscheidungen garantieren.

1.10.

Der EWSA hält es für notwendig, dass auch die Zugangsanbieter bewertet werden und dass die Social-Media-Manager proaktiv handeln, damit Vereinigungen, Nichtregierungsorganisationen und Nutzer entsprechende Inhalte melden und unmittelbar dagegen vorgehen können: Diese „Gegendiskurse“ müssen als Präventivmaßnahmen stärker verbreitet werden.

1.11.

Es gilt, die Vielzahl von Online-Plattformen in Europa und die unterschiedliche Größe dieser Unternehmen zu berücksichtigen und die Bestimmungen des Vorschlags für kleine Unternehmen anzupassen.

1.12.

Der EWSA fordert, den Nutzern die nationalen Vorschriften über die Verwendung oder Herstellung terroristischer Inhalte deutlich in Erinnerung zu rufen. Außerdem fordert er, den Rechtsbehelf gegen Verwaltungsentscheidungen durch eine klare Aufklärung über dieses Recht und über die Online-Instrumente zu seiner Ausübung sicherzustellen.

2. Kontext des Vorschlags

2.1.

Die Allgegenwart des Internets ermöglicht es Nutzern, mit Hunderten von Millionen von Menschen auf der ganzen Welt zu kommunizieren und zu arbeiten, Kontakte zu pflegen sowie Informationen zu erstellen, zu erhalten und zu teilen. Aus diesem Grund schlägt die Kommission die Einrichtung von Mechanismen zur Verhinderung der Übermittlung und Verbreitung terroristischer Inhalte vor (1).

2.2.

Eine begriffliche Unterscheidung ist wichtig, wobei der Begriff „Internet“ zu umfassend ist. „Internet“ bezeichnet sowohl das Web als auch soziale Netze sowie das Darknet. Dieser Begriff beinhaltet auch das Internet der Dinge, die in einem elektronischen Krieg offenkundige Sicherheitslücken sind. Beispielsweise kommunizieren IS-Anwerber heutzutage einfacher über Konsolen für Online-Spiele als über das Web. Der Formulierung „zur Vorbereitung und Erleichterung terroristischer Handlungen“ bezieht sich weder auf das Internet noch auf die sozialen Netze, sondern auf das Darknet. Im Übrigen haben die großen Internet-Konzerne (GAFAM) keine Tätigkeiten im Darknet oder in verschlüsselten Netzwerken.

2.3.

Die Möglichkeit, so viele Adressaten zu minimalen Kosten zu erreichen, bietet jedoch auch Kriminellen einen Anreiz, das Internet für illegale Zwecke zu missbrauchen. Die jüngsten Terroranschläge in der EU haben deutlich gemacht, wie Terroristen dabei vorgehen — sie nutzen das Internet missbräuchlich, um Unterstützer zu gewinnen und vorzubereiten, terroristische Aktivitäten zu planen und zu erleichtern, ihre Gräueltaten zu verherrlichen, andere aufzufordern, ihrem Beispiel zu folgen, und um in der breiten Öffentlichkeit Angst zu schüren.

2.4.

Zwar waren im EU-Internetforum unterschiedliche Akteure vertreten, aber nicht alle betroffenen Anbieter von Hostingdiensten haben daran teilgenommen. Außerdem reichen Umfang und Tempo der bei den Hostingdiensteanbietern erzielten Fortschritte insgesamt nicht aus, um das Problem wirksam anzugehen. Es sollten gezielte Anstrengungen für eine adäquate Schulung von Moderatoren für soziale Netze unternommen werden.

2.5.

Terroristische Inhalte, die für diese Zwecke im Internet geteilt werden, werden durch die Anbieter von Hostingdiensten, die das Hochladen von Inhalten Dritter erlauben, weiterverbreitet. Bei mehreren Terroranschlägen in Europa haben terroristische Inhalte im Internet nachweislich eine entscheidende Rolle dabei gespielt, sog. „einsame Wölfe“ zu radikalisieren und zu Anschlägen zu bewegen. Auch wurde festgestellt, dass sich jüngere Menschen stärker davon beeinflussen lassen.

3. Zusammenfassung und allgemeine Bemerkungen zum Vorschlag für eine Verordnung

3.1.

Der EWSA hat bereits zu illegalen Online-Inhalten Stellung genommen (2). Diese neue Initiative der Kommission gilt nun konkret terroristischen Online-Inhalten.

3.2.

Zur Zielgruppe des Verordnungsvorschlags zählen die Anbieter von Hosting-Diensten, die ihre Dienste — unabhängig von ihrem Sitz oder ihrer Größe — in der EU anbieten.

3.3.

Der Ausschuss ist der Auffassung, dass Anbieter von Informationen und Suchmaschinen sowie Hosting-Websites oder -Netzwerke miteinbezogen werden sollten.

3.4.

Kleine und mittlere Unternehmen verfügen in personeller und finanzieller Hinsicht nicht über die technischen Kapazitäten, um gegen terroristische Inhalte wirksam vorzugehen. Nach Ansicht des EWSA muss es möglich sein, die Fristen und Verfahren für diese Unternehmen anzupassen. Den KMU könnte ein Aufschub für die Umsetzung der Verordnung gewährt werden.

3.5.

Ebenso sollten proaktive und präventive Maßnahmen von Nichtregierungsorganisationen, Gewerkschaften und der Zivilgesellschaft insgesamt gewürdigt werden.

3.6.

Damit sichergestellt ist, dass terroristische Inhalte tatsächlich entfernt werden, wird mit der Verordnung die Entfernungsanordnung eingeführt, die durch Verwaltungs- oder Gerichtsentscheidung von einer zuständigen Behörde eines Mitgliedstaats ausgestellt werden kann. In diesem Fall ist der Anbieter von Hostingdiensten verpflichtet, innerhalb einer Stunde den Inhalt zu entfernen oder den Zugang zu diesem Inhalt zu deaktivieren.

3.7.

In den einzelnen Ländern ist unterschiedlich definiert, was terroristische Inhalte sind. Es ist wichtig, diesen Sachverhalt zu klären, um Willkür und Rechtsunsicherheit zu vermeiden.

3.8.

Die Frist von einer Stunde erscheint nicht realistisch, da z. B. derzeit in Frankreich zwischen der Meldung einer Quelle und ihrer Entfernung aus dem Netz im Falle von Pädophilie 16 Stunden und im Falle terroristischer Websites 21 Stunden vergehen, weil es lange dauert, bis eine Website kategorisiert ist. Nach Auffassung des EWSA sollte eine realistischere und wirksamere Frist festgelegt werden.

3.9.

Hostingdiensteanbieter sind gemäß der Verordnung dazu verpflichtet, gegebenenfalls proaktive, im Verhältnis zum Risiko stehende Maßnahmen zu ergreifen und terroristisches Material aus ihren Diensten auch mit Hilfe automatischer Erkennungswerkzeuge zu entfernen. Dies ist von entscheidender Bedeutung; deshalb muss die technologische Innovation zur Entwicklung technischer Instrumente gefordert und unterstützt werden.

3.10.

Die Kommission schlägt vor, u. a. automatische Erkennungswerkzeuge einzusetzen, und fordert die Unternehmen auf, die Forschung zur Entwicklung geeigneter technischer Instrumente nachdrücklich zu unterstützen.

3.11.

Zum Schutz nichtterroristischer Inhalte vor einer irrtümlichen Entfernung enthält der Vorschlag Auflagen zur Festlegung von Rechtsbehelfen und Beschwerdemechanismen, mit denen sichergestellt werden soll, dass Nutzer die Entfernung ihrer Inhalte anfechten können. Außerdem werden mit der Verordnung Transparenzpflichten für die Maßnahmen eingeführt, die die Anbieter von Hostingdiensten gegen terroristische Inhalte ergreifen, womit die Rechenschaftspflicht gegenüber Nutzern, Bürgern und Behörden gewahrt wird.

3.12.

Das Augenmerk sollte nicht nur der Kontrolle und Überprüfung von Inhalten gelten, sondern auch Maßnahmen der menschlichen und technischen Moderation. Die Frage der Zensur durch menschliche Moderatoren ist unter Umständen sehr bedenklich in Bezug auf die Achtung der Rechte von Arbeitnehmern und die Anwendung der Vorschriften über das Recht aller Bürger in der EU auf Information und Privatsphäre.

3.13.

Der EWSA ist der Auffassung, dass der Anbieter denjenigen unterrichten muss, der Eigentümer der Website oder der Information ist, die zensiert werden soll. Jeder hat nämlich das Recht auf Unterrichtung über eine Verwaltungsentscheidung.

3.14.

Um dieses Recht sicherzustellen, fordert der EWSA die Zugangsanbieter auf, in den Nutzungsbedingungen die Kunden über ihre Rechte und Pflichten zu informieren, z. B. über die Pflicht, Informationsproduzenten über Entfernungsanordnungen zu unterrichten, und über die den Kunden zur Verfügung stehenden Rechtsmittel.

4. Erläuterung einzelner Bestimmungen des Vorschlags

4.1.

Terroristische Online-Propaganda dient dem Zweck, Menschen zu Terroranschlägen anzustiften, indem sie beispielsweise mit detaillierten Anweisungen, wie größtmöglicher Schaden angerichtet werden kann, versorgt werden. Weitere Propaganda wird in der Regel veröffentlicht, nachdem solche Gräueltaten begangen wurden, wobei diese Taten dann verherrlicht und andere aufgefordert werden, diesem Beispiel zu folgen. Diese Verordnung leistet einen Beitrag zum Schutz der öffentlichen Sicherheit, indem die Zugänglichkeit terroristischer Inhalte, die zur Verletzung der Grundrechte auffordern, verringert wird.

4.2.

Für die Zwecke dieser Verordnung enthält der Vorschlag folgende Begriffsbestimmungen:

„Hostingdiensteanbieter“: Anbieter von Diensten der Informationsgesellschaft, die darin bestehen, die durch einen Inhalteanbieter bereitgestellten Informationen im Auftrag des Inhalteanbieters zu speichern und die gespeicherten Informationen Dritten zur Verfügung zu stellen (3);

„Inhalteanbieter“ einen Nutzer, der Informationen bereitgestellt hat, die in seinem Auftrag von einem Hostingdiensteanbieter gespeichert wurden oder gespeichert werden (4);

nach Auffassung des EWSA sollte ein neuer Punkt hinzugefügt werden, der Folgendes umfasst:

—	„Anbieter von Informationen“: Suchmaschinen, die die Identifizierung von Inhalten und den Zugang dazu ermöglichen.

4.3.

Unter „terroristischen Inhalten“ ist eines oder mehrere der folgenden Informationselemente zu verstehen:

a)	Aufruf zu oder Befürwortung von terroristischen Straftaten, auch durch ihre Verherrlichung, sodass die Gefahr besteht, dass solche Taten begangen werden;

b)	Ermutigung, an terroristischen Straftaten mitzuwirken;

c)	Förderung der Aktivitäten einer terroristischen Vereinigung, insbesondere durch Ermutigung zur Beteiligung an oder Unterstützung einer terroristischen Vereinigung im Sinne des Artikels 2 Absatz 3 der Richtlinie (EU) 2017/541;

technische Anleitungen oder Methoden für das Begehen terroristischer Straftaten (5);

nach Auffassung des EWSA sollte ein neuer Punkt hinzugefügt werden, der folgendes umfasst:

—	Anwerbung und Befähigung von Personen zum Zweck des Begehens oder der Unterstützung terroristischer Handlungen.

4.4.

Die Definition von zu zensierendem Inhalt ist sehr kurz, denn es gibt viele Texte, Bilder, Videos und andere Inhalte und Formate, die den Terrorismus nicht durch den Aufruf zu konkreten Taten verherrlichen, sondern indem sie extremistische, zu Gewalt verleitende Lehren verbreiten und unterstützen.

4.5.

Die Verordnung trägt auch dazu bei, Unternehmen zu bekämpfen, die durch ihre Tätigkeiten extremistische und zu Gewalt verleitende Lehren verbreiten und unterstützen. Sie muss zudem zur Bekämpfung der Anwerbung über soziale Netze beitragen.

4.6.

Artikel 1 enthält den Gegenstand und verweist darauf, dass die Verordnung Vorschriften zur Vermeidung des Missbrauchs von Hostingdiensten für die Verbreitung terroristischer Online-Inhalte festlegt, worunter auch Sorgfaltspflichten von Anbietern von Hostingdiensten sowie von den Mitgliedstaaten zu ergreifende Maßnahmen fallen.

4.7.

Die Formulierung bezüglich des Missbrauchs von Hostingdiensten für die Verbreitung terroristischer Online-Inhalte sollte ersetzt werden und sich auch auf die Verbreitung von Inhalten, Botschaften oder Material zu Propagandazwecken sowie die Nennung von URL und Informationen erstrecken, mit denen auf terroristische Inhalte oder Botschaften zugegriffen werden kann. Dies würde auch Suchmaschinen einbeziehen.

4.8.

Nach Artikel 5 sind hingegen die Anbieter von Hostingdiensten verpflichtet, Maßnahmen festzulegen, die eine unverzügliche Bewertung von Inhalten ermöglichen, die von einer zuständigen Behörde eines Mitgliedstaats oder einer Einrichtung der EU gemeldet wurden, ohne jedoch die Entfernung des gemeldeten Inhalts oder bestimmte Fristen für ein Tätigwerden vorzuschreiben.

4.9.

Der EWSA ist der Ansicht, dass im Interesse der Effizienz mit der Erarbeitung einer begrenzten Liste von Kriterien begonnen werden sollte, um Arten von Inhalten und Botschaften, die terroristischer Natur sind oder den Terrorismus verherrlichen, zu definieren. Damit soll Rechtssicherheit erreicht werden, um Willkür bei Anordnungen zur Entfernung von Inhalten zu vermeiden sowie die Rechte auf Information und Meinungsfreiheit zu schützen. Die Verordnung sollte auch bestimmte Kriterien umfassen, die es ermöglichen, auf europäischer Ebene Inhalte zu kategorisieren, wie Informationen über terroristische Gruppierungen, Informationen zur Verherrlichung des Terrorismus oder zur Rechtfertigung terroristischer Handlungen sowie technische Informationen oder Anleitungen, die die Herstellung von Waffen für einen potenziellen Anschlag erleichtern, sowie Aufrufe, sich diesen Gruppen anzuschließen.

4.10.

Artikel 14 sieht die Einrichtung von Anlaufstellen sowohl durch Hostingdiensteanbieter als auch durch die Mitgliedstaaten vor, um insbesondere bei Meldungen und Entfernungsanordnungen die Kommunikation zwischen ihnen zu erleichtern. Zum Schutz der hier berührten Menschenrechte sollten diese Anlaufstellen nach Ansicht des EWSA auf die Problemerkennung spezialisierte Richter umfassen, die nicht nur darin geschult sind, terroristische Einstellungen, Verhaltensweisen oder Handlungen zu erkennen, sondern die auch technische Kenntnisse haben. Diese Anforderungen müssen sowohl für Hostingdiensteanbieter wie auch für die Anlaufstellen der Mitgliedstaaten gelten, um insbesondere bei Meldungen und Entfernungsanordnungen die Kommunikation zwischen ihnen zu erleichtern.

4.11.

In der Verordnung sollte präzisiert werden, dass Hostingdiensteanbieter dazu verpflichtet sind, Informationen für alle zugänglich zu machen, um eine angemessene Arbeitsweise der Anlaufstellen zu gewährleisten sowie Inhalt und Form der Kommunikation zwischen den Teilen dieser Anlaufstellen zu definieren.

4.12.

Nach Artikel 16 müssen Hostingdiensteanbieter, die keinen Sitz in einem Mitgliedstaat haben, aber Dienste in der EU anbieten, einen rechtlichen Vertreter in der EU benennen. Diese Anforderung sollte nach Auffassung des EWSA auf Zugangsanbieter und Internetunternehmen ausgeweitet werden, um Suchmaschinen, soziale Netze, mobile Internet-Apps, die Spielebranche usw. zu erfassen.

4.13.

Hostingdiensteanbieter, die im Internet aktiv sind, spielen in der digitalen Wirtschaft eine zentrale Rolle, indem sie Unternehmen und Bürger miteinander verbinden und öffentliche Debatten sowie die Verbreitung und den Erhalt von Informationen, Meinungen und Ideen ermöglichen, was erheblich zu Innovation, Wirtschaftswachstum und der Schaffung von Arbeitsplätzen in der EU beiträgt. Der EWSA ist der Ansicht, dass dies auf Internetdiensteanbieter, Hostingdienste, digitale soziale Netze und Unternehmen, die Dienstleistungen im Bereich der digitalen Telefonie anbieten, ausgeweitet werden sollte.

4.14.

Der Verordnungsvorschlag enthält eine Reihe von Maßnahmen, die von den Mitgliedstaaten umzusetzen sind, um terroristische Inhalte zu ermitteln, deren rasche Entfernung durch die Hostingdiensteanbieter zu ermöglichen und die Zusammenarbeit mit den zuständigen Behörden der anderen Mitgliedstaaten, Hostingdiensteanbietern und gegebenenfalls den zuständigen Einrichtungen der EU zu erleichtern. Nach dem Verständnis des EWSA zielen alle diese Maßnahmen darauf ab, terroristische Inhalte zu begrenzen, ihre rasche Entfernung durch die Hostingdiensteanbieter zu ermöglichen und terroristische Propaganda und Anwerbung im Internet zu reduzieren.

Brüssel, den 12. Dezember 2018

Der Präsident des Europäischen Wirtschafts- und Sozialausschusses

Luca JAHIER

(1) COM(2018) 640 final.

(2) ABl. C 237 vom 6.7.2018, S. 19.

(3) COM(2018) 640 final, Artikel 2 Absatz 1.

(4) COM(2018) 640 final, Artikel 2 Absatz 2.

(5) COM(2018) 640 final, Artikel 2 Absatz 5.

Top

Choose the experimental features you want to try