Advies van het Europees Economisch en Sociaal Comité over het voorstel voor een verordening van het Europees Parlement en de Raad ter voorkoming van de verspreiding van terroristische online-inhoud

Een bijdrage van de Europese Commissie aan de bijeenkomst van de EU-leiders in Salzburg op 19-20 september 2018

(COM(2018) 640 final — 2018-0331 (COD))

(2019/C 110/13)

Rapporteur:

José Antonio MORENO DÍAZ

Raadpleging	Europese Raad, 24.10.2018 Europees Parlement, 22.10.2018
Rechtsgrondslag	Artikel 114, lid 1, en artikel 304 VWEU
Bevoegde afdeling	Werkgelegenheid, Sociale Zaken en Burgerschap
Besluit van het bureau	11.12.2018
Goedkeuring door de voltallige vergadering	12.12.2018
Zitting nr.	539
Stemuitslag (voor/tegen/onthoudingen)	126/0/3

1. Conclusies en voorstellen

1.1.

Het Europees Economisch en Sociaal Comité (EESC) verwelkomt dit initiatief om de veiligheid van de inwoners van de EU te vergroten. Wel heeft het er in het kader van het debat over veiligheid versus vrijheid altijd op gewezen dat niet mag worden geraakt aan de verdediging van de vrijheden, waaronder de vrijheid van meningsuiting, de vrijheid van toegang tot informatie en communicatie, het communicatiegeheim en het recht op een doeltreffende voorziening in rechte en op een eerlijk proces zonder vertragingen.

1.2.

De recente terroristische aanslagen op het grondgebied van de EU hebben laten zien hoe terroristen misbruik maken van sociale netwerken om aanhangers te rekruteren en voor te bereiden. De terroristen gebruiken versleutelde communicatie om terroristische activiteiten te plannen en te faciliteren en internet om hun gruwelijke daden te verheerlijken en anderen ertoe aan te zetten dat voorbeeld te volgen en angst te zaaien onder het publiek.

1.3.

Het EESC zou graag zien dat zo concreet mogelijke criteria worden vastgelegd voor de definitie van onbepaalde rechtsbegrippen als „terroristische informatie”, „terroristische daden”, „terroristische groepen” en „verheerlijking van terrorisme”.

1.4.

Terroristische inhoud die met die bedoeling online wordt gedeeld, wordt verspreid via aanbieders van hostingdiensten waarop inhoud van derden kan worden geüpload. Bij verschillende recente terroristische aanslagen in Europa is gebleken dat terroristische online-inhoud een cruciale rol heeft gespeeld bij radicalisering en zogeheten lone wolves tot aanslagen heeft geïnspireerd.

1.5.

Technologische preventie (geautomatiseerde parameters, algoritmen, zoekmachines enz.) is bijzonder nuttig, maar de menselijke factor, waarbij de mens optreedt als bemiddelaar en intermediair, is van essentieel belang voor de juiste beoordeling van die inhoud.

1.6.

Het is zaak de strijd aan te binden tegen de verspreiding van terroristische informatie en digitale rekrutering op sociale netwerken. Ook censuur en opgelegde zelfcensuur op het internet moeten worden bestreden. Het Comité herinnert eraan dat het van fundamenteel belang is te garanderen dat alle inwoners van de EU daadwerkelijk recht hebben op informatie en op vrijheid van meningsuiting op internet.

1.7.

De bescherming van het internet en de strijd tegen radicale groepen zouden het vertrouwen in het internet moeten verbeteren en de economische ontwikkeling van deze bedrijfstak moeten waarborgen.

1.8.

Er moet worden nagegaan welke gevolgen dit voorstel zou hebben voor kleine en middelgrote ondernemingen, en of het mogelijk is een overgangsregeling in te stellen zodat het voor deze ondernemingen gemakkelijker wordt zich aan te passen en concurrentieverstoringen ten voordele van grote ondernemingen worden voorkomen.

1.9.

De voorgestelde regelgevende maatregelen voor de bescherming van internet en van jongeren en de bevolking als geheel moeten strikt worden vastgelegd in de wetgeving, waarbij het recht van eenieder op informatie en op het instellen van beroep tegen administratieve besluiten moet worden gewaarborgd.

1.10.

Het EESC benadrukt dat ook de aanbieders van toegang moeten worden beoordeeld en dat de beheerders van sociale netwerken proactief maatregelen moeten nemen om verenigingen, ngo’s en gebruikers aan te sporen dergelijke inhoud te melden en direct actie te ondernemen: deze „tegenverhalen” moeten een zodanig brede verspreiding krijgen dat ze een preventieve werking hebben.

1.11.

Het grote aantal digitale platforms op Europees niveau en het verschil in omvang tussen deze ondernemingen zijn omstandigheden die in aanmerking moeten worden genomen bij de aanpassing van de bewoordingen van het voorstel ten behoeve van deze kleine ondernemingen.

1.12.

Het EESC dringt erop aan dat in nationale wetgeving inzake het gebruik of de productie van terroristische inhoud duidelijk rekening wordt gehouden met de belangen van de gebruikers. Ook wenst het EESC dat het recht op het instellen van beroep tegen administratieve besluiten wordt gewaarborgd door middel van een duidelijke uitleg van dit recht en de onlinetools voor de uitoefening ervan.

2. Achtergrond van het voorstel

2.1.

Door de alomtegenwoordigheid van het internet kunnen de gebruikers communiceren, werken, socialiseren en informatie en inhoud creëren, verkrijgen en delen met honderden miljoenen mensen over de hele wereld; vandaar dat de Commissie voorstelt mechanismen in te voeren om te voorkomen dat terroristische inhoud wordt gepubliceerd en verspreid (1).

2.2.

Het is belangrijk om de gebruikte begrippen duidelijk af te bakenen; het woord „internet” is te algemeen en verwijst zowel naar het web en sociale media als naar het darknet. Daarnaast gaat het ook om het internet der dingen, dat in een context van elektronische oorlogsvoering overduidelijk veiligheidslacunes vertoont. Zo is het voor IS-ronselaars bijvoorbeeld tegenwoordig gemakkelijker te communiceren via spelconsoles dan via het web. De uitdrukking „terroristische activiteiten voor te bereiden en te faciliteren” heeft geen betrekking op het internet of sociale media maar op het darknet. De grote digitale bedrijven (GAFAM) zijn niet actief op het darknet of versleutelde netwerken.

2.3.

De mogelijkheid zoveel mensen tegen minimale kosten te bereiken trekt echter ook criminelen aan die het internet willen misbruiken voor illegale doeleinden. De recente terroristische aanslagen op Europese bodem hebben laten zien dat terroristen het internet misbruiken om aanhangers te indoctrineren en te werven, terroristische activiteiten voor te bereiden en te faciliteren, hun wreedheden te verheerlijken, anderen ertoe aan te zetten in hun sporen te treden en het grote publiek angst in te boezemen.

2.4.

Hoewel heel wat partijen op het EU-Internetforum vertegenwoordigd waren, hebben niet alle getroffen aanbieders van hostingdiensten aan het forum deelgenomen; bovendien volstaan de schaal en het tempo van de door aanbieders van hostingdiensten geboekte vooruitgang in het geheel niet om dit probleem adequaat aan te pakken. Er zijn extra inspanningen nodig om te zorgen voor een passende opleiding voor moderators voor sociale media.

2.5.

Terroristische inhoud die online wordt gedeeld, wordt verspreid via aanbieders van hostingdiensten waarop inhoud van derden kan worden geüpload. Bij verschillende terroristische aanslagen in Europa is gebleken dat terroristische online-inhoud radicalisering mee in de hand heeft gewerkt en zogeheten lone wolves tot aanslagen heeft aangezet. Gebleken is dat met name jongeren zich hierdoor laten beïnvloeden.

3. Samenvatting van het voorstel voor een verordening en opmerkingen

3.1.

Het EESC heeft al een advies uitgebracht over (2) illegale online-inhoud, maar dit nieuwe initiatief van de Commissie betreft de specifieke kwestie van terroristische inhoud op het internet.

3.2.

De personele werkingssfeer van het voorstel omvat aanbieders van hostingdiensten die hun diensten aanbieden in de EU, ongeacht hun plaats van vestiging of hun omvang.

3.3.

Het Comité is van mening dat ook aanbieders van informatie, zoekmachines en hostingsites of -netwerken onder de werkingssfeer zouden moeten vallen.

3.4.

Kleine en middelgrote internetbedrijven ontberen de technische, menselijke en financiële capaciteit om doeltreffend op te treden tegen terroristische inhoud. Het moet mogelijk zijn de termijnen en procedures voor dit soort bedrijven aan te passen. Daarnaast moet voor kleine en middelgrote ondernemingen een overgangsperiode worden ingevoerd zodat zij de tijd krijgen om de verordening ten uitvoer te leggen.

3.5.

Voorts moet er aandacht zijn voor preventieve en proactieve maatregelen door ngo’s, vakbonden en het maatschappelijk middenveld in het algemeen.

3.6.

Om de verwijdering van terroristische inhoud te garanderen, voert de verordening een verwijderingsbevel in, dat kan worden uitgevaardigd als een administratief besluit of rechterlijke beslissing van een bevoegde autoriteit in een lidstaat. De aanbieder van hostingdiensten is in deze gevallen verplicht de inhoud te verwijderen of de toegang daartoe onmogelijk te maken binnen één uur.

3.7.

De definitie van terroristische inhoud kan van land tot land verschillen; er moet op dit vlak meer duidelijkheid worden geschapen om willekeur en rechtsonzekerheid te voorkomen.

3.8.

De termijn van één uur is onrealistisch. In Frankrijk bijvoorbeeld is de tijd die verloopt tussen de melding en de verwijdering van een bron 16 uur voor pedofiliesites en 21 uur voor terroristische sites; het classificeren van sites is namelijk zeer tijdrovend. Er moet een meer realistische en doeltreffende termijn worden vastgelegd.

3.9.

De verordening schrijft voor dat aanbieders van hostingdiensten, waar passend, proactieve maatregelen moeten nemen die in verhouding staan tot de omvang van het risico, en terroristisch materiaal moeten verwijderen, onder meer met behulp van automatische opsporingsinstrumenten. Dit is van cruciaal belang; inspanningen op het vlak van technologische innovatie moeten dan ook worden gesteund, zodat technologische hulpmiddelen kunnen worden ontworpen.

3.10.

De Commissie stelt het gebruik van instrumenten zoals automatische detectie voor en verzoekt het bedrijfsleven veel meer steun te verlenen aan onderzoek, zodat de juiste technologische hulpmiddelen kunnen worden ontwikkeld.

3.11.

Als onderdeel van de maatregelen om niet-terroristische inhoud tegen onterechte verwijdering te beschermen, bevat het voorstel de verplichting rechtsmiddelen en klachtenmechanismen in te voeren waarmee gebruikers de verwijdering van hun inhoud kunnen aanvechten. Daarnaast bevat de verordening verplichtingen inzake transparantie ten aanzien van de maatregelen die door aanbieders van hostingdiensten worden genomen om terroristische inhoud tegen te gaan, dit in het kader van de verantwoordingsplicht tegenover gebruikers, burgers en overheidsinstanties.

3.12.

We moeten erop hameren dat niet alleen inspanningen nodig zijn op het vlak van monitoring en evaluatie van inhoud, maar ook op het vlak van menselijke en technologische bemiddeling. Er kunnen grote vraagtekens worden geplaatst bij censuur door menselijke bemiddelaars waar het gaat om de eerbiediging van de rechten van werknemers, de regels inzake het recht op informatie en de eerbiediging van de privacy van alle inwoners van de EU.

3.13.

Het EESC is van mening dat de aanbieder de eigenaar van de te censureren site of informatie op de hoogte moet brengen. We mogen niet vergeten dat het een recht is om in kennis te worden gesteld van een administratief besluit.

3.14.

Om het recht op informatie over een administratief besluit te waarborgen, roept het EESC de aanbieders van internettoegang op om in het kader van hun beleid inzake inhoud duidelijk te maken wat de rechten en plichten van klanten zijn; zo moeten informatieverstrekkers bijvoorbeeld op de hoogte worden gebracht van een verwijderingsbesluit en moeten klanten weten welke juridische stappen zij kunnen nemen.

4. Toelichting bij de specifieke bepalingen van het voorstel

4.1.

Onlinepropaganda van terroristen is bedoeld om individuen ertoe aan te zetten terroristische aanslagen te plegen; zo worden ook gedetailleerde instructies gegeven over de beste manier om maximale schade toe te brengen. Nadat dergelijke gruweldaden zijn gepleegd wordt meestal nog meer propaganda verspreid, waarin de wreedheden worden verheerlijkt en anderen ertoe worden aangezet dit voorbeeld te volgen. De verordening draagt bij aan de bescherming van de openbare veiligheid door terroristische inhoud die de schending van grondrechten promoot, minder toegankelijk te maken.

4.2.

Met betrekking tot de definities wordt voor de toepassing van deze verordening verstaan onder:

„aanbieder van hostingdiensten”: een aanbieder van diensten van de informatiemaatschappij die eruit bestaan door een aanbieder van inhoud verstrekte informatie op verzoek van die aanbieder van inhoud op te slaan en de opgeslagen informatie aan derden beschikbaar te stellen (3);

„aanbieder van inhoud”: een gebruiker die informatie heeft verstrekt die in zijn opdracht wordt of was opgeslagen door een aanbieder van hostingdiensten (4);

het EESC stelt voor om een nieuw punt in te voegen dat strekt tot de opneming in de verordening van

—	„aanbieders van informatie”: zoekmachines die het mogelijk maken om de inhoud ervan vast te stellen en toegang ertoe te bieden.

4.3.

Met betrekking tot de definitie van „terroristische inhoud”: informatie die aan een of meer van de volgende voorwaarden voldoet:

a)	het aanzetten tot of het verdedigen van het plegen van terroristische misdrijven, onder meer door ze te verheerlijken, waardoor het gevaar ontstaat dat dergelijke daden worden gepleegd;

b)	het aanmoedigen van het bijdragen aan terroristische misdrijven;

c)	het bevorderen van de activiteiten van een terroristische groepering, met name door aanmoediging van het deelnemen aan of het ondersteunen van een terroristische groepering in de zin van artikel 2, lid 3, van Richtlijn (EU) 2017/541;

het instrueren over methoden of technieken voor het plegen van terroristische misdrijven (5);

het EESC stelt voor om een nieuw punt in te voegen dat strekt tot de opneming in de verordening van

het rekruteren en opleiden van personen met het oogmerk om terroristische daden te plegen of te ondersteunen.

4.4.

De omschrijving van de te censureren inhoud is heel kort, aangezien veel teksten, beelden, video’s en andere inhoud terrorisme niet verheerlijken — zij zetten namelijk niet aan tot concrete handelingen — maar een extremistische en tot geweld aanzettende doctrine propageren en verspreiden.

4.5.

Ook draagt de verordening bij aan de strijd tegen ondernemingen die met hun activiteiten de verspreiding van een extremistische en tot geweld aanzettende doctrine bevorderen. Daarnaast moet zij een bijdrage leveren aan de strijd tegen de rekrutering op sociale media.

4.6.

Artikel 1 beschrijft het onderwerp en geeft aan dat de verordening regels vaststelt om te voorkomen dat hostingdiensten worden misbruikt voor de verspreiding van terroristische online-inhoud, met inbegrip van zorgplichten voor aanbieders van hostingdiensten en door de lidstaten te nemen maatregelen.

4.7.

De bepaling inzake „misbruik van hostingdiensten” voor de onlineverspreiding van terroristische inhoud moet worden aangevuld met de verspreiding van inhoud, boodschappen of propagandamiddelen; daarnaast moet ook de url worden vermeld en moet informatie over de toegang tot de terroristische inhoud of boodschappen worden opgenomen, aangezien het hier ook om zoekmachines gaat.

4.8.

In artikel 5 wordt bepaald dat aanbieders van hostingdiensten maatregelen moeten nemen om inhoud die door een bevoegde autoriteit in een lidstaat of een orgaan van de EU is doorverwezen, zo snel mogelijk te beoordelen, echter zonder de verplichting op te leggen om de betrokken inhoud te verwijderen en zonder specifieke termijnen voor actie vast te stellen.

4.9.

Een efficiënte aanpak begint met de opstelling van een lijst met een vast aantal criteria om ten behoeve van de rechtszekerheid de soorten inhoud en boodschappen met een terroristisch karakter of die een verheerlijking van terrorisme inhouden in kaart te brengen, om zo arbitraire besluiten over de verwijdering van de inhoud te voorkomen en het recht op informatie en het recht van vrijheid van meningsuiting te beschermen. Ook zouden in deze verordening verplichte criteria moeten worden opgenomen die het mogelijk maken om inhoud in te delen op Europees niveau; het gaat dan onder meer om informatie over terroristische groepen, informatie die terrorisme verheerlijkt of terroristische daden rechtvaardigt, technische of methodologische informatie die het gemakkelijker maakt om wapens te produceren waarmee een aanslag kan worden gepleegd, en oproepen voor wervingsdoeleinden.

4.10.

Artikel 14 voorziet in de aanwijzing van contactpunten, zowel door de aanbieders van hostingdiensten als door de lidstaten, om hun onderlinge communicatie te vergemakkelijken, met name met betrekking tot doorverwijzingen en verwijderingsbevelen. Met het oog op de mensenrechten die in het geding zijn, constateert het EESC dat deze contactpunten, om juridische problemen te kunnen vaststellen, moeten beschikken over gespecialiseerde rechters die zijn opgeleid in het herkennen van terroristische denkwijzen, gedragingen en handelingen, maar die ook technologisch onderlegd zijn. Om de onderlinge communicatie te vergemakkelijken, met name met betrekking tot doorverwijzingen en verwijderingsbevelen, moeten zowel de contactpunten van de aanbieders van hostingdiensten als de aangewezen contactpunten van de lidstaten aan deze voorwaarden voldoen.

4.11.

Ten behoeve van de goede werking van de contactpunten moet in de verordening de verplichting worden opgenomen voor aanbieders van hostingdiensten om voor iedereen toegankelijke informatie te verstrekken, en moeten de inhoud en vorm van de communicatie met de leden van die contactpunten worden gepreciseerd.

4.12.

Artikel 16 vereist dat aanbieders van hostingdiensten die geen vestiging hebben in een lidstaat maar wel diensten aanbieden in de EU, een wettelijke vertegenwoordiger in de EU aanwijzen; volgens het EESC moet die vereiste worden uitgebreid naar aanbieders van toegang en naar internetbedrijven, zodat een en ander ook betrekking heeft op zoekmachines, sociale netwerken, applicaties voor telefonie via internet en de game-industrie.

4.13.

Aanbieders van hostingdiensten die op het internet actief zijn, spelen een essentiële rol in de digitale economie doordat zij ondernemingen en burgers met elkaar verbinden en het publieke debat en de verspreiding en ontvangst van informatie, meningen en ideeën faciliteren, hetgeen een aanzienlijke bijdrage levert aan innovatie, economische groei en het scheppen van banen in de EU. Het EESC is van mening dat ook deze bepaling moet worden uitgebreid naar aanbieders van internetdiensten, hostingdiensten, digitale sociale netwerken en ondernemingen die digitale telefoniediensten aanbieden.

4.14.

Het voorstel voor een verordening bevat een reeks maatregelen die de lidstaten moeten invoeren om terroristische inhoud te identificeren, de snelle verwijdering ervan door aanbieders van hostingdiensten mogelijk te maken en de samenwerking met de bevoegde autoriteiten in andere lidstaten, aanbieders van hostingdiensten en, in voorkomend geval, de betrokken organen van de EU te faciliteren. Het EESC stelt vast dat al deze maatregelen nodig zijn om terrorismegerelateerde inhoud af te bakenen, de snelle verwijdering ervan door de aanbieders van hostingdiensten mogelijk te maken en propaganda- en wervingsactiviteiten met een terroristisch karakter op internet terug te dringen.

Brussel, 12 december 2018.

De voorzitter van het Europees Economisch en Sociaal Comité

Luca JAHIER

(1) COM(2018) 640 final.

(2) PB C 237 van 6.7.2018, blz. 19.

(3) COM(2018) 640 final, artikel 2, lid 1.

(4) COM(2018) 640 final, artikel 2, lid 2.

(5) COM(2018) 640 final, artikel 2, lid 5.