EUROPEISKA KOMMISSIONEN

Bryssel den 28.9.2017

COM(2017) 555 final

MEDDELANDE FRÅN KOMMISSIONEN TILL EUROPAPARLAMENTET, RÅDET, EUROPEISKA EKONOMISKA OCH SOCIALA KOMMITTÉN SAMT REGIONKOMMITTÉN

Hantering av olagligt innehåll online

Mot ett ökat ansvar för onlineplattformar

1.Inledning

1 Onlineplattformar är viktiga motorer för innovation och tillväxt i den digitala ekonomin. De har möjliggjort en oöverträffad tillgång till information och utbyten samt nya marknadsmöjligheter, i synnerhet för små och medelstora företag. Onlineplattformar är dessutom den viktigaste platsen för tillgång till information och annat innehåll för de flesta människor på internet i dag, oavsett om det är via sökmotorer, sociala nätverk, mikrobloggar eller videodelningsplattformar. Plattformarnas affärsmodeller har på senare tid också utvecklats till att etablera nära kopplingar mellan användare och innehåll – i synnerhet för riktad reklam. Dessa plattformar länkar miljarder användare till enorma mängder innehåll och information och de tillhandahåller innovativa tjänster till medborgare och företag.

2 Den stora spridningen av olagligt innehåll som kan laddas upp och därmed går att komma åt online ger dock upphov till allvarliga bekymmer som kräver kraftfulla och effektiva motåtgärder. Det som är olagligt offline är olagligt även online. Uppmaning till terrorism, främlingsfientligt och rasistiskt språk som offentligt uppmuntrar till hat och våld samt barnpornografi är olagligt inom EU. Den ökande tillgången på terroristiskt material online och spridningen av sådant material är ett hot mot tryggheten och säkerheten samt mot offrens värdighet. Europeiska unionen har agerat mot denna problematik genom ett antal åtgärder. Att ta itu med upptäckt och borttagning av olagligt innehåll online är emellertid en brådskande utmaning för dagens digitala samhälle.

3 4 Med anledning av ett flertal terroristattacker inom EU och spridningen av terroristpropaganda online framförde Europeiska rådet den 22–23 juni 2017 att det ”förväntar sig [...] att sektorn ska [...] utveckla nya tekniker och verktyg i syfte att förbättra den automatiska upptäckten av och raderingen av innehåll som uppviglar till terrordåd. Detta bör vid behov kompletteras genom relevanta lagstiftningsåtgärder på EU-nivå”. Dessa krav var upprepningar av uttalanden av ledarna för G7 och G20 vid deras toppmöten nyligen. På liknande sätt uppmanade Europaparlamentet i sin resolution om onlineplattformar från juni 2017 dessa plattformar ”att vidta kraftigare åtgärder mot olagligt och skadligt innehåll på internet”, samtidigt som kommissionen uppmanades att presentera förslag för att åtgärda dessa problem.

De onlineplattformar som förmedlar tillgång till innehåll för de flesta internetanvändare har ett betydande samhällsansvar när det gäller att skydda användarna och samhället i sin helhet, och förhindra att brottslingar och andra personer som är involverade i onlineverksamhet som utgör en överträdelse utnyttjar deras tjänster. De öppna digitala områden som de tillhandahåller får inte bli grogrunder för exempelvis terror, olaglig hatpropaganda, övergrepp på barn eller människohandel, eller områden som håller sig undan rättssamhället. Det är tydligt att spridning av olagligt innehåll på internet kan underminera allmänhetens tilltro till och förtroende för den digitala miljön, men en sådan spridning kan dessutom hota den fortsatta ekonomiska utvecklingen av plattformarnas ekosystem och den digitala inre marknaden. Onlineplattformarna bör på ett resolut sätt intensifiera sina åtgärder för att lösa detta problem, som en del av det ansvar som kommer från deras centrala roll i samhället.

Kampen mot olagligt innehåll online måste föras med korrekta och robusta skyddsmekanismer för att garantera skyddet av de olika grundläggande rättigheter som står på spel. Med hänsyn till deras allt viktigare roll vad gäller att ge tillgång till information spelar onlineplattformarna dessutom en viktig roll när det gäller att uppnå en sådan balans. Kampen mot olagligt innehåll på internet inom EU bör bygga på och dessutom ta hänsyn till EU:s åtgärder på global nivå.

2.Bakgrund

6 7 8 9 Europeiska unionen har redan reagerat på den utmaning som olagligt innehåll online utgör, med både bindande och icke-bindande åtgärder. Dessa policygensvar innefattar direktivet om bekämpande av sexuella övergrepp mot barn, sexuell exploatering av barn och barnpornografi, terrorismdirektivet, de föreslagna åtgärderna mot bakgrund av förändringarna av upphovsrätten och direktivet om audiovisuella medietjänster (AVMSD).

10 11 12 13 14 15 16 17 Dessa befintliga och förslagna lagstiftande åtgärder har kompletterats med en rad icke lagstiftande åtgärder, till exempel uppförandekoden för att motverka olaglig hatpropaganda online, det arbete som utförs av EU:s internetforum när det gäller terroristpropaganda, samförståndsavtalet om försäljning av varumärkesförfalskade varor via internet, kommissionens meddelande om marknadskontroll av produkter som säljs online, onlineförsäljning av produkter i näringskedjan, EU:s handlingsplan mot olaga handel med vilda djur, vägledningen om direktivet om otillbörliga affärsmetoder och nationella myndigheters gemensamma åtgärder inom samarbetsnätverket för konsumentskydd. Den europeiska strategin för ett bättre internet för barn är ett självreglerande initiativ som syftar till att förbättra onlinemiljön för barn och ungdomar med hänsyn till riskerna för exponering för material som våldsamt eller sexuellt exploaterande innehåll eller nätmobbning.

18 I sina meddelanden från 2016 och 2017 betonade kommissionen behovet av att onlineplattformarna agerar mer ansvarsfullt och intensifierar självreglerande satsningar i hela EU för att få bort olagligt innehåll. Dessutom förbinder sig kommissionen att förbättra samordningen av de olika sektorsspecifika dialogerna med plattformarna och att utforska behovet av vägledning när det gäller formella förfaranden för anmälan och åtgärd. Detta bör göras i samverkan med – och utan att det påverkar – de dialoger som redan pågår och det arbete som påbörjats på andra områden, till exempel enligt den europeiska säkerhetsagendan eller på området olaglig hatpropaganda.

19 20 21 22 Nya rapporter om några av dessa sektorsspecifika initiativ har visat vissa framsteg. När det gäller olaglig hatpropaganda visar rapporter från juni 2017 en ökning från 28 % till 59 % avseende borttagning av ett urval anmält innehåll i vissa EU-länder under en sexmånadersperiod, men viktiga skillnader mellan olika plattformar konstateras. En del förbättringar vad gäller hastigheten av borttagningen registrerades under samma period, samtidigt som 28 % av borttagningen fortfarande inte gjordes förrän efter en vecka. Detta visar att en icke lagstiftande strategi kan ge vissa resultat, i synnerhet om den åtföljs av åtgärder för att säkerställa att samarbetet mellan alla berörda operatörer underlättas. På liknande sätt har ungefär 80–90 % av det innehåll som flaggats av Europol tagits bort inom ramen för EU:s internetforum mot terroristiskt innehåll sedan starten. När det gäller barnpornografi rapporterade INHOPE-systemet med jourtelefoner redan 2015 en effektivitet på 91 % när det gällde borttagning inom 72 timmar och 1 av 3 innehållsposter togs bort inom 24 timmar.

De olika pågående sektorsspecifika dialogerna avslöjade dessutom en betydande grad av likhet när det gäller de förfaranden som bestämmer upptäckt, identifiering, borttagning och skydd mot återuppladdning i de olika sektorerna. Dessa slutsatser ligger till grund för detta meddelande.

23 På EU-nivå består det allmänna juridiska ramverket för borttagning av olagligt innehåll av e-handelsdirektivet, som bland annat harmoniserar de villkor enligt vilka vissa onlineplattformar kan dra nytta av undantaget från ansvar för olagligt innehåll som de lagrar på den digitala inre marknaden.

24 25 26 Olagligt innehåll på onlineplattformar kan spridas i synnerhet via onlinetjänster som tillåter uppladdning av innehåll från tredje part. Sådana värdtjänster omfattas, under vissa villkor, av artikel 14 i e-handelsdirektivet. Denna artikel slår fast att leverantörer av värdtjänster inte kan hållas ansvariga för den information som lagras på begäran av tredje part, under förutsättning att a) tjänsteleverantören inte hade kännedom om förekomsten av olaglig verksamhet eller olaglig information och, beträffande skadeståndsanspråk, inte var medveten om fakta eller omständigheter som gjort förekomsten av den olagliga verksamheten eller den olagliga informationen uppenbar, eller b) tjänsteleverantören så snart han fått sådan kännedom eller blivit medveten om detta handlat utan dröjsmål för att avlägsna informationen eller göra den oåtkomlig. Samtidigt bör direktivet ”utgöra en tillämplig grund vid utarbetande av snabba och tillförlitliga förfaranden som syftar till att avlägsna olaglig information och göra den oåtkomlig”.

Enligt artikel 15 förbjuds medlemsstaterna dessutom att ålägga ”tjänsteleverantörerna en allmän skyldighet att, i samband med tillhandahållande av sådana tjänster som avses i [artikel 14], övervaka den information de överför eller lagrar, och inte heller någon allmän skyldighet att aktivt efterforska fakta eller omständigheter som kan tyda på olaglig verksamhet”. Samtidigt påminns i skäl 47 i direktivet om att detta endast gäller övervakningsskyldigheter av allmän natur och att det inte gäller ”övervakningsskyldigheter i ett speciellt fall och påverkar i synnerhet inte beslut från nationella myndigheter i enlighet med nationell lagstiftning”.

I detta sammanhang åtog sig kommissionen i sitt meddelande om onlineplattformar från 2016 att upprätthålla en balanserad och förutsägbar ansvarsordning för onlineplattformar, som ett viktigt reglerande ramverk till stöd för digital innovation på den digitala inre marknaden.

En harmoniserad och tydlig strategi för borttagning av olagligt innehåll finns för närvarande inte inom EU. Vad som finns inom EU är olika metoder beroende på medlemsstat, innehållskategori och typ av onlineplattform. En mer anpassad metod skulle göra kampen mot olagligt innehåll effektivare. Den skulle dessutom gynna utvecklingen av den digitala inre marknaden och sänka efterlevnadskostnaderna med en mängd olika regler för onlineplattformar, inklusive för nya deltagare.

28 Det är viktigt att betona att detta juridiska ramverk inte definierar, än mindre harmoniserar, vad som utgör ”olagligt” innehåll. Vad som är olagligt bestäms av särskild lagstiftning på EU-nivå och av nationell lagstiftning. Exempelvis typ, egenskaper och skada som hänger samman med terrorismrelaterat material, olaglig hatpropaganda eller barnpornografi eller sådant material som rör människohandel skiljer sig väldigt mycket från kränkningar av immaterialrätt, produktsäkerhetsregler, otillbörliga affärsmetoder online eller onlineverksamhet av nedsättande slag, men alla dessa typer av olagligt innehåll är föremål för det övergripande juridiska ramverk som anges av e-handelsdirektivet. Med hänsyn tagen till de betydande likheterna i processen för avlägsnande av dessa olika typer av innehåll täcker detta meddelande dessutom hela vidden av olagligt innehåll på internet, samtidigt som det möjliggör sektorsspecifika skillnader där så är lämpligt och berättigat.

Inom EU är domstolar och nationella behöriga myndigheter, inklusive brottsbekämpande myndigheter, behöriga att vidta åtgärder och besluta om straffrättsliga påföljder enligt lagenliga förfaranden när det gäller olagligheten i en given verksamhet eller information på internet. Samtidigt har onlineplattformar rätt att förhindra att deras infrastruktur och verksamhet används för att begå brott; de har ett ansvar att skydda sina användare och förhindra olagligt innehåll på sin plattform, och de har vanligtvis tekniska medel för att identifiera och ta bort sådant innehåll. Detta blir ännu viktigare med tanke på att onlineplattformarna har investerat stora summor för att utveckla avancerad teknik för aktiv insamling av information om det innehåll som sprids på deras domäner och om användarnas beteende. Samtidigt som det är viktigt med snabba beslut när det gäller borttagning av olagligt innehåll finns det också behov av att använda lämpliga skyddsmekanismer. Detta kräver balans mellan rollerna för offentliga och privata organ.

De riktlinjer och principer som anges i detta meddelande är således inte enbart inriktade på upptäckt och borttagning av olagligt innehåll, utan strävar dessutom efter att ta itu med problemen när det gäller borttagning av lagligt innehåll, vilket ibland kallas ”överborttagning”, som i sin tur påverkar yttrandefriheten och pluralismen inom media. Lämpliga skyddsmekanismer bör därför utvecklas och anpassas till den specifika typ av olagligt innehåll som det är fråga om.

29 Det finns otvivelaktigt ett allmänintresse och en oro för innehåll som inte nödvändigtvis är olagligt men som är potentiellt skadligt, såsom falska nyheter eller innehåll som är skadligt för minderåriga. Fokus i detta meddelande ligger emellertid på upptäckt och borttagning av olagligt innehåll.

3.Upptäckt och anmälan av olagligt innehåll 

Målet med detta avsnitt är att visa vad onlineplattformar, behöriga myndigheter och användare bör göra för att snabbt och effektivt upptäcka olagligt innehåll.

Onlineplattformarna kan bli medvetna om att det finns olagligt innehåll på ett antal olika sätt och genom olika kanaler. Sådana anmälningskanaler omfattar i) domstolsbeslut eller administrativa beslut, ii) meddelanden från behöriga myndigheter (t.ex. brottsbekämpande organ), specialiserade ”betrodda anmälare”, innehavare av immateriella rättigheter eller vanliga användare, eller iii) genom plattformarnas egna utredningar eller egen kännedom.

Utöver de lagstadgade skyldigheter som härrör från europeisk och nationell lagstiftning och deras ”försiktighetsprincip”, som en del av deras ansvar, bör onlineplattformarna garantera en säker onlinemiljö för sina användare, som är fientligt sinnad mot brott och annan olaglig exploatering och som avskräcker från och förhindrar brottslig verksamhet online och annan onlineverksamhet som utgör en överträdelse.

4.Domstolar och behöriga myndigheter

30 I enlighet med EU-lagstiftning och/eller nationell lagstiftning kan nationella domstolar och, i vissa fall, behöriga myndigheter utfärda bindande förelägganden eller administrativa beslut som riktar sig till onlineplattformar och kräver att de ska ta bort eller blockera tillgången till olagligt innehåll. 

Med hänsyn tagen till att snabb borttagning av olagligt material ofta är avgörande för att begränsa en mer omfattande spridning och skada bör onlineplattformarna också kunna fatta snabba beslut när det gäller möjliga åtgärder mot olagligt innehåll på internet, utan att de är tvungna att göra detta baserat på ett domstolsbeslut eller ett administrativt beslut, i synnerhet om en brottsbekämpande myndighet identifierar och informerar dem om påstått olagligt innehåll. Samtidigt bör onlineplattformarna införa lämpliga säkerhetsmekanismer när de utövar sitt ansvar i detta avseende, för att garantera användarnas rätt till effektiva åtgärder.

31 Onlineplattformarna bör därför ha nödvändiga resurser för att förstå de lagliga ramverk inom vilka de verkar. De bör dessutom ha ett nära samarbete med brottsbekämpande myndigheter och andra behöriga myndigheter, i tillämpliga fall, särskilt genom att se till att de snabbt och effektivt kan kontaktas med begäranden om skyndsam borttagning av olagligt innehåll och även för att, om så är lämpligt, uppmärksamma brottsbekämpande myndigheter på tecken på brottslig verksamhet på internet. För att undvika upprepning av insatser och anmälningar och en därmed minskad effektivitet i borttagningsprocessen bör brottsbekämpande myndigheter och andra behöriga myndigheter också göra vad de kan för att samarbeta med varandra för att definiera effektiva digitala gränssnitt som underlättar snabb och tillförlitlig inlämning av anmälningar, och för att garantera en effektiv identifiering och rapportering av olagligt innehåll. Att upprätta kontaktpunkter för plattformar och myndigheter är avgörande för att ett sådant samarbete ska fungera.

32 För terroristiskt innehåll har en EU-enhet för anmälan av innehåll på internet inrättats inom Europol, med vars hjälp säkerhetsexperter bedömer och hänför terroristinnehåll till onlineplattformar (samtidigt som vissa medlemsstater har egna nationella enheter för anmälan av innehåll på internet).

5.Anmälningar

6.Betrodda anmälare

Borttagning av olagligt innehåll online sker mycket snabbare och på ett mer tillförlitligt sätt om onlineplattformarna inför mekanismer för en privilegierad kanal för sådana anmälare som erbjuder särskild expertis när det gäller att meddela förekomst av potentiellt olagligt innehåll på deras webbplats. De är så kallade ”betrodda anmälare”, specialiserade enheter med specifik expertis när det gäller att identifiera olagligt innehåll och med anpassade strukturer för upptäckt och identifiering av sådant innehåll på internet.

Jämfört med vanliga användare kan betrodda anmälare förväntas inneha expertis och arbeta med höga kvalitetsstandarder, vilket bör leda till anmälningar av högre kvalitet och snabbare borttagning. Onlineplattformarna uppmanas att använda sig av befintliga nätverk med betrodda anmälare. För terroristiskt innehåll har exempelvis Europols enhet för anmälan av internetinnehåll nödvändig expertis för att bedöma om ett visst material har ett terroristiskt och våldsamt extremistiskt innehåll och använder denna expertis för att agera som en betrodd anmälare, utöver sin roll som brottsbekämpare. INHOPE-nätverket med jourtelefoner för rapportering av barnpornografi är ett annat exempel på en betrodd anmälare. När det gäller olaglig hatpropaganda finns det organisationer inom det civila samhället och halvoffentliga organ som är specialiserade på att identifiera och rapportera olagligt material på internet med rasistiskt och främlingsfientligt innehåll.

För att säkerställa en hög kvalitet på anmälningar och en snabbare borttagning av olagligt innehåll kan branschen komma överens om kriterier på EU-nivå, baserade på i synnerhet respekten för grundläggande rättigheter och demokratiska värderingar. Detta kan göras genom självreglerande mekanismer eller inom EU:s standardiseringsram, enligt vilken en viss enhet kan anses vara en betrodd anmälare, vilket ger tillräcklig flexibilitet för att ta hänsyn till innehållsspecifika egenskaper och den betrodda anmälarens roll. Andra sådana kriterier skulle till exempel kunna innefatta interna utbildningsstandarder, processtandarder och kvalitetssäkring, liksom lagliga skyddsmekanismer avseende oberoende, intressekonflikter, integritetsskydd och personuppgiftsskydd. Dessa skyddsmekanismer är särskilt viktiga i det begränsade antal fall där plattformar kan avlägsna innehåll i samband med anmälan från den betrodda anmälaren, utan att de själva behöver verifiera innehållets laglighet ytterligare. I dessa begränsade fall skulle betrodda anmälare även kunna granskas mot dessa kriterier, och ett certifieringsprogram skulle kunna intyga deras betrodda status. Tillräckliga skyddsmekanismer bör alltid finnas tillgängliga för att förhindra missbruk av systemet, enligt vad som anges i avsnitt 4.3.

Behöriga myndigheter bör ges möjlighet att delta i rapporteringsmekanismen för betrodda anmälare, i relevanta fall.

Det är nödvändigt att göra en avvägning mellan att säkerställa en hög kvalitet på de anmälningar som kommer från betrodda anmälare, omfattningen av ytterligare åtgärder som företagen skulle vidta med avseende på betrodda anmälare och bördan av att upprätthålla dessa kvalitetsstandarder. Om det förekommer missbruk av mekanismen med betrodda anmälare mot etablerade standarder bör den privilegierade statusen som betrodd anmälare tas bort.

7.Anmälningar från användare

I en effektiv kamp mot olagligt innehåll på internet bör vanliga användare få rätt att signalera olagligt innehåll till onlineplattformarna och kunna lita på att berättigade anmälningar kommer att övervägas och att skyndsamma åtgärder kommer att vidtas.

Om innehållet är allmänt tillgängligt bör sådana rapporteringsmekanismer vara tillgängliga också för allmänheten, utan att man behöver vara inloggad som användare. För att förbättra effektiviteten och noggrannheten i bedömningen av potentiellt olagligt innehåll bör sådana mekanismer möjliggöra en enkel anmälan med elektroniska medel.

Kommissionens förslag om revidering av direktivet om audiovisuella medietjänster syftar till att införa en skyldighet för leverantörer av plattformar som delar videoinnehåll att inrätta och upprätthålla mekanismer för användare så att de kan rapportera eller flagga audiovisuellt innehåll som kan försämra minderårigas fysiska, mentala eller moraliska utveckling samt innehåll som innehåller uppmaning till våld eller hat.

8.Säkerställa anmälningar av hög kvalitet

Sådana rapporteringsmekanismer bör vara synliga, lättåtkomliga, användarvänliga och framgå av sammanhanget. De bör dessutom möjliggöra enkel rapportering av olika typer av innehåll, till exempel genom val från en förteckning med kategorier av skäl till varför innehållet betraktas som olagligt. Om det är tekniskt möjligt kan element som möjliggör att anmälningar görs omedelbart i den kontext där materialet först upptäcks, eller som erbjuder återanvändning av inloggningsinformationen, användas.

På detta sätt kan en tillräckligt väl underbyggd och detaljerad anmälan göra så att plattformen hittar det potentiellt olagliga innehållet snabbt, gör en sund bedömning av hur olagligt innehållet är och agerar skyndsamt om så är lämpligt. Den exakta detaljnivå som krävs av plattformarna för att snabbt fatta väl underbyggda beslut kan variera avsevärt från en typ av innehåll till ett annat.

Användare bör normalt inte vara tvungna att identifiera sig när de rapporterar något som de anser vara olagligt innehåll, om inte denna information krävs för att avgöra innehållets laglighet (t.ex. fastställande av äganderätt till immateriella rättigheter). Detta är i synnerhet fallet om deras säkerhet kan äventyras eller om det kan få juridiska konsekvenser att avslöja sin identitet. Användarna bör uppmuntras att göra sin anmälan via betrodda anmälare, i förekommande fall, om de vill bevara sin anonymitet gentemot plattformarna.

Anmälarna bör dock ha möjlighet att frivilligt lämna sina kontaktuppgifter i en anmälan, för att onlineplattformen ska kunna be om ytterligare information eller för att informera anmälaren om en planerad uppföljning. I detta fall bör anmälaren få en bekräftelse av mottagandet och ett meddelande med information om den uppföljning som anmälan ger upphov till.

En bekräftelse av mottagandet gör inte bara att anmälaren slipper kontrollera om hans/hennes begäran har följts upp, utan den kan också fungera som bevis i rättsliga eller utomrättsliga förfaranden i enlighet med de regler som gäller för sådana förfaranden.

9.Proaktiva åtgärder av onlineplattformar

10.Proaktiva åtgärder och undantag från ansvar

Onlineplattformarna bör, mot bakgrund av deras centrala roll och förmåga med tillhörande ansvar, vidta effektiva och proaktiva åtgärder för att upptäcka och ta bort olagligt innehåll på internet, och inte bara begränsa sig till att agera på de anmälningar som de tar emot. För vissa kategorier av olagligt innehåll kanske det inte heller är möjligt att helt uppnå målet att minska risken för allvarlig skada om inte plattformarna vidtar sådana proaktiva åtgärder.

Kommissionen menar att vidtagande av sådana frivilliga, proaktiva åtgärder inte automatiskt leder till att onlineplattformen förlorar fördelen med det undantag från ansvar som föreskrivs i artikel 14 i e-handelsdirektivet.

För det första gäller detta undantag från ansvar endast de leverantörer av värdtjänster som uppfyller villkoren i artikel 14 i direktivet. Detta är tjänsteleverantörer vars verksamhet består av lagring av information på begäran av tredje part och som inte spelar någon aktiv roll av ett sådant slag att de får kännedom om eller kan styra över denna information 33 . 

I skäl 38 i kommissionens förslag till ett direktiv om upphovsrätt på den digitala inre marknaden av den 14 september 2016 anges följande i detta avseende: ”Vad gäller artikel 14 [i e-handelsdirektivet] är det nödvändigt att kontrollera om tjänsteleverantören spelar en aktiv roll, bl.a. genom att optimera presentationen av de uppladdade verken eller andra alstren eller genom att marknadsföra dem, oavsett vilken typ av medel som används för ändamålet.”

Särskilt vad gäller artikel 14 i e-handelsdirektivet, i målet L'Oréal mot eBay, klargjorde domstolen att ”enbart den omständigheten att [...] [en onlineplattform] lagrar försäljningserbjudandena på sin server, fastställer villkoren för sin tjänst, uppbär betalning för denna och ger allmänna upplysningar till sina kunder, inte kan innebära att [...] [den] ska nekas de undantag från ansvar som fastställts i [artikel 14 i e-handelsdirektivet]” 34 . Det finns dock en sådan effekt, menar domstolen, ”[o]m [...] [onlineplattformen] däremot lämnat hjälp som bland annat bestått i att optimera presentationen av de aktuella försäljningserbjudandena eller att göra reklam för erbjudandena” 35 .

Detta visar att enbart det faktum att en onlineplattform vidtar vissa åtgärder kopplade till tillhandahållandet av sina tjänster på ett allmänt sätt inte nödvändigtvis innebär att den spelar en aktiv roll när det gäller innehållet i de olika poster som den lagrar, och att onlineplattformen inte kan dra fördel av undantaget från ansvar på grund av detta. Enligt kommissionens uppfattning kan – och bör – sådana åtgärder dessutom omfatta proaktiva åtgärder för att upptäcka och avlägsna olagligt innehåll på internet, i synnerhet om åtgärderna vidtas som en del av tillämpningen av onlineplattformens tjänstevillkor. Detta kommer att vara i linje med den balans mellan olika intressen som e-handelsdirektivet strävar efter att uppnå 36 . Kommissionen påminner om att det är i alla berörda parters intresse att anta och genomföra snabba och tillförlitliga förfaranden för att ta bort olaglig information och göra den oåtkomlig 37 . Även om direktivet utesluter att onlineplattformar är tvungna att delta i ett allmänt aktivt faktasökande 38 erkänner det också vikten av frivilliga åtgärder. 39  

För det andra kan tjänsteleverantörer som omfattas av artikel 14 i e-handelsdirektivet endast dra fördel av undantaget från ansvar på två villkor, nämligen att a) tjänsteleverantören inte hade kännedom om förekomsten av olaglig verksamhet eller olaglig information och, beträffande skadeståndsanspråk, inte var medveten om fakta eller omständigheter som gjort förekomsten av den olagliga verksamheten eller den olagliga informationen uppenbar, eller b) tjänsteleverantören så snart han fått sådan kännedom eller blivit medveten om detta handlat utan dröjsmål för att avlägsna informationen eller göra den oåtkomlig.

Domstolen har förtydligat att dessa villkor avser ”alla fall då [...] [onlineplattformen] på ett eller annat sätt blir medveten om sådana fakta eller omständigheter” [...] ”som borde ha föranlett en försiktig näringsidkare att inse att verksamheten var olaglig” och att detta inkluderar – förutom anmälan av en tredje part – den situation där plattformen ”upptäcker att det förekommer olaglig verksamhet eller olaglig information efter en undersökning som gjorts på eget initiativ, samt det fall då vederbörande upplysts om sådan verksamhet eller information” 40 . 

Följden är att proaktiva åtgärder som vidtas av en onlineplattform för att upptäcka och avlägsna olagligt innehåll kan leda till att plattformen får kännedom eller blir medveten om olaglig verksamhet eller olaglig information, vilket skulle kunna leda till förlust av undantaget från ansvar i enlighet med artikel 14.1 a i e-handelsdirektivet. I detta fall fortsätter dock onlineplattformen att kunna agera skyndsamt för att ta bort eller göra informationen i fråga oåtkomlig, i samband med att den får kännedom om eller blir medveten om informationen. Om onlineplattformen gör detta fortsätter den att dra fördel av undantaget från ansvar enligt artikel 14.1 b. Därför bör oro för att förlora förmånen med undantag från ansvar inte avskräcka eller hindra vidtagande av proaktiva, frivilliga åtgärder som detta meddelande strävar efter att uppmuntra.

11.Användning av teknik för att upptäcka olagligt innehåll

Med hänsyn tagen till den mängd material som förmedlas av onlineplattformar, liksom den tekniska utvecklingen inom informationsbehandling och maskinintelligens, håller användning av teknik för automatisk upptäckt och filtrering på att bli ett allt viktigare verktyg i kampen mot olagligt innehåll på internet. Många stora plattformar använder nu någon typ av matchningsalgoritmer, baserade på flera olika sorters teknik, från enkel metadatafiltrering till att hasha och ta fingeravtryck på innehållet.

I e-handelsdirektivet förtydligas att bestämmelserna om ansvar inte hindrar utveckling och effektiv drift av tekniska skydds- och identifieringssystem och av tekniska övervakningsinstrument som gjorts möjliga genom digital teknik. 41 I direktivet klargörs också att sådan verksamhet dock måste äga rum inom gränserna för EU:s och den nationella lagstiftningens tillämpliga regler, i synnerhet vad gäller skyddet av integritet och personuppgifter och förbudet för medlemsstaterna mot att införa allmänna övervakningsskyldigheter 42 .

Sektorsspecifik lagstiftning kan fastställa obligatoriska regler för onlineplattformar för vidtagande av åtgärder exempelvis angående upphovsrätt, för att bidra till upptäckt och borttagning av olagligt innehåll, också när de omfattas av undantaget från ansvar enligt artikel 14 i e-handelsdirektivet.

Mer generellt uppmuntras användning och ytterligare utveckling av sådan teknik i synnerhet om det finns risk för allvarlig skada, enligt Europeiska rådets slutsatser den 22 juni 2017 43 . Automatiska verktyg och filter kan användas för att identifiera innehåll som potentiellt utgör överträdelser, och privat och offentlig forskning gör framsteg när det gäller utveckling av sådana verktyg. På området upphovsrätt har till exempel automatisk innehållsigenkänning under flera år visat sig vara ett effektivt verktyg.

Kommissionen stödjer ytterligare forskning och innovativa strategier som går längre än den teknik som är känd i dag, med målet att förbättra noggrannheten för tekniska medel som identifierar olagligt innehåll 44 . Den uppmuntrar också branschen att säkerställa en effektiv användning av innovationer som kan bidra till ökad effektivitet för processer för automatisk upptäckt.

I de flesta fall är aktuell bästa praxis i branschen att använda automatiska verktyg för att begränsa mängden omtvistat innehåll för granskning av mänskliga experter, som sedan kan behöva bedöma om innehållet är olagligt. Denna princip om mänsklig inblandning är i allmänhet en viktig del i automatiska processer som söker fastställa olagligheten i ett givet innehåll, särskilt på områden där felfrekvensen är hög eller där kontextualisering krävs. 

12.Borttagning av olagligt innehåll 

45 Det ligger i hela samhällets intresse att plattformarna tar bort olagligt innehåll så snart som möjligt. Samtidigt bör borttagning av sådant innehåll inte hindra åtal eller annan uppföljning av ett eventuellt underliggande lagbrott. Bevisdelning mellan offentliga myndigheter och onlineplattformar är en viktig princip i detta avseende. Gränsöverskridande åtkomst till bevis bör underlättas genom det förestående lagstiftningsinitiativet i denna fråga. Plattformarnas borttagning av olagligt innehåll bör inte påverka utredningar av eller åtal för överträdelser baserade på europeisk eller nationell lagstiftning.

Robusta skyddsmekanismer för att begränsa risken för borttagning av lagligt innehåll bör också finnas, med stöd av meningsfulla transparenskrav för att öka ansvaret i borttagningsprocessen.

13.Säkerställande av skyndsam borttagning och rapportering av brott till brottsbekämpande myndigheter

Enligt e-handelsdirektivet måste onlineplattformar agera ”skyndsamt” för att ta bort olagligt innehåll när de har fått kännedom om det, om de vill fortsätta att dra nytta av undantaget från ansvar. Vad detta innebär i praktiken beror på de närmare detaljerna i det aktuella fallet, i synnerhet typen av olagligt innehåll, riktigheten i anmälan och den skada som eventuellt orsakats.

I praktiken kräver olika typer av innehåll olika mängd kontextuell information för att avgöra lagligheten i en given innehållspunkt. Samtidigt som det är enklare att avgöra olagligheten i barnpornografi krävs det i allmänhet en noggrann analys av sammanhanget för att fastställa om nedsättande yttranden är olagliga.

Om det finns risk för allvarliga skador, till exempel i fall med uppmaning till terrorhandlingar, är det särskilt viktigt med ett skyndsamt avlägsnande, vilket kan omfattas av särskilda tidsramar.

En del frivilliga processer, som uppförandekoden för att motverka olaglig hatpropaganda online, ger vägledning om tiderna för borttagning. När det gäller denna uppförandekod anges 24 timmar i de flesta fall.

Helt automatiserad radering eller bortkoppling av innehåll kan vara särskilt effektiv och bör tillämpas om omständigheterna gör att det knappast råder någon tvekan om materialets olaglighet, till exempel i fall med material vars avlägsnande meddelas av brottsbekämpande myndigheter, eller där känt olagligt innehåll har avlägsnats tidigare på grund av de skyddsmekanismer som avses i avsnitt 4.3.

Som en allmän regel gäller att borttagning som härrör från anmälningar från betrodda anmälare bör göras snabbare, beroende på den lämnade informationens kvalitet och riktighet och de betrodda flaggarnas status.

I fall där det finns risk för ekonomisk skada på grund av överträdelse av immateriella rättigheter kan den potentiella ekonomiska skadan som uppstår på grund av en sådan överträdelse vara nära relaterad till hur snabbt innehållet avlägsnas.

Tydlig rapportering av plattformarna om den tid som det tar att behandla en begäran om borttagning, beroende på typen av innehåll, kommer att förenkla bedömningen av skyndsamheten för den vidtagna åtgärden och öka plattformarnas ansvar i vidare mening. 

I vissa fall, i synnerhet om onlineplattformarna anser att det är svårt att bedöma lagligheten i ett visst innehåll och det gäller ett potentiellt omtvistat beslut, skulle de kunna gynnas av att lämna över tveksamma fall till en tredje part för att få råd. Självreglerande organ eller behöriga myndigheter spelar denna roll i olika medlemsstater. Ett sådant samarbete uppmuntras starkt som en del av ett förstärkt samarbete mellan onlineplattformar och behöriga myndigheter.

46 Slutligen bör onlineplattformarna rapportera till brottsbekämpande myndigheter så snart de blir medvetna om eller stöter på bevis på brottsliga eller andra överträdelser för att varna och göra det möjligt för relevanta myndigheter att utreda och åtala de individer som genererar ett sådant innehåll, eller missbruk av tjänsterna av organiserade kriminella grupper eller terroristgrupper. När de gör detta skulle de uppfylla tillämpliga rättsliga krav, inbegripet förordning (EU) 2016/679 om skydd av personuppgifter. Detta kan också vara lämpligt i fall med utbjudning och försäljning av produkter och affärsmetoder som inte uppfyller EU:s lagstiftning.

Behovet att samarbeta med brottsbekämpande myndigheter vid utredning och lagföring av brott kan dessutom i vissa fall leda till att plattformar avstår från att ta bort olagligt innehåll, om detta krävs inom ramen för en särskild pågående utredning, under nära överinseende av nationella myndigheter och helt i överensstämmelse med nationella regler för brottsmålsprocesser.

47 48 49 Brottsbekämpande myndigheter bör bygga upp den kapacitet som krävs för att vidta lämpliga åtgärder till följd av dessa rapporter. Ett exempel på bästa praxis när det gäller kontaktpunkter är SIRIUS-portalen som upprättats av Europol för att stödja medlemsstaterna i samband med utredningar om terrorismbekämpning online, inbegripet att underlätta samarbetet mellan plattformarna och EU:s brottsbekämpning.

14.Öka insynen 

15.Insyn i onlineplattformarnas innehållspolicy

Frågan om innehåll är lagligt eller olagligt regleras av EU-lagstiftning och nationell lagstiftning. Samtidigt kan onlineplattformarnas egna tjänstevillkor anse särskilda typer av innehåll vara oönskade eller tvivelaktiga.

50 Onlineplattformarna bör offentliggöra sina detaljerade innehållspolicyer i tjänstevillkoren och tydligt informera sina användare om dem. Dessa villkor bör inte bara definiera policyn för borttagning eller bortkoppling av innehåll, utan också redogöra för de skyddsmekanismer som ser till att innehållsrelaterade åtgärder inte leder till överborttagning. Onlineplattformarnas tjänstevillkor bör i synnerhet redogöra tydligt och detaljerat för eventuella möjligheter för användarna att bestrida beslut om borttagning, som en del av en utökad insyn i plattformarnas allmänna policyer för borttagning. Detta bör bidra till att minska en eventuell negativ effekt på användarnas grundläggande rätt till yttrandefrihet och informationsfrihet.

16.Insyn i förfaranden för anmälan och åtgärd

Rapporteringen om öppenhet och insyn bör dessutom omfatta resultatet av tillämpningen av plattformarnas policyer för hantering av innehåll.

Med vederbörlig hänsyn tagen till innehållsspecifika skillnader skulle dessa rapporter om öppenhet och insyn gynnas av viss standardisering över den digitala inre marknaden. Detta skulle ge bättre övervakning, underlätta den elektroniska sammanställningen av sådan information och skulle kunna bidra till att undvika onödiga hinder för tillhandahållande över gränserna av värdtjänster.

Särskild uppmärksamhet bör riktas mot att göra det möjligt för mindre onlineplattformar samt små och medelstora företag att tillhandahålla sådana uppgifter om öppenhet och insyn, och stödjande verksamhet som standardisering bör säkerställa att de administrativa bördorna hålls till ett minimum.

Kommissionen kommer, i strukturerade dialoger med branschen, att ytterligare undersöka möjligheterna till standardisering med avseende på anmälningsrutiner och rapportering om transparens vad gäller system för och resultat av borttagning.

17.Skyddsmekanismer mot överborttagning och missbruk av systemet

Skyndsamma åtgärder, däribland filtreringsåtgärder vid uppladdning eller automatiserad upptäckt för att säkerställa att olagligt innehåll tas bort snabbt, i synnerhet om det inte finns någon ”mänsklig inblandning”, kan påverka beslutets riktighet, inklusive risken att lagligt innehåll avlägsnas. Det är därför viktigt att se till att det finns tillräckliga skyddsmekanismer så att innehåll som tagits bort felaktigt kan återställas.

18.Bestrida en anmälan

I allmänhet bör de som tillhandahåller innehållet ges möjlighet att bestrida detta beslut via en motanmälan. Detta gäller också om borttagningen av innehållet varit automatiserad.

Enligt artikel 28a i förslaget till ändring av AVMSD måste medlemsstaterna exempelvis garantera att det finns klagomåls- och prövningsmekanismer för tvistlösning mellan användare och plattformar som delar videoinnehåll när det gäller tillämpning av lämpliga åtgärder som ska vidtas av dessa plattformar.

Om det i en motanmälan tillhandahålls rimliga skäl för att anse att den anmälda verksamheten eller informationen inte är olaglig bör leverantören av plattformen återställa det innehåll som tagits bort utan otillbörligt dröjsmål, eller låta användaren ladda upp innehållet på nytt, utan att detta påverkar tillämpningen av plattformens tjänstevillkor.

Möjligheten att bestrida beslut bör leda till en minskning av antalet oberättigade borttagningar av lagligt innehåll och skulle också kunna fungera som skriftliga bevis för mekanismer för tvistlösning utanför domstol eller för rättsliga överklagandeförfaranden.

Under vissa omständigheter skulle det inte vara lämpligt att informera leverantören av innehållet och/eller att tillåta en motanmälan – i synnerhet om detta skulle störa utredningsbefogenheterna för myndigheter i medlemsstaterna som är nödvändiga för att förhindra, upptäcka och lagföra straffbara gärningar, till exempel beträffande barnpornografi.

19.Åtgärder mot anmälningar i ond tro och motanmälningar

52 Ibland kan förfaranden för anmälan och åtgärd missbrukas med dålig praxis eller i ond tro. En sådan praxis bör motverkas till varje pris, till exempel genom att nedgradera prioriteten vid behandling av anmälningar från en leverantör som skickar en stor mängd ogiltiga anmälningar, eller tar emot ett stort antal motanmälningar, eller genom att återkalla statusen som betrodd anmälare enligt väletablerade och transparenta kriterier. Dessa policyer bör beskrivas tydligt i onlineplattformarnas tjänstevillkor och vara en del av plattformarnas allmänna rapportering om öppenhet och insyn, för att öka det offentliga ansvaret. Liknande åtgärder bör finnas när det gäller missbrukande motanmälningar.

20.Förhindra att olagligt innehåll kommer tillbaka

Olagligt innehåll bör inte komma tillbaka online när det har upptäckts och tagits bort. Det är mycket viktigt för ett välfungerande system att borttaget innehåll på ett effektivt sätt hindras från att komma tillbaka, med utgångspunkt i befintlig god praxis liksom lämpliga skyddsmekanismer. Att förhindra att olagligt material sprids över plattformar kräver närmare samarbete mellan tjänsteleverantörerna på internet, och att tillämpliga regler i konkurrenslagstiftningen följs till fullo. Det är också viktigt att öka brottsbekämpande myndigheters samarbete med små, mindre motståndskraftiga företag, som kan bli den plattform som föredras av brottslingar eller andra personer som är involverade i onlineverksamhet som utgör en överträdelse, om dessa företag bedöms som mer sårbara än andra.

21.Åtgärder mot användare som gör sig skyldiga till upprepade överträdelser

53 För att undvika att olagligt innehåll kommer tillbaka genom att användare postar innehåll som utgör en överträdelse och som är av samma typ om och om igen har många onlineplattformar redan vidtagit åtgärder mot sådana användare som gör sig skyldiga till upprepade överträdelser, till exempel att konton stängs av tillfälligt eller avslutas eller genom åtgärder för shadow-banning.

Detta bör även gälla om den person som gör sig skyldig till överträdelserna är densamma och substansen i innehållet i fråga är av samma slag och – om det är berättigat – användaren har underrättats utan dröjsmål om anmälan/anmälningarna mot honom/henne och om den förestående avstängningen eller det förestående avslutandet. Detta skulle göra det möjligt för användaren att bestrida beslutet och underlätta möjligheten till rättslig prövning mot åtgärden, om detta är lämpligt enligt avtalet mellan användaren och plattformen och gällande lagstiftning. I sådana fall måste dessutom eventuell behandling av personuppgifter till fullo följa relevanta dataskyddsregler.

Återigen, ingen information bör lämnas och ingen anmälan bör göras av leverantören av innehållet om detta skulle störa de utredningsbefogenheter i medlemsstaterna som krävs för att förhindra, upptäcka och lagföra straffbara gärningar, om det finns en nödvändig laglig grund.

22.Automatiska filter mot återuppladdning

Vid sidan av den teknik som används för att identifiera potentiellt olagligt innehåll som nämns i avsnitt 3.3 kan tekniska verktyg användas med en högre grad av tillförlitlighet för att ta fingeravtryck på och filtrera bort (ta bort och hålla borta) innehåll som redan har identifierats och bedömts vara olagligt. Kommissionen uppmuntrar därför starkt vidare användning av sådana verktyg med skyddsmekanismer som omvändbarhet och undantag enligt vad som anges nedan.

Detta är vad som för närvarande sker med ”Database of Hashes” som används med avseende på terroristiskt innehåll och som utvecklats inom ramen för EU:s internetforum, eller på upphovsrättsområdet, eller för barnpornografi, men också för produkter som har flaggats av brottsbekämpande myndigheter som icke överensstämmande med relevant lagstiftning. Denna praxis har visat goda resultat. Dess effektivitet är dock beroende av ytterligare förbättringar för att begränsa felaktig identifiering av innehåll och för att underlätta kontextmedvetna beslut, liksom de nödvändiga skyddsmekanismerna för omvändbarhet.

Kommissions förslag om upphovsrätt på den digitala inre marknaden, som bygger på praxis från upphovsrättsområdet inom automatisk igenkänning av innehåll, erkänner exempelvis sådan teknik – så länge den är lämplig och proportionerlig – som möjligt medel, bland annat för att förhindra tillgången av icke licensierat innehåll på relevanta onlinetjänster.

Automatiska processer för att hålla borta visst innehåll bör tillåta kontextrelaterade undantag och att innehåll som tagits bort ändras och görs överensstämmande med rättsliga eller andra krav. Omfattningen och valet av tidpunkt för kontextrelaterade undantag bör ta hänsyn till den specifika typen av innehåll och eventuella säkerhetshot, liksom till möjligheten att tillfälligt stänga av sådant innehåll i väntan på en mer djupgående bedömning.

Onlineplattformarna bör dessutom säkerställa kontinuerlig uppdatering av sina verktyg för att garantera att allt olagligt innehåll fångas upp, allt eftersom taktik och beteende ändras hos brottslingar och andra personer som deltar i onlineverksamhet som utgör en överträdelse. Om verktyg används för terroristiskt innehåll bör dessa anpassas för att fånga upp nytt och historiskt innehåll, för att säkerställa att det granskas och tas bort snabbt. Sådant innehåll bör läggas till plattformsöverskridande verktyg, till exempel den nämnda ”Database of Hashes” (som för närvarande används med avseende på terroristiskt innehåll). En sådan teknisk utveckling bör äga rum i samarbete mellan onlineplattformarna, behöriga myndigheter och andra intressenter, inklusive civila samhället.

23.Slutsatser

Ökningen av olagligt innehåll som lagras på onlineplattformar gör verklig skada i samhället, även i form av risker för våra medborgares integritet, värdighet och hälsa. Om vi inte tar itu med detta kommer dessa skador att underminera tilltron till digitala tjänster i vidare mening och till slut till den digitala inre marknaden – ett viktigt verktyg för innovation, tillväxt och sysselsättning. Även om sådant innehåll skapas och laddas upp av tredje part gör onlineplattformarnas ständigt ökande påverkan i samhället – som beror på deras roll som portvakt för innehåll och information – att deras ansvar ökar gentemot användarna och samhället i stort. De bör därför vara proaktiva när det gäller att rensa ut olagligt innehåll, förhindra att det kommer tillbaka, införa effektiva processer för anmälan och åtgärd och välfungerande gränssnitt mot tredje part (t.ex. betrodda anmälare), och ge särskild prioritet till anmälningar från nationella brottsbekämpande myndigheter. Om onlineplattformarna avgör vilket innehåll som bör betraktas som olagligt, i enlighet med lagstiftningen, bör lämpliga kontroller och avvägningar införas.

I detta meddelande ges vägledning. Det ändrar inte i sig det tillämpliga juridiska ramverket och det innehåller inga rättsligt bindande regler. Det huvudsakliga syftet med meddelandet är att vägleda onlineplattformarna i fråga om de olika sätt som de kan använda för att leva upp till sitt ansvar när det gäller hantering av det olagliga innehåll som de står värd för. Det har också som syfte att främja god praxis vad gäller förfaranden för olika typer av olagligt innehåll, och att främja ett närmare samarbete mellan plattformar och behöriga myndigheter. I meddelandet anges huvuddragen för en europeisk strategi för onlineplattformars hantering av olagligt innehåll, vilken kombinerar behovet av snabba och effektiva borttagningar av olagligt innehåll och förhindrande och lagföring av brott med skyddsmekanismer för rätten till yttrandefrihet online. Denna vägledning kommer att komplettera och förstärka de pågående sektorsspecifika dialogerna.

Särskild uppmärksamhet bör ägnas åt att säkerställa att mindre onlineplattformar kan införa dessa förfaranden, och många delar i detta meddelande har kommit till med tanke på deras särskilda behov. Inte desto mindre kommer kommissionen att undersöka ytterligare medel för att stödja också mindre plattformars användning av vägledningen.

Den digitala inre marknaden kräver större sammanhållning när det gäller offentligt policygensvar över geografiska gränser. Med detta meddelande tillhandahåller kommissionen således – som ett första steg – gemensamma verktyg för att hantera den kollektiva utmaning som avlägsnande av olagligt innehåll innebär.

(1)

För närvarande händer följande – varje sekund: ungefär 8 000 tweetar postas på Twitter, 1 000 fotografier läggs upp på Instagram, det görs 60 000 sökningar på Google och 70 000 YouTube-videor visas. Se http://www.internetlivestats.com/    

(2)

Se avsnitt 2.

(3)

Europeiska rådets slutsatser, ST 8 2017 INIT, den 22 och 23 juni 2017, G7:s Taormina-uttalande, den 26 maj 2017 och G20-ledarnas deklaration, den 8 juli 2017.

(4)

Europaparlamentets resolution av den 15 juni 2017 om onlineplattformar (2016/2274(INI)).

(5)

Informationen som presenteras här kommer från ett stort antal både offentliga och riktade samråd och seminarier med intressenter,

(6)

Se den nya rapporten från kommissionen till Europaparlamentet och rådet om bedömning av genomförandet av de åtgärder som avses i artikel 25 i direktiv 2011/93/EU av den 13 december 2011 om bekämpande av sexuella övergrepp mot barn, sexuell exploatering av barn och barnpornografi.

(7)

Terrorismdirektivet (EU) 2017/541 förpliktigar medlemsstaterna att vidta nödvändiga åtgärder för att säkerställa snabb borttagning av onlineinnehåll som uppmanar till att begå terrorhandlingar (artikel 21). På detta område tar plattformarna, mot bakgrund av EU:s internetforum, frivilligt bort terroristiskt innehåll baserat på hänvisningar som skickas av Europols enhet för anmälan av innehåll på internet (IRU).

(8)

COM(2016) 593.

(9)

COM(2016) 287.

(10)

http://ec.europa.eu/justice/fundamental-rights/files/hate_speech_code_of_conduct_en.pdf

(11)

http://europa.eu/rapid/press-release_IP-15-6243_en.htm

(12)

http://ec.europa.eu/transparency/regdoc/rep/3/2016/EN/3-2016-3724-EN-F1-1.PDF

(13)

EUT C 250, 1 augusti 2017.

(14)

  http://ec.europa.eu/environment/cites/pdf/WAP_EN_WEB.pdf  

(15)

SWD(2016) 163 av den 25 maj 2016.

(16)

http://ec.europa.eu/internal_market/scoreboard/performance_by_governance_tool/consumer_protection_cooperation_network/index_en.htm

(17)

Meddelande COM(2012) 196 final (bättre internet för barn): https://ec.europa.eu/digital-single-market/en/alliance-better-protect-minors-online  

(18)

COM(2016) 288 och COM(2017) 228.

(19)

  http://europa.eu/rapid/press-release_IP-17-1471_sv.htm  

(20)

http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=71674

(21)

http://europa.eu/rapid/press-release_IP-17-544_en.htm

(22)

http://www.inhope.org/Libraries/Annual_reports/INHOPE_Annual_Report_2015.sflb.ashx?download=true

(23)

E-handelsdirektivet 2000/31/EG av den 8 juni 2000.

(24)

Det bör observeras att enligt e-handelsdirektivet drar endast de leverantörer av informationssamhällets tjänster fördel av undantaget från ansvar enligt artiklarna 12–14 som kvalificerar sig som tjänstelevererande mellanhänder (dvs. som tillhandahåller tjänster för vidarebefordran eller cachning eller värdtjänster). Skäl 42 klargör att för att verksamhet ska omfattas av undantaget från ansvar måste den vara ”av rent teknisk, automatisk och passiv natur, vilket innebär att tjänsteleverantören varken har kännedom om eller kontroll över vidarebefordrad eller lagrad information”.

(25)

De flesta onlineplattformar erbjuder värdtjänster för innehåll som laddas upp av deras användare.

(26)

Skäl 40 i e-handelsdirektivet. Observera att detta meddelande fokuserar på leverantörer av värdtjänster, snarare än på tjänsteleverantörer av enbart vidarebefordran (artikel 12) eller cachning (artikel 13).

(27)

En värdtjänst är en av informationssamhällets tjänster som består av lagring av information som tillhandahålls av mottagaren av tjänsten. Denna kategori kan omfatta en mängd olika aktörer, från marknadsplatser online, videodelningsplattformar, sociala nätverk, bloggar eller recensionswebbplatser till användares kommentarsavsnitt på nyhetssidor.

(28)

Exempel på områden som omfattas (eller föreslås) enligt EU:s lagstiftning är uppmaning till terrorism, olaglig hatpropaganda, sexuella övergrepp mot barn, immaterialrätt, produktsäkerhet, utbjudande och försäljning av livsmedel och tobaksvaror och förfalskade mediciner, konsumentskyddsregler och produktsäkerhetsåtgärder etc. Kommissionen förtydligade dessutom 2016 onlineplattformarnas skyldigheter när det gäller transparens och god yrkessed enligt direktiv 2005/29/EG om otillbörliga affärsmetoder när plattformarna agerar som näringsidkare gentemot konsumenter.

(29)

I förslaget till revidering av direktivet om audiovisuella medietjänster hanteras i detta sammanhang audiovisuellt innehåll.

(30)

Artikel 14.3 i e-handelsdirektivet förtydligar att artikel 14 inte ska ”påverka möjligheten för en domstol eller administrativ myndighet att i enlighet med medlemsstaternas rättssystem kräva att tjänsteleverantören upphör med eller förhindrar en överträdelse”. I direktiv 2004/48/EG om säkerställande av skyddet för immateriella rättigheter fastställs till exempel i artikel 11 att ”[m]edlemsstaterna skall även se till att rättighetshavare har möjlighet att begära ett föreläggande mot mellanhänder vars tjänster utnyttjas av tredje man för att göra intrång i en immateriell rättighet, utan att det påverkar tillämpningen av artikel 8.3 i direktiv 2001/29/EG”.

(31)

I artikel 15.2 i e-handelsdirektivet slås fast att ”[m]edlemsstaterna kan fastställa skyldigheter för leverantörer av informationssamhällets tjänster att omedelbart informera de behöriga myndigheterna om påstådda olagliga verksamheter som utförts eller olaglig information som tillhandahållits av mottagarna av deras tjänster eller att till behöriga myndigheter på deras begäran lämna information som gör det möjligt att identifiera de mottagare av deras tjänster med vilka de ingått lagringsavtal”.

(32)

I den mening som avses i artikel 5 i direktiv (EU) 2017/541 om bekämpande av terrorism.

(33)

Skäl 42 i e-handelsdirektivet. Se Google France, 114 och 120, dom av den 12 juli 2011, mål C324/09, L'Oréal mot eBay, par. 113.

(34)

eBay 115.

(35)

eBay 116.

(36)

Skäl 41 i e-handelsdirektivet.

(37)

Skäl 40 i e-handelsdirektivet.

(38)

Artikel 15.1 i e-handelsdirektivet.

(39)

Skäl 40 i e-handelsdirektivet.

(40)

eBay 120–121.

(41)

Skäl 40 i e-handelsdirektivet.

(42)

Skäl 40 och artikel 15.1 i e-handelsdirektivet.

(43)

http://www.consilium.europa.eu/en/press/press-releases/2017/06/22-euco-security-defence/

(44)

Nuvarande FoI-satsningar som används i branschen är inriktade mot utveckling av analytiska verktyg för en bättre förståelse av naturligt språk, informationskaskader i sociala nätverk, identifiering av informationskällor, spridningsmönster och falska identiteter. Kommissionen har också gett stöd till FoI inom detta område genom finansiering av projekt som syftar till att utveckla automatiska verifieringsverktyg för kontroll av sanningshalten i användargenererat innehåll på sociala nätverk. Dessa verktyg kan hjälpa till att identifiera potentiella osanningar i texter, bilder eller videor och stödja spårning av falska nyheter. Att fastställa om sådant innehåll är olagligt ligger dock utanför deras aktuella funktionella förmåga.

(45)

Se https://ec.europa.eu/info/law/better-regulation/initiatives/ares-2017-3896097_en och https://ec.europa.eu/home-affairs/what-we-do/policies/organized-crime-and-human-trafficking/e-evidence_en för mer information.

(46)

Artikel 6.1 c jämförd med artikel 6.4.

(47)

Enligt artikel 15.2 i e-handelsdirektivet ”kan [medlemsstaterna] fastställa skyldigheter för leverantörer av informationssamhällets tjänster att omedelbart informera de behöriga myndigheterna om påstådda olagliga verksamheter som utförts eller olaglig information som tillhandahållits av mottagarna av deras tjänster eller att till behöriga myndigheter på deras begäran lämna information som gör det möjligt att identifiera de mottagare av deras tjänster med vilka de ingått lagringsavtal”.

(48)

Shaping Internet Research Investigations Unified System.

(49)

Europol kommer ytterligare att underlätta inrättandet av nya gemensamma kontaktpunkter genom att tillhandahålla relevant utbildning till brottsbekämpande myndigheter i länder där gemensamma kontaktpunkter ännu inte har etablerats.

(50)

Om personuppgifter behandlas ska plattformarna garantera transparenta sekretesspolicyer enligt artikel 12 i allmänna dataskyddsförordningen.

(51)

Rapportering om egna utredningar, allmänna användaranmälningar, anmälningar av brottsbekämpande myndigheter etc.

(52)

Det finns belägg för att sådan information används av konkurrenter (Notice and Takedown in Everyday Practice, J Urban m.fl., UC Berkeley, 2016) och att praxis med automatiserad generering av anmälningar har missbrukats för att länka till artificiellt skapat innehåll (Google Transparency report).

(53)

”Shadow-banning” är blockering av en användare från ett onlinesamhälle på ett sådant sätt att användaren inte inser att han/hon har blivit blockerad.