MEDDELANDE FRÅN KOMMISSIONEN

Kommissionens riktlinjer för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer om begränsning av systemrisker för valprocesser i enlighet med artikel 35.3 i förordning (EU) 2022/2065

(Text av betydelse för EES)

(C/2024/3014)

1. INLEDNING

1.1. Syfte och rättslig grund

Onlineplattformar och onlinesökmotorer har blivit viktiga utrymmen för offentlig debatt och verktyg för att forma den allmänna opinionen och väljarnas beteende. Genom förordning (EU) 2022/2065 (förordningen om digitala tjänster) blir leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer (1) skyldiga att utföra särskilda riskbedömningar och införa rimliga, proportionella och effektiva riskbegränsningsåtgärder, även för ”[e]ventuella faktiska eller förutsebara negativa effekter på samhällsdebatten och valprocesser” (2).

Enligt artikel 35.3 i förordning (EU) 2022/2065 får kommissionen utfärda riktlinjer om de riskbegränsningsåtgärder som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer ska vidta med avseende på specifika risker. Riktlinjerna får antas särskilt för att beskriva bästa praxis och rekommendera tänkbara åtgärder, med vederbörlig hänsyn till de konsekvenser som åtgärderna kan ha på de grundläggande rättigheterna enligt Europeiska unionens stadga om de grundläggande rättigheterna (stadgan) för alla berörda parter.

Många olika fenomen som involverar onlineplattformar och onlinesökmotorer ökar riskerna för valintegriteten. Som exempel kan nämnas spridningen av olaglig hatpropaganda på nätet, hot kopplade till utländsk informationsmanipulering och inblandning och det bredare fenomenet desinformation, spridningen av (våldsbejakande) extremistiskt innehåll och radikaliserande innehåll samt spridningen av innehåll som genererats med hjälp av ny teknik såsom generativ artificiell intelligens (AI) (3). Med tanke på att flera val planeras i EU under de närmaste månaderna, däribland det stundande valet till Europaparlamentet 2024, innehåller det här dokumentet vägledning som ska hjälpa leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att i tillämpliga fall försäkra sig om att de uppfyller sin skyldighet att begränsa specifika risker i samband med valprocesserna. Vägledningen kommer dock att behålla sin allmänna relevans även efter dessa val.

De åtgärder som mycket stora onlineplattformar och mycket stora onlinesökmotorer vidtar i enlighet med förordning (EU) 2022/2065, däribland alla åtgärder i dessa riktlinjer som vidtas för att begränsa de negativa effekterna på valprocesserna, bör vidtas med särskild hänsyn till skyddet av de grundläggande rättigheter som fastställs i stadgan, bland annat människans värdighet, respekten för privatlivet och familjelivet, skyddet av personuppgifter, yttrande- och informationsfriheten, inbegripet mediernas frihet och mångfald, föreningsfriheten och näringsfriheten. Leverantörerna bör ta vederbörlig hänsyn till åtgärdernas potentiella inverkan på de grundläggande rättigheterna för alla berörda parter, inbegripet utsatta grupper, och se till att åtgärderna är tillgängliga och inkluderande.

I de här riktlinjerna tas redan hänsyn till de kommande skyldigheter som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer åläggs genom förordning (EU) 2024/900 om transparens och inriktning när det gäller politisk reklam (förordningen om politisk reklam) (4) och den kommande förordningen om harmoniserade regler för artificiell intelligens (AI-akten) (5), som båda håller på att antas av EU:s lagstiftare. Hänsyn tas även till de frivilliga åtaganden som berörda leverantörer har gjort inom ramen för AI-pakten för att börja fullgöra skyldigheterna enligt AI-akten redan innan förordningen börjar tillämpas (6). När dessa rättsligt bindande regler börjar tillämpas blir leverantörerna av mycket stora onlineplattformar och mycket stora onlinesökmotorer skyldiga att följa dem i tillämplig utsträckning.

Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer ska fullgöra sina skyldigheter enligt förordning (EU) 2022/2065. De här riktlinjerna bör ses som en hjälp till sådana leverantörer i deras arbete med att fullgöra skyldigheten enligt artikel 35 i den förordningen när det gäller risker i samband med valprocesser. Utöver skyldigheten att införa rimliga, proportionella och effektiva begränsningsåtgärder för risker i samband med valprocesser i enlighet med artikel 35 i förordning (EU) 2022/2065 måste leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer uppfylla alla andra rättsliga skyldigheter i förordning (EU) 2022/2065 som kan vara relevanta för val. Det gäller bland annat artiklarna 14 och 17 om allmänna villkor och motivering, artiklarna 27 och 38 om rekommendationssystem, artiklarna 36 och 48 om krisresponsmekanismer och krisprotokoll, artiklarna 15, 24, 37 och 42 om transparens och oberoende revisioner, artiklarna 26 och 39 om transparens vad gäller annonsering online samt artikel 40 om dataåtkomst och granskning.

Systemrisker för valprocesserna kan också uppstå genom förstärkning och potentiellt snabb och omfattande spridning av innehåll som är olagligt enligt EU-lagstiftningen eller medlemsstaternas lagstiftning, t.ex. hot, våldsbejakande extremistiskt innehåll och terrorisminnehåll eller olaglig hatpropaganda eller trakasserier på nätet mot politiska kandidater eller befattningshavare, journalister, valarbetare eller andra som deltar i valprocessen. Därmed är det särskilt viktigt att beakta artiklarna 9, 10, 16 och 22 i förordning (EU) 2022/2065 som handlar om olagligt innehåll, allt från förelägganden om att agera mot sådant innehåll och att tillhandahålla information till mekanismer för anmälan och åtgärder samt bestämmelsen om betrodda anmälare.

1.2. Underlag för riktlinjerna och relaterade politiska initiativ

De här riktlinjerna bygger på en rad beredskapsdialoger om valintegritet som kommissionen, i samarbete med berörda nationella myndigheter, gjorde med flera leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer efter att förordning (EU) 2022/2065 trädde i kraft för de första 19 utsedda tjänsterna i slutet av augusti 2023 (7). För utarbetandet av den slutliga versionen av riktlinjerna anordnade kommissionen ett förberedande samråd (8), som inleddes den 8 februari 2024 och avslutades den 7 mars 2024, liksom riktade samråd i form av rundabordssamtal om ett utkast till riktlinjerna med bland annat civilsamhällesorganisationer och leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer. Vid färdigställandet av riktlinjerna samarbetade kommissionen dessutom med samordnarna för digitala tjänster genom möten i den europeiska nämnden för digitala tjänster.

I den mån det är relevant för att mycket stora onlineplattformar och mycket stora onlinesökmotorer ska uppfylla kraven i förordning (EU) 2022/2065 återspeglar riktlinjerna också flera åtaganden och åtgärder för att minska spridningen av desinformation online vilka ingår i uppförandekoden om desinformation (9), den första globala branschledda ramen på det digitala området och en källa till bästa praxis för att hantera desinformation inom branschen. De tar också hänsyn till EU-institutionernas och medlemsstaternas arbete mot utländsk informationsmanipulering och inblandning, främst den övergripande ram som utgörs av EU:s verktygslåda för hantering av utländsk informationsmanipulering och inblandning och Europeiska utrikestjänstens nya rapport om hot i form av utländsk informationsmanipulering och inblandning (10), som fokuserar på hur detta fenomen hanteras i samband med val.

10.

Dessa riktlinjer kompletterar kommissionens policyer på området demokrati och fria, rättvisa och motståndskraftiga val, bland annat EU:s handlingsplan för demokrati från 2020 (11), det val- och integritetspaket som kommissionen lade fram 2021 (12) och paketet för försvar av demokratin från 2023 (13). De kompletterar också det arbete som gjorts inom det europeiska valsamarbetsnätverket (14) för att främja samarbete mellan nationella valnätverk av behöriga myndigheter. Paketet för försvar av demokratin innehåller bland annat omfattande rekommendationer till medlemsstaterna och nationella och europeiska politiska partier, politiska stiftelser och kampanjorganisationer om inkluderande och motståndskraftiga valprocesser i EU och om förstärkning av den europeiska karaktären av val till Europaparlamentet och effektivisering av deras genomförande (15). Som anges i rekommendationerna kommer kommissionen att rapportera om genomförandet av valet till Europaparlamentet. Beaktas bör även kommissionens meddelande om försvar av demokratin (16), som också innehåller en bedömning av riskerna för valprocesserna och samhällsdebatten i förhållande till bland annat genomförandet av EU:s handlingsplan för demokrati.

1.3. Innehåll

11.

Riktlinjerna har följande upplägg:

a)	I avsnitt 1 anges syftet och den rättsliga grunden, underlag och andra relaterade policyinitiativ samt strukturen för riktlinjerna.

b)	I avsnitt 2 anges riktlinjernas tillämpningsområde.

Avsnitt 3 innehåller den viktigaste vägledningen i sak om begränsningsåtgärder för att hantera systemrisker i samband med valprocesser. Det ingår specifika underavsnitt om stärkande av interna processer, riskbegränsningsåtgärder för valprocesser, begränsningsåtgärder som rör generativ AI, samarbete med EU och nationella myndigheter, oberoende experter och civilsamhällesorganisationer, processen för att införa riskbegränsningsåtgärder under och efter ett val samt specifik vägledning för val till Europaparlamentet.

d)	I avsnitt 4 anges nästa steg och slutsatser.

2. RIKTLINJERNAS TILLÄMPNINGSOMRÅDE

12.

Riktlinjerna riktar sig till leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer vars tjänster innebär risker för faktiska eller förutsebara negativa effekter på valprocesser till följd av utformningen eller användningen av tjänsterna eller hur tjänsterna fungerar, i den mening som avses i artikel 34 i förordning (EU) 2022/2065. Enligt artikel 35.1 i den förordningen ska sådana leverantörer införa rimliga, proportionella och effektiva riskbegränsningsåtgärder som är anpassade för de specifika systemrisker som identifierats.

13.

Artikel 35.1 i förordning (EU) 2022/2065 innehåller en icke uttömmande förteckning över riskbegränsningsåtgärder som leverantörerna kan vidta för att motverka de systemrisker som de under riskbedömningsprocessen konstaterar att deras tjänster och tillhörande system, inbegripet algoritmiska system, eller användningen av dem ger upphov till. De här riktlinjerna vidareutvecklar förteckningen, fastställer bästa praxis och rekommenderar riskbegränsningsåtgärder specifikt för risker i samband med valprocesser.

14.

De åtgärder som läggs fram är inte en uttömmande förteckning över rekommendationer som gäller för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer under alla omständigheter. Vilka riskbegränsningsåtgärder som är lämpliga beror på den specifika tjänsten och de specifika systemrisker som identifierats i enlighet med artikel 34 i förordning (EU) 2022/2065.

15.

Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör tillämpa de här riktlinjerna på valprocesser i medlemsstaterna, inbegripet nationella val och val till Europaparlamentet. Åtgärder bör vidtas före, under och efter val (17). Riskbegränsningsåtgärder bör också tillämpas på regionala och lokala val eller folkomröstningar, om det genom riskbedömningar fastställs att det finns faktiska eller förutsebara negativa effekter för dessa valprocesser.

16.

De här riktlinjerna avser tillämpningen av artikel 35.1 i förordning (EU) 2022/2065. Enligt artikel 35.2 i den förordningen ska nämnden i samarbete med kommissionen offentliggöra övergripande rapporter en gång om året. Rapporterna ska omfatta identifiering och bedömning av de mest framträdande och återkommande systemrisker som rapporterats av leverantörer av mycket stora onlineplattformar eller av mycket stora onlinesökmotorer eller identifierats genom andra informationskällor.

17.

I linje med skäl 103 i förordning (EU) 2022/2065 kan de här riktlinjerna också fungera som inspirationskälla för leverantörer av onlineplattformar eller onlinesökmotorer som inte har utsetts till mycket stora sådana men vars tjänster ger upphov till liknande risker. De kan också tjäna som referens för fortlöpande forskning om och analys av hur effektivt de vidtagna åtgärderna har begränsat riskerna i samband med valprocesser. När de riskbegränsningsåtgärder och rutiner som rekommenderas i riktlinjerna är tillämpliga på valprocesser i allmänhet kan leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer överväga att när så är lämpligt behålla åtgärderna och rutinerna för att skydda den offentliga debatten även utanför valsammanhanget, med beaktande av hur detta påverkar de grundläggande rättigheterna.

3. VALSPECIFIKA RISKBEGRÄNSNINGSÅTGÄRDER

3.1. Stärkande av interna processer

18.

För att anpassa riskbegränsningsåtgärderna till de identifierade riskerna mot valprocesserna bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer överväga att stärka de interna processerna i enlighet med artikel 35.1 f i förordning (EU) 2022/2065. Riskbegränsningsåtgärderna bör bland annat vägledas av information om politiska aktörers närvaro och aktivitet på tjänsten, relevanta diskussioner om och användning av plattformen i samband med val, antalet användare i en medlemsstat när ett visst val utlyses i den medlemsstaten och indikationer på tidigare fall när det gäller taktik, teknik och förfaranden för informationsmanipulering.

19.

Interna processer bör användas för att identifiera och tillgängliggöra relevant information, analys och data som möjliggör utformning och kalibrering av åtgärder i syfte att begränsa alla faktiska eller förutsebara risker som kan härröra från information om val som söks, delas eller nås via mycket stora onlineplattformars och mycket stora onlinesökmotorers tjänster. Detta kan omfatta bland annat information om politiska partier eller kandidater, partiprogram, manifest eller annat politiskt material eller relaterad information. Det kan också handla om att anordna evenemang såsom demonstrationer eller sammankomster, kampanjarbete, insamling av pengar eller annan relaterad politisk verksamhet. Leverantörernas interna processer för insamling och delning av analyser och data som underlag för utformningen och kalibreringen av riskbegränsningsåtgärder ska stämma överens med relevant dataskyddslagstiftning (18).

20.

De interna processerna bör stärkas för att se till att utformningen och kalibreringen av riskbegränsningsåtgärderna lämpar sig för det specifika regionala, lokala och språkliga sammanhang där de kommer att användas. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer uppmuntras därför bland annat att sörja för att information och analyser som samlats in om lokala kontextspecifika risker och medlemsstatsspecifik information på nationell, regional och/eller lokal nivå smidigt görs tillgänglig för dem som ansvarar för utformningen och kalibreringen av riskbegränsningsåtgärderna.

21.

Det rekommenderas också att leverantörerna har tillräckliga resurser för innehållsmoderering som har kunskaper i det eller de lokala språken och om nationella och/eller regionala sammanhang och särdrag. Kommissionen rekommenderar också att leverantörerna ser till att ha lämpliga interna processer för att ta hänsyn till oberoende analyser av situationen för mediernas frihet och mångfald, såsom övervakningsverktyget för mediepluralism (19), kunskap om initiativ och indikatorer för mediekompetens och information om huruvida det finns utrymme för civilsamhällesorganisationer att delta i beslutsfattandet och i samhällsdebatten. Man bör också beakta huruvida de relevanta riskbegränsningsåtgärderna kan leda till ändamålsenliga resultat i det lokala språk- och valsammanhanget.

22.

För att stärka de interna processerna och resurserna i ett visst valsammanhang bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer överväga att inrätta ett särskilt, tydligt identifierbart internt team före varje val (se även avsnitt 3.5 ”Under valrörelsen”). Resurstilldelningen till det teamet bör stå i proportion till de risker som identifierats för valet i fråga och bestå av personer med medlemsstatsspecifik sakkunskap, t.ex. språkkunskaper och kunskaper om det lokala sammanhanget. Teamet bör ha all relevant expertis, även på områden som innehållsmoderering, faktagranskning, hotavvärjning, hybridhot, cybersäkerhet, desinformation och utländsk informationsmanipulering och inblandning, grundläggande rättigheter och allmänhetens deltagande. Det bör också samarbeta med relevanta externa experter, t.ex. med kontaktpunkterna för det europeiska observatoriet för digitala medier (Edmo) och oberoende faktagranskningsorganisationer (20).

23.

Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer i sina allmänna villkor anger under vilken period särskilda åtgärder och resurser kommer att finnas tillgängliga för att begränsa risker i samband med val. Vissa riskbegränsningsåtgärder, såsom ytterligare interna processer eller särskilda team, kanske bara behövs kring ett visst val, beroende på risken för en viss leverantör och det aktuella valets särdrag.

24.

Vissa medlemsstater har i sin nationella lagstiftning fastställt under vilken period valkampanj får bedrivas, medan andra inte har det. Detta bör beaktas av leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer. I linje med insikterna om den förväntade hotutvecklingen under val i utrikestjänstens andra rapport om utländsk informationsmanipulering och inblandning (21) rekommenderar kommissionen att riskbegränsningsåtgärder, beroende på riskbedömningen för det aktuella valet och med beaktande av tillämpliga valförfaranden, har vidtagits och är i funktion minst en till sex månader före ett val och fortsätter minst en månad efter valet.

25.

Beroende på det specifika sammanhanget bör riskbegränsningsåtgärderna normalt intensifieras under perioden före valdagen, med beaktande av nationella valregler, ökad risk för hot och behovet av att tillhandahålla korrekt information om röstningsförfaranden.

3.2. Riskbegränsningsåtgärder för valprocesser

26.

Åtgärderna för att begränsa systemriskerna mot valprocesser bör i synnerhet basera sig på branschstandarder som fastställts genom uppförandekoden om desinformation och andra relevanta EU-branschkoder, såsom uppförandekoden för motverkande av hatpropaganda på nätet. Man bör även utgå från befintlig bästa praxis såsom den som delas av EU:s internetforum, den som dokumenterats i Content-Agnostic Election Integrity Framework for Online Platforms (22) och Integrity Institutes valintegritetsprogram (23) samt rekommendationer från det civila samhället, t.ex. från Civil Liberties Union for Europe och det europeiska partnerskapet för demokrati (24).

3.2.1. Specifika riskbegränsningsåtgärder

27.

Riskbegränsning för att motverka systemrisker för valprocesser bör särskilt omfatta åtgärder på följande områden:

Tillgång till officiell information om valprocessen. För att öka valdeltagandet och förhindra spridningen av felaktig information, desinformation och utländsk informationsmanipulering och inblandning avseende själva valprocessen är bästa praxis för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att främja tillgången till officiell information om valprocessen, bland annat information om hur och var man ska rösta, baserat på officiell information från valmyndigheterna i de berörda medlemsstaterna. Informationen kan t.ex. ges i form av informationspaneler, banners, popups, sökresultat, länkar till valmyndigheternas webbplatser, särskilda flikar med valinformation eller en särskild del av plattformen. Kommissionen rekommenderar att leverantörerna beaktar principer som inkludering och tillgänglighet när de utformar och genomför sådana riskbegränsningsåtgärder.

Initiativ för mediekompetens. Bästa praxis för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer är att samarbeta om, genomföra, investera i och engagera sig i initiativ och kampanjer för mediekompetens med inriktning på val för att främja kritiskt tänkande och förbättra användarnas förmåga att känna igen desinformation och manipuleringsmetoder, även när det gäller generativ AI. Man kan exempelvis göra följande:

Samarbeta med lokala mediekompetensorganisationer och andra relevanta sammanslutningar, grupper och nätverk och ekonomiskt stödja, dela och integrera valrelaterade initiativ och kampanjer på plattformen, även genom att utveckla gemensamma initiativ. Lokala mediekompetensorganisationer utgör en värdefull resurs när det gäller kunskap om lokala sammanhang och målgrupper. Kommissionen rekommenderar att nätverket av Edmo och dess kontaktpunkter och kommissionens expertgrupp för mediekompetens används för att hitta relevanta organisationer på medlemsstatsnivå.

ii.

Utveckla och tillämpa immuniseringsåtgärder som i förebyggande syfte bygger upp motståndskraft mot möjliga och förväntade desinformationsbudskap och manipulationsmetoder genom att informera och förbereda användarna. Åtgärderna bör ta hänsyn till det specifika lokala sammanhang där de vidtas och bör kompletteras med andra åtgärder som ger användarna tillförlitlig information. Immuniseringsåtgärderna kan ta sig olika uttryck, t.ex. onlinespel om generering av desinformation som uppmuntrar till kritiskt tänkande om den taktik som används för att påverka (25) eller videoinnehåll och andra typer av innehåll (26), och bör om möjligt integreras i appen för att underlätta åtkomsten.

iii.

När leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer utformar kampanjer för mediekompetens rekommenderas de beakta specifika narrativ samt taktik, metoder och förfaranden som bidrar till systemrisker som sannolikt kommer att uppstå före, under och efter ett val, i linje med logiken att anpassa begränsningsåtgärderna till det aktuella nationella sammanhanget och målgrupperna.

Åtgärder för att ge användarna mer kontextuell information om det innehåll och de konton de interagerar med. Några exempel på detta är följande:

Faktagranskningsetiketter som oberoende faktagranskare och faktagranskningsteam från oberoende medieorganisationer sätter på innehåll som identifierats som desinformation och utländsk informationsmanipulering och inblandning. Faktagranskningen bör omfatta hela EU och alla EU-språk, och därvid bör man bland annat stärka samarbetet med lokala faktagranskare under valrörelser, integrera och visa upp valrelaterat faktagranskningsinnehåll samt använda mekanismer för att bidra till att öka deras genomslag hos målgruppen. Faktagranskningsetiketter bör vara tillgängliga och skrivna på ett lättförståeligt språk.

ii.	Promptar och uppmaningar till användarna att läsa innehåll och utvärdera dess korrekthet och källa innan de delar det vidare.

iii.

Tydlig, synlig och icke vilseledande verifiering av officiella konton och konton som ger tillförlitlig information om valprocessen, t.ex. valmyndigheternas konton. Man bör även ange grunderna för verifieringen. De kriterier som ledde till att ett konto verifierats som ”officiellt” bör anges lättillgängligt och på ett lättförståeligt språk för att förhindra att sådan verifiering ger trovärdighet åt konton som utger sig för att vara officiella konton för t.ex. valmyndigheter.

iv.	Tydlig, synlig och icke vilseledande märkning av konton som innehas av medlemsstater, tredjeländer och enheter som kontrolleras eller finansieras av enheter som kontrolleras av tredjeländer.

v.	Verktyg och information för att hjälpa användarna att bedöma informationskällornas tillförlitlighet, t.ex. förtroendemärkning som fokuserar på källans integritet utifrån transparenta metoder och som utvecklats av oberoende tredje parter.

vi.	Andra verktyg för att bedöma det digitala innehållets ursprung, redigeringshistorik, autenticitet eller korrekthet. De hjälper användarna att kontrollera äktheten eller identifiera ursprunget eller källan till valrelaterat innehåll.

vii.	Effektiva interna åtgärder för att motverka missbruk av de förfaranden och verktyg som nämns ovan, särskilt missbruk av verifieringsprocessen för märkta konton och märkt innehåll.

Rekommendationssystem kan spela en viktig roll i att forma informationslandskapet och den allmänna opinionen, som anges i skälen 70, 84, 88 och 94 samt i artikel 34.2 i förordning (EU) 2022/2065. För att minska systemens potentiella risk i samband med valprocesser bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer överväga att

i.	utforma och anpassa rekommendationssystemen på ett sätt som ger användarna verkliga möjligheter att välja och kontrollera vad som visas i deras flöde, med vederbörlig hänsyn till mediemångfald och mediepluralism,

ii.	vidta åtgärder för att med tydliga och transparenta metoder minska desinformationen i samband med val, t.ex. när det gäller vilseledande innehåll som vid faktagranskning har konstaterats vara falskt eller härröra från konton som upprepade gånger har befunnits sprida desinformation,

iii.	vidta åtgärder för att begränsa spridningen av bedrägligt, falskt eller vilseledande innehåll som genererats av AI i samband med val genom leverantörernas rekommendationssystem,

iv.	regelbundet bedöma rekommendationssystemens resultat och inverkan och ta itu med eventuella nya risker eller problem i samband med valprocesser, bland annat genom att uppdatera och förbättra policyer, rutiner och algoritmer,

v.	vidta åtgärder för att skapa transparens kring rekommendationssystemens utformning och funktion, särskilt när det gäller de data och den information som används vid utformningen av system som främjar mediepluralism och innehållsmångfald, för att underlätta tredje parts granskning och forskning,

vi.

samarbeta med externa parter för att göra simulerade angrepp på och red team-testa dessa system för att identifiera potentiella risker, såsom risker som härrör från bias, mottaglighet för manipulation eller spridning av felaktig information, desinformation, utländsk informationsmanipulering och inblandning eller annat skadligt innehåll.

Politisk reklam. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer rekommenderas att förbereda sig inför ikraftträdandet av förordning (EU) 2024/900 om transparens och inriktning när det gäller politisk reklam (förordningen om politisk reklam) och särskilt uppmärksamma bestämmelsen om icke-diskriminering (artikel 5.1), som blir tillämplig 20 dagar efter det att förordningen offentliggörs den 20 mars 2024 (27). Alla leverantörer av onlineplattformar ansvarar för att säkerställa att den bestämmelsen följs. I förordningen definieras politisk reklam som utarbetande, placering, främjande, publicering, tillhandahållande eller spridning av budskap av, för eller på uppdrag av en politisk aktör eller för dennes räkning, såvida det inte är av rent privat eller rent kommersiellt slag, eller som kan, och är utformat för att, påverka resultatet av ett val eller en folkomröstning, ett röstningsbeteende eller en lagstiftnings- eller regleringsprocess på unionsnivå eller på nationell, regional eller lokal nivå. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer uppmuntras att ta hänsyn till definitionerna i förordningen när de tillämpar dessa riktlinjer. När en sådan leverantör fullgör skyldigheterna i artikel 26 i förordning (EU) 2022/2065 – om den erbjuder möjligheten att placera politisk reklam på sin tjänst – rekommenderar kommissionen att denna reklam, i enlighet med den kommande förordningen om politisk reklam, förses med en tydlig, framträdande och otvetydig märkning och att det sker i realtid så att användarna förstår att det innehåll som visas innehåller politisk reklam. Dessutom bör märkningen finnas kvar när innehållet delas av användare på samma plattform. Kommissionen rekommenderar också att leverantörerna anpassar sina policyer till förordningen om politisk reklam redan innan den börjar tillämpas. Förordningen kompletterar de rättsliga skyldigheter som följer av artiklarna 26 och 39 i förordning (EU) 2022/2065, särskilt i fråga om följande:

Ge användarna information om de politiska annonser de ser, till exempel vem som har sponsrat annonsen och i tillämpliga fall vem som ytterst kontrollerar sponsorn, under vilken period den politiska annonsen är avsedd att publiceras, tillhandahållas eller spridas, de sammanlagda beloppen och det sammanlagda värdet av andra förmåner som erhållits av tillhandahållarna av politiska reklamtjänster samt meningsfull information om de huvudparametrar som använts för att fastställa vilka mottagare som annonsen ska visas för.

ii.

Upprätthålla en allmänt tillgänglig, sökbar databas över politiska annonser som uppdateras i så nära realtid som möjligt. Databasen ska åtminstone omfatta det totala antalet tjänstemottagare som nåtts och, i förekommande fall, aggregerade siffror uppdelade på varje medlemsstat för den grupp eller de grupper av mottagare till vilka annonsen specifikt riktades, i enlighet med artikel 39 i förordning (EU) 2022/2065. Den skulle också kunna omfatta t.ex. de sammanlagda beloppen och det sammanlagda värdet av andra förmåner som tillhandahållarna erhållit, antalet exponeringar och de geografiska områden där annonsen visades.

iii.	När de inte tillåter politisk reklam på sina tjänster, ha effektiva kontrollsystem och vidta nödvändiga åtgärder för att säkerställa att detta också följs i praktiken.

iv.	Säkerställa att det finns lämpliga policyer och system för att förhindra att reklamsystem missbrukas för att sprida vilseledande information, desinformation och utländsk informationsmanipulering och inblandning när det gäller valprocesser, däribland förrädiskt generativt AI-innehåll.

Influerare kan ha en betydande påverkan på hur tjänstemottagarna väljer att rösta, eftersom de i allt högre grad är aktiva i den politiska debatten online. I detta avseende och för att öka transparensen bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer göra följande:

Tillhandahålla en funktion som gör det möjligt för influerare att ange om det innehåll de tillhandahåller utgör eller innehåller politisk reklam, inbegripet vem som sponsrar dem och i tillämpliga fall vem som ytterst kontrollerar sponsorn, under vilken period den politiska annonsen är avsedd att publiceras, tillhandahållas eller spridas, de sammanlagda beloppen och det sammanlagda värdet av andra förmåner som erhållits av tillhandahållarna av politiska reklamtjänster, visningsperioden samt meningsfull information om de huvudparametrar som använts för att fastställa vilka mottagare som annonsen ska visas för.

ii.	Säkerställa att andra tjänstemottagare på ett tydligt, framträdande och otvetydigt sätt och i realtid kan identifiera, bland annat genom framträdande märkning, att det innehåll som tillhandahålls är eller innehåller politisk reklam, enligt beskrivningen i influerarens förklaring.

Demonetisering av desinformationsinnehåll. Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer har riktade policyer och system för att säkerställa att placeringen av reklam inte ger ekonomiska incitament för spridning av desinformation och utländsk informationsmanipulering och inblandning i samband med valprocesser och hatiskt, (våldsbejakande) extremistiskt eller radikaliserande innehåll som kan påverka hur enskilda personer röstar.

Tjänsternas integritet. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör införa lämpliga förfaranden för att snabbt och effektivt upptäcka och motverka manipulering av tjänsten när de har identifierat detta som en relevant systemrisk, med beaktande av bästa tillgängliga bevis. De kan till exempel i sina allmänna villkor inkludera specifika regler mot att skapa falska konton eller botnät (som kan inbegripa automatiserade, delvis automatiserade eller icke-automatiserade konton) eller mot att använda en tjänst på ett bedrägligt sätt.

Kommissionen rekommenderar att leverantörerna utarbetar regler och ser till att de följs, så att de t.ex. förhindrar att någon utger sig för att vara en kandidat eller ökar användarengagemanget på konstgjord väg eller att influerare marknadsför produkter utan att ange att innehållet är sponsrat. Man bör även motarbeta användning av bedrägliga manipulerade medier, icke-transparenta sponsrade meddelanden och samordning av icke-autentiskt innehållsskapande eller beteende.

ii.

Kommissionen rekommenderar samarbete mellan relevanta team från olika leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer för att identifiera gemensamma hot och motverka desinformationskampanjer som sprider sig på flera plattformar, utländsk informationsmanipulering och inblandning, (våldsbejakande) extremistiska eller radikaliserade aktiviteter som kan påverka hur enskilda personer röstar samt illvilliga aktörers flytt från plattform till plattform (se avsnitt 3.4 om samarbete med nationella myndigheter, oberoende experter och civilsamhällesorganisationer).

28.

Med tanke på att kunskaperna hela tiden ökar om valprocessernas systemrisker bör begränsningsåtgärderna kopplas till en rigorös och kritisk analys, testning och översyn av deras avsedda och potentiella oavsedda effekter. Man bör därför utgå från bästa tillgängliga information och forskningsrön när man väljer effektiva begränsningsåtgärder. Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer proaktivt utformar, utvärderar och optimerar konceptuellt giltiga resultatmått för begränsningsåtgärdernas effektivitet, till exempel genom A/B-testning av funktioner och designval. Dessa resultatmått bör analyseras som en del av leverantörernas riskhanteringsram och syfta till att mäta hur väl de relevanta begränsningsåtgärderna har fungerat under ett visst val. Måtten bör följa SMART-modellen (dvs. de bör vara specifika, mätbara, uppnåbara, relevanta och tidsbundna) och de bör vara både kvalitativa och kvantitativa.

3.2.2 Tredje parts granskning, forskning och tillgång till data

29.

Tredje parts granskning och forskning om begränsningsåtgärder är viktig för att hjälpa leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att se till att de åtgärder som de inför är effektiva och respekterar grundläggande rättigheter och demokratiska principer. Stabil och tillförlitlig tillgång till data för tredjepartsgranskning är av yttersta vikt under valrörelser för att säkerställa transparens, främja insikter och bidra till vidareutvecklingen av riskbegränsningsåtgärder i samband med val. Utöver deras rättsliga skyldigheter enligt artikel 40 i förordning (EU) 2022/2065 rekommenderar kommissionen att leverantörerna ger berörda tredje parter fri tillgång till data för att studera risker i samband med valprocesser, vid behov även data som inte finns tillgängliga i de mycket stora onlineplattformarnas och de mycket stora onlinesökmotorernas gränssnitt. I allmänhet rekommenderas ad hoc-samarbete för att utforma och vid behov snabbt anpassa riskbegränsningsåtgärderna i samband med valprocesser. Olika åtgärder som konstaterats ge resultat skulle kunna övervägas för detta samarbete med tredje parter.

30.

Utöver de verktyg och andra policyer för tillgång som införts för att följa artikel 40.12 i förordning (EU) 2022/2065 kan dessa åtgärder vara exempelvis ytterligare skräddarsydda verktyg eller funktioner, inbegripet sådana som krävs för att studera och granska AI-modeller, visuella instrumentpaneler, tillägg av ytterligare datapunkter till befintliga verktyg eller tillhandahållande av specifika dataset. Tillgången till sådana verktyg eller funktioner skulle kunna utvidgas till ännu fler tredje parter, utöver de forskare som har rätt att få tillgång enligt artikel 40 i förordning (EU) 2022/2065.

31.

På området politisk reklam rekommenderar kommissionen att berörda leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer ser till att verktyg och programmeringsgränssnitt (API) som möjliggör forskning i deras databaser för politisk reklam (28) är ändamålsenliga och möjliggör meningsfull forskning om desinformation, utländsk informationsmanipulering och inblandning samt hatiskt, (våldsbejakande) extremistiskt eller radikaliserande innehåll som sprids för att påverka hur enskilda personer röstar i val, däribland val till Europaparlamentet, i enlighet med kraven i unionsrätten, bland annat om skydd av personuppgifter. Här bör ingå en minsta mängd funktioner och sökkriterier som gör det möjligt för användare och forskare att göra skräddarsydda sökningar efter data i så nära realtid som möjligt under valrörelsen (t.ex. sökningar per annonsör, kandidat, val, geografiskt område, land eller språk).

32.

Utöver de rapporter som avses i artikel 42.4 i förordning (EU) 2022/2065 rekommenderar kommissionen att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer är så transparenta som möjligt gentemot allmänheten om hur de begränsningsåtgärder som rör valprocesser är utformade, fungerar och genomförs. Därigenom möjliggörs offentlig granskning, som i sin tur kan påverka utformningen av effektiva begränsningsåtgärder. Under valrörelser är det särskilt viktigt att leverantörerna visar att beslut om innehållsmoderering inte påverkar likabehandlingen av kandidaterna eller oproportionerligt gynnar eller främjar röster som företräder vissa (polariserade) åsikter.

3.2.3. Grundläggande rättigheter

33.

Riskbegränsningsåtgärder som vidtas i enlighet med artikel 35 i förordning (EU) 2022/2065 bör vidtas med vederbörlig hänsyn till skyddet av de grundläggande rättigheter som tryggas i Europeiska unionens stadga om de grundläggande rättigheterna, särskilt rätten till yttrandefrihet och informationsfrihet, inbegripet mediernas frihet och mångfald. I enlighet med skäl 47 i den förordningen bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer ta vederbörlig hänsyn till relevanta internationella normer för skydd av de mänskliga rättigheterna, såsom Förenta nationernas vägledande principer för företag och mänskliga rättigheter. Relevanta oberoende rapporter (29) kan också beaktas vid utformningen och genomförandet av begränsningsåtgärder.

34.

Vid begränsning av systemriskerna för valintegriteten rekommenderar kommissionen att vederbörlig hänsyn också tas till åtgärdernas potential att motverka olagligt innehåll såsom offentlig uppmaning till våld och hat i den mån sådant olagligt innehåll kan hämma eller tysta röster i den demokratiska debatten, särskilt sådana som talar för utsatta grupper eller minoriteter. Till exempel kan former av rasism eller genusbaserad desinformation och könsrelaterat våld på nätet, bland annat inom ramen för våldsbejakande extremistisk eller terroristrelaterad ideologi eller utländsk informationsmanipulering och inblandning som riktar sig mot hbtqi+-personer (30), undergräva den öppna, demokratiska dialogen och debatten och ytterligare öka den sociala splittringen och polariseringen. I detta avseende kan uppförandekoden för att motverka olaglig hatpropaganda på nätet användas som inspiration när lämpliga åtgärder övervägs.

35.

Utöver att genomföra riskbedömningar tillsammans med berörda parter, i den mening som avses i skäl 90 i förordning (EU) 2022/2065, rekommenderar kommissionen att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer gör de konsekvensbedömningar avseende grundläggande rättigheter som utförs som en del av riskbedömningarna tillgängliga för civilsamhällesorganisationer (särskilt de som rådfrågas under processen) så snart de är klara, dvs. eventuellt tidigare än vad som krävs enligt artikel 42.4 i den förordningen. Detta skulle kunna ge utrymme för en konstruktiv öppen dialog om eventuell god praxis och potentiella förbättringar.

3.3. Begränsningsåtgärder som rör generativ AI

36.

Den senaste tekniska utvecklingen inom generativ AI har möjliggjort skapande och utbredd användning av AI-system som kan generera text, bilder, videor eller annat syntetiskt innehåll. Den här utvecklingen kan medföra många nya möjligheter, men kan också leda till särskilda systemrisker i samband med val. I synnerhet kan generativ AI missbrukas för att vilseleda väljare eller för att manipulera valprocesser genom att skapa och sprida oäkta, partiskt och vilseledande syntetiskt innehåll (inbegripet text, ljud, bilder och video) om politiska aktörer samt falska skildringar av evenemang, valopinionsundersökningar, sammanhang eller narrativ. Generativa AI-system kan också producera felaktig, osammanhängande eller påhittad information, s.k. hallucinationer, som ger en felaktig bild av verkligheten och som potentiellt kan vilseleda väljare.

37.

Enligt artikel 35.1 i förordning (EU) 2022/2065 bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bedöma systemrisker i samband med val, såsom de som nämns ovan, och införa rimliga, proportionella och effektiva riskbegränsningsåtgärder som är anpassade till både skapande och spridning av generativt AI-innehåll, beroende på typen av tjänst. Bästa praxis som kan ligga till grund för relevanta riskbegränsningsåtgärder finns redan nu i AI-akten och AI-pakten. Särskilt relevanta i det här sammanhanget är de skyldigheter som planeras i AI-akten för leverantörer av AI-modeller för allmänna ändamål, däribland generativ AI, och kraven på märkning av deepfakes. Leverantörer av generativa AI-system blir enligt den planerade akten också skyldiga att använda de senaste tekniska lösningarna för att säkerställa att innehåll som skapas genom generativ AI är märkt på ett maskinläsbart sätt och kan identifieras som sådant, vilket gör det möjligt för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att upptäcka det. Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer anpassar sina policyer till AI-akten redan innan den börjar tillämpas, i linje med AI-pakten.

38.

Leverantörerna bör tillämpa begränsningsåtgärder kopplade till generativ AI i den mån de är tekniskt genomförbara, med särskild hänsyn till sådana åtgärders inverkan på de grundläggande rättigheter som skyddas enligt stadgan. Kommissionen rekommenderar också branschövergripande samarbete för att vidareutveckla effektiva begränsningsåtgärder för generativ AI inom ramen för de uppförandekoder för AI-modeller för allmänna ändamål och transparens för AI-genererat innehåll som ska utvecklas inom ramen för AI-akten.

39.

Mot bakgrund av de specifika faktiska eller förutsebara risker för valprocesser som identifierats rekommenderar kommissionen leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer vars tjänster kan användas för att skapa förrädiskt, partiskt, falskt eller vilseledande generativt AI-innehåll att göra följande, i den mån det är tekniskt genomförbart och i enlighet med den senaste tekniken:

Säkerställa att generativt AI-innehåll och andra typer av syntetiska och manipulerade medier kan upptäckas, framför allt genom att använda tillräckligt tillförlitliga, interoperabla, effektiva och robusta tekniker och metoder, såsom vattenmärken, metadataidentifiering, kryptografiska metoder för att bevisa innehållets ursprung och autenticitet, loggningsmetoder, fingeravtryck eller annan teknik, beroende på vad som är lämpligt och med beaktande av befintliga standarder. Det här är särskilt viktigt för allt generativt AI-innehåll om kandidater, politiker eller politiska partier. Vattenmärken och metadata kan också tillämpas på innehåll som baseras på ursprungligen autentiskt inspelat material (video, bilder eller ljud) som senare har ändrats med hjälp av generativ AI.

Anstränga sig för att se till att information som genereras av AI-system i möjligaste mån baseras på tillförlitliga källor i valsammanhang (till exempel officiell information från relevanta valmyndigheter) och att eventuella citat eller hänvisningar från systemet till externa källor är korrekta och inte ger en felaktig bild av det citerade innehållet, så att effekterna av ”hallucinationer” begränsas.

Varna användarna för potentiella fel i innehåll som skapas av generativa AI-system och föreslå att de använder sig av tillförlitliga källor för att kontrollera att sådan information är sanningsenlig, samt införa skyddsåtgärder för att förhindra skapandet av falskt innehåll som kan ha stor potential att påverka användarnas beteende.

d)	Genomföra och dokumentera red team-övningar och -testning med särskilt fokus på valprocesser, med både interna team och externa experter, innan generativa AI-system släpps ut till allmänheten, och släppa ut systemen stegvis för att ha bättre kontroll över oavsiktliga konsekvenser.

e)	Fastställa lämpliga resultatmått, bland annat för säkerhet och korrektheten av svar på frågor om valinnehåll, fortlöpande övervaka de generativa AI-systemens resultat och vid behov vidta lämpliga åtgärder.

I generativa AI-system integrera skyddsåtgärder som ökar deras säkerhet, såsom promptklassificerare, innehållsmoderering och andra filter, för att upptäcka och förhindra promptar som strider mot leverantörens tjänstevillkor för valprocesser. Vidta andra lämpliga åtgärder som syftar till att förhindra missbruk av det generativa AI-systemet för olagliga, manipulativa och desinformationsrelaterade ändamål i samband med valprocesser.

g)	Särskilt när det gäller textinnehåll, ange om möjligt i de utdata som genererats de specifika informationskällor som använts som inputdata eller ge användarna andra sätt att kontrollera tillförlitligheten och ytterligare kontextualisera informationen.

40.

Mot bakgrund av de specifika faktiska eller förutsebara risker för valprocesser som identifierats rekommenderar kommissionen att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer vars tjänster kan användas för att sprida förrädiskt, falskt eller vilseledande generativt AI-innehåll överväger följande riskbegränsningsåtgärder, i den mån detta är tekniskt genomförbart och i enlighet med den senaste tekniken:

De bör anpassa sina villkor och säkerställa att de följs, för att avsevärt minska räckvidden för och effekterna av generativt AI-innehåll som skildrar desinformation eller felaktig information om valprocessen, såsom oegentligheter i samband med val.

i.	Kommissionen rekommenderar att leverantörerna tillhandahåller tydlig information till allmänheten om vilka interna processer och begränsningsåtgärder, såsom etikettering, märkning, nedprioritering eller avlägsnande, de infört för att genomdriva dessa policyer.

ii.	Kommissionen rekommenderar att leverantörerna samarbetar och utbyter information om sådant vilseledande innehåll med faktagranskare för att minimera risken för att det får större spridning på andra plattformar.

De bör tydligt märka eller på annat framträdande sätt göra det möjligt att urskilja konstgjorda eller manipulerade bilder, ljudfiler eller videoklipp som märkbart liknar verkliga personer, föremål, platser, enheter eller händelser, eller som skildrar händelser som verkliga trots att de aldrig ägt rum eller ger en felaktig bild av dem, och som felaktigt framstår som autentiska eller sanningsenliga (dvs. deepfakes).

i.	Kommissionen rekommenderar att leverantörerna förser användarna med standardiserade och lättanvända gränssnitt och verktyg för att märka AI-genererat innehåll.

ii.

Kommissionen rekommenderar att leverantörerna vid märkning av generativt AI-innehåll använder sig av effektiva märkningar som användarna lätt känner igen, beaktar sådana aspekter som grafik, placering och tajmning och utgår från vetenskaplig forskning om märkningars effektivitet (31). Leverantörerna bör också testa märkningarnas effektivitet innan de börjar använda dem, och anpassa och förbättra dem på grundval av återkoppling och erfarenheter.

iii.	Kommissionen rekommenderar att leverantörerna ser till att märkt generativt AI-innehåll har kvar märkningen när det delas av andra användare på plattformen.

Kommissionen rekommenderar att leverantörerna anpassar sina reklamsystem, t.ex. genom att ge annonsörerna möjlighet att tydligt märka innehåll som skapats med generativ AI i annonser eller marknadsförda inlägg, och i sin annonseringspolicy kräver att märkningen används när annonsen innehåller generativt AI-innehåll.

För att genomdriva dessa policyer bör leverantörerna anpassa sina innehållsmodereringsprocesser och algoritmiska system så att AI-genererat eller manipulerat innehåll kan upptäckas med hjälp av vattenmärken, metadata, kryptografiska metoder för att bevisa innehållets ursprung och autenticitet, loggningsmetoder, fingeravtryck eller andra metoder.

I detta sammanhang bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer samarbeta med leverantörer av generativa AI-system och vidta åtgärder i enlighet med den senaste tekniken för att säkerställa att sådana vattenmärken, metadata, kryptografiska metoder för att bevisa innehållets ursprung och autenticitet, loggningsmetoder, fingeravtryck eller andra metoder upptäcks på ett tillförlitligt och effektivt sätt. De rekommenderas också att stödja nya tekniska innovationer för att förbättra sådana verktygs effektivitet och interoperabilitet.

e)	De åtgärder för mediekompetens som nämns i avsnitt 2 bör också inriktas på generativa AI-system, t.ex. för att förklara hur tekniken fungerar och hur den kan missbrukas.

41.

I enlighet med artikel 35.1 i förordning (EU) 2022/2065 bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer, när de vidtar åtgärder mot lagliga men skadliga former av generativt AI-innehåll som kan påverka väljarnas beteende, särskilt beakta åtgärdernas konsekvenser för grundläggande rättigheter såsom yttrandefriheten, inbegripet politisk yttrandefrihet, parodi och satir. En sådan konsekvensbedömning avseende grundläggande rättigheter krävs särskilt när en leverantör utarbetar sin policy för vilken typ av vilseledande generativt AI-innehåll som den inte tillåter på sin tjänst och kommer att ta bort.

42.

Eftersom AI-genererat innehåll medför särskilda risker bör det bli föremål för skärpt granskning, även genom utveckling av ad hoc-verktyg och ad hoc-teknik, t.ex. för forskning som syftar till att identifiera och förstå specifika risker i samband med valprocesser. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer uppmanas att överväga att inrätta särskilda verktyg där forskare kan få tillgång till och specifikt identifiera och analysera AI-genererat innehåll.

3.4. Samarbete med nationella myndigheter, oberoende experter och civilsamhällesorganisationer

43.

Det är inte möjligt att skydda integriteten för ett visst val utan att känna till det specifika nationella, rättsliga, samhälleliga och politiska sammanhanget och snabbt reagera på utveckling i realtid som påverkar de risker som genereras av mycket stora onlineplattformars och mycket stora onlinesökmotorers tjänster. Förfaranden och organisationsstrukturer för val skiljer sig åt från medlemsstat till medlemsstat och rentav från ett val till ett annat. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör vara medvetna om den tillämpliga nationella valstyrningsstrukturen för det aktuella valet och de olika myndigheternas roll. Genom att få en god förståelse för specifika nationella förfaranden, såsom avgränsningen av valkampanjperioderna, tidsramen för den officiella utnämningen av valkandidater och kampanjfria perioder, kan leverantörerna utforma riskbegränsningsåtgärder med hänsyn till den aktuella medlemsstatens särdrag.

44.

Kommissionen rekommenderar därför att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer regelbundet och vid behov skyndsamt utbyter information med och har kontaktpunkter för behöriga nationella och europeiska myndigheter, bland annat samordnaren för digitala tjänster i deras medlemsstat och, när så är lämpligt, behöriga regionala och lokala myndigheter, för att underlätta informationsutbytet, samt kommissionen, beroende på vad som är lämpligt.

45.

Dessa kontakter mellan leverantörerna och behöriga nationella myndigheter bör endast syfta till att dela information som kan ligga till grund för riskbedömningar och begränsningsåtgärder i samband med valprocesser eller för nationella myndigheters åtgärder inom ramen för deras behörighet att skydda valprocessernas integritet. Relevanta nationella myndigheter kan till exempel ge leverantörerna officiell information om röstningsprocessen som kan integreras i deras tjänster och, när så är möjligt och lämpligt, information om möjliga risker för valprocessen vilken kan ligga till grund för leverantörernas begränsningsåtgärder. Information om de risker som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer begränsar på sin tjänst kan å sin sida vara relevant för behöriga nationella myndigheters arbete med att skydda valprocessernas integritet. I den mån sådana kontakter inte omfattas av kraven på transparensrapportering enligt förordning (EU) 2022/2065 rekommenderar kommissionen att nationella myndigheter och leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer öppet rapporterar om dem, t.ex. i offentliga handlingar där nationella myndigheter utvärderar valprocessen eller i transparensrapporter enligt förordning (EU) 2022/2065.

46.

De samordnare för digitala tjänster som utsetts i varje medlemsstat enligt förordning (EU) 2022/2065 kan fungera som kontaktpunkter för leverantörer av mycket stora onlineplattformar eller mycket stora onlinesökmotorer om det inte tydligt framgår vilken nationell myndighet som är behörig i frågor som rör riskbegränsning i samband med valprocesser. Eftersom samordnarna för digitala tjänster fungerar som gemensam kontaktpunkt i alla frågor som rör tillämpningen av förordning (EU) 2022/2065 i en medlemsstat rekommenderar kommissionen att samordnarna deltar i kontakterna mellan leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer och behöriga nationella myndigheter om valprocessen. Kommissionen har dessutom rekommenderat medlemsstaterna att stärka sina nationella valnätverk (32) och underlätta deras samarbete med berörda parter (33). Dessa nationella valnätverk kan också vara en relevant kontaktpunkt för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer.

47.

Utöver samarbete med nationella myndigheter rekommenderas leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer också att etablera ett starkt samarbete med relevanta icke-statliga aktörer, eftersom sådana aktörer spelar en viktig roll i att skydda valprocesserna. Före val kan leverantörerna anordna möten och upprätta kanaler för regelbunden kommunikation med icke-statliga aktörer som är aktiva i valprocesser, t.ex. akademiker, oberoende experter, civilsamhällesorganisationer och företrädare för olika grupper, och bjuda in dem att dela med sig av sina oberoende sakkunskaper, insikter och observationer som kan bidra till identifieringen av risker som kan kräva begränsningsåtgärder och till utvecklingen av sådana begränsningsåtgärder.

48.

Att upprätta kanaler för kommunikation under valkampanjen med icke-statliga aktörer, däribland kampanjorganisationer och valobservatörer, kommer att hjälpa leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att bättre förstå valsammanhanget, så att de kan reagera snabbt i nödsituationer, utforma och kalibrera riskbegränsningsåtgärder och bättre förstå hur deras begränsningsåtgärder fungerar i det lokala sammanhanget. Arbetsgruppen för uppförandekoden för val och dess system för snabba insatser är ett bra exempel på ett sådant befintligt och aktivt flerpartsforum. Där ingår icke-statliga organisationer och faktagranskare med viktig erfarenhet av val. Edmos valarbetsgrupp, som består av oberoende faktagranskare, akademiker och specialister på mediekompetens, och Edmos kontaktpunkter runt om i EU kan också ge viktiga bidrag i detta avseende.

49.

Tillgången till tillförlitlig information från olika källor är avgörande för välfungerande demokratiska valprocesser. Den behöver skyddas inte bara från extern kommersiell och politisk inblandning, utan också från potentiell felaktig tillämpning av mycket stora onlineplattformars och mycket stora onlinesökmotorers interna processer, som konstateras i artikel 17 i den föreslagna europeiska mediefrihetsakten (34). Journalister och leverantörer av medietjänster har en mycket viktig roll när det gäller att samla in, behandla och rapportera information till allmänheten – en roll som är än viktigare i valtider. Oberoende nyhetsmedier och organisationer med väletablerade interna redaktionella standarder och förfaranden betraktas allmänt som tillförlitliga informationskällor. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör därför samarbeta med oberoende medieorganisationer, tillsynsmyndigheter, civilsamhällesorganisationer, gräsrotsorganisationer, faktagranskare, akademiker och andra berörda parter om initiativ för att förbättra identifieringen av tillförlitlig information och användarnas tillgång till pluralistiskt valrelaterat nyhetsmedieinnehåll från tillförlitliga källor.

50.

Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer samarbetar med oberoende faktagranskningsorganisationer som följer höga standarder för metoder, etik och öppenhet, till exempel genom att vara medlem i det europeiska nätverket för faktagranskningsstandarder (EFCSN) och följa dess uppförandekod (35), med tanke på dessa organisationers viktiga roll i att bedöma sanningshalten i information. Kommissionen rekommenderar öppenhet om sådant samarbete. Vissa som har undertecknat uppförandekoden om desinformation har till exempel en lista över de faktagranskningsorganisationer som de har avtal med.

3.5. Under valrörelsen

51.

Under valrörelsen, då det kommer att finnas åtgärder och resurser som specifikt ska begränsa riskerna för valprocessen, rekommenderar kommissionen att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer ägnar särskild uppmärksamhet åt riskbegränsningsåtgärder som minskar effekterna av incidenter som kan ha en betydande inverkan på valresultatet eller valdeltagandet.

52.

Det kan till exempel handla om att ge användarna tillgång till tillförlitlig, aktuell och begriplig information från officiella källor om hur man röstar samt om röstningsprocessen eller om att vidta sådana åtgärder som nämns i avsnitt 3.3 för att minska den potentiella skadan av problem som kan få stor inverkan såsom manipulerade bilder, röstinspelningar eller deepfakes, till exempel av politiska aktörer som ställer upp i val. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör också försäkra sig om att de kan reagera snabbt på manipulering av deras tjänster som syftar till att undergräva valprocessen och på försök att använda desinformation och informationsmanipulering för att avskräcka väljare från att rösta.

53.

Incidenter som inträffar på eller utanför en plattform under valrörelsen kan få snabba och omfattande konsekvenser för valens integritet eller den allmänna säkerheten. Kommissionen rekommenderar därför att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer inför en intern mekanism för incidenthantering, som även inbegriper den högsta ledningen, samt kartlägger de parter som inom organisationen deltar i hanteringen av incidenten. Detta förfarande bör inrättas, överenskommas och testas (bland annat genom red team-övningar) på förhand så att det kan tillämpas snabbt. Detta förfarande måste också vara konsekvent, gå att upprepa och granska och leda till väldokumenterade beslut och resultat, så att leverantörerna kan se över sin hantering efter händelser med stor inverkan.

54.

Med tanke på behovet av att snabbt tillämpa begränsningsåtgärder rekommenderar kommissionen också att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer etablerar samarbete och ett snabbt och effektivt informationsutbyte mellan plattformar och med relevanta icke-statliga aktörer som har kunskap och expertis som är relevant för val. Det kan till exempel röra sig om berörda parter från civilsamhällesorganisationer, akademiker och forskare, oberoende medier m.fl. Med tanke på den plattformsöverskridande karaktären av olagligt och/eller skadligt innehåll, desinformation och utländsk informationsmanipulering och inblandning är det för verkningsfull riskbegränsning viktigt att mycket stora onlineplattformar och mycket stora onlinesökmotorer samarbetar både sinsemellan och med mindre plattformar och tjänster. Detta kommer att hjälpa leverantörerna att reagera snabbare på nya problem och incidenter, bättre förstå sammanhanget, anpassa sina begränsningsåtgärder och bedöma effektiviteten i de åtgärder som vidtas. Eftersom dessa händelser är så tidskänsliga är det särskilt viktigt att detta samarbete och informationsutbyte fungerar väl. Det bör därför omfatta reaktioner från leverantörerna och meningsfull återkoppling till berörda icke-statliga aktörer – inom en rimlig tidsram – som gör det möjligt att bedöma samarbetets och utbytets effektivitet och verkan.

55.

Det system för snabba insatser som ska inrättas av dem som undertecknar uppförandekoden om desinformation är ett bra exempel på ett sådant forum för samarbete under val och kan bidra till plattformarnas incidenthanteringsmekanismer. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör tillsammans med de andra undertecknarna fastställa den förfarandemässiga ramen för samarbete och samordning dem emellan under val, inbegripet en mekanism för snabb återkoppling som kräver snabb, effektiv och lämplig uppföljning från plattformarnas sida.

56.

Ett annat exempel på hur man kan organisera hanteringen av utländsk informationsmanipulering och inblandning och desinformation finns i utrikestjänstens andra hotrapport om utländsk informationsmanipulering och inblandning (36), där man lägger fram en ”åtgärdsram” som på ett effektivt sätt kopplar samman analyser med evidensbaserade svar samtidigt som vikten av samarbete mellan olika berörda parter betonas. Inspiration skulle också kunna hämtas från initiativ som FIMI-ISAC (Information Sharing and Analysis Center on Foreign Information Manipulation and Interference) (37). FIMI-ISAC syftar till att främja informationsutbyte mellan alla berörda parter om bakomliggande orsaker, incidenter och hot samt utbyte av erfarenheter, kunskaper och analyser.

57.

Det är ofta avgörande att incidenter hanteras snabbt. Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer överväger en ”follow the sun”-modell, så att alla tidszoner täcks in med hjälp av kontor runt om i världen.

58.

För att reagera i tid bör leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer integrera sitt eventuella samarbete med valmyndigheter och relevanta icke-statliga aktörer i incidenthanteringsmekanismer.

3.6. Efter valet

59.

Efter valet rekommenderar kommissionen att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer gör en översyn efter valet, med bland annat en bedömning av hur väl de riskbegränsningsåtgärder som vidtogs i det sammanhanget fungerade, så att åtgärderna vid behov kan anpassas. Denna interna rapport bör innehålla en bedömning av huruvida de interna resultatmåtten och andra bedömningskriterier uppfylldes före, under och efter valet samt lärdomar och förbättringsområden.

60.

Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer i valöversynen tar hänsyn till särskilda bidrag från oberoende forskare, civilsamhällesorganisationer och oberoende faktagranskare om effekterna av deras begränsningsåtgärder. Dessutom skulle leverantörerna kunna ha kontakt med etablerade oberoende valobservatörsgrupper som kan ge information om användningen och effekterna av deras tjänster i detta sammanhang.

61.

Rapporten efter valet bör särskilt innehålla information om den genomsnittliga svarstiden och dess distribution för överträdelser av villkoren och för innehåll som flaggats av användare och icke-statliga aktörer. Den bör också ange genomsnittet och distributionen av räckvidden och engagemanget för innehåll som lett till åtgärder, antalet överträdelser av vissa policyer som rör val, förekomster av informationsmanipulering samt räckvidden av vissa åtgärder, såsom initiativ för mediekompetens och auktoritativa initiativ. Kommissionen får begära sådana rapporter på ett konfidentiellt sätt (38).

62.

Kommissionen rekommenderar att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer publicerar en offentlig version av sådana översyner efter val. Den versionen bör innehålla information om åtgärder som leverantören vidtagit och eventuella incidenter som kan ha inträffat samt information om samarbete och informationsutbyte som ägde rum med relevanta icke-statliga aktörer under valkampanjperioden. Man bör ange vilka åtgärder som vidtagits, hur effektivt samarbetet har varit och inom vilka tidsramar det skett. Syftet är också att samla in synpunkter från allmänheten om hur man kan förbättra de befintliga riskbegränsningsåtgärderna eller dela information med andra leverantörer om åtgärder som gett goda resultat. Som ytterligare ett exempel på valrelaterad rapportering har undertecknarna av uppförandekoden om desinformation utarbetat en rapporteringsmall genom vilken de före och efter valet kommer att rapportera om sina åtgärder och relevanta mått på deras inverkan.

3.7. Specifik vägledning för val till Europaparlamentet

63.

Som anges i meddelandet om paketet om försvar av demokratin (39) kommer det kommande valet till Europaparlamentet att bli ett avgörande testfall för motståndskraften i våra demokratiska processer, även inför hybridhot i form av inte bara desinformation och utländsk informationsmanipulering och inblandning utan även cyberattacker. I detta sammanhang, och på grund av deras unika gränsöverskridande karaktär, rekommenderas leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att införa kraftfulla begränsningsåtgärder för valet till Europaparlamentet den 6–9 juni 2024.

64.

Detta innebär att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer rekommenderas att säkerställa att tillräckliga resurser och riskbegränsningsåtgärder finns tillgängliga och distribueras på ett sätt som står i proportion till riskbedömningarna och inbegriper tillgång till relevant nationell expertis i hela EU, både på EU-nivå och medlemsstatsnivå.

65.

Det finns ingen fastställd kampanjperiod för val till Europaparlamentet. Kampanjerna till sådana val kan med andra ord inledas och avslutas vid olika tidpunkter i olika medlemsstater. Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer uppmanas att ta hänsyn till detta när de planerar sina riskbegränsningsåtgärder för val till Europaparlamentet och samarbeta med medlemsstaterna vid förberedelserna inför sådana val.

66.

Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer bör också ta hänsyn till valets unika gränsöverskridande och europeiska dimension när de anslår lämpliga riskbegränsningsresurser. Kampanjerna är inte begränsade till ett visst land och debatten kommer att ske över gränserna. Utöver kontakter med relevanta nationella myndigheter rekommenderar kommissionen att leverantörerna etablerar kontakter med myndigheter på EU-nivå före valet. Europaparlamentet spelar en nyckelroll i valet till Europaparlamentet och bör vara en viktig samarbetspartner för mycket stora onlineplattformar och mycket stora onlinesökmotorer inför dessa val. EU-omfattande nätverk av nationella experter på områdena desinformation, utländsk informationsmanipulering och inblandning, val och cybersäkerhet, såsom EU:s system för snabb varning, det europeiska valsamarbetsnätverket och samarbetsgruppen för nät- och informationssäkerhet, kan vara relevanta nätverk för leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer när det gäller gränsöverskridande incidenter, även hybridincidenter, som kräver snabba insatser och riskbegränsningsåtgärder under valrörelsen.

67.

Med tanke på att begränsningsåtgärderna kan behöva ta hänsyn till relaterade hot av annan karaktär som syftar till att destabilisera eller misskreditera de demokratiska processerna, däribland cyberattacker, bör lämpligt samarbete säkerställas på detta område. När det gäller cyberbaserad desinformation eller utländsk informationsmanipulering och inblandning uppmanas leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att upprätta lämpliga kontakter med nationella cybersäkerhetsmyndigheter. När sådan verksamhet berör EU som helhet eller EU:s institutioner, organ och byråer bör man överväga kontakter med EU:s cybersäkerhetsbyrå (Enisa) och cybersäkerhetstjänsten för unionens institutioner, organ och byråer (CERT-EU) (40). Dessutom, och i linje med vad som föreslogs för nationella val, rekommenderar kommissionen att kontakter och tillgång till kommunikation med Europaparlamentets administration och europeiska politiska partier upprättas på lika villkor före valet till Europaparlamentet.

68.

Leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer som har undertecknat uppförandekoden om desinformation bör delta fullt ut i arbetet i samband med valet till Europaparlamentet, bland annat genom ändamålsenligt deltagande i systemet för snabba insatser och återkopplingsmekanismen med lämpliga uppföljningsåtgärder i rätt tid. De bör också – före och efter valet – tillhandahålla riktad rapportering om de åtgärder som vidtagits för att minska spridningen av desinformation, informationsmanipulering och utländsk informationsmanipulering och inblandning i samband med valet till Europaparlamentet, inbegripet relevanta mått på deras inverkan (baserat på åtagandena 37.2 och 42). De bör, på grundval av synpunkter från faktagranskare och undertecknare i det civila samhället, efter valet utvärdera lärdomar och även bedöma samarbetets effektivitet och aktualitet för att effektivisera systemet för framtida val.

69.

Avsnitt 3.6 om översyn efter valet gäller även val till Europaparlamentet och hänsyn bör tas till dessa vals särskilda karaktär.

70.

För att skräddarsy sina riskbegränsningsåtgärder till valet till Europaparlamentet rekommenderar kommissionen att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer etablerar kontakt och samarbetar med i synnerhet Edmos arbetsgrupp om val till Europaparlamentet. Inför valet till Europaparlamentet 2024 kommer arbetsgruppen att utarbeta rapporter och regelbundna uppdateringar om de främsta tendenserna, utmaningarna och fenomenen när det gäller desinformation. Detta bör ligga till grund för de begränsningsåtgärder och andra åtgärder som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer vidtar.

4. NÄSTA STEG OCH SLUTSATSER

71.

Kommissionen är fast besluten att se till att förordning (EU) 2022/2065 verkligen följs, även i samband med val. De här riktlinjerna hjälper leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att tillämpa artikel 35 i den förordningen, särskilt när det gäller att bedöma och begränsa systemrisker för valprocesser vilka härrör från deras tjänst eller användningen av den. Med tanke på de många kommande valen och inte minst valet till Europaparlamentet uppmanar kommissionen starkt leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att genomföra dessa riktlinjer på ett snabbt och heltäckande sätt. Den välkomnar bedömningar från forskare och civilsamhällesorganisationer om hur effektiva de riskbegränsningsåtgärder som vidtagits av leverantörerna har varit i EU.

72.

Samtidigt är kommissionen, särskilt med tanke på att genomförandet av förordning (EU) 2022/2065 ännu är i ett tidigt skede och att systemriskerna för valprocesser har en mycket speciell karaktär, beredd att samarbeta med leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer när det gäller utformningen och funktionen av deras tjänster och tillhörande system för att säkerställa att valprocesserna i EU inte skadas.

73.

I det här sammanhanget står kommissionen till förfogande för att underlätta en regelbunden översyn av de riskbegränsningsåtgärder som leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer har vidtagit på frivillig basis. Detta kan ske i form av förhands- och efterhandsöversyner efter specifika val. Återkopplingen från kommissionen i detta sammanhang kommer att baseras på den information som lämnas av leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer och kommer inte att utgöra en fullständig bedömning av de efterlevnadsåtgärder de har vidtagit. Därmed påverkar den inte kommissionens utrednings- och tillsynsbefogenheter enligt förordning (EU) 2022/2065.

74.

I enlighet med artikel 64 i förordning (EU) 2022/2065 kommer kommissionen att fortsätta att utveckla sakkunskap och kapacitet när det gäller systemfrågor och nya aspekter i hela EU. Information från mycket stora onlineplattformar och mycket stora onlinesökmotorer är avgörande i detta avseende. Kommissionen förväntar sig att leverantörer av sådana tjänster inom ramen för efterlevnaden av förordning (EU) 2022/2065 samarbetar med kommissionen i beredskapsdialoger om valintegritet och andra samarbetsstrukturer som inrättats av de kommissionsavdelningar som ansvarar för efterlevnadskontrollen av förordning (EU) 2022/2065 för dessa ändamål, i syfte att kunna reagera snabbt på brådskande begäranden om information, särskilt om framväxande problem och incidenter som kan ha en betydande inverkan på valresultatet eller valdeltagandet. Detta utesluter inte deltagande i andra etablerade samarbetsmekanismer eller samarbetsprotokoll som kan finnas.

75.

Som nämns i närmare detalj i avsnitt 1.1 bygger de riskbegränsningsåtgärder som anges i de här riktlinjerna på tidigare beredskapsdialoger om valintegritet med leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer, erfarenheterna från uppförandekoden om desinformation och EU:s verktygslåda för utländsk informationsmanipulering och inblandning, det förberedande samrådet, olika rundabordssamtal och bidrag från samordnarna för digitala tjänster. Därmed kan de åtgärder som beskrivs i riktlinjerna betraktas som aktuell bästa praxis.

76.

Målet med denna vägledning är att hjälpa leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer att fullgöra sina skyldigheter enligt artikel 35 i förordning (EU) 2022/2065. Kommissionens uppfattning av vad som står på spel vid tolkningen och genomförandet av artikel 35 i den förordningen kan dock utvecklas med ytterligare erfarenhet.

77.

Dessutom utvecklas hela tiden de illasinnade aktörernas taktik och det snabbt föränderliga landskap där leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer är verksamma, vilket kräver ständiga uppdateringar och justeringar för att hantera de ständigt föränderliga och nya utmaningarna. När uppförandekoden om desinformation har bedömts av kommissionen och Europeiska nämnden för digitala tjänster förväntas den dessutom formaliseras och knytas till den rättsliga ramen i förordning (EU) 2022/2065. I detta sammanhang förväntar sig kommissionen att undertecknarna fortsätter att genomföra sitt åtagande att ta itu med desinformation i enlighet med uppförandekoden om desinformation. Samtidigt kommer ytterligare EU-rättsakter att träda i kraft under de kommande månaderna och komplettera den förordningen med särskilda regler som är relevanta för valsammanhanget, särskilt förordningen om politisk reklam och AI-akten. Relevant innehåll har beaktats i dessa riktlinjer, särskilt när det redan nu utgör bästa praxis på ett visst område.

78.

Kommissionen kan komma att se över de här riktlinjerna mot bakgrund av de praktiska erfarenheter som gjorts och den tekniska, samhälleliga och lagstiftningsmässiga utvecklingen på området. Under en sådan översyn kan kommissionen besluta att dra tillbaka eller ändra detta meddelande. Kommissionen uppmuntrar leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer, samordnare för digitala tjänster, forskare och civilsamhällesorganisationer att bidra till denna process.

(1) I enlighet med artikel 33 i förordningen om digitala tjänster avser detta leverantörer som utsetts av kommissionen och som har ett genomsnittligt antal aktiva tjänstemottagare i EU per månad som uppgår till 45 miljoner eller mer.

(2) Artikel 34.1 c i förordningen om digitala tjänster.

(3) Artificiell intelligens som kan generera text, bilder eller andra medier med hjälp av generativa modeller.

(4) EU inför nya regler om transparens och inriktning när det gäller politisk reklam – Consilium (europa.eu).

(5) https://digital-strategy.ec.europa.eu/en/news/commission-welcomes-political-agreement-artificial-intelligence-act

(6) https://digital-strategy.ec.europa.eu/en/policies/ai-pact

(7) Kommissionen anordnade ad hoc-möten med leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer, både bilaterala möten och möten i nationella myndigheters närvaro i länder där val ägde rum, för att samla in information om befintliga rutiner och tillfälliga strategier för att hantera valrelaterade risker.

(8) Det inkom 77 svar på samrådet. För en sammanfattning, se Public consultation on draft guidelines for Providers of Very Large Online Platforms (VLOPs) and Very Large Online Search Engines (VLOSEs) on the Mitigation of Systemic Risks for Electoral Processes: A summary and analysis of responses.

(9) https://disinfocode.eu/introduction-to-the-code/

(10) https://www.eeas.europa.eu/eeas/2nd-eeas-report-foreign-information-manipulation-and-interference-threats_en

(11) https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_sv

(12) https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_sv

(13) https://commission.europa.eu/publications/defence-democracy_sv

(14) https://commission.europa.eu/strategy-and-policy/policies/justice-and-fundamental-rights/eu-citizenship-and-democracy/democracy-and-electoral-rights/european-cooperation-network-elections_sv

(15) https://eur-lex.europa.eu/legal-content/SV/TXT/?uri=CELEX%3A32023H2829

(16) https://eur-lex.europa.eu/legal-content/SV/TXT/?uri=CELEX%3A52023DC0630.

(17) Europarådets valcykel – val (coe.int)

(18) Bland annat Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning).

(19) https://cmpf.eui.eu/media-pluralism-monitor/

(20) Se avsnitt 3.4 ”Samarbete med nationella myndigheter, oberoende experter och civilsamhällesorganisationer”.

(21) 2nd EEAS Report on Foreign Information Manipulation and Interference Threats: A Framework for Networked Defence, januari 2024 (europa.eu)

(22) Democracy By Design – Accountable Tech

(23) Elections Program — Integrity Institute

(24) DSA: New Risk Assessments To Protect Civic Discourse and Electoral Processes (liberties.eu)

(25) Traberg, C. S., Roozenbeek, J., & van der Linden, S. (2022). ”Psychological Inoculation against Misinformation: Current Evidence and Future Directions”. The Annals of the American Academy of Political and Social Science, 700(1), 136–151. https://doi.org/10.1177/00027162221087936

(26) Jon Roozenbeek m.fl., ”Psychological inoculation improves resilience against misinformation on social media”. Science Advances vol. 8, eabo6254(2022). DOI:10.1126/sciadv.abo6254

(27) https://eur-lex.europa.eu/legal-content/SV/TXT/?uri=OJ:L_202400900&pk_campaign=todays_OJ&pk_source=EURLEX&pk_medium=X&pk_keyword=trasparency_of_political_advertising&pk_content=regulation&pk_cid=EURLEX_todaysOJ. Artiklarna 3 och 5.1 börjar tillämpas samma dag som förordningen träder i kraft den 9 april 2024. Resten av förordningen blir tillämplig den 9 oktober 2025.

(28) Se rekommendationen i avsnitt 3.2.1 e om att leverantörer av mycket stora onlineplattformar och mycket stora onlinesökmotorer borde anpassa sina policyer till förordningen om politisk reklam redan innan den börjar tillämpas.

(29) Till exempel policydokumentet från Access Now och European Center for Not-for-Profit Law Towards meaningful fundamental rights impact assessments under the DSA, danska Institut for Menneskerettigheders Guidance on Human Rights Impact Assessment of Digital Activities och Julian Jaursch, Josefine Bahro, Asha Allen, Claire Pershan och Katarzyna Szymielewiczs DSA risk mitigation: Current Practices, ideas and open questions.

(30) FIMI targeting LGBTIQ+ people: Well-informed analysis to protect human rights and diversity | EEAS (europa.eu).

(31) Se t.ex. Tom Dobber, Sanne Kruikemeier, Fabio Votta, Natali Helberger & Ellen P. Goodman (2023) ”The effect of traffic light veracity labels on perceptions of political advertising source and message credibility on social media”, Journal of Information Technology & Politics.

(32) https://eur-lex.europa.eu/legal-content/SV/TXT/?uri=CELEX%3A32018H0234

(33) Kommissionens rekommendation (EU) 2023/2829 av den 12 december 2023 om inkluderande och motståndskraftiga valprocesser i unionen och förstärkning av den europeiska karaktären av val till Europaparlamentet och effektivisering av deras genomförande.

(34) Antagna texter - Europeisk mediefrihetsakt - Onsdagen den 13 mars 2024 (europa.eu).

(35) EFCSN | European Fact-Checking Standards Network Project.

(36) 2nd EEAS Report on Foreign Information Manipulation and Interference Threats: A Framework for Networked Defence, januari 2024 (europa.eu)

(37) https://fimi-isac.org/

(38) Artikel 84 i förordningen om digitala tjänster.

(39) COM(2023) 630 final, Meddelande från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén om försvar av demokratin.

(40) https://cert.europa.eu/