a)

oddíl 1 uvádí účel a právní základ, podklady a další související politické iniciativy a strukturu těchto pokynů;

b)

oddíl 2 stanoví oblast působnosti těchto pokynů;

c)

oddíl 3 obsahuje hlavní věcné pokyny k opatřením ke zmírnění systémových rizik souvisejících s volebními procesy. Zvláštní pododdíly se zabývají posílením interních postupů; opatřeními ke zmírnění rizik pro volební procesy; zmírňujícími opatřeními souvisejícími s generativní umělou inteligencí; spoluprací s orgány EU a vnitrostátními orgány, nezávislými odborníky a organizacemi občanské společnosti; procesem zavádění opatření ke zmírnění rizik během voleb a po nich a zvláštními pokyny pro volby do Evropského parlamentu;

d)

v oddíle 4 jsou uvedeny další kroky a závěry.

a)

Přístup k oficiálním informacím o volebním procesu. S cílem zvýšit volební účast a zabránit šíření zavádějících informací a dezinformací a zahraniční manipulaci s informacemi a vměšování, pokud jde o samotný volební proces, je osvědčeným postupem pro poskytovatele velmi velkých online platforem a velmi velkých internetových vyhledávačů usnadnit přístup k oficiálním informacím o volebním procesu, včetně informací o tom, jak a kde volit, a to na základě oficiálních informací od volebních orgánů příslušných členských států. Tyto informace by mohly být poskytovány například prostřednictvím informačních panelů, bannerů, vyskakovacích oken, intervencí v procesu vyhledávání, odkazů na internetové stránky volebních orgánů, zvláštních záložek s informacemi o volbách nebo vyhrazené části platformy. Při koncipování a provádění těchto zmírňujících opatření Komise doporučuje, aby poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů zohlednili zásady, jako je inkluzivnost a přístupnost.

b)

Iniciativy v oblasti mediální gramotnosti. Osvědčeným postupem pro poskytovatele velmi velkých online platforem a velmi velkých internetových vyhledávačů je spolupracovat na iniciativách a kampaních zaměřených na mediální gramotnost a volby, realizovat je, investovat do nich a zapojit se do nich s cílem podpořit kritické myšlení a zlepšit dovednosti uživatelů v rozpoznávání dezinformací a manipulačních technik, což souvisí i s generativní umělou inteligencí. Toho by bylo možné dosáhnout těmito způsoby:

c)

Opatření, která uživatelům poskytnou více kontextových informací o obsahu a účtech, s nimiž pracují. Příklady zahrnují:

d)

Doporučovací systémy mohou hrát významnou roli při utváření informačního prostředí a veřejného mínění, jak je uvedeno v 70., 84., 88. a 94. bodě odůvodnění a v čl. 34 odst. 2 nařízení (EU) 2022/2065. Za účelem zmírnění rizika, které mohou tyto systémy představovat ve vztahu k volebním procesům, by měli poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů zvážit následující:

e)

Politická reklama. Poskytovatelům velmi velkých online platforem a velmi velkých internetových vyhledávačů se doporučuje, aby se připravili na začátek použitelnosti nařízení (EU) 2024/900 o transparentnosti a cílení politické reklamy („nařízení o politické reklamě“) a aby věnovali zvláštní pozornost ustanovení o nediskriminaci (čl. 5 odst. 1), které se použije dvacet dní po vyhlášení nařízení dne 20. března 2024 (27). Za dodržování tohoto ustanovení odpovídají všichni poskytovatelé online platforem. Toto nařízení definuje politickou reklamu jako přípravu, umísťování, propagaci, zveřejňování, doručování nebo šíření sdělení politickými aktéry, pro politické aktéry nebo jejich jménem, nemají-li čistě soukromou nebo čistě obchodní povahu; nebo sdělení, která mohou ovlivnit výsledek voleb či referenda, chování při hlasování nebo legislativní či regulační proces na unijní, vnitrostátní, regionální nebo místní úrovni, a jsou k tomuto účelu určena. Poskytovatelům velmi velkých online platforem a velmi velkých internetových vyhledávačů se doporučuje, aby při uplatňování těchto pokynů zohlednili definice uvedené v tomto nařízení. Pokud poskytovatel velmi velké online platformy nebo velmi velkého internetového vyhledávače nabízí možnost umístit ve své službě politické reklamy, Komise doporučuje, aby při plnění povinností stanovených v článku 26 nařízení (EU) 2022/2065 a v souladu s připravovaným nařízením o transparentnosti a cílení politické reklamy byly tyto reklamy označeny jasným, zřetelným a jednoznačným způsobem a v reálném čase, aby uživatelé pochopili, že zobrazený obsah obsahuje politickou reklamu. Použitá označení by navíc měla zůstat zachována i při sdílení uživateli na stejné platformě. Komise rovněž doporučuje, aby poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů přizpůsobili své zásady nařízení o politické reklamě ještě před začátkem jeho použitelnosti. Ustanovení tohoto nařízení doplňují právní povinnosti vyplývající z článků 26 a 39 nařízení (EU) 2022/2065, a to zejména v těchto oblastech:

f)

Vlivní uživatelé (tzv. influenceři) mohou mít významný vliv na volební rozhodnutí příjemců služby, protože se stále více podílejí na usnadňování politické debaty online. V tomto ohledu a v zájmu zvýšení transparentnosti by poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů měli:

g)

Demonetizace dezinformačního obsahu. Komise doporučuje, aby poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů měli zavedeny cílené zásady a systémy, které zajistí, že umístění reklamy nebude finančně motivovat k šíření dezinformací a obsahu spojeného se zahraniční manipulací s informacemi a vměšováním v souvislosti s volebními procesy a nenávistného, (násilného) extremistického nebo radikalizujícího obsahu, který může ovlivnit jednotlivce při jejich volebním rozhodování.

h)

Integrita služeb. Poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů by měli zavést vhodné postupy k zajištění včasného a účinného odhalení a přerušení manipulace se službou, pokud ji identifikovali jako relevantní systémové riziko, a to se zohledněním nejlepších dostupných informací. Do svých podmínek mohou například začlenit konkrétní pravidla proti vytváření neautentických účtů nebo botnetů (které mohou zahrnovat automatizované, částečně automatizované nebo neautomatizované účty) nebo klamavému používání služby.

a)

zajistit, aby bylo možné odhalit obsah generativní umělé inteligence a další druhy syntetických a klamavě upravených médií – zejména pomocí dostatečně spolehlivých, interoperabilních, účinných a robustních technik a metod, jako jsou vodoznaky, identifikace metadat, kryptografické metody prokazování původu a pravosti obsahu, metody vedení protokolů, otisky prstů nebo případně jiné techniky, a to s ohledem na stávající normy. To je důležité zejména pro obsah generativní umělé inteligence, který se týká kandidátů, politiků nebo politických stran. Vodoznaky a metadata lze použít i na obsah, který je založen na původně autentických záběrech (například videích, obrázcích nebo zvukových záznamech), které byly následně upraveny pomocí generativní umělé inteligence;

b)

snažit se zajistit, aby informace generované systémy umělé inteligence vycházely v co největší míře ze spolehlivých zdrojů v kontextu voleb, jako jsou oficiální informace příslušných volebních orgánů, a aby veškeré citace nebo odkazy systému na externí zdroje byly přesné a nezkreslovaly citovaný obsah, čímž se omezí účinky „halucinací“;

c)

upozorňovat uživatele na možné chyby v obsahu vytvořeném systémy generativní umělé inteligence a doporučit jim, aby si ověřili pravdivost daných informací u spolehlivých zdrojů, a zavést ochranná opatření, která zabrání vytváření falešného obsahu, jenž může mít silný potenciál ovlivnit chování uživatelů;

d)

provádět a dokumentovat cvičení metodou „červených týmů“ a testování se zvláštním zaměřením na volební procesy, a to jak s interními týmy, tak s externími odborníky, před uvedením systémů generativní umělé inteligence na trh a používat přitom přístup postupného uvádění na trh, aby bylo možné lépe kontrolovat nezamýšlené důsledky;

e)

stanovit vhodná měřítka výkonnosti, včetně měřítek pro bezpečnost a věcnou správnost odpovědí na otázky týkající se volebního obsahu, a průběžně sledovat výkonnost systémů generativní umělé inteligence a v případě potřeby přijmout vhodná opatření;

f)

integrovat do generativních systémů umělé inteligence ochranná opatření, která zvýší jejich bezpečnost, jako jsou klasifikátory podnětů (tzv. promptů), moderování obsahu a další filtry, aby bylo možné podněty odhalit a zabránit těm podnětům, které jsou v rozporu s podmínkami služby poskytovatele velmi velké online platformy nebo velmi velkého internetového vyhledávače týkajícími se volebních procesů; přijmout další vhodná opatření, jejichž cílem je zabránit zneužití systému generativní umělé inteligence k nezákonným, manipulativním a dezinformačním účelům v souvislosti s volebními procesy;

g)

zejména u textového obsahu v generovaných výstupech pokud možno uvádět konkrétní zdroje informací použitých jako vstupní údaje nebo poskytnout jiné prostředky, které uživatelům umožní ověřit si spolehlivost informací a dále je zasadit do kontextu.

a)

úpravu podmínek a zajištění jejich dodržování, aby se výrazně snížil dosah a dopad obsahu generativní umělé inteligence, který zobrazuje dezinformace nebo zavádějící informace o volebním procesu, například o nesrovnalostech při volbách.

b)

zřetelné označování nebo jiné odlišení pomocí výrazných značek u syntetických nebo manipulovaných obrázků, zvuků nebo videí, které se nápadně podobají existujícím osobám, předmětům, místům, subjektům, událostem nebo zobrazují události, které se nestaly, jako skutečné nebo je zkreslují a které by se určité osobě mohly nepravdivě jevit jako autentické nebo pravdivé (tzv. deep fakes).

c)

Komise doporučuje, aby poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů upravili své reklamní systémy, například tím, že zadavatelům reklamy poskytnou možnost jasně označit obsah vytvořený pomocí generativní umělé inteligence v reklamách nebo v propagovaných příspěvcích a ve svých reklamních zásadách požadovat, aby toto označení bylo použito vždy, když reklama zahrnuje obsah generativní umělé inteligence;

d)

za účelem vymáhání dodržování těchto zásad by poskytovatelé velmi velkých online platforem a velmi velkých internetových vyhledávačů měli upravit své procesy moderování obsahu a algoritmické systémy tak, aby bylo možné odhalit obsah vytvořený nebo manipulovaný umělou inteligencí prostřednictvím vodoznaků, identifikace metadat, kryptografických metod prokazování původu a pravosti obsahu, metod vedení protokolů, otisků prstů nebo jiných technik.

e)

opatření v oblasti mediální gramotnosti uvedená v oddíle 2 by se měla zaměřit také na systémy generativní umělé inteligence, například na vysvětlení fungování této technologie a možností jejího zneužití.