P9_TA(2021)0238

Artificiell intelligens inom utbildning, kultur och den audiovisuella sektorn

Europaparlamentets resolution av den 19 maj 2021 om artificiell intelligens inom utbildning, kultur och den audiovisuella sektorn (2020/2017(INI))

(2022/C 15/04)

Europaparlamentet utfärdar denna resolution

—	med beaktande av Europeiska unionens stadga om de grundläggande rättigheterna (stadgan),

—	med beaktande av artiklarna 165, 166 och 167 i fördraget om Europeiska unionens funktionssätt,

—	med beaktande av rådets slutsatser av den 9 juni 2020 om att forma Europas digitala framtid (1),

—	med beaktande av yttrandet från Europeiska ekonomiska och sociala kommittén av den 19 september 2018 om den digitala könsklyftan (2),

—	med beaktande av kommissionens förslag till Europaparlamentets och rådets förordning av den 6 juni 2018 om inrättande av programmet för ett digitalt Europa för perioden 2021–2027 (COM(2018)0434),

—	med beaktande av kommissionens meddelande av den 30 september 2020Handlingsplan för digital utbildning 2021–2027: Ställa om utbildningen till den digitala tidsåldern COM(2020)0624),

—	med beaktande av kommissionens meddelande av den 30 september 2020 om att förverkliga det europeiska området för utbildning senast 2025 (COM(2020)0625),

—	med beaktande av kommissionens rapport av den 19 februari 2020Konsekvenser för säkerhet och ansvar när det gäller artificiell intelligens, sakernas internet och robotteknik (COM(2020)0064),

—	med beaktande av kommissionens vitbok av den 19 februari 2020Om artificiell intelligens – en EU-strategi för spetskompetens och förtroende (COM(2020)0065),

—	med beaktande av kommissionens meddelande av den 19 februari 2020Artificiell intelligens för Europa (COM(2020)0066),

—	med beaktande av kommissionens meddelande av den 25 april 2018Artificiell intelligens för Europa (COM(2018)0237),

—	med beaktande av kommissionens meddelande av den 17 januari 2018 om handlingsplanen för digital utbildning (COM(2018)0022),

—	med beaktande av rapporten av den 8 april 2019 från kommissionens högnivåexpertgrupp för AI-frågor Ethics Guidelines for Trustworthy AI (etiska riktlinjer för tillförlitlig AI),

—	med beaktande av sin resolution av den 12 februari 2019 om en övergripande europeisk industripolitik för artificiell intelligens (AI) och robotteknik (3),

—	med beaktande av sin resolution av den 11 september 2018 om likabehandling av språk i den digitala tidsåldern (4),

—	med beaktande av sin resolution av den 12 juni 2018 om modernisering av utbildningen i EU (5),

—	med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik (6),

—	med beaktande av sin resolution av den 1 juni 2017 om digitalisering av den europeiska industrin (7),

—	med beaktande av informationen från utredningsavdelningen för struktur- och sammanhållningspolitik från maj 2020 om användningen av artificiell intelligens i de kulturella och kreativa sektorerna,

—	med beaktande av djupanalysen från utredningsavdelningen för struktur- och sammanhållningspolitik från maj 2020 om användningen av artificiell intelligens i den audiovisuella sektorn,

—	med beaktande av studien från utredningsavdelningen för medborgarnas rättigheter och konstitutionella frågor från april 2020 om utbildning och anställning av kvinnor inom vetenskap, teknik och den digitala ekonomin, inklusive artificiell intelligens och dess påverkan på jämställdheten,

—	med beaktande av artikel 54 i arbetsordningen,

—	med beaktande av yttrandena från utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor, utskottet för den inre marknaden och konsumentskydd, utskottet för rättliga frågor och utskottet för kvinnors rättigheter och jämställdhet mellan kvinnor och män,

—	med beaktande av betänkandet från utskottet för kultur och utbildning (A9-0127/2021), och av följande skäl:

Tekniken för artificiell intelligens (AI-tekniken), som kan inverka direkt på våra samhällen, utvecklas snabbt och används allt oftare inom nästan alla delar av våra liv, inklusive inom utbildning, kultur och den audiovisuella sektorn. Etisk AI förbättrar sannolikt arbetsproduktiviteten och påskyndar den ekonomiska tillväxten.

B.	Utveckling, införande och användning av AI, inklusive programvara, algoritmer och data som används eller produceras av AI, bör vägledas av de etiska principerna om öppenhet, förklarbarhet, rättvisa, spårbarhet och ansvarsutkrävande.

C.	Offentliga AI-investeringar i unionen har till stor del hamnat på efterkälken i jämförelse med andra stora ekonomier. Bristen på AI-investeringar kommer troligen att inverka på unionens konkurrenskraft inom alla sektorer.

D.	En integrerad strategi för AI och tillgång till samt insamling och tolkning av högkvalitativa, trovärdiga, rättvisa, transparenta, autentiska, säkra och kompatibla data är avgörande för utvecklingen av etisk AI.

E.	I artikel 21 i stadgan förbjuds diskriminering på många olika grunder. Många olika former av diskriminering bör inte upprepas vid utveckling, införande och användning av AI-system.

F.	Jämställdhet mellan kvinnor och män är en av EU:s grundläggande principer, som fastställs i fördragen och bör komma till uttryck i all unionspolitik, bland annat inom utbildning, kultur och den audiovisuella sektorn, liksom vid utveckling av teknik såsom AI.

Tidigare erfarenheter, i synnerhet inom tekniska områden, har visat att utveckling och innovation ofta bygger på data främst från män och att kvinnors behov inte beaktas fullt ut. För att ta itu med denna snedvridning krävs bättre vaksamhet, tekniska lösningar och utveckling av tydliga krav på rättvisa, ansvarsskyldighet och transparens.

Ofullständiga och felaktiga dataset, brist på könsuppdelade data och inkorrekta algoritmer kan medföra snedvridning av AI-systems uppgiftsbehandling och äventyra jämställdheten i samhället. Uppgifter om missgynnade grupper och diskriminering på flera olika grunder och områden tenderar att vara ofullständiga eller rent av saknas.

Ojämställdhet, stereotyper och diskriminering kan också uppstå och spridas genom det språk och de bilder som sprids i medier och genom AI-drivna applikationer. Utbildning, kulturprogram och audiovisuellt innehåll har betydande effekter när det gäller att påverka människors uppfattningar och värderingar och är ett grundläggande verktyg för att bekämpa könsstereotyper, minska den digitala könsklyftan och befästa kraftfulla förebilder. Det måste finnas en etisk och rättslig ram innan man inför automatiska lösningar för dessa samhälleliga nyckelområden.

Forskning och innovation kan förändra livet för många människor, i synnerhet för dem som har halkat efter mest, såsom kvinnor och flickor som lever i avlägsna områden. Vetenskaplig utbildning är viktig för att erhålla färdigheter, anständigt arbete och framtidens jobb, liksom för att få bukt med könsstereotyper som betraktar dessa områden som stereotypt maskulina. Vetenskap och vetenskapligt tänkande är ett måste för en demokratisk kultur, som i sin tur är avgörande för att främja jämställdhet mellan kvinnor och män.

En av tio kvinnor i unionen har redan utsatts för någon form av nätvåld efter det att hon fyllt 15, och nättrakasserier är fortsatt ett stort problem vid AI-utvecklingen, inklusive inom utbildningen. Nätvåld drabbar ofta kvinnor i offentligheten, såsom aktivister, kvinnliga politiker och andra offentliga personer. AI och annan framväxande teknik kan spela en viktig roll i att förhindra nätvåld mot kvinnor och flickor samt utbilda människor.

Unionen och dess medlemsstater har ett särskilt ansvar att utnyttja, främja och förbättra AI-teknikens mervärde samt se till att denna teknik är säker och bidrar till européernas välbefinnande och allmänintresse. Denna teknik kan bidra stort till att vi når vårt gemensamma mål att förbättra livet för EU-medborgarna och främja välstånd inom unionen genom att bidra till utvecklingen av bättre strategier och innovation inom ett antal olika områden såsom utbildning, kultur och den audiovisuella sektorn.

M.	Merparten av AI baseras på programvara med öppen källkod, vilket innebär att källkoden kan granskas, ändras och förbättras.

Vissa justeringar av EU:s befintliga specifika rättsliga instrument kan vara nödvändiga för att återspegla den digitala omvandlingen och hantera nya utmaningar i användningen av AI-teknik inom utbildning, kultur och den audiovisuella sektorn, exempelvis att skydda personuppgifter och integritet, motverka diskriminering, främja jämställdhet samt respektera immateriell äganderätt, miljöskydd och konsumenträttigheter.

O.	Det är viktigt att den audiovisuella sektorn får tillgång till data från globala plattformar och viktiga aktörer för att säkerställa lika villkor.

AI och framtida applikationer eller uppfinningar som görs med hjälp av AI kan, precis som all annan teknik, ha dubbel karaktär. AI och tillhörande teknik väcker många farhågor när det gäller etik och öppenhet i samband med dess utveckling, införande och användning, särskilt när det gäller insamling, användning och spridning av data. Fördelarna och riskerna med AI-teknik inom utbildning, kultur och den audiovisuella sektorn måste utvärderas noggrant och dess effekter på alla delar av samhället bör analyseras grundligt och fortlöpande utan att dess potential äventyras.

Q.	Utbildningsverksamheten har som mål att realisera människors potential, kreativitet och en äkta samhällelig förändring. Felaktig användning av datadrivna AI-system kan förhindra mänsklig och social utveckling.

R.	Utbildning och utbildningsmöjligheter är en grundläggande rättighet. Den AI-teknik som utvecklas, införs och används i utbildningssektorn bör klassificeras som teknik med hög risk och omfattas av strängare krav på säkerhet, öppenhet, rättvisa och ansvarsskyldighet.

Högkvalitativa, snabba och säkra genomgripande anslutningar, bredband, nät med hög kapacitet, it-expertis, digital kompetens, digital utrustning och infrastruktur samt samhällelig acceptans och en riktad och anpassad politisk ram är några av förutsättningarna för en bred och framgångsrik spridning av AI i unionen. Det är viktigt att sådan infrastruktur och utrustning används på samma sätt i hela unionen för att motverka den ihållande digitala klyftan mellan dess regioner och medborgare.

Att hantera klyftan mellan könen inom studier i naturvetenskap, teknik, ingenjörsvetenskap, humaniora och matematik (STEAM) är absolut nödvändigt för att säkerställa en jämlik och rättvis representation av hela samhället vid utveckling, införande och användning av AI-teknik, inklusive programvara, algoritmer och data som används och produceras av AI-teknik.

Det är viktigt att se till att människor i unionen får den kompetens som krävs från tidig ålder för att bättre förstå AI:s möjligheter och begränsningar, och bättre kunna förbereda sig inför den ökande förekomsten av AI och tillhörande teknik i alla aspekter av mänsklig verksamhet, samt till fullo kunna ta del av de möjligheter som AI erbjuder. Ett utbrett förvärv av digitala färdigheter i alla delar av samhället i unionen är en förutsättning för att uppnå en rättvis digital omvandling som gynnar alla.

V.	För detta måste medlemsstaterna investera i digital utbildning och medieutbildning, förse skolor med lämplig infrastruktur och nödvändiga slutenheter och i större utsträckning lyfta fram undervisningen i digitala kunskaper och färdigheter som en del av läroplanerna.

AI och tillhörande teknik kan användas för att förbättra inlärnings- och undervisningsmetoderna, särskilt genom att hjälpa utbildningssystemen att använda rättvisa data för att förbättra jämlikheten och kvaliteten på utbildningsområdet och samtidigt främja skräddarsydda läroplaner och bättre tillgång till utbildning samt förbättra och automatisera vissa administrativa uppgifter. Lika och rättvis tillgång till digital teknik och höghastighetsuppkoppling krävs för att användningen av AI ska vara till nytta för hela samhället. Det är av högsta vikt att säkerställa att utbildningar i digital kompetens blir tillgängliga för alla, inklusive för personer från mindre gynnade förhållanden och personer med funktionsnedsättningar. Inlärningsresultaten beror inte på tekniken, utan på huruvida lärarna kan använda tekniken på ett pedagogiskt meningsfullt sätt.

AI har särskild potential att erbjuda lösningar för vardagliga utmaningar inom utbildningssektorn, t.ex. individanpassad inlärning, övervakning av inlärningssvårigheter och automatisering av ämnesspecifikt innehåll/ämnesspecifika kunskaper, tillhandahållande av bättre yrkesutbildning och stöd för övergången till ett digitalt samhälle.

Y.	AI skulle kunna få praktiska tillämpningar när det gäller att minska lärares och utbildningsinstituts administrativa arbete genom att frigöra tid till deras centrala undervisnings- och utbildningsverksamhet.

Z.	Nya AI-baserade program inom utbildning underlättar framstegen inom olika områden, exempelvis språkinlärning och matematik.

AA.	AI-baserad personanpassad inlärning kan inte enbart öka studenternas motivation och hjälpa dem att nå sin fulla potential, utan också minska andelen studieavbrott.

AB.	Med AI kan lärarna alltmer förbättra sin effektivitet tack vare en ökad förståelse för studenternas inlärningsmetoder och inlärningsstilar och genom att hjälpa dem identifiera inlärningssvårigheter och därmed bättre kunna bedöma individuella framsteg.

AC.	På unionens digitala arbetsmarknad saknas det nästan en halv miljon experter inom stordatavetenskap och dataanalys, vilka utgör själva grunden för att man ska kunna utveckla och använda högkvalitativ och tillförlitlig AI.

AD.

Tillämpningen av AI inom utbildning väcker frågor rörande etisk användning av uppgifter, de studerandes rättigheter, åtkomst till data och skydd av personuppgifter, och medför därför risker för grundläggande rättigheter, t.ex. genom att stereotypa modeller skapas av de studerandes profiler och beteenden, vilket kan leda till diskriminering eller risk för skada genom att dålig pedagogisk praxis blir vanligare.

AE.	Kultur spelar en central roll i användningen av AI-teknik i stor skala och håller på att växa fram som en viktig disciplin för kulturarvet tack vare utvecklingen av innovativa tekniker och verktyg och deras effektiva tillämpning för att tillgodose sektorns behov.

AF.

AI-teknik kan användas för att främja och skydda kulturarv, bland annat genom att använda digitala verktyg för att bevara historiska platser, genom att finna innovativa sätt att göra de dataset om kulturföremål som finns på kulturinstitutioner i hela EU mer allmänt och enkelt tillgängliga, samtidigt som användare kan navigera i den enorma mängden kulturellt och kreativt innehåll. I detta avseende är främjandet av normer och ramar för interoperabilitet avgörande.

AG.

Användningen av AI-teknik för kulturellt och kreativt innehåll, särskilt medieinnehåll och skräddarsydda innehållsrekommendationer, väcker frågor om dataskydd, diskriminering och kulturell och språklig mångfald, riskerar att leda till diskriminerande resultat på grundval av partiska ingångsuppgifter och skulle kunna begränsa åsiktsmångfalden och mediepluralismen.

AH.

AI-baserade personliga innehållsrekommendationer kan ofta bättre inriktas på enskilda personers särskilda behov, inbegripet kulturella och språkliga preferenser. AI kan bidra till att främja den språkliga mångfalden i unionen och till ökad spridning av europeiska audiovisuella verk, särskilt genom automatisk undertextning och dubbning av audiovisuellt innehåll till andra språk. Att producera medieinnehåll på olika språk är därför avgörande för att stödja kulturell och språklig mångfald.

AI.	AI driver fram innovation på nyhetsredaktioner genom att automatisera olika allmänt förekommande uppgifter, tolka data och till och med generera nyheter som väderprognoser och idrottsresultat.

AJ.	Europas kulturella mångfald innebär att främjandet av datorlingvistik för en rättighetsbaserad AI har en särskild innovationspotential som kan användas för att utforma det globala kultur- och informationsutbytet i den digitala tidsåldern på ett demokratiskt och icke-diskriminerande sätt.

AK.

AI-tekniken kan ha potential att främja specialundervisningen och tillgången till kulturellt och kreativt innehåll för personer med funktionsnedsättning. AI möjliggör lösningar såsom taligenkänning, virtuella assistenter och digitala representationer av fysiska föremål. Digitala verk spelar redan en roll när det gäller att göra sådant innehåll tillgängligt för personer med funktionsnedsättning.

AL.	AI-tillämpningar förekommer överallt i den audiovisuella sektorn, i synnerhet på plattformar för audiovisuellt innehåll.

AM.	AI-teknik bidrar därför till att skapa, planera, hantera, producera, distribuera, lokalisera och använda audiovisuellt pressmaterial.

AN.

AI kan användas för att generera falskt innehåll, såsom deepfake-material, som växer exponentiellt och utgör ett överhängande hot mot demokratin, men kan samtidigt också användas som ett ovärderligt verktyg för att identifiera och omedelbar bekämpa sådan skadlig verksamhet, exempelvis genom faktagranskning i realtid och märkning av sådant innehåll. Deepfake-materialet är för det mesta lätt att upptäcka. Samtidigt är AI-baserade identifieringsverktyg dock i allmänhet framgångsrika i att flagga och filtrera bort sådant innehåll. Det saknas en rättslig ram i denna fråga.

Allmänna kommentarer

Europaparlamentet understryker den strategiska betydelse som AI och tillhörande teknik har för unionen. Parlamentet betonar att strategin för AI och tillhörande teknik måste vara människocentrerad och förankrad i mänskliga rättigheter och etik, så att AI verkligen blir ett instrument som tjänar människor, det allmännas bästa och medborgarnas allmänna intresse.

Europaparlamentet understryker att man vid utveckling, införande och användning av AI inom utbildning, kultur och den audiovisuella sektorn fullt ut måste respektera grundläggande fri- och rättigheter och värden, inklusive människans värdighet, rätten till privatliv, skydd av personuppgifter, icke-diskriminering och yttrande- och informationsfrihet samt kulturell mångfald och immateriella rättigheter, i enlighet med vad som fastställs i unionens fördrag och stadgan.

Europaparlamentet bekräftar att utbildning, kultur och den audiovisuella sektorn är känsliga områden när det gäller användning av AI och tillhörande teknik, eftersom de har potential att inverka på hörnstenarna för de grundläggande rättigheterna och våra samhälleliga värden. Parlamentet betonar därför att etiska principer bör iakttas vid utveckling, införande och användning av AI och tillhörande teknik inom dessa sektorer, inbegripet den programvara samt de algoritmer och uppgifter som den använder respektive producerar.

Europaparlamentet påminner om att algoritmer och AI ska ha inbyggd etik utan inbyggd partiskhet på ett sätt som garanterar ett maximalt skydd för de grundläggande rättigheterna.

Europaparlamentet upprepar vikten av att utveckla högkvalitativ, kompatibel och inkluderande AI och tillhörande teknik för användning inom djupinlärning med respekt för och värn om värderingarna i unionen – i synnerhet jämställdhet, flerspråkighet och de villkor som krävs för en interkulturell dialog – eftersom användningen av lågkvalitativa, föråldrade, ofullständiga eller felaktiga uppgifter kan leda till bristfälliga prognoser och därmed till diskriminering och partiskhet. Parlamentet betonar betydelsen av att man utvecklar kapacitet på både nationell nivå och unionsnivå för att förbättra insamling, säkerhet, systematisering och överföring av uppgifter utan förfång för integriteten. Parlamentet noterar kommissionens förslag om att skapa ett gemensamt europeiskt dataområde.

Europaparlamentet påminner om att AI kan ge upphov till snedvridning och därmed till olika former av diskriminering på grund av kön, ras, hudfärg, etniskt eller socialt ursprung, genetiska särdrag, språk, religion eller övertygelse, politisk eller annan åskådning, tillhörighet till nationell minoritet, förmögenhet, börd, funktionsnedsättning, ålder eller sexuell läggning. Parlamentet påminner i detta avseende om att alla människors rättigheter måste säkerställas och att AI och tillhörande teknik inte får vara diskriminerande i någon form.

Europaparlamentet betonar att sådan snedvridning och diskriminering kan härröra från redan snedvridna dataset, vilka återspeglar befintlig diskriminering i samhället. I detta sammanhang påminner parlamentet dessutom om att det är mycket viktigt att även involvera berörda parter, inklusive aktörer i det civila samhället, för att förhindra att könsbaserade, sociala och kulturella negativa fördomar oavsiktligt inkluderas i AI-algoritmer, system och program. Parlamentet betonar behovet av att vidareutveckla det mest effektiva sättet att minska snedvridning i AI-system, i linje med etiska normer och icke-diskrimineringsstandarder. Parlamentet understryker att dataset som används för att träna AI bör vara så breda som möjligt för att företräda samhället på bästa och mest relevanta sätt, att resultaten bör ses över för att undvika alla former av stereotyper, diskriminering och snedvridning, och att AI, när så är lämpligt, bör användas för att identifiera och rätta till mänskliga fördomar varhelst sådana förekommer. Parlamentet uppmanar kommissionen att uppmuntra och underlätta utbyte av strategier för att åtgärda snedvridning av data.

Europaparlamentet uppmanar kommissionen och medlemsstaterna att beakta etiska aspekter, även ur ett jämställdhetsperspektiv, när man utvecklar politik och lagstiftning för AI, och att vid behov anpassa nuvarande lagstiftning, inklusive EU:s program och etiska riktlinjer, till användningen av AI.

Europaparlamentet uppmanar kommissionen och medlemsstaterna att utforma åtgärder som fullständigt beaktar jämställdheten, såsom upplysningskampanjer, utbildningar och läroplaner, vilka bör informera medborgarna om hur algoritmer fungerar och hur de påverkar deras vardag. Parlamentet uppmanar dem också att främja jämställda attityder och arbetsvillkor som leder till utveckling av mer inkluderande teknikprodukter och arbetsmiljöer. Parlamentet uppmanar med kraft kommissionen och medlemsstaterna att se till att digitala färdigheter och AI-utbildning inkluderas i skolornas läroplaner och görs tillgängliga för alla, som ett sätt att överbrygga den digitala klyftan mellan kvinnor och män.

10.

Europaparlamentet betonar behovet av utbildning för arbetstagare och utbildare på AI-området för att förbättra möjligheterna att identifiera och rätta till könsdiskriminerande metoder på arbetsplatser och i utbildningssammanhang, och för att arbetstagare som utvecklar AI-system och AI-applikationer ska kunna identifiera och åtgärda könsdiskriminering i de system och applikationer som de utvecklar. Parlamentet vill också att man fastställer tydliga ansvarsområden vid företag och utbildningsinstitutioner för att säkerställa att det inte förekommer någon könsdiskriminering på arbetsplatser och i utbildningssammanhang. För utbildnings- och kulturändamål bör man använda könlösa bilder av AI och robotar, såvida inte kön är en avgörande faktor av något skäl.

11.

Europaparlamentet understryker vikten av att ta fram och införa AI-applikationer inom utbildning, kultur och den audiovisuella sektorn för att samla in könssegregerad data och annan jämställdhetsdata, och att vid behov tillämpa modern maskininlärningsteknik för att avvärja snedvridning och på så sätt korrigera könsstereotyper och könsbaserad snedvridning som kan få negativa effekter.

12.

Europaparlamentet uppmanar kommissionen att inkludera utbildning i regelverket för AI-tillämpningar med hög risk, eftersom det är viktigt att säkerställa att utbildningen fortsätter att gynna det allmännas bästa och för att data om elever, studerande och andra inlärare innehåller mycket känslig information. Parlamentet betonar att man vid införandet av dessa tillämpningar i utbildningssektorn bör involvera lärare, elever och samhället i stort samt ta hänsyn till allas behov och de förväntade fördelarna för att säkerställa att AI används på ett målmedvetet och etiskt ansvarsfullt sätt.

13.

Europaparlamentet uppmanar kommissionen att uppmuntra användningen av unionsprogram som Horisont Europa, programmet för ett digitalt Europa och Erasmus+ för att främja tvärvetenskaplig forskning, pilotprojekt, experiment och utveckling av verktyg inklusive utbildning, i syfte att identifiera könsbaserad snedvridning inom AI, samt informationskampanjer för allmänheten.

14.

Europaparlamentet betonar behovet av mångfald bland utvecklare och ingenjörer som arbetar tillsammans med huvudaktörerna inom utbildning, kultur och den audiovisuella sektorn för att förhindra att snedvridning på grund av kön eller kultur oavsiktligt inkluderas i AI-algoritmer, AI-system och AI-applikationer. Parlamentet understryker att man måste beakta de många olika teorier med hjälp av vilka AI hittills har utvecklats och som kan utvecklas ytterligare i framtiden.

15.

Europaparlamentet påpekar att vederbörlig omsorg för att få bort snedvridning och diskriminering mot vissa grupper, däribland könsstereotyper, inte bör stoppa de tekniska framstegen.

16.

Europaparlamentet upprepar vikten av grundläggande rättigheter och den övergripande prioriteringen av data- och integritetsskyddslagstiftningen som är absolut nödvändig vid hantering av sådan teknik. Parlamentet påminner om att AI kan inverka på uppgiftsskydd och integritet särskilt när det gäller uppgifter om barn. Parlamentet understryker att principerna som fastställts i den allmänna dataskyddsförordningen (8) är bindande för användningen av AI i det avseendet. Parlamentet påminner dessutom om att alla AI-tillämpningar till fullo måste respektera unionens dataskyddslagstiftning, närmare bestämt den allmänna dataskyddsförordningen och direktivet om integritet och elektronisk kommunikation (9). Parlamentet betonar rätten att få människor att gripa in när AI och tillhörande teknik används.

17.

Europaparlamentet uppmanar kommissionen och medlemsstaterna att införa en skyldighet om öppenhet och förklarbarhet avseende AI-baserade automatiska enskilda beslut som fattats inom ramen för offentliga myndigheters befogenheter, och att införa sanktioner för att se till att denna skyldighet efterlevs. Parlamentet efterlyser genomförande av system som använder mänsklig kontroll och mänskligt ingripande som standardiserat tillvägagångssätt, och vederbörliga rättsförfaranden, inbegripet rätten att överklaga och tillgång till rättsmedel.

18.

Europaparlamentet noterar de eventuellt negativa effekterna av personanpassad reklam, i synnerhet individuellt riktad och beteendestyrd reklam, liksom av bedömningar av enskilda personer, särskilt minderåriga, som sker utan deras samtycke genom att man gör intrång i enskildas privatliv med frågor om insamlingen och användningen av uppgifter som används för att personanpassa reklam och erbjuda produkter eller tjänster eller fastställa priser. Parlamentet uppmanar därför kommissionen att införa strikta begränsningar av riktad reklam som bygger på insamling av personuppgifter, till att börja med genom ett förbud mot beteendestyrd reklam mellan plattformar, utan att skada små och medelstora företag. Parlamentet påminner om att det i direktivet om integritet och elektronisk kommunikation för närvarande endast tillåts riktad reklam som omfattas av frivilligt samtycke; för övrigt är sådan reklam olaglig. Parlamentet uppmanar kommissionen att förbjuda användningen av diskriminerande metoder för tillhandahållande av tjänster eller produkter.

19.

Europaparlamentet betonar att medieorganisationer måste informeras om huvudparametrarna för algoritmbaserade AI-system som styr rankingen och sökresultaten på tredjepartsplattformar, samt att användare måste få information om hur AI används i beslutstjänster och ha möjlighet att ställa in sina sekretessparametrar genom transparenta och begripliga åtgärder.

20.

Europaparlamentet betonar att AI jämsides med informations- och utbildningsplattformar kan stödja skapandet av innehåll inom utbildnings, kultur och den audiovisuella sektorn, inbegripet förteckningar över olika typer av kulturföremål och en mängd olika datakällor. Parlamentet noterar riskerna för intrång i immateriella rättigheter när man kombinerar AI och olika slags teknik med många olika källor (dokument, fotografier, filmer) för att förbättra hur uppgifterna läggs fram, utforskas och visualiseras. Parlamentet kräver att AI används för att säkerställa en hög skyddsnivå för immateriella rättigheter inom den nuvarande rättsliga ramen, till exempel genom att varna enskilda personer och företag om de riskerar att oavsiktligt överträda reglerna eller genom att bistå innehavare av immateriella rättigheter såvida reglerna faktiskt kränks. Parlamentet betonar därför vikten av en lämplig rättslig ram på unionsnivå för skyddet av immateriella rättigheter i samband med användning av AI.

21.

Europaparlamentet betonar behovet av att hitta en balans mellan å ena sidan utvecklingen av AI-system och deras användning inom utbildning och kultur samt den audiovisuella sektorn och, å andra sidan, åtgärder för att skydda konkurrensen och konkurrenskraften på marknaden för AI-företag inom dessa sektorer. Parlamentet betonar i detta avseende behovet av att uppmuntra företag att investera i innovation för AI-system som används inom dessa sektorer, samtidigt som man ser till att de som tillhandahåller sådana tillämpningar inte får marknadsmonopol. Parlamentet understryker vikten av att AI blir allmänt tillgänglig för de kulturella och kreativa sektorerna och näringarna i Europa, för att kunna bibehålla likvärdiga förutsättningar och rättvis konkurrens för alla berörda parter och aktörer i Europa. Parlamentet uppmanar kommissionen och medlemsstaterna att i samband med beslut om konkurrenspolitiken, inbegripet fusionsbeslut, ta mer hänsyn till den roll som data och algoritmer spelar vid koncentrationen av marknadsstyrka.

22.

Europaparlamentet betonar behovet av att systematiskt ta itu med de etiska och rättsliga frågor som utveckling, införande och användning av AI ger upphov till, såsom insynsvänlighet och ansvarsskyldighet i fråga om algoritmer, icke-diskriminering, lika möjligheter, åsiktsfrihet och -mångfald, mediepluralism, äganderätt till data och innehåll samt insamling, användning och spridning av data och innehåll. Parlamentet rekommenderar att man utformar gemensamma europeiska riktlinjer och normer som skyddar integriteten, samtidigt som man effektivt använder tillgängliga data. Parlamentet efterlyser öppenhet vid utvecklingen och ansvarsskyldighet vid användningen av algoritmer.

23.

Europaparlamentet uppmanar kommissionen att lägga fram en omfattande uppsättning bestämmelser för horisontell reglering av AI-tillämpningar och att komplettera den med sektorsspecifika regler, till exempel för audiovisuella medietjänster.

24.

Europaparlamentet betonar behovet av investeringar i forskning och innovation när det gäller utveckling, införande och användning av AI och dess tillämpningar inom utbildning, kultur och den audiovisuella sektorn. Parlamentet framhåller vikten av offentliga investeringar i dessa tjänster och det extra mervärde som uppstår genom offentlig-privata partnerskap för att uppnå detta mål och utnyttja AI:s potential fullt ut inom dessa sektorer, särskilt för utbildning, med beaktande av den betydande ökning av privata investeringar som gjorts under senare år. Parlamentet uppmanar kommissionen att hitta ytterligare finansiering för att främja forskning och innovation avseende AI-tillämpningar inom dessa sektorer.

25.

Europaparlamentet understryker att algoritmiska system kan göra det möjligt att snabbare minska den digitala klyftan, men ett ojämlikt ibruktagande riskerar att ge upphov till nya klyftor eller att snabbare öka de skillnader som redan finns. Parlamentet oroas över att kunskap och infrastruktur inte utvecklas på ett enhetligt sätt inom hela unionen, vilket begränsar tillgången till produkter och tjänster som baseras på AI, särskilt i glesbefolkade områden och socioekonomiskt utsatta områden. Parlamentet uppmanar kommissionen att säkerställa sammanhållning vid fördelningen av de vinster som uppstår genom AI och tillhörande teknik.

26.

Europaparlamentet uppmanar kommissionen att fastställa krav för unionens offentliga myndigheters upphandling med och införande av AI och tillhörande teknik, för att säkerställa förenlighet med unionsrätten och de grundläggande rättigheterna. Parlamentet understryker mervärdet av instrument såsom offentliga samråd och konsekvensbedömningar som ska genomföras före upphandling om eller införande av AI-system, i enlighet med rekommendationerna i rapporten från FN:s generalförsamlings särskilda rapportör om AI och dess inverkan på åsikts- och yttrandefriheten (10). Parlamentet uppmanar offentliga myndigheter att uppmuntra utveckling och införande av AI med offentliga medel och offentliga upphandlingar. Parlamentet betonar behovet av att stärka marknaden genom att ge små och medelstora företag möjlighet att delta i upphandlingen av AI-tillämpningar, för att se till att teknikföretag av alla storlekar deltar och därmed garantera motståndskraft och konkurrens.

27.

Europaparlamentet efterlyser regelbundna, oberoende granskningar för att undersöka om de AI-tillämpningar som används och tillhörande kontrollmekanismer överensstämmer med angivna kriterier, och vill att dessa granskningar ska övervakas av oberoende och tillräckliga tillsynsmyndigheter. Parlamentet efterlyser särskilda stresstester för att bistå och verkställa efterlevnaden.

28.

Europaparlamentet noterar fördelarna och riskerna med AI när det gäller it-säkerhet, och AI:s potential att bekämpa it-brottslighet, och understryker att alla AI-lösningar måste kunna motstå it-angrepp samtidigt som de respekterar unionens grundläggande rättigheter, särskilt skyddet av personuppgifter och privatliv. Parlamentet betonar vikten av att övervaka att AI används på ett säkert sätt, och att den offentliga och den privata sektorn måste samarbeta nära för att bekämpa sårbarheter och risker i samband med användningen. Parlamentet uppmanar kommissionen att bedöma behovet av bättre förebyggande åtgärder när det gäller it-säkerhet och åtgärder för att begränsa riskerna på detta område.

29.

Europaparlamentet betonar att covid-19-pandemin kan betraktas som en prövotid för utveckling, införande och användning av digital och AI-relaterad teknik inom utbildning och kultur, vilket exemplifieras av det stora antal onlineutbildningsplattformar och onlineverktyg för kulturfrämjande som används i medlemsstaterna. Därför uppmanar parlamentet kommissionen att utvärdera dessa exempel när den överväger en gemensam unionsstrategi för ökad användning av sådana tekniska lösningar.

Utbildning

30.

Europaparlamentet påminner om vikten av att stärka digitala färdigheter och uppnå en hög nivå av mediekompetens, digital kompetens och informationskunnighet på unionsnivå som en förutsättning för användning av AI inom utbildningen. I detta avseende understryker parlamentet behovet av att säkerställa unionsomfattande digital kompetens och AI-kompetens, särskilt genom att utveckla utbildningsmöjligheter för lärare. Parlamentet insisterar på att användningen av AI-teknik i skolorna bör bidra till att minska den sociala och regionala digitala klyftan. Parlamentet välkomnar kommissionens uppdaterade handlingsplan för digital utbildning, som tar upp användningen av AI i utbildningen. Parlamentet uppmanar i detta sammanhang kommissionen att göra digital kapacitet, mediekompetens och medieutbildning samt AI-relaterade färdigheter till prioriteringarna i denna plan, samtidigt som man ökar medvetenheten om eventuellt missbruk av och funktionsstörningar i AI. Parlamentet uppmanar i detta avseende kommissionen att särskilt uppmärksamma barn och ungdomar i utsatta situationer som på området för digital utbildning behöver särskilt stöd. Parlamentet uppmanar kommissionen att på vederbörligt sätt ta upp AI- och robotteknikinitiativ inom utbildningssektorn i sina kommande lagförslag om AI. Parlamentet uppmanar med kraft medlemsstaterna att investera i digital utrustning på skolor och använda unionsmedel för detta.

31.

Europaparlamentet understryker att användningen av AI i utbildningssystem medför omfattande möjligheter och verktyg att göra den mer innovativ, inkluderande och effektiv genom att införa nya metoder för snabb och personanpassad studentcentrerad inlärning av hög kvalitet. Eftersom det kommer att påverka utbildning och social delaktighet betonar parlamentet dock att alla socialgrupper måste garanteras åtkomst till sådana verktyg genom att de får lika tillgång till utbildning och inlärning där ingen lämnas utanför, i synnerhet inte personer med funktionsnedsättningar.

32.

Europaparlamentet understryker att medborgarna för att kunna använda AI både kritiskt och effektivt åtminstone måste ha grundläggande insikter i denna teknik. Parlamentet uppmanar medlemsstaterna att integrera medvetandehöjande kampanjer om AI i sina insatser för digital kompetens. Parlamentet uppmanar kommissionen och medlemsstaterna att främja planer och diskussionsforum som avser digital kompetens, så att de även inkluderar medborgare, föräldrar och studenter i en demokratisk dialog med offentliga myndigheter och berörda aktörer om utveckling, införande och användning av AI-teknik i utbildningssystemen. Parlamentet betonar hur viktigt det är att tillhandahålla pedagoger, utbildare och andra aktörer rätta verktyg och kunskaper om AI och tillhörande teknik för att man ska förstå vad dessa är, hur de används och hur de kan utnyttjas korrekt och i enlighet med lagstiftningen, så att intrång i immateriella rättigheter kan undvikas. Parlamentet betonar i synnerhet vikten av digital kompetens för personal som arbetar inom utbildningssektorn, liksom av att förbättra den digitala utbildningen för äldre, med tanke på att de yngre generationerna redan har en grundläggande uppfattning om denna teknik eftersom de vuxit upp med den.

33.

Europaparlamentet betonar att det verkliga målet med AI i våra utbildningssystem bör vara att göra utbildningen så individualiserad som möjligt, så att den erbjuder studerande personaliserade utbildningsvägar som är anpassade efter deras starka och svaga sidor och undervisningsmaterial som är skräddarsytt enligt deras egenskaper, med bibehållen utbildningskvalitet och hänsyn till våra utbildningssystems princip om integrering.

34.

Europaparlamentet påminner om den grundläggande och mångfasetterade roll som lärare spelar i utbildningen och för att göra den inkluderande, särskilt i den tidiga barndomen, då färdigheter förvärvas som kommer att göra det möjligt för studenterna att utvecklas under hela livet, t.ex. i personliga relationer, studieresultat, empati och samarbete. Parlamentet betonar därför att AI-teknik inte kan användas till förfång för eller på bekostnad av personlig utbildning, eftersom lärare inte får ersättas av AI eller AI-relaterad teknik.

35.

Europaparlamentet betonar att fördelarna med att använda AI inom utbildning inte bara kommer att bero på AI i sig, utan på hur lärare använder AI för att tillgodose elevers, studenters och lärares behov. Parlamentet påpekar därför att AI-programmerare måste involvera lärarkåren i utvecklingen, införandet och användningen av AI-teknik där så är möjligt, skapa en nexusmiljö för att skapa kopplingar och samarbete mellan AI-programmerare, utvecklare, företag, skolor, lärare och andra offentliga och privata intressenter i syfte att skapa AI-teknik som är lämplig för verkliga utbildningsmiljöer, återspeglar varje elevs ålder och utvecklingsberedskap och uppfyller högsta etiska standarder. Parlamentet betonar att utbildningsinstitutioner endast bör införa tillförlitlig, etisk och människocentrerad teknik som offentliga myndigheter och civilsamhället kan granska i varje steg av livscykeln. Parlamentet betonar fördelarna med kostnadsfria lösningar med öppen källkod i detta avseende. Parlamentet vill att skolor och andra utbildningsinstitutioner ska stödjas finansiellt, logistiskt och med nödvändiga sakkunskaper om införande av lösningar för framtidens lärande.

36.

Dessutom betonar Europaparlamentet att lärare fortsatt bör utbildas så att de kan anpassa sig till verkligheten inom den AI-baserade undervisningen och skaffa sig de kunskaper och färdigheter som behövs för att använda AI-teknik på ett pedagogiskt och meningsfullt sätt och därmed till fullo kunna utnyttja AI:s möjligheter och förstå dess begränsningar. Parlamentet vill att digital undervisning i framtiden ska ingå i alla lärarutbildningar och att lärare och personal som arbetar inom utbildningssektorn får möjlighet att genom hela livet vidareutbilda sig inom området digital undervisning. Därför efterlyser parlamentet utveckling av utbildningsprogram i AI för lärare inom alla fält och i hela Europa. Parlamentet betonar dessutom vikten av att uppdatera undervisningsprogrammen för nya generationer lärare så att de kan anpassa sig till den verklighet som den AI-drivna utbildningen innebär, samt vikten av att utarbeta och uppdatera handböcker och riktlinjer om AI för lärare.

37.

Europaparlamentet är bekymrat över bristen på specifika AI-program inom högre utbildning samt bristen på offentliga medel för AI i medlemsstaterna. Parlamentet anser att detta utgör ett hot mot Europas framtida digitala ambitioner.

38.

Europaparlamentet är oroat över att så få AI-forskare fortsätter med en akademisk karriär på grund av att teknikföretagen kan erbjuda bättre lön och mindre byråkrati i samband med forskning. Parlamentet anser att en del av lösningen vore att anslå mer offentliga medel för AI-forskning på universiteten.

39.

Europaparlamentet understryker vikten av att förse människor med allmänna digitala färdigheter redan från tidig ålder för att täppa till kompetensgapet och integrera vissa befolkningsgrupper bättre på den digitala arbetsmarknaden och i det digitala samhället. Parlamentet påpekar att det blir allt viktigare att utbilda högkvalificerade yrkesutövare med all slags bakgrund på AI-området, säkerställa ömsesidigt erkännande av sådana kvalifikationer i hela unionen och att höja den framtida personalstyrkans kompetens så att den kan hantera verkligheten på framtidens arbetsmarknad. Därför uppmanar parlamentet medlemsstaterna att bedöma sitt utbildningsutbud och uppgradera det med AI-relaterade färdigheter där det är nödvändigt samt att inrätta särskilda kursplaner för AI-utvecklare, men också att integrera AI i traditionella läroplaner. Parlamentet understryker behovet av att säkerställa ömsesidigt erkännande av yrkeskvalifikationer på AI-området i hela unionen, eftersom flera medlemsstater uppgraderar sitt utbildningsutbud med AI-relaterade färdigheter och inrättar särskilda läroplaner för AI-utvecklare. Parlamentet välkomnar kommissionens insatser för att inkludera digitala färdigheter som en del av kvalifikationskraven för vissa yrken som harmoniserats på unionsnivå inom ramen för direktivet om yrkeskvalifikationer (11). Parlamentet betonar att dessa måste vara i linje med bedömningslistan i de etiska riktlinjerna för tillförlitlig AI, och välkomnar kommissionens förslag om att omvandla förteckningen till en vägledande läroplan för AI-utvecklare. Parlamentet påminner om de speciella behoven inom yrkesutbildningen när det gäller AI och efterlyser ett samverkansinriktat arbetssätt i hela Europa för att utöka AI:s potential inom yrkesutbildningen. Parlamentet understryker vikten av att utbilda högkvalificerade personer på detta område, inkludera etiska aspekter i kurs- och läroplaner, bistå underrepresenterade grupper på detta område och skapa incitament för dem som arbetar med ämnet att söka arbete inom unionen. Parlamentet påminner om att kvinnor är underrepresenterade inom AI och att detta kan medföra avsevärd obalans mellan könen på den framtida arbetsmarknaden.

40.

Parlamentet understryker att regeringar och utbildningsinstitutioner måste tänka på ett nytt sätt, omarbeta och anpassa sina läroplaner enligt behoven under 2000-talet genom att utforma utbildningsprogrammen så att de i högre grad betonar ämnen som naturvetenskap, teknik, ingenjörsvetenskap, humaniora och matematik (STEAM), i syfte att förbereda studerande och användare för den ökande förekomsten av AI och göra det lättare att skaffa sig kognitiva färdigheter. Parlamentet understryker i detta sammanhang vikten av att diversifiera denna sektor och uppmuntra studenter, särskilt kvinnor och flickor, att delta i STEAM-kurser, särskilt inom robotteknik och AI-relaterade ämnen. Parlamentet efterlyser ökade ekonomiska och vetenskapliga resurser för att motivera välutbildade personer att stanna i unionen och locka till sig personer med kompetens från tredjeländer. Parlamentet noterar dessutom det avsevärda antalet uppstartsföretag som arbetar med AI och utvecklar AI-teknik. Parlamentet betonar att små och medelstora företag kommer att behöva ytterligare stöd och AI-relaterad utbildning för att kunna efterleva den digitala och AI-relaterade lagstiftningen.

41.

Europaparlamentet noterar att automatisering och utveckling av AI drastiskt och oåterkalleligt kan förändra sysselsättningen. Parlamentet betonar att prioritet bör ges åt att anpassa kompetens till behoven på den framtida arbetsmarknaden, särskilt inom utbildning och kulturella och kreativa sektorer och näringar. I detta sammanhang understryker parlamentet behovet av att höja den framtida personalstyrkans kompetens. Dessutom understryker parlamentet hur viktigt införandet av AI är för att omskola och kompetensutveckla den europeiska arbetsmarknaden, i synnerhet inom kulturella och kreativa sektorer och näringar, som redan har drabbats hårt av covid-19-krisen.

42.

Europaparlamentet uppmanar kommissionen att bedöma risknivån vid införande av AI inom utbildningssektorn för att fastställa om AI-tillämpningar inom undervisning bör inkluderas i regelverket om hög risk och omfattas av strängare krav på säkerhet, öppenhet, rättvisa och ansvarsskyldighet, med tanke på dels vikten av att säkerställa att utbildning fortsätter att gynna det allmännas bästa, dels den avsevärda känsligheten hos data om elever, studerande och andra inlärare. Parlamentet understryker att de dataset som används för att träna AI bör ses över för att undvika att man förstärker vissa stereotyper och andra fördomar.

43.

Europaparlamentet uppmanar kommissionen att föreslå en framtidssäker rättslig ram för AI i syfte att tillhandahålla rättsligt bindande etiska åtgärder och standarder för att säkerställa grundläggande rättigheter och friheter och utveckling av tillförlitliga, etiska och tekniskt stabila AI-tillämpningar, inbegripet integrerade digitala verktyg, tjänster och produkter såsom robotteknik och maskininlärning, med särskild hänsyn till utbildning. Parlamentet vill att de data som AI-tillämpningar använder och producerar inom utbildningen ska vara tillgängliga, interoperabla och högkvalitativa samt delas med relevanta offentliga myndigheter på ett tillgängligt sätt och med respekt för lagstiftningen om upphovsrätt och företagshemligheter. Parlamentet påminner om att barn utgör en sårbar grupp som förtjänar särskild uppmärksamhet och särskilt skydd. Parlamentet betonar att AI visserligen kan gynna utbildning, men att man ändå måste beakta de tekniska, regelmässiga och sociala aspekterna, med tillräckliga skydd och ett människocentrerat synsätt som i slutändan garanterar att människor alltid kan kontrollera och korrigera de beslut som fattas av systemet. I detta sammanhang påpekar parlamentet att lärare ska styra och övervaka allt införande och all användning av AI-teknik i skolor och på universitet, samtidigt som man interagerar med elever och studenter. Parlamentet påminner om att AI-system inte får fatta några slutliga beslut som kan påverka utbildningsmöjligheter, exempelvis studenternas slututvärderingar, utan fullständig mänsklig övervakning. Parlamentet påminner om att automatiserade beslut om fysiska personer baserade på profilering som har rättsliga eller liknande följder måste vara strikt begränsade och att det alltid måste krävas rätt till mänskligt ingripande och till förklarbarhet enligt den allmänna dataskyddsförordningen. Parlamentet understryker att detta är något som strikt måste följas, framför allt inom utbildningssystemet, där det fattas beslut om framtida chanser och möjligheter.

44.

Europaparlamentet uttrycker allvarlig oro över att skolor och andra utbildningsaktörer blir alltmer beroende av undervisningstekniska tjänster (EdTech), inklusive AI-applikationer, som tillhandahålls av endast ett fåtal teknikföretag med dominerande ställning på marknaden. Parlamentet anser att detta bör granskas enligt unionens konkurrensregler. I detta avseende betonar parlamentet vikten av att stödja små och medelstora företag som vill införa AI inom utbildning, kultur och den audiovisuella sektorn, genom lämpliga incitament som skapar lika villkor. Parlamentet efterlyser i detta sammanhang investeringar i europeiska it-företag för att utveckla nödvändig teknik inom unionen, med tanke på att de stora företag som för närvarande tillhandahåller AI är baserade utanför unionen. Parlamentet poängterar att uppgifter om minderåriga är strikt skyddade genom den allmänna dataskyddsförordningen, och att sådana uppgifter endast kan behandlas om de är fullständigt anonymiserade eller om samtycke har lämnats eller om den person som har föräldraansvar för barnet har godkänt behandlingen, i strikt enlighet med principerna om uppgiftsminimering och ändamålsbegränsning. Parlamentet efterlyser kraftfullare skydd och säkerhetskontroller inom utbildningssektorn när det gäller uppgifter om barn, och uppmanar kommissionen att vidta mer effektiva åtgärder i detta avseende. Parlamentet efterlyser tydlig information till barn och deras föräldrar om eventuell användning och behandling av uppgifter om barn, bland annat genom medvetandehöjande kampanjer och informationskampanjer.

45.

Europaparlamentet understryker de särskilda risker som finns vid användning av AI-baserade applikationer för automatisk igenkänning, som för närvarande utvecklas snabbt. Parlamentet påminner om att barn utgör en särskilt känslig grupp. Parlamentet rekommenderar att kommissionen och medlemsstaterna förbjuder automatiserad biometrisk identifiering, såsom ansiktsigenkänning för utbildnings- och kulturändamål, såvida inte sådan användning är tillåten enligt lag.

46.

Europaparlamentet betonar behovet av att öka kundernas valmöjligheter att stimulera konkurrens och bredda utbudet av tjänster som AI-teknik erbjuder i utbildningssyfte. I detta avseende uppmanar parlamentet offentliga myndigheter att uppmuntra utveckling och införande av AI-teknik med offentliga medel och offentliga upphandlingar. Parlamentet anser att teknik som används av aktörer inom statlig utbildning eller som finansieras med offentliga medel bör baseras på teknik med öppen källkod.

47.

Europaparlamentet konstaterar att innovationerna inom utbildningssektorn har försenats, vilket har blivit påtagligt under covid-19-pandemin då man har övergått till online- och distansstudier. Parlamentet betonar att AI-baserade utbildningsverktyg, exempelvis de som används vid bedömning och identifiering av inlärningssvårigheter, kan förbättra distansinlärningens kvalitet och effektivitet

48.

Europaparlamentet betonar att nästa generations digitala infrastruktur och internettäckning är av strategisk betydelse för tillhandahållandet av AI-baserad utbildning till unionsmedborgarna. Mot bakgrund av covid-19-krisen uppmanar parlamentet kommissionen att utarbeta en strategi för 5G i Europa som garanterar EU:s strategiska motståndskraft och inte är beroende av teknik från stater som inte delar våra värden.

49.

Europaparlamentet vill att det inrättas ett Europaomfattande universitets- och forskningsnätverk som fokuserar på AI inom utbildning samt bör sammanföra institutioner och experter från alla områden för att undersöka AI:s inverkan på inlärning och ta fram lösningar som förbättrar dess potential.

Kulturarv

50.

Europaparlamentet upprepar vikten av tillgång till kultur för alla medborgare i hela unionen. Parlamentet betonar i detta sammanhang vikten av att bästa praxis utbyts mellan medlemsstater, utbildningsinstitutioner, kulturinstitutioner och liknande intressenter. Parlamentet anser vidare att det är mycket viktigt att potentialen hos de resurser som finns tillgängliga på både unionsnivå och nationell nivå används fullt ut för att ytterligare förbättra tillgången till kultur. Parlamentet betonar att det finns en mängd olika alternativ för att få tillgång till kultur och att alla alternativ bör utredas för att man ska kunna fastställa det lämpligaste alternativet. Parlamentet understryker betydelsen av överensstämmelse med Marrakechfördraget.

51.

Europaparlamentet betonar att AI-teknik kan spela en viktig roll när det gäller att bevara, restaurera, dokumentera, analysera, främja och förvalta det materiella och det immateriella kulturarvet, inklusive genom att övervaka och analysera förändringar av kulturarvsplatser som orsakas av hot såsom klimatförändringar, naturkatastrofer och väpnade konflikter.

52.

Europaparlamentet betonar att AI-teknik kan öka synligheten av Europas kulturella mångfald. Parlamentet betonar att denna teknik ger kulturinstitutioner såsom museer nya möjligheter att ta fram nyskapande verktyg för att katalogisera artefakter samt dokumentera och få tillgång till kulturarvsplatser, särskilt genom 3D-modellering och förstärkt virtuell verklighet. Parlamentet betonar att AI också kommer att göra det möjligt för museer och konstgallerier att införa interaktiva och personanpassade tjänster för besökare genom att förse dem med en förteckning över föreslagna objekt, baserat på deras intressen, som anges både på plats och online.

53.

Europaparlamentet betonar att användningen av AI kommer att leda till nya innovativa tillvägagångssätt, verktyg och metoder som gör det möjligt för kulturarbetare och forskare att inrätta enhetliga databaser med adekvata klassificeringssystem samt metadata för multimedia, vilket gör att de kan skapa kopplingar mellan olika kulturarvsobjekt och därmed öka kunskapen och förbättra förståelsen för kulturarvet.

54.

Europaparlamentet betonar att beprövade metoder om AI-teknik när det gäller skydd av och tillgång till kulturarvet, särskilt för personer med funktionsnedsättning, bör fastställas och delas mellan kulturnätverk i hela unionen, samtidigt som man uppmuntrar forskning om olika sätt att använda AI för att främja kulturarvets tillvaratagande, tillgänglighet och bevarande. Parlamentet uppmanar kommissionen och medlemsstaterna att främja möjligheterna med användning av AI inom kulturella och kreativa sektorer och näringar.

55.

Europaparlamentet betonar att AI-teknik även kan användas för att övervaka olaglig handel med kulturföremål och förstörelse av kulturegendom, samtidigt som man stöder datainsamling för återhämtnings- och återuppbyggnadsinsatser för både det materiella och det immateriella kulturarvet. Parlamentet konstaterar framför allt att utveckling, införande och användning av AI inom tullkontroller kan vara ett stöd för insatser för att förhindra olaglig handel med kulturarv, och i synnerhet kan komplettera system som gör det möjligt för tullmyndigheter att rikta sina insatser och resurser på de föremål som utgör den största risken.

56.

Europaparlamentet noterar att AI skulle kunna gynna forskningssektorn, exempelvis genom den roll som prediktiv analys kan spela vid finjustering av dataanalyser, till exempel om förvärv och förflyttning av kulturföremål. Parlamentet betonar att unionen måste öka investeringarna och främja partnerskap mellan näringslivet och den akademiska världen för att öka forskningens spetskompetens på europeisk nivå.

57.

Europaparlamentet påminner om att AI kan vara ett revolutionerande verktyg för att främja kulturturism och betonar dess betydande potential att förutsäga turismflöden, vilket kan hjälpa städer som har problem med massturism.

Kulturella och kreativa sektorer och näringar

58.

Europaparlamentet beklagar att kultur inte finns med bland de prioriteringar som anges i politiska valmöjligheter och rekommendationer om AI på unionsnivå, särskilt i kommissionens vitbok av den 19 februari 2020 om artificiell intelligens. Parlamentet efterlyser en översyn av dessa rekommendationer för att göra kultur till en politisk prioritet i samband med AI på unionsnivå. Parlamentet uppmanar kommissionen och medlemsstaterna att ta itu med de potentiella effekterna av utveckling, införande och användning av AI-teknik inom kulturella och kreativa sektorer och näringar och att på bästa sätt utnyttja återhämtningsinstrumentet Next Generation EU i syfte att digitalisera dessa sektorer för att reagera på nya konsumtionsformer under 2000-talet.

59.

Europaparlamentet påpekar att AI även har nått de kulturella och kreativa sektorerna och näringarna, vilket till exempel visar sig i automatisk produktion av texter, videor och musikstycken. Parlamentet betonar att även skapande artister och kulturarbetare måste ha de digitala kunskaper och färdigheter som behövs för att använda AI och annan digital teknik. Parlamentet uppmanar kommissionen och medlemsstaterna att stödja de möjligheter som användning av AI erbjuder inom kulturella och kreativa sektorer och näringar, genom att göra ytterligare medel tillgängliga från vetenskaps- och forskningsbudgetar och skapa centrum för digital kreativitet där kreatörer och kulturarbetare utvecklar AI-tillämpningar, lär sig hantera dessa och annan teknik och kan utprova dem.

60.

Europaparlamentet konstaterar att AI-teknik har potential att öka antalet arbetstillfällen inom kulturella och kreativa sektorer och näringar, vilket underlättas av den ökade tillgången till denna teknik. Parlamentet betonar därför vikten av att sprida digital kompetens inom kulturella och kreativa sektorer och näringar för att göra tekniken mer inkluderande, användbar, inlärningsbar och interaktiv för dessa sektorer.

61.

Europaparlamentet betonar att samspelet mellan AI och kulturella och kreativa sektorer och näringar är komplicerat och kräver en ingående bedömning. Parlamentet välkomnar kommissionens rapport från november 2020 Trends and Developments in Artificial Intelligence – Challenges to the IPR Framework (Tendenser och utveckling inom artificiell intelligens – utmaningar för ramen för immateriella rättigheter) och undersökningen Study on Copyright and New Technologies: copyright data management and Artificial Intelligence (Undersökning om immateriella rättigheter och ny teknik: hantering av upphovsrättslig data och artificiell intelligens). Parlamentet understryker vikten av att klargöra villkoren för användningen av upphovsrättsligt skyddat innehåll som inmatning av data (bilder, musik, filmer, databaser osv.) och i produktionen av kulturella och audiovisuella verk, oavsett om de är skapade med hjälp av AI eller autonomt genererade med AI-teknik. Parlamentet uppmanar kommissionen att undersöka AI:s inverkan på de europeiska kreativa näringarna. Parlamentet upprepar vikten av europeiska data och välkomnar kommissionens uttalanden i detta avseende, liksom att AI och tillhörande teknik står högt på dagordningen.

62.

Europaparlamentet betonar behovet av att skapa en enhetlig syn på AI-teknik inom kulturella och kreativa sektorer och näringar på unionsnivå. Parlamentet uppmanar medlemsstaterna att stärka inriktningen på kultur i sina nationella AI-strategier för att säkerställa att kulturella och kreativa sektorer och näringar utnyttjar innovationerna, förblir konkurrenskraftiga och att den kulturella mångfalden skyddas och främjas på unionsnivå i det nya digitala sammanhanget.

63.

Europaparlamentet betonar vikten av att skapa en unionsomfattande enhetlig miljö för AI-teknik som uppmuntrar kulturell mångfald, stöder minoriteter och språklig mångfald, samtidigt som man förstärker kulturella och kreativa sektorer och näringar via onlineplattformar där unionens medborgare kan inkluderas och delta.

64.

Europaparlamentet uppmanar kommissionen och medlemsstaterna att stödja en demokratisk debatt om AI-teknik och erbjuda ett regelbundet diskussionsforum med civilsamhället, forskare, den akademiska världen och berörda aktörer för att öka medvetenheten om fördelarna och utmaningarna med dess användning inom kulturella och kreativa sektorer och näringar. Parlamentet understryker i detta sammanhang den roll som konst och kultur kan ha för att förmedla AI och främja den offentliga debatten om AI, eftersom konst och kultur kan göra maskininlärning åskådlig och påtaglig, till exempel på musikens område.

65.

Europaparlamentet uppmanar kommissionen och medlemsstaterna att ta itu med problemet med AI-genererat innehåll och de utmaningar sådant innehåll för med sig i samband med upphovsmannaskap och upphovsrättsintrång. Parlamentet uppmanar i detta avseende kommissionen att bedöma hur AI och tillhörande teknik påverkar den audiovisuella sektorn och de kulturella och kreativa sektorerna och näringarna, i syfte att främja kulturell och språklig mångfald, samtidigt som upphovsmäns och utövande konstnärers rättigheter respekteras.

66.

Europaparlamentet understryker att Europeiska institutet för innovation och teknik, i synnerhet dess framtida kunskaps- och innovationsgrupp som är avsedd för kulturella och kreativa näringar, ska ha en ledande roll vid utvecklingen av en europeisk strategi för AI inom utbildning, kultur och den audiovisuella sektorn och kan påskynda och förbättra AI-tillämpningarna inom dessa sektorer.

67.

Europaparlamentet konstaterar att AI redan har kommit in i den kreativa värdekedjan för skapande, produktion, spridning och användning och påverkar därför direkt de kulturella och kreativa sektorerna och näringarna, såsom musik- och filmindustrin, konst och litteratur tack vare nya verktyg, programvara och AI-assisterad produktion som används vid enklare produktion, samtidigt som inspiration förmedlas och en bredare publik får skapa innehåll.

68.

Europaparlamentet uppmanar kommissionen att genomföra undersökningar och överväga politiska alternativ för att motverka den negativa effekten av den AI-baserade kontrollen över strömningstjänster online som är utformade för att begränsa mångfald och/eller maximera vinster, genom att inkludera eller prioritera vissa former av innehåll i sina kunderbjudanden och hur detta påverkar den kulturella mångfalden och skaparnas intäkter.

69.

Europaparlamentet anser att AI blir alltmer användbar för kulturella och kreativa sektorer och näringar i samband med skapande och produktion.

70.

Europaparlamentet betonar den roll som upphovsmannens personlighet spelar för att uttrycka fria och kreativa val som utgör verkens originalitet (12). Parlamentet understryker vikten av inskränkningar i och undantag från upphovsrätten när innehåll används som datainmatning, särskilt inom utbildning, den akademiska världen och forskning, och i produktionen av kulturella och kreativa produkter som audiovisuell produktion och användargenererat innehåll.

71.

Europaparlamentet anser att man bör beakta skyddet av AI-genererat tekniskt och konstnärligt skapande, i syfte att uppmuntra denna form av kreativitet.

72.

Europaparlamentet framhåller att det i ett dataekonomiskt sammanhang är möjligt med bättre hantering av upphovsrättsliga data för att säkerställa bättre inkomster för upphovsmän och utövande konstnärer, framför allt genom att göra det möjligt att snabbt identifiera upphovsmannen och äganderätten till innehållet och därmed bidra till att minska antalet anonyma verk. Parlamentet poängterar vidare att lösningar med AI-teknik bör användas för att förbättra infrastrukturen för upphovsrättsliga data och sammanlänkningen av metadata i verk, men även för att underlätta transparenskravet enligt artikel 19 i direktiv (EU) 2019/790 om upphovsrätt och närstående rättigheter på den digitala inre marknaden (13) i syfte att möjliggöra aktuell, relevant och uttömmande information om utnyttjandet av upphovsmäns och utövande konstnärers verk och framföranden, särskilt när det finns flera rättsinnehavare och komplicerade licensieringssystem.

73.

Europaparlamentet vill att den handlingsplan för immateriella rättigheter som kommissionen aviserat ska ta upp frågan om AI och dess inverkan på de kreativa sektorerna, med beaktande av behovet av att hitta en balans mellan skyddet av immateriella rättigheter och främjandet av kreativitet inom utbildning, kultur och forskning. Parlamentet anser att unionen kan vara ledande när det gäller att skapa AI-teknik om den antar ett operativt regelverk och bedriver en aktiv offentlig politik, särskilt i fråga om utbildningsprogram och ekonomiskt stöd till forskning. Parlamentet uppmanar kommissionen att bedöma immateriella rättigheters effekter på forskning och utveckling som avser AI och tillhörande teknik, liksom på kulturella och kreativa sektorer och näringar inklusive den audiovisuella sektorn, särskilt när det gäller upphovsrätt, rättvisa inkomster för upphovsmän samt relaterade frågor.

74.

Europaparlamentet uppmanar kommissionen att beakta de rättsliga aspekterna av de resultat som produceras med hjälp av AI-teknik samt kulturellt innehåll som genereras med hjälp av AI och tillhörande teknik. Parlamentet anser det viktigt att stödja produktionen av kulturellt innehåll. Parlamentet upprepar dock betydelsen av att skydda unionens unika ram för immateriella rättigheter och att alla eventuella ändringar bör göras med vederbörlig omsorg för att inte rubba den känsliga balansen. Parlamentet uppmanar kommissionen att ta fram en ingående bedömning av huruvida AI-producerat innehåll kan vara en juridisk person, liksom av tillämpningen av immateriella rättigheter på AI-genererat innehåll och innehåll som skapats med AI-verktyg.

75.

Europaparlamentet uppmanar dessutom kommissionen att i mycket nära samarbete med medlemsstaterna och berörda parter överväga att utveckla kontrollmekanismer eller kontrollsystem för förläggare, upphovsmän och utövande konstnärer för att hjälpa dem att kontrollera vilket innehåll de kan använda och lättare fastställa vad som skyddas enligt lagstiftningen om immateriella rättigheter.

76.

Europaparlamentet uppmanar kommissionen att fastställa regler som är utformade för att garantera effektiv datainteroperabilitet, i syfte att göra innehåll som köpts på en plattform tillgängligt via vilket digitalt verktyg som helst, oavsett varumärke.

Den audiovisuella sektorn

77.

Europaparlamentet noterar att AI ofta används för att tillåta algoritmer för automatiserat beslutsfattande att sprida och sortera det kulturella och kreativa innehåll som visas för användarna. Parlamentet betonar att dessa algoritmer är som en ”svart låda” som användarna inte har någon insyn i. Parlamentet betonar att algoritmer som används av leverantörer av medietjänster, videodelningsplattformar samt musikströmningstjänster bör utformas på ett sådant sätt att de inte privilegierar specifika verk genom att begränsa sina ”personliga” förslag till de mest populära verken, och inte heller används för riktad reklam, kommersiella syften eller för att maximera vinsten. Parlamentet vill att algoritmer för rekommendationer och personligt anpassade annonser så långt det är möjligt ska kunna förklaras och vara transparenta, i syfte att ge konsumenterna en noggrann och uttömmande inblick i dessa processer och innehåll, och säkerställa att personligt anpassade tjänster inte är diskriminerande utan följer den nyligen antagna förordningen om förbindelserna mellan plattformar och företag (14) och omnibusdirektivet om en ny giv för konsumenterna (15). Parlamentet uppmanar kommissionen att undersöka hur algoritmer för innehållsmoderering optimeras för att engagera användarna, och att föreslå rekommendationer för att öka användarnas kontroll över det innehåll de ser, genom att garantera och korrekt genomföra användarnas rätt att välja bort rekommenderade och individanpassade tjänster. Parlamentet understryker dessutom att konsumenterna måste informeras när de interagerar med en automatiserad beslutsprocess och att deras val och resultat inte får begränsas. Parlamentet betonar att användning av AI-mekanismer för kommersiell övervakning av konsumenter måste motverkas, även om det handlar om ”kostnadsfria tjänster”, genom att det säkerställs att allt sker i strikt överensstämmelse med de grundläggande rättigheterna och dataskyddsförordningen. Parlamentet understryker att alla regeländringar måste ta hänsyn till konsekvenserna för utsatta konsumenter.

78.

Europaparlamentet understryker att det som är olagligt offline måste vara olagligt online. Parlamentet konstaterar att AI-verktyg har potential att bekämpa olagligt innehåll på internet, och redan används för detta, men upprepar med eftertryck, i väntan på den kommande rättsakten om digitala tjänster, att sådana verktyg alltid måste respektera grundläggande rättigheter, särskilt yttrande- och informationsfriheten, och inte får leda till en allmän övervakningsskyldighet för internet eller till borttagande av lagligt material som spridits för syften relaterade till utbildning, journalistik, konstnärlig verksamhet eller forskning. Parlamentet betonar att algoritmer när det gäller innehållsmoderering endast bör användas som en flaggningsmekanism som kan underställas mänskligt ingripande, eftersom AI inte kan skilja mellan lagligt, olagligt och skadligt innehåll på ett tillförlitligt sätt. Parlamentet konstaterar att villkoren alltid bör omfatta gemensamma riktlinjer och ett överklagandeförfarande.

79.

Dessutom påminner Europaparlamentet om att det inte får finnas någon allmän övervakning, i enlighet med artikel 15 i e-handelsdirektivet (16), och att specifik innehållsövervakning för audiovisuella medietjänster bör ske i enlighet med de undantag som fastställs i unionsrätten. Parlamentet påminner om att AI-tillämpningar måste följa interna och externa säkerhetsprotokoll vilka till sin natur bör vara tekniskt precisa och solida. Parlamentet anser att detta bör omfatta såväl normala driftsförhållanden som drift vid okända och oförutsägbara situationer.

80.

Dessutom betonar Europaparlamentet att användning av AI i algoritmbaserade innehållsrekommendationer om leverantörer av medietjänster, såsom beställvideo och videodelningsplattformar, kan få allvarliga konsekvenser för den kulturella och språkliga mångfalden, särskilt när det gäller skyldigheten att framhäva europeiska produktioner i enlighet med artikel 13 i direktivet om audiovisuella medietjänster (direktiv (EU) 2018/1808 (17)). Parlamentet observerar att samma farhågor är lika relevanta för musikströmningstjänster och vill att det utvecklas indikatorer som bedömer kulturell mångfald och främjar europeiska verk i sådana tjänster.

81.

Europaparlamentet uppmanar kommissionen och medlemsstaterna att öka sitt ekonomiska stöd för utveckling, införande och användning av AI på området för automatisk undertextning och dubbning av europeiska audiovisuella verk för att främja den kulturella och språkliga mångfalden i unionen och förbättra spridningen av och tillgången till europeiskt audiovisuellt innehåll.

82.

Europaparlamentet uppmanar kommissionen att inrätta en tydlig etisk ram för användningen av AI-teknik i medier i syfte att förhindra alla former av diskriminering och säkerställa tillgång till ett kulturellt och språkligt varierat innehåll på unionsnivå utgående från ansvarsfulla, insynsvänliga och inkluderande algoritmer, som respekterar enskilda individers val och önskemål.

83.

Europaparlamentet påpekar att AI kan spela en viktig roll i den snabba spridningen av desinformation. Parlamentet betonar i detta avseende att regelverket även bör omfatta missbruk av AI som syftar till att sprida falska nyheter, felaktig information och desinformation på internet och samtidigt undvika censur. Parlamentet uppmanar därför kommissionen att bedöma riskerna med AI som bidrar till spridningen av desinformation i den digitala miljön samt lösningar på hur AI skulle kunna användas för att motverka desinformation.

84.

Europaparlamentet uppmanar kommissionen att vidta lagstiftningsåtgärder för att leverantörer av medietjänster ska få åtkomst till de uppgifter som genereras i samband med tillhandahållandet och spridningen av deras innehåll på tredjepartsplattformar. Parlamentet betonar att den fullständiga överföringen av data från plattformsoperatörerna till leverantörerna av medietjänster är avgörande för att de senare ska förstå sin publik bättre och därmed kunna förbättra sina tjänster i enlighet med publikens förväntningar.

85.

Europaparlamentet betonar vikten av att öka finansieringen till Digitala Europa, Kreativa Europa och Horisont Europa för att stärka stödet till den europeiska audiovisuella sektorn, särskilt genom projekt för forskningssamarbete och experimentella pilotinitiativ om utveckling, införande och användning av etisk AI-teknik.

86.

Europaparlamentet efterlyser nära samarbete mellan medlemsstaterna för att utveckla utbildningsprogram som har som mål att omskola eller fortbilda arbetstagarna så att de är bättre förberedda inför den sociala övergång som användningen av AI-teknik i den audiovisuella sektorn kommer att inbegripa.

87.

Europaparlamentet anser att AI har en enorm potential att bidra till innovation inom nyhetsmediesektorn. Parlamentet anser att utbrett införande av AI för exempelvis skapande och distribution av innehåll, övervakning av kommentarer, tillämpning av dataanalys och identifiering av manipulerade foton och videor är avgörande för kostnadsbesparingar på nyhetsredaktioner när annonsintäkterna minskar och för att kunna lägga mer resurser på fältrapportering, vilket ökar kvaliteten och variationen i innehållet.

Desinformation på internet – deepfake-material

88.

Europaparlamentet betonar att det är viktigt att både på och utanför internet säkerställa mediepluralism för att garantera kvalitet, mångfald och tillförlitlighet i den tillgängliga informationen.

89.

Europaparlamentet påminner om att noggrannhet, oberoende, rättvisa, sekretess, mänsklighet, ansvarsskyldighet och öppenhet är drivkrafter bakom principerna om yttrandefrihet, och att tillgången till information online och offline är avgörande för att bekämpa desinformation och felaktig information.

90.

Europaparlamentet noterar den viktiga roll som oberoende medier spelar för kulturen och för medborgarnas dagliga liv. Parlamentet betonar att desinformation utgör ett grundläggande problem, eftersom upphovsrätt och immateriella rättigheter i allmänhet ständigt kränks. Parlamentet uppmanar kommissionen att i samarbete med medlemsstaterna fortsätta sitt arbete med att öka medvetenheten om detta problem och motverka effekterna av desinformation och problemen i samband med källorna. Parlamentet anser dessutom att det är viktigt att det utvecklas utbildningsstrategier för att förbättra den digitala kompetensen särskilt i detta avseende.

91.

Europaparlamentet påminner om att det kan bli allt svårare att spåra falskt och manipulerat innehåll såsom deepfake-material, eftersom den nya tekniken växer fram snabbt och tillverkare med ont uppsåt kan generera sofistikerade algoritmer som går att träna så väl att de undgår upptäckt, och därmed allvarligt kan undergräva våra demokratiska grundläggande värden. Parlamentet uppmanar kommissionen att bedöma AI:s inverkan på skapandet av deepfake-material, att inrätta lämpliga rättsliga ramar för att hantera skapande, produktion eller distribution i skadligt syfte, och att bland andra initiativ föreslå rekommendationer för åtgärder mot eventuella AI-drivna hot mot fria och rättvisa val och demokrati.

92.

Europaparlamentet välkomnar de färska initiativen och projekten för att skapa mer effektiva deepfake-kartläggningsverktyg och insynskrav. I detta avseende betonar parlamentet att man bör undersöka och investera i metoder för att motverka deepfake-material som ett avgörande steg för att bekämpa felaktig information och skadligt innehåll. Parlamentet anser att AI-baserade lösningar kan vara användbara i detta avseende. Parlamentet uppmanar därför kommissionen att införa dels ett krav på att det i allt deepfake-material eller andra verklighetstrogna syntetiska videor ska ingå en upplysning om att de inte är något original, dels en strikt begränsning av deras användning i samband med val.

93.

Europaparlamentet är oroat över att AI får allt större inflytande över hur information hittas på internet och konsumeras. Parlamentet påpekar att så kallade filterbubblor och ekokammare begränsar åsiktsmångfalden och inverkar negativt på en öppen samhällsdebatt. Parlamentet kräver därför att det sätt på vilket plattformsoperatörer använder algoritmer för att behandla information är insynsvänligt och att användare måste få större frihet att själva bestämma över vilket slags information de vill få och i vilken utsträckning.

94.

Europaparlamentet påminner om att AI-teknik redan används inom journalistiken, till exempel för att producera texter eller analysera stora dataset i samband med undersökande forskningsarbete. Parlamentet betonar att det vid produktion av information som är relevant för hela samhället är viktigt att den automatiska journalistiken bygger på korrekta och fullständiga uppgifter för att förhindra spridning av falska nyheter. Parlamentet betonar att grundläggande principer för kvalitetsjournalistiken, till exempel redaktionell kontroll, även måste omfatta journalistiskt innehåll som producerats med AI-teknik. Parlamentet vill att AI-genererade texter förses med tydlig märkning för att bevara förtroendet för journalistiken.

95.

Europaparlamentet betonar AI:s potential att underlätta och uppmuntra flerspråkighet genom att utveckla språkrelaterad teknik och möjliggöra upptäckt av europeiskt innehåll online.

o o

96.

Europaparlamentet uppdrar åt talmannen att översända denna resolution till rådet och kommissionen.

(1) EUT C 202 I, 16.6.2020, s. 1.

(2) EUT C 440, 6.12.2018, s. 37.

(3) EUT C 449, 23.12.2020, s. 37.

(4) EUT C 433, 23.12.2019, s. 42.

(5) EUT C 28, 27.1.2020, s. 8.

(6) EUT C 252, 18.7.2018, s. 239.

(7) EUT C 307, 30.8.2018, s. 163.

(8) Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning) (EUT L 119, 4.5.2016, s. 1).

(9) Europaparlamentets och rådets direktiv 2002/58/EG av den 12 juli 2002 om behandling av personuppgifter och integritetsskydd inom sektorn för elektronisk kommunikation (direktiv om integritet och elektronisk kommunikation) (EGT L 201, 31.7.2002, s. 37).

(10) Rapport från FN:s särskilda rapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet, 29 augusti 2018.

(11) Europaparlamentets och rådets direktiv 2005/36/EG av den 7 september 2005 om erkännande av yrkeskvalifikationer (EUT L 255, 30.9.2005, s. 22).

(12) Europeiska unionens domstol, mål C-833/18, SI and Brompton Bicycle Ltd mot Chedech/Get2Get.

(13) Europaparlamentets och rådets direktiv (EU) 2019/790 av den 17 april 2019 om upphovsrätt och närstående rättigheter på den digitala inre marknaden och om ändring av direktiven 96/9/EG och 2001/29/EG (EUT L 130, 17.5.2019, s. 92).

(14) Europaparlamentets och rådets förordning (EU) 2019/1150 av den 20 juni 2019 om främjande av rättvisa villkor och transparens för företagsanvändare av onlinebaserade förmedlingstjänster (EUT L 186, 11.7.2019, s. 57).

(15) Europaparlamentets och rådets direktiv (EU) 2019/2161 av den 27 november 2019 om ändring av rådets direktiv 93/13/EEG och Europaparlamentets och rådets direktiv 98/6/EG, 2005/29/EG och 2011/83/EU vad gäller bättre upprätthållande och modernisering av unionens konsumentskyddsregler (EUT L 328, 18.12.2019, s. 7).

(16) Europaparlamentets och rådets direktiv 2000/31/EG av den 8 juni 2000 om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, på den inre marknaden (EGT L 178, 17.7.2000, s. 1).

(17) Europaparlamentets och rådets direktiv (EU) 2018/1808 av den 14 november 2018 om ändring av direktiv 2010/13/EU om samordning av vissa bestämmelser som fastställs i medlemsstaternas lagar och andra författningar om tillhandahållande av audiovisuella medietjänster, mot bakgrund av ändrade marknadsförhållanden (EUT L 303, 28.11.2018, s. 69).