52021IP0238

This document is an excerpt from the EUR-Lex website

EUROPA
EUR-Lex home
EUR-Lex - 52021IP0238 - EN

Help

Search tips

Need more search options? Use the Advanced search

Document 52021IP0238

Help

Risoluzione del Parlamento europeo del 19 maggio 2021 sull'intelligenza artificiale nell'istruzione, nella cultura e nel settore audiovisivo (2020/2017(INI))

GU C 15 del 12.1.2022, pp. 28–44 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

HTML

PDF

Official Journal

12.1.2022

Gazzetta ufficiale dell’Unione europea

C 15/28

P9_TA(2021)0238

Mobilitazione del Fondo europeo di adeguamento alla globalizzazione: domanda EGF/2020/002 EE settore turismo — Estonia

Risoluzione del Parlamento europeo del 19 maggio 2021 sull'intelligenza artificiale nell'istruzione, nella cultura e nel settore audiovisivo (2020/2017(INI))

(2022/C 15/04)

Il Parlamento europeo,

—	vista la Carta dei diritti fondamentali dell'Unione europea («Carta»),

—	visti gli articoli 165, 166 e 167 del trattato sul funzionamento dell'Unione europea,

—	viste le conclusioni del Consiglio, del 9 giugno 2020, sul tema «Plasmare il futuro digitale dell'Europa» (1),

—	visto il parere del Comitato economico e sociale europeo, del 19 settembre 2018, sul «Divario digitale di genere» (2),

—	vista la proposta della Commissione per un regolamento del Parlamento europeo e del Consiglio, del 6 giugno 2018, che istituisce il programma Europa digitale per il periodo 2021-2027 (COM(2018)0434),

—	vista la comunicazione della Commissione, del 30 settembre 2020, sul piano d'azione per l'istruzione digitale 2021-2027 — Ripensare l'istruzione e la formazione per l'era digitale (COM(2020)0624),

—	vista la comunicazione della Commissione, del 30 settembre 2020, sulla realizzazione dello spazio europeo dell'istruzione entro il 2025 (COM(2020)0625),

—	vista la relazione della Commissione, del 19 febbraio 2020, sulle implicazioni dell'intelligenza artificiale, dell'internet delle cose e della robotica in materia di sicurezza e di responsabilità (COM(2020)0064),

—	visto il Libro bianco della Commissione del 19 febbraio 2020 dal titolo «Intelligenza artificiale — Un approccio europeo all'eccellenza e alla fiducia» (COM(2020)0065),

—	vista la comunicazione della Commissione del 19 febbraio 2020 dal titolo «Una strategia europea per i dati» (COM(2020)0066),

—	vista la comunicazione della Commissione del 25 aprile 2018 dal titolo «L'intelligenza artificiale per l'Europa» (COM(2018)0237),

—	vista la comunicazione della Commissione del 17 gennaio 2018 sul piano d'azione per l'istruzione digitale (COM(2018)0022),

—	vista la relazione del gruppo di esperti ad alto livello della Commissione sull'IA, dell'8 aprile 2019, dal titolo «Ethics Guidelines for trustworthy AI» (Orientamenti etici per un'IA affidabile),

—	vista la sua risoluzione del 12 febbraio 2019 su una politica industriale europea globale in materia di robotica e intelligenza artificiale (3),

—	vista la sua risoluzione dell'11 settembre 2018 sull'uguaglianza linguistica nell'era digitale (4),

—	vista la sua risoluzione del 12 giugno 2018 sulla modernizzazione dell'istruzione nell'UE (5),

—	vista la sua risoluzione del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (6),

—	vista la sua risoluzione del 1o giugno 2017 sulla digitalizzazione dell'industria europea (7),

—	vista la nota informativa del suo dipartimento tematico Politica strutturale e di coesione, del maggio 2020, sull'uso dell'intelligenza artificiale nei settori culturali e creativi,

—	vista l'analisi approfondita del suo dipartimento tematico Politica strutturale e di coesione, del maggio 2020, sull'uso dell'intelligenza artificiale nel settore audiovisivo,

—	visto lo studio del suo dipartimento tematico Diritti dei cittadini e affari costituzionali, dell'aprile 2020, sull'istruzione e l'occupazione delle donne nella scienza, nella tecnologia e nell'economia digitale, compresa l'intelligenza artificiale e la sua influenza sull'uguaglianza di genere,

—	visto l'articolo 54 del suo regolamento,

—	visti i pareri della commissione per le libertà civili, la giustizia e gli affari interni, della commissione per il mercato interno e la protezione dei consumatori, della commissione giuridica e della commissione per i diritti delle donne e l'uguaglianza di genere,

—	vista la relazione della commissione per la cultura e l'istruzione (A9-0127/2021),

considerando che le tecnologie di intelligenza artificiale (IA), che possono avere un impatto diretto sulle nostre società, sono oggetto di un rapido sviluppo e vengono utilizzate sempre più spesso in quasi tutti gli ambiti delle nostre vite, compresi l'istruzione, la cultura e il settore audiovisivo; che l'IA etica contribuirà verosimilmente a migliorare la produttività del lavoro e ad accelerare la crescita economica;

B.	considerando che lo sviluppo, la diffusione e l'uso dell'IA, compresi il software, gli algoritmi e i dati utilizzati e generati da essa, dovrebbero essere guidati dai principi etici della trasparenza, della spiegabilità, dell'equità, della rendicontabilità e della responsabilità;

C.	considerando che nell'Unione gli investimenti pubblici nell'IA accusano un notevole ritardo rispetto ad altre grandi economie; che la carenza di investimenti nell'IA avrà probabilmente ripercussioni sulla competitività dell'Unione in tutti i settori;

D.	considerando che un approccio integrato all'IA e la disponibilità, la raccolta e l'interpretazione di dati di elevata qualità, affidabili, equi, trasparenti, attendibili, sicuri e compatibili sono essenziali per lo sviluppo di un'IA etica;

E.	considerando che l'articolo 21 della Carta vieta la discriminazione fondata su un'ampia gamma di motivi; che le molteplici forme di discriminazione non dovrebbero essere replicate nello sviluppo, nella diffusione e nell'utilizzo dei sistemi di IA;

F.	considerando che l'uguaglianza di genere è un principio fondamentale dell'Unione, sancito dai trattati, e dovrebbe trovare riscontro in tutte le politiche dell'Unione, anche nei settori dell'istruzione, della cultura e degli audiovisivi, nonché nello sviluppo di tecnologie quali l'IA;

considerando che le esperienze passate, in particolare in campo tecnico, hanno evidenziato che gli sviluppi e le innovazioni si basano spesso principalmente su dati maschili e che non sono rispecchiate appieno le esigenze delle donne; che far fronte a questi pregiudizi richiede una maggiore vigilanza, soluzioni tecniche e lo sviluppo di chiari requisiti di equità, responsabilità e trasparenza;

considerando che insiemi di dati incompleti e inaccurati, la mancanza di dati disaggregati per genere e algoritmi errati possono distorcere il trattamento di un sistema di IA e compromettere il conseguimento dell'uguaglianza di genere nella società; che i dati concernenti i gruppi svantaggiati e le forme intersettoriali di discriminazione tendono a essere incompleti o addirittura assenti;

considerando che le disuguaglianze di genere, gli stereotipi e le discriminazioni possono altresì essere creati e riprodotti attraverso il linguaggio e le immagini diffusi dai media e dalle applicazioni basate sull'IA; che l'istruzione, i programmi culturali e i contenuti audiovisivi hanno una notevole influenza nel plasmare le convinzioni e i valori delle persone e costituiscono uno strumento fondamentale per combattere gli stereotipi di genere, ridurre il divario digitale di genere e stabilire solidi modelli di riferimento; che è necessario istituire un quadro etico e normativo prima di attuare soluzioni automatizzate per questi settori chiave della società;

considerando che la scienza e l'innovazione possono apportare benefici che cambiano la vita, in particolare per le persone più svantaggiate, come le donne e le ragazze che vivono nelle zone isolate; che la formazione scientifica è importante per acquisire competenze, ottenere un lavoro dignitoso e per le professioni del futuro, nonché per infrangere gli stereotipi di genere che considerano tali ambiti come stereotipicamente maschili; che la scienza e il pensiero scientifico sono fondamentali per la cultura democratica, che a sua volta è fondamentale per promuovere l'uguaglianza di genere;

considerando che nell'Unione una donna su dieci ha già subito qualche forma di violenza online dall'età di 15 anni e che le molestie online continuano a destare preoccupazione nello sviluppo dell'IA, anche nell'istruzione; che la violenza online è spesso diretta contro le donne nella vita pubblica, come le attiviste, le donne in politica e altri personaggi pubblici; che l'IA e le altre tecnologie emergenti possono svolgere un ruolo importante nella prevenzione della violenza online contro le donne e le ragazze e nell'educazione delle persone;

considerando che l'Unione e i suoi Stati membri hanno la responsabilità particolare di sfruttare, promuovere e rafforzare il valore aggiunto delle tecnologie di IA nonché di garantire che tali tecnologie siano sicure e favoriscano il benessere e l'interesse generale degli europei; che tali tecnologie possono apportare un contributo enorme al raggiungimento del nostro obiettivo comune di migliorare la vita dei nostri cittadini e di promuovere la prosperità nell'Unione, contribuendo allo sviluppo di strategie migliori e all'innovazione in numerosi settori, segnatamente nell'istruzione, nella cultura e nel settore audiovisivo;

M.	considerando che la maggior parte dei sistemi di IA si basa su un software con codice sorgente aperto, il quale può essere ispezionato, modificato e migliorato;

considerando che potrebbero rendersi necessari alcuni adeguamenti agli strumenti legislativi specifici esistenti nell'UE per rispecchiare la trasformazione digitale e affrontare le nuove sfide poste dall'uso delle tecnologie di IA nell'istruzione, nella cultura e nel settore degli audiovisivi, come la protezione dei dati personali e della privacy e il contrasto alla discriminazione, la promozione della parità di genere e il rispetto dei diritti di proprietà intellettuale, la tutela dell'ambiente e i diritti dei consumatori;

O.	considerando che per garantire parità di condizioni è importante fornire al settore audiovisivo l'accesso ai dati delle piattaforme globali e dei principali operatori;

considerando che l'IA e le future applicazioni o invenzioni realizzate con l'aiuto dell'IA, analogamente a quanto avviene con qualsiasi altra tecnologia, possono avere una duplice natura; che l'IA e le tecnologie correlate destano molte preoccupazioni per quanto concerne l'etica e la trasparenza riguardo allo sviluppo, alla diffusione e all'impiego delle stesse, in particolare in merito alla raccolta, all'utilizzo e alla diffusione dei dati; che occorre valutare con attenzione i benefici e i rischi delle tecnologie di IA nell'istruzione, nella cultura e nel settore audiovisivo e analizzare in modo approfondito e continuativo i loro effetti su tutti gli aspetti della società, senza minare il loro potenziale;

Q.	considerando che l'istruzione mira a realizzare il potenziale umano, la creatività e un autentico cambiamento sociale, mentre l'utilizzo scorretto dei sistemi di IA basati sui dati può ostacolare lo sviluppo umano e sociale;

considerando che l'istruzione e le opportunità educative sono un diritto fondamentale; che lo sviluppo, la diffusione e l'utilizzo delle tecnologie di IA nel settore dell'istruzione dovrebbero essere classificati ad alto rischio ed essere soggetti a requisiti più rigorosi in materia di sicurezza, trasparenza, equità e responsabilità;

considerando che la connettività pervasiva sicura, veloce e di elevata qualità, la banda larga, le reti ad alta capacità, le competenze informatiche, le competenze digitali, le attrezzature e infrastrutture digitali, nonché l'accettazione sociale e un quadro strategico mirato e accomodante sono tra i requisiti fondamentali per l'ampia e riuscita diffusione dell'IA nell'Unione; che è essenziale che tali infrastrutture e attrezzature siano dispiegate in modo paritario in tutta l'Unione al fine di contrastare il persistente divario digitale tra le sue regioni e i suoi cittadini;

considerando che è assolutamente necessario affrontare il divario di genere nelle discipline in campo scientifico, tecnologico, ingegneristico, artistico e matematico (STEAM) per garantire una rappresentanza equa e giusta dell'intera società all'atto dello sviluppo, della diffusione e dell'impiego delle tecnologie di IA, compresi il software, gli algoritmi e i dati utilizzati e prodotti dalle stesse;

considerando che è essenziale garantire che tutte le persone nell'Unione acquisiscano le competenze necessarie fin dalla più tenere età per meglio comprendere le capacità e le limitazioni dell'IA, al fine di prepararsi alla crescente presenza dell'IA e delle tecnologie connesse in tutti gli aspetti dell'attività umana ed essere in grado di cogliere appieno le opportunità che esse offrono; che l'acquisizione generalizzata di competenze digitali in tutti gli ambiti della società dell'Unione è una condizione preliminare per conseguire una trasformazione digitale equa a beneficio di tutti;

considerando che, a tal fine, gli Stati membri devono investire nell'istruzione digitale e nella formazione mediatica, dotare le scuole di un'infrastruttura adeguata e delle necessarie apparecchiature terminali e porre maggiormente l'accento sull'insegnamento concernente le capacità e le competenze digitali nei programmi scolastici;

considerando che l'IA e le tecnologie connesse possono essere utilizzate per migliorare i metodi di apprendimento e di insegnamento, in particolare aiutando i sistemi di istruzione a utilizzare dati equi per migliorare l'equità e la qualità educativa, promuovendo nel contempo programmi di studio ad hoc e un migliore accesso all'istruzione e migliorando e automatizzando alcuni compiti amministrativi; che è necessario un accesso paritario ed equo alle tecnologie digitali e alla connettività ad alta velocità per far sì che l'utilizzo dell'IA sia vantaggioso per l'intera società; che è della massima importanza garantire che l'istruzione digitale sia accessibile per tutti, anche per le persone provenienti da contesti svantaggiati e le persone con disabilità; che i risultati dell'apprendimento non dipendono di per sé dalla tecnologia, ma da come gli insegnanti sono in grado di utilizzare la tecnologia con modalità significative dal punto di vista pedagogico;

considerando che l'IA ha in particolare la potenzialità di offrire soluzioni alle sfide quotidiane del settore dell'istruzione, come la personalizzazione dell'apprendimento, il monitoraggio delle difficoltà di apprendimento e l'automazione di contenuti/conoscenze specifici alle singole materie, fornendo in tal modo una migliore formazione professionale e sostenendo la transizione verso una società digitale;

Y.	considerando che l'IA potrebbe avere applicazioni pratiche in termini di riduzione del lavoro amministrativo per gli educatori e gli istituti di istruzione, che potrebbero quindi dedicare più tempo alle loro attività didattiche e di insegnamento fondamentali;

Z.	considerando che le nuove applicazioni nell'ambito dell'istruzione che si basano sull'IA stanno agevolando i progressi in varie discipline, come l'apprendimento delle lingue e la matematica;

AA.	considerando che esperienze di apprendimento personalizzate basate sull'IA possono non solo aiutare ad accrescere la motivazione degli studenti e aiutarli a sviluppare pienamente il loro potenziale, ma possono anche diminuire i tassi di abbandono scolastico;

AB.	considerando che l'IA può aiutare sempre più gli insegnanti a migliorare la loro efficacia grazie a una migliore comprensione dei metodi e degli stili di apprendimento degli studenti, aiutandoli a individuare le difficoltà di apprendimento e a valutare meglio i singoli progressi;

AC.	considerando che sul mercato del lavoro digitale nell'Unione mancano quasi mezzo milione di esperti delle scienze e dell'analisi dei Big Data, che sono intrinseci allo sviluppo e all'impiego di un'IA di qualità e affidabile;

AD.

considerando che l'applicazione dell'IA nell'ambito dell'istruzione solleva preoccupazioni riguardo all'uso etico dei dati, ai diritti dei discenti, all'accesso ai dati e alla protezione dei dati personali e pertanto comporta rischi per i diritti fondamentali, quali la creazione di modelli stereotipati in merito ai profili e ai comportamenti dei discenti che potrebbero condurre a discriminazioni o rischiare di produrre effetti dannosi a causa della diffusione su ampia scala di pratiche pedagogiche scorrette;

AE.

considerando che la cultura svolge un ruolo centrale nell'utilizzo delle tecnologie di IA su larga scala e si sta affermando in quanto disciplina fondamentale per il patrimonio culturale grazie allo sviluppo di tecnologie e strumenti innovativi e alla loro applicazione efficace per rispondere alle esigenze del settore;

AF.

considerando che le tecnologie di IA possono essere utilizzate per promuovere e tutelare il patrimonio culturale, anche con l'ausilio degli strumenti digitali per preservare i siti storici, trovando modi innovativi per rendere più ampiamente e facilmente accessibili gli insiemi di dati relativi ai beni culturali in possesso delle istituzioni culturali di tutta l'Unione, consentendo nel contempo agli utenti di consultare una grande quantità di contenuti culturali e creativi; che a tale riguardo è essenziale la promozione delle norme e dei quadri in materia di interoperabilità;

AG.

considerando che l'utilizzo delle tecnologie di IA per i contenuti culturali e creativi, in particolare i contenuti mediatici e le raccomandazioni ad hoc sui contenuti, solleva questioni relative alla protezione dei dati, alla discriminazione e alla diversità culturale e linguistica, rischia di produrre risultati discriminatori basati sui dati distorti inseriti e potrebbe limitare la diversità delle opinioni e il pluralismo dei media;

AH.

considerando che le raccomandazioni personalizzate sui contenuti basate sull'IA possono spesso rispondere meglio alle esigenze specifiche delle persone, comprese le preferenze culturali e linguistiche; che l'IA può contribuire a promuovere la diversità linguistica nell'Unione e a migliorare la diffusione generale delle opere audiovisive europee, in particolare mediante la sottotitolazione e il doppiaggio automatici dei contenuti audiovisivi in altre lingue; che rendere disponibili i contenuti mediatici nelle varie le lingue è pertanto fondamentale per sostenere la diversità culturale e linguistica;

AI.	considerando che l'IA favorisce l'innovazione nelle redazioni attraverso l'automazione di vari compiti banali, l'interpretazione dei dati e persino la generazione di notizie come le previsioni del tempo e i risultati sportivi;

AJ.

considerando che la promozione della linguistica computazionale per un'IA basata sui diritti rappresenta, attraverso la diversità linguistica europea, uno specifico potenziale di innovazione che può essere utilizzato per rendere democratico e non discriminatorio lo scambio culturale e di informazioni globale nell'era digitale;

AK.

considerando che le tecnologie di IA possono essere vantaggiose per quanto concerne esigenze specifiche in materia di istruzione come pure per l'accessibilità dei contenuti culturali e creativi per le persone con disabilità; che l'IA consente soluzioni come il riconoscimento vocale, gli assistenti virtuali e le rappresentazioni digitali di oggetti fisici; che le creazioni digitali stanno già contribuendo a rendere tali contenuti disponibili per le persone con disabilità;

AL.	considerando che le applicazioni di IA sono onnipresenti nel settore audiovisivo, in particolare sulle piattaforme di contenuti audiovisivi;

AM.	considerando che le tecnologie di IA contribuiscono pertanto alla creazione, pianificazione, gestione, produzione, distribuzione, localizzazione e fruizione di prodotti audiovisivi;

AN.

considerando che l'IA può essere utilizzata per creare contenuti falsi, come i «deepfake», che registrano un aumento esponenziale e rappresentano una minaccia immediata per la democrazia, ma può essere anche impiegata come prezioso strumento per identificare e combattere immediatamente tale attività dannosa, ad esempio attraverso la verifica dei fatti in tempo reale o contrassegnando i contenuti; che la maggior parte dei deepfake è facilmente identificabile; che, allo stesso tempo, gli strumenti di individuazione basati sull'IA riescono, in genere, a segnalare e filtrare tali contenuti; che manca un quadro giuridico in materia;

Osservazioni generali

sottolinea l'importanza strategica dell'IA e delle tecnologie correlate per l'Unione; sottolinea che l'approccio all'IA e alle relative tecnologie deve essere incentrato sull'uomo e ancorato ai diritti umani e all'etica, affinché l'IA diventi realmente uno strumento al servizio delle persone, del bene comune e dell'interesse generale dei cittadini;

sottolinea che lo sviluppo, la diffusione e l'utilizzo dell'IA nell'istruzione, nella cultura e nel settore audiovisivo deve rispettare pienamente i diritti, le libertà e i valori fondamentali, compresa la dignità umana, la vita privata, la protezione dei dati personali, la non discriminazione e la libertà di espressione e informazione, nonché la diversità culturale e i diritti di proprietà intellettuale secondo quanto sancito dai trattati dell'Unione e dalla Carta;

afferma che l'istruzione, la cultura e il settore audiovisivo sono ambiti sensibili per quanto riguarda l'uso dell'IA e delle tecnologie correlate, poiché hanno il potenziale di incidere sui pilastri dei diritti e dei valori fondamentali della nostra società; sottolinea pertanto che nello sviluppo, diffusione e utilizzo dell'IA e delle tecnologie correlate in tali ambiti, compresi i software, gli algoritmi e i dati utilizzati e prodotti dalle stesse, si dovrebbero osservare i principi etici;

ricorda che gli algoritmi e l'IA dovrebbero essere «etici fin dalla loro progettazione», senza pregiudizi incorporati, in modo da garantire la massima protezione dei diritti fondamentali;

ribadisce l'importanza di sviluppare un'IA e tecnologie correlate inclusive, compatibili e di qualità, destinate a essere utilizzate nell'apprendimento profondo, che rispettino e difendano i valori dell'Unione, in particolare la parità di genere, il multilinguismo e le condizioni necessarie per il dialogo interculturale, dal momento che il ricorso a dati di scarsa qualità, obsoleti, incompleti o inesatti può portare a previsioni inadeguate e, di conseguenza, a discriminazioni e pregiudizi; evidenzia che è fondamentale che vengano sviluppate capacità a livello sia nazionale che dell'Unione per migliorare la raccolta, la sicurezza, la compilazione e la trasferibilità dei dati senza mettere a repentaglio la vita privata; prende atto della proposta della Commissione di creare uno spazio comune europeo dei dati;

rammenta che l'IA potrebbe dare adito a distorsioni e, di conseguenza, a diverse forme di discriminazione per motivi di sesso, razza, colore, origine etnica o sociale, caratteristiche genetiche, lingua, religione o credo, opinioni politiche o di altro genere, appartenenza a una minoranza nazionale, proprietà, nascita, disabilità, età od orientamento sessuale; ricorda, a tale proposito, che è necessario garantire i diritti di tutti e che l'IA e le tecnologie correlate non devono essere discriminatorie in alcun modo;

sottolinea che tali pregiudizi e discriminazioni possono avere origine da serie di dati già distorte, che riflettono le discriminazioni già presenti nella società; ricorda a tale riguardo che è essenziale coinvolgere i principali portatori di interessi, inclusa la società civile, per evitare che pregiudizi sociali, culturali e legati al genere siano inavvertitamente inseriti negli algoritmi, nei sistemi e nella applicazioni di IA; pone in rilievo la necessità di elaborare il modo più efficiente per ridurre le distorsioni nei sistemi di IA, conformemente alle norme in materia di etica e non discriminazione; evidenzia che le serie di dati utilizzate per addestrare i sistemi di IA dovrebbero essere quanto più ampie possibile al fine di rappresentare nel migliore e più pertinente dei modi la società, che è opportuno rivedere i risultati onde evitare qualsiasi forma di stereotipo, discriminazione e distorsione, e che, se del caso, l'IA dovrebbe essere utilizzata per individuare e correggere eventuali distorsioni indotte dall'uomo; invita la Commissione a incoraggiare e a facilitare la condivisione di strategie di eliminazione delle distorsioni per i dati;

invita la Commissione e gli Stati membri a tenere conto degli aspetti etici, anche da una prospettiva di genere, nell'elaborazione delle politiche e della legislazione in materia di IA e, se necessario, ad adeguare l'attuale legislazione, inclusi i programmi dell'Unione e gli orientamenti etici in materia di utilizzo dell'IA;

esorta la Commissione e gli Stati membri a elaborare misure che integrino appieno la dimensione di genere, tra cui campagne di sensibilizzazione, formazioni e programmi di studio, che dovrebbero fornire informazioni ai cittadini sul funzionamento degli algoritmi e sull'impatto di questi ultimi sulla loro vita quotidiana; li invita inoltre a promuovere una mentalità e condizioni di lavoro fondate sull'uguaglianza di genere che conducano allo sviluppo di prodotti tecnologici e di ambienti di lavoro più inclusivi; esorta la Commissione e gli Stati membri a garantire l'inclusione delle competenze digitali e della formazione in materia di IA nei programmi scolastici e a renderle accessibili per tutti, come mezzo per colmare il divario di genere digitale;

10.

sottolinea la necessità di formare i lavoratori e gli educatori nel settore dell'IA, al fine di promuovere la capacità di individuare e correggere le pratiche discriminatorie in termini di genere sul posto di lavoro e nell'istruzione, e i lavoratori che sviluppano sistemi e applicazioni di IA in modo da individuare e porre rimedio alle discriminazioni basate sul genere nei sistemi e nelle applicazioni di IA che essi sviluppano; chiede di definire chiare responsabilità nelle aziende e negli istituti scolastici per garantire che non vi siano discriminazioni basate sul genere sul posto di lavoro o in contesti educativi; sottolinea che le immagini senza genere dell'IA e dei robot dovrebbero essere utilizzate a fini educativi e culturali, a meno che il genere non sia un fattore chiave per qualche ragione;

11.

evidenzia l'importanza dello sviluppo e della diffusione delle applicazioni di IA nei settori dell'istruzione, della cultura e dell'audiovisivo ai fini della raccolta di dati disaggregati in base al genere e di altri dati sull'uguaglianza e dell'applicazione di tecniche moderne di apprendimento automatico ed eliminazione delle distorsioni, se necessario, per correggere gli stereotipi di genere e le distorsioni di genere, che possono avere un impatto negativo;

12.

invita la Commissione a includere l'istruzione nel quadro normativo per le applicazioni di IA ad alto rischio, in considerazione dell'importanza di garantire che l'istruzione continui a dare il proprio contributo al bene pubblico e in considerazione dell'elevata sensibilità dei dati relativi ad alunni, studenti e altri discenti; sottolinea che, nel settore dell'istruzione, tale processo di introduzione dovrebbe coinvolgere gli educatori, i discenti e la società in generale nonché tenere conto delle loro esigenze e dei benefici attesi al fine di garantire che l'IA venga impiegata in modo mirato ed etico;

13.

si appella alla Commissione affinché incoraggi l'utilizzo di programmi dell'Unione quali Orizzonte Europa, Europa Digitale ed Erasmus+ per promuovere la ricerca multidisciplinare, i progetti pilota, gli esperimenti e lo sviluppo di strumenti, compresa la formazione, finalizzati a individuare i pregiudizi di genere nell'IA e a promuovere campagne di sensibilizzazione rivolte al grande pubblico;

14.

sottolinea la necessità di creare gruppi diversificati di sviluppatori e ingegneri che operino a fianco dei principali attori nel settore dell'istruzione, della cultura e dell'audiovisivo, al fine di evitare che negli algoritmi, sistemi e applicazioni di IA siano inavvertitamente inserite distorsioni di genere o sociali; evidenzia la necessità di considerare la varietà delle diverse teorie attraverso le quali l'IA è stata sviluppata finora e potrebbe essere ulteriormente sviluppata in futuro;

15.

segnala che il fatto di prestare la dovuta attenzione a eliminare le distorsioni e le discriminazioni nei confronti di determinati gruppi, compresi gli stereotipi di genere, non dovrebbe arrestare il progresso tecnologico;

16.

ribadisce l'importanza dei diritti fondamentali e il primato generale della legislazione in materia di protezione dei dati e della vita privata, dalla quale non si può prescindere nell'impiego di tali tecnologie; rammenta che l'IA può avere un'incidenza particolare sulla protezione dei dati e la tutela della vita privata, segnatamente per quanto riguarda i dati dei minori; sottolinea a tale riguardo che i principi stabiliti dal regolamento generale sulla protezione dei dati (GDPR) (8) sono vincolanti per la diffusione dell'IA; ricorda inoltre che tutte le applicazioni dell'IA devono rispettare appieno la normativa dell'Unione in materia di protezione dei dati, in particolare il GDPR e la direttiva relativa alla vita privata e alle comunicazioni elettroniche (9); pone in evidenza il diritto a ottenere un intervento umano quando vengono utilizzate l'IA e le tecnologie correlate;

17.

invita la Commissione e gli Stati membri a dare attuazione a un obbligo di trasparenza e spiegabilità per le decisioni individuali automatizzate basate sull'IA e adottate nel quadro delle prerogative dei poteri pubblici, nonché ad applicare sanzioni per far rispettare i suddetti obblighi; invoca l'attuazione di sistemi che utilizzino la verifica e l'intervento umani come impostazione predefinita e chiede che sia garantito il diritto a un giusto processo, compresi il diritto di appello e di ricorso nonché l'accesso ai mezzi di ricorso;

18.

prende atto del potenziale impatto negativo della pubblicità personalizzata e, in particolare, di quella micro-mirata, delle pubblicità comportamentali e delle valutazioni delle persone, in particolare dei minori, senza il loro consenso, poiché interferiscono nella vita privata degli individui e sollevano interrogativi in merito alla raccolta e all'uso dei dati utilizzati per personalizzare la pubblicità, offrire prodotti o servizi o fissare i prezzi; invita pertanto la Commissione a introdurre limitazioni rigorose per quanto riguarda la pubblicità mirata basata sulla raccolta di dati personali, iniziando con il divieto della pubblicità comportamentale multipiattaforma, senza tuttavia pregiudicare le piccole e medie imprese (PMI); ricorda che attualmente la direttiva relativa alla vita privata e alle comunicazioni elettroniche autorizza la pubblicità mirata solo in presenza di un consenso esplicito e che, in caso contrario, tale pratica è considerata illegale; invita la Commissione a vietare l'uso di pratiche discriminatorie per la fornitura di servizi o prodotti;

19.

sottolinea la necessità che le organizzazioni dei media siano informate in merito ai principali parametri dei sistemi di IA basati su algoritmi che determinano il posizionamento e i risultati di ricerca su piattaforme di terzi e che gli utenti siano informati in merito all'uso dell'IA nei servizi decisionali e siano autorizzati a fissare i propri parametri di riservatezza attraverso misure trasparenti e comprensibili;

20.

evidenzia che l'IA può rappresentare un sostegno alla creazione di contenuti nei settori dell'istruzione, della cultura e dell'audiovisivo unitamente alle piattaforme di informazione e didattiche, compresi gli elenchi di diversi tipi di beni culturali e molteplici fonti di dati; prende atto dei rischi in termini di violazione dei diritti di proprietà intellettuale (DPI) se si combinano l'IA e diverse tecnologie aventi molteplici fonti (documenti, foto, film) per migliorare il modo in cui tali dati sono mostrati, ricercati e visualizzati; chiede che l'IA sia utilizzata per garantire un elevato livello di protezione dei DPI nel quadro legislativo vigente, ad esempio avvisando gli individui e le imprese se rischiano di violare inavvertitamente le norme o assistendo i titolari di DPI in caso di effettiva violazione di tali norme; sottolinea pertanto l'importanza di disporre di un adeguato quadro giuridico a livello dell'Unione per la tutela dei DPI relativamente all'uso dell'IA;

21.

pone in rilievo la necessità di trovare un equilibrio tra, da un lato, lo sviluppo dei sistemi di IA e il loro utilizzo nei settori dell'istruzione, della cultura e dell'audiovisivo e, dall'altro, le misure per salvaguardare la concorrenza e la competitività del mercato per le imprese di IA in tali settori; sottolinea, al riguardo, la necessità di incoraggiare le imprese a investire nell'innovazione dei sistemi di IA utilizzati in questi settori, garantendo altresì che i fornitori di tali applicazioni non monopolizzino il mercato; evidenzia la necessità che l'IA sia resa ampiamente disponibile nei settori e nelle industrie culturali e creativi in tutta Europa, al fine di mantenere condizioni di parità e una concorrenza leale per tutte le parti interessate e gli attori in Europa; esorta la Commissione e gli Stati membri a tener maggiormente in considerazione, nelle decisioni relative alla politica in materia di concorrenza, ivi comprese quelle relative alle fusioni, il ruolo di dati e algoritmi nella concentrazione del potere di mercato;

22.

evidenzia la necessità di affrontare sistematicamente le questioni sociali, etiche e giuridiche poste dallo sviluppo, dalla diffusione e dall'uso dell'IA, quali la trasparenza e la rendicontabilità degli algoritmi, la non discriminazione, le pari opportunità, la libertà e la diversità di opinione e il pluralismo dei media, nonché la titolarità, la raccolta, l'utilizzo e la diffusione dei dati e dei contenuti; raccomanda l'elaborazione di orientamenti e norme comuni a livello europeo per tutelare la vita privata e utilizzare efficacemente, allo stesso tempo, i dati disponibili; chiede trasparenza nello sviluppo e responsabilità nell'impiego degli algoritmi;

23.

esorta la Commissione a presentare un quadro normativo esaustivo inteso a disciplinare a livello orizzontale le applicazioni dell'IA, nonché a integrare tale quadro con norme settoriali, per esempio nell'ambito dei servizi di media audiovisivi;

24.

sottolinea che è necessario investire nella ricerca e nell'innovazione per quanto riguarda lo sviluppo, la diffusione e l'uso dell'IA e delle sue applicazioni nei settori dell'istruzione, della cultura e dell'audiovisivo; evidenzia l'importanza degli investimenti pubblici in questi servizi e il valore aggiunto complementare offerto dai partenariati pubblico-privati nell'ottica di conseguire tale obiettivo e di realizzare appieno il potenziale dell'IA in tali settori, in particolare in quello dell'istruzione, in considerazione della notevole entità degli investimenti privati realizzati negli ultimi anni; invita la Commissione a reperire ulteriori finanziamenti per promuovere la ricerca e l'innovazione nelle applicazioni di IA in tali settori;

25.

evidenzia che i sistemi algoritmici possono contribuire a ridurre più rapidamente il divario digitale, ma che una diffusione ineguale potrebbe creare nuovi divari o acuire più velocemente quelli esistenti; esprime preoccupazione per la mancanza di coerenza che caratterizza lo sviluppo delle conoscenze e delle infrastrutture nell'Unione, che limita l'accessibilità dei prodotti e dei servizi basati sull'IA, segnatamente nelle regioni scarsamente popolate o vulnerabili sotto il profilo socioeconomico; invita la Commissione a garantire la coesione nella condivisione dei benefici dell'IA e delle tecnologie correlate;

26.

invita la Commissione a stabilire requisiti per l'acquisizione e la diffusione dell'IA e delle tecnologie correlate da parte degli organismi del settore pubblico dell'Unione, in modo da garantire il rispetto del diritto dell'Unione e dei diritti fondamentali; sottolinea il valore aggiunto di utilizzare strumenti quali le consultazioni pubbliche e le valutazioni d'impatto prima dell'acquisizione o della diffusione di sistemi di IA, come raccomandato nella relazione del relatore speciale all'Assemblea generale delle Nazioni Unite sull'IA e il suo impatto sulla libertà di opinione e di espressione (10); incoraggia le autorità pubbliche a incentivare lo sviluppo e la diffusione dell'IA attraverso finanziamenti pubblici e appalti pubblici; evidenzia la necessità di rafforzare il mercato offrendo alle PMI l'opportunità di partecipare agli appalti relativi alle applicazioni di IA al fine di assicurare la partecipazione di imprese tecnologiche di tutte le dimensioni e quindi garantire la resilienza e la concorrenza;

27.

chiede che siano effettuati audit periodici indipendenti per valutare se le applicazioni di IA utilizzate e i relativi controlli ed equilibri siano conformi ai criteri specificati e che tali audit siano supervisionati da autorità indipendenti dotate di poteri di vigilanza sufficienti; chiede di effettuare specifiche prove di stress per agevolare e garantire il rispetto delle norme;

28.

constata i benefici e i rischi dell'intelligenza artificiale in termini di cibersicurezza e il suo potenziale nella lotta alla criminalità informatica e pone in evidenza la necessità di rendere tutte le soluzioni in materia di IA resilienti agli attacchi informatici, rispettando nel contempo i diritti fondamentali dell'Unione, in particolare la protezione dei dati personali e della vita privata; sottolinea l'importanza di monitorare la sicurezza nell'utilizzo dell'IA e la necessità di una stretta collaborazione tra i settori pubblico e privato per contrastare le vulnerabilità degli utenti e i pericoli che ne derivano; invita la Commissione a valutare la necessità di una migliore prevenzione in relazione alla cibersicurezza e delle relative misure di attenuazione;

29.

sottolinea che la crisi causata dalla pandemia di COVID-19 può essere considerata come un periodo di prova per lo sviluppo, la diffusione e l'utilizzo delle tecnologie digitali e correlate all'IA nei settori dell'istruzione e della cultura, come esemplificato dalle numerose piattaforme didattiche e dagli strumenti online per la promozione culturale utilizzati in tutti gli Stati membri; invita pertanto la Commissione a tenere conto di tali esempi nel considerare un approccio comune dell'Unione al crescente impiego di tali soluzioni tecnologiche;

Istruzione

30.

ricorda l'importanza di rafforzare le competenze digitali e di conseguire un alto livello di alfabetizzazione mediatica, digitale e dell'informazione a livello dell'Unione quale prerequisito per l'utilizzo dell'IA nell'istruzione; sottolinea, a tale riguardo, la necessità di garantire l'alfabetizzazione digitale e in materia di IA in tutta l'Unione, segnatamente attraverso la creazione di opportunità di formazione per gli insegnanti; ribadisce che l'uso delle tecnologie di IA nelle scuole dovrebbe contribuire a ridurre il divario digitale sociale e regionale; accoglie con favore l'aggiornamento del piano d'azione della Commissione per l'istruzione digitale, che affronta il tema dell'uso dell'IA nell'istruzione; invita a tale riguardo la Commissione a far sì che le capacità digitali, l'alfabetizzazione e la formazione mediatica nonché le competenze in materia di IA figurino tra le priorità di tale piano, promuovendo al tempo stesso una maggiore consapevolezza dei possibili usi impropri e malfunzionamenti dell'IA; sollecita la Commissione, in tale contesto, a prestare particolare attenzione ai bambini e ai ragazzi che vivono in una condizione di precarietà e necessitano di un particolare sostegno nell'ambito dell'istruzione digitale; esorta la Commissione ad affrontare in maniera adeguata le iniziative in materia di IA e robotica nel settore dell'istruzione nell'ambito delle sue prossime proposte legislative sull'IA; esorta gli Stati membri a investire nelle attrezzature digitali delle scuole utilizzando a tal fine i finanziamenti dell'Unione;

31.

evidenzia che l'utilizzo dell'IA nei sistemi di istruzione mette a disposizione una vasta gamma di possibilità, opportunità e strumenti per renderli più innovativi, inclusivi, efficienti e sempre più efficaci, attraverso l'introduzione di nuove modalità rapide, personalizzate e incentrate sugli studenti per un apprendimento di qualità; sottolinea, tuttavia, che dato che avrà ripercussioni sull'istruzione e l'inclusione sociale, occorre garantire la disponibilità di detti strumenti per tutti i gruppi sociali attraverso un accesso paritario all'istruzione e all'apprendimento e senza lasciare indietro nessuno, in particolare le persone con disabilità;

32.

sottolinea che, per utilizzare l'IA in modo critico ed efficace, i cittadini devono possedere almeno una conoscenza di base di tale tecnologia; invita gli Stati membri a integrare campagne di sensibilizzazione sull'IA nelle loro azioni riguardo all'alfabetizzazione digitale; invita la Commissione e gli Stati membri a promuovere piani di alfabetizzazione digitale e forum di discussione per coinvolgere i cittadini, i genitori e gli studenti in un dialogo democratico con le autorità pubbliche e le parti interessate in merito allo sviluppo, alla diffusione e all'utilizzo delle tecnologie di IA nei sistemi di istruzione; evidenzia l'importanza di fornire agli educatori, ai formatori e ad altri gli strumenti e le competenze opportuni in materia di IA e di tecnologie correlate affinché possano comprendere cosa sono, come vengono impiegate e come usarle in modo corretto e conforme alla legge, così da evitare di incorrere in violazioni dei DPI; sottolinea, in particolare, l'importanza dell'alfabetizzazione digitale per coloro che lavorano nei settori dell'istruzione e della formazione, nonché del miglioramento della formazione digitale per gli anziani, dal momento che le nuove generazioni, essendo cresciute con tali tecnologie, dispongono già di nozioni di base al riguardo;

33.

segnala che il vero obiettivo dell'utilizzo dell'IA nei sistemi di istruzione dovrebbe essere quello di proporre un'istruzione il più personalizzata possibile, offrendo allo studente percorsi accademici personalizzati a seconda dei suoi punti deboli e di forza e mettendo a disposizione materiali didattici adeguati alle sue caratteristiche, mantenendo al tempo stesso la qualità educativa e il principio integrativo dei sistemi di istruzione europei;

34.

ribadisce il ruolo fondamentale e poliedrico che gli insegnanti svolgono nell'istruzione, anche per renderla inclusiva, in particolare nella prima infanzia, quando sono acquisite le competenze che consentiranno ai discenti di progredire nel corso delle loro vite, come le relazioni personali, le competenze di studio, l'empatia e il lavoro in cooperazione; sottolinea pertanto che le tecnologie di IA non possono essere usate a scapito o a danno dell'istruzione in presenza in quanto gli insegnanti non devono essere sostituiti dall'IA o da tecnologie ad essa connesse;

35.

sottolinea che i vantaggi per l'apprendimento offerti dall'utilizzo dell'IA nell'istruzione dipenderanno non solo dall'IA stessa, ma anche dal modo in cui gli insegnanti la utilizzeranno nell'ambiente di apprendimento digitale per rispondere alle esigenze di allievi, studenti e docenti; sottolinea pertanto la necessità che gli sviluppatori di IA coinvolgano le comunità degli insegnanti nello sviluppo, nella diffusione e nell'utilizzo delle tecnologie di IA, ove possibile, creando un ambiente di collegamento per formare connessioni e favorire la cooperazione tra gli sviluppatori di IA, le imprese, le scuole, gli insegnanti e altre parti interessate pubbliche e private per la creazione di tecnologie di IA che siano adeguate ai contesti educativi reali, rispecchino l'età e la prontezza all'apprendimento di ciascun discente e soddisfino le più elevate norme etiche; evidenzia che gli istituti di istruzione dovrebbero utilizzare solo tecnologie affidabili, etiche e antropocentriche, verificabili da parte delle autorità pubbliche e della società civile in ogni fase del loro ciclo di vita; mette in evidenza, a tale proposito, i vantaggi delle soluzioni gratuite e open source; chiede che alle scuole e agli altri istituti di formazione siano forniti il sostegno finanziario e logistico e le competenze necessari per introdurre soluzioni di apprendimento in futuro;

36.

pone inoltre l'accento sulla necessità di formare gli insegnanti in modo continuo affinché siano in grado di adattarsi a contesti d'istruzione basati sull'IA e di acquisire le conoscenze e le competenze necessarie per utilizzare le tecnologie di IA in modo pedagogico e costruttivo, permettendogli così di valorizzare pienamente le opportunità offerte dall'IA e di comprenderne i limiti; chiede che in futuro la didattica digitale faccia parte della formazione degli insegnanti ed esorta affinché agli insegnanti e alle persone che lavorano nel settore dell'istruzione e della formazione sia offerta la possibilità di continuare la loro formazione nella didattica digitale lungo tutto l'arco della vita; chiede pertanto che siano sviluppati programmi di formazione sull'IA per gli insegnanti di tutte le discipline e nell'intera Europa; sottolinea inoltre l'importanza di una riforma dei programmi di insegnamento per le nuove generazioni di insegnanti che consenta loro di adattarsi alle realtà di un'istruzione basata sull'IA, così come l'importanza di elaborare manuali e orientamenti sull'IA rivolti agli insegnanti e di aggiornarli;

37.

è preoccupato riguardo alla mancanza di programmi di istruzione superiore specifici per l'IA e all'assenza di finanziamenti pubblici per l'IA in tutti gli Stati membri; ritiene che ciò stia mettendo a repentaglio le future ambizioni digitali dell'Europa;

38.

è preoccupato per il numero ridotto di ricercatori nel settore dell'IA che intraprendono una carriera accademica per via del fatto che le imprese tecnologiche possono offrire una retribuzione migliore e una minore burocrazia per la ricerca; ritiene che parte della soluzione consisterebbe nel destinare maggiori fondi pubblici alla ricerca sull'IA nelle università;

39.

sottolinea l'importanza di dotare le persone di competenze digitali generali dall'infanzia in poi, onde colmare le carenze di qualifiche e integrare meglio determinate categorie della popolazione nel mercato del lavoro e nella società digitali; sottolinea che diventerà sempre più importante formare professionisti altamente qualificati di tutti gli ambiti nel settore dell'IA, garantire il riconoscimento reciproco di tali qualifiche in tutta l'Unione e migliorare le competenze della forza lavoro attuale e futura per consentirle di far fronte alle realtà future del mercato del lavoro; invita pertanto gli Stati membri a valutare la propria offerta formativa e ad aggiornarla includendovi competenze legate all'IA, ove necessario, e a introdurre programmi di studio specifici per sviluppatori di IA, integrando nel contempo l'IA nei programmi di studio tradizionali; pone l'accento sulla necessità di garantire il riconoscimento reciproco delle qualifiche professionali relative alle competenze in materia di IA all'interno dell'Unione, dato che diversi Stati membri stanno potenziando la loro offerta formativa con competenze nel settore dell'IA ed elaborando programmi di studi specifici per sviluppatori di IA; accoglie con favore gli sforzi profusi dalla Commissione per includere le competenze digitali tra le qualifiche richieste per alcune professioni armonizzate a livello dell'Unione a norma della direttiva sulle qualifiche professionali (11); sottolinea che esse devono essere in linea con la lista di controllo degli orientamenti etici per un'IA affidabile e plaude alla proposta della Commissione di trasformare tale lista di controllo in un «programma di studi» indicativo per sviluppatori di IA; ricorda le speciali esigenze dell'istruzione e formazione professionale (IFP) riguardo all'IA e chiede un approccio collaborativo in tutta Europa per rafforzare le potenzialità dell'IA in tale ambito; evidenzia l'importanza di formare professionisti altamente qualificati in questo settore, assicurando che i programmi di studi includano gli aspetti legati all'etica, nonché di sostenere i gruppi sottorappresentati in questo campo e di creare incentivi affinché tali professionisti cerchino impiego nell'Unione; ricorda che le donne sono sottorappresentate nel settore dell'IA e che ciò può creare considerevoli squilibri di genere nel futuro mercato del lavoro;

40.

sottolinea la necessità che i governi e gli istituti di istruzione ripensino e rielaborino i programmi di studio e li adattino alle esigenze del 21o secolo elaborando programmi di istruzione che pongano una maggiore enfasi sulle materie STEAM (scienza, tecnologia, ingegneria, arte e matematica) al fine di preparare i discenti e i consumatori alla crescente prevalenza dell'IA e di facilitare l'acquisizione di capacità cognitive; sottolinea a tale proposito l'importanza di diversificare il settore e di incoraggiare gli studenti, in particolare donne e ragazze, a iscriversi a corsi delle discipline STEAM, in particolare robotica e materie connesse all'IA; chiede maggiori risorse finanziarie e scientifiche per motivare le persone di talento a restare nell'Unione e ad attrarre contemporaneamente persone talentuose dai paesi terzi; rileva inoltre il numero notevole di start-up che lavorano con l'IA e sviluppano le tecnologie ad essa connesse; sottolinea che le PMI necessiteranno di ulteriore supporto e formazione in materia di IA per conformarsi alla normativa in ambito digitale e di intelligenza artificiale;

41.

osserva che l'automazione e lo sviluppo dell'IA possono cambiare l'occupazione in modo drammatico e irreversibile; ribadisce che la priorità dovrebbe essere assegnata all'adeguamento delle competenze alle necessità del futuro mercato del lavoro, in particolare nell'istruzione e nei CCSI; sottolinea al riguardo la necessità di migliorare le competenze della forza lavoro futura; sottolinea inoltre l'importanza della diffusione dell'IA per riqualificare e migliorare le competenze del mercato del lavoro europeo nei CCSI, in particolare nel settore audiovisivo, che ha già risentito in misura significativa della crisi della COVID-19;

42.

invita la Commissione a valutare il livello di rischio della diffusione dell'IA nel settore dell'istruzione al fine di accertare se le applicazioni di IA debbano essere incluse nel quadro normativo che disciplina il rischio elevato ed essere soggette a requisiti più rigorosi in materia di sicurezza, trasparenza e responsabilità, date l'importanza di garantire che l'istruzione continui a contribuire al bene pubblico e l'estrema sensibilità dei dati relativi ad alunni, studenti e altri discenti; evidenzia che le serie di dati utilizzate per addestrare i sistemi di IA devono essere riviste al fine di evitare di rafforzare determinati stereotipi e altri tipi di pregiudizi;

43.

esorta la Commissione a proporre un quadro giuridico per l'IA a prova di futuro al fine di fornire misure e norme etiche giuridicamente vincolanti per garantire i diritti e le libertà fondamentali e lo sviluppo di applicazioni di IA affidabili, etiche e tecnicamente robuste, inclusi gli strumenti, i servizi e i prodotti digitali integrati quali la robotica e l'apprendimento automatico, con particolare attenzione al settore dell'istruzione; chiede che i dati utilizzati e prodotti dalle applicazioni di IA nell'ambito dell'istruzione siano accessibili, interoperabili e di elevata qualità e che siano condivisi con le pertinenti autorità pubbliche, in modo accessibile e nel rispetto della normativa in materia di diritto d'autore e segreti commerciali; ricorda che i minori costituiscono un gruppo vulnerabile che merita un'attenzione e una tutela specifiche; sottolinea che, sebbene l'IA possa apportare benefici all'istruzione, è necessario tenere conto dei suoi aspetti tecnologici, normativi e sociali, assicurando tutele adeguate e un approccio antropocentrico che garantiscano in definitiva che gli esseri umani siano sempre in grado di controllare e correggere le decisioni prese dai sistemi; sottolinea a tale proposito che gli insegnanti devono controllare e vigilare su qualsiasi diffusione e utilizzo delle tecnologie di IA nelle scuole e università quando interagiscono con gli allievi e gli studenti; ricorda che i sistemi di IA non devono prendere decisioni finali che possano incidere sulle opportunità di istruzione, come la valutazione finale degli studenti, senza la piena supervisione umana; rammenta che le decisioni automatizzate relative alle persone fisiche e basate sulla profilazione, laddove comportino effetti giuridici o simili, devono essere rigorosamente limitate e prevedere sempre il diritto a un intervento umano e il diritto a una spiegazione, ai sensi del regolamento generale sulla protezione dei dati; sottolinea che tali disposizioni dovrebbero essere rigorosamente rispettate, in particolare nel settore dell'istruzione, quando vengono prese decisioni sulle future possibilità e opportunità;

44.

esprime profonda preoccupazione per il fatto che le scuole e altri erogatori di istruzione stiano diventando sempre più dipendenti da servizi tecnologici per l'istruzione, ivi comprese le applicazioni di IA, forniti da un numero ristretto di imprese private che godono di una posizione dominante sul mercato; ritiene che ciò debba essere oggetto di controllo attraverso le norme dell'Unione in materia di concorrenza; sottolinea a tale riguardo l'importanza di sostenere l'adozione dell'IA da parte delle PMI dei settori didattico, culturale e audiovisivo tramite incentivi adeguati che creino condizioni paritarie; invita in tale contesto a investire nelle imprese informatiche europee al fine di sviluppare le tecnologie necessarie all'interno dell'Unione, dato che le imprese più importanti che attualmente forniscono l'IA sono stabilite al di fuori dell'Unione; ricorda con forza che i dati dei minori sono rigorosamente protetti dal RGPD e che possono essere trattati solo se resi completamente anonimi o se il titolare della responsabilità genitoriale sul minore abbia espresso il proprio consenso o concesso la propria autorizzazione, nel rispetto rigoroso dei principi della minimizzazione dei dati e della limitazione delle finalità; chiede una protezione e garanzie più solide nel settore dell'istruzione, in cui vengono trattati i dati di minori, e invita la Commissione ad adottare provvedimenti più efficaci a tale proposito; chiede che ai minori e ai loro genitori siano fornite informazioni chiare in relazione al possibile utilizzo e trattamento dei dati dei minori, anche attraverso campagne di sensibilizzazione e di informazione;

45.

sottolinea i rischi specifici inerenti all'utilizzo delle applicazioni di riconoscimento automatico basate sull'IA, attualmente in rapido sviluppo; ricorda che i minori costituiscono un gruppo particolarmente sensibile; raccomanda che la Commissione e gli Stati membri vietino l'identificazione biometrica automatizzata, come il riconoscimento facciale a fini educativi e culturali, nelle strutture educative e culturali, a meno che il suo utilizzo non sia consentito a norma di legge;

46.

sottolinea la necessità di aumentare la scelta del cliente, di stimolare la concorrenza e di ampliare la gamma di servizi offerti dalle tecnologie di IA a fini di istruzione; esorta le autorità pubbliche, a tale proposito, a incentivare lo sviluppo e la diffusione delle tecnologie di IA attraverso i finanziamenti pubblici e gli appalti pubblici; ritiene che le tecnologie utilizzate da erogatori pubblici di istruzione o acquistate con denaro pubblico debbano essere basate su tecnologie open source;

47.

osserva che l'innovazione è in ritardo nel settore dell'istruzione, come hanno evidenziato la pandemia di COVID-19 e il conseguente passaggio all'apprendimento online e a distanza; sottolinea che gli strumenti didattici basati sull'IA, come quelli per la valutazione e l'individuazione delle difficoltà di apprendimento, possono migliorare la qualità e l'efficacia dell'apprendimento online;

48.

sottolinea che le infrastrutture digitali di nuova generazione e la copertura Internet rivestono un'importanza strategica nel fornire ai cittadini europei un'istruzione basata sull'IA; invita la Commissione, alla luce della crisi provocata dalla COVID-19, a elaborare una strategia per il 5G europeo che garantisca la resilienza strategica dell'Europa e non dipenda dalle tecnologie di Stati che non condividono i valori europei;

49.

chiede la creazione di una rete paneuropea di università e ricerca, incentrata sull'IA applicata all'istruzione, che dovrebbe riunire istituti ed esperti di tutti gli ambiti affinché studino gli effetti dell'IA sull'apprendimento e identifichino soluzioni per rafforzarne il potenziale;

Patrimonio culturale

50.

ribadisce l'importanza dell'accesso alla cultura per tutti i cittadini in tutta l'Unione; sottolinea, a tal proposito, l'importanza dello scambio delle migliori prassi tra gli Stati membri, le strutture educative, gli istituti culturali e parti interessate analoghe; ritiene inoltre di vitale importanza che le risorse disponibili a livello di Unione e nazionale siano utilizzate al massimo delle loro potenzialità per migliorare ulteriormente l'accesso alla cultura; sottolinea che esistono moltissime opzioni per accedere alla cultura e che si dovrebbero esplorare tutte le possibilità al fine di determinare l'opzione più appropriata; evidenzia l'importanza della coerenza con il trattato di Marrakech;

51.

sottolinea che le tecnologie di IA possono svolgere un ruolo significativo nella preservazione, nel ripristino, nella documentazione, nell'analisi, nella promozione e nella gestione del patrimonio culturale materiale e immateriale, anche attraverso il monitoraggio e l'analisi delle evoluzioni dei siti del patrimonio culturale causate da minacce quali i cambiamenti climatici, le catastrofi naturali e i conflitti armati;

52.

rileva che le tecnologie di IA possono aumentare la visibilità della diversità culturale dell'Europa; sottolinea che tali tecnologie offrono agli istituti culturali, ad esempio i musei, nuove opportunità per creare strumenti innovativi per catalogare gli artefatti, documentare i siti del patrimonio culturale e renderli più accessibili, anche attraverso la modellazione 3D e la realtà virtuale aumentata; sottolinea che l'IA consentirà anche ai musei e alle gallerie d'arte di introdurre servizi interattivi e personalizzati per i visitatori, fornendo loro un elenco di opere suggerite sulla base dei loro interessi manifestati di persona o online;

53.

sottolinea che l'utilizzo dell'IA offrirà nuovi approcci, strumenti e metodologie innovativi, che consentiranno ai lavoratori e ricercatori culturali di creare banche dati uniformi con sistemi di classificazione adeguati nonché metadati multimediali, e permetteranno loro di realizzare collegamenti tra diversi oggetti del patrimonio culturale, con un conseguente miglioramento della conoscenza e della comprensione dello stesso;

54.

sottolinea che è opportuno identificare buone pratiche per le tecnologie di IA per quanto concerne la protezione e l'accessibilità del patrimonio culturale, in particolare per le persone con disabilità, e condividerle tra le reti culturali dell'Unione, incoraggiando allo stesso tempo la ricerca sui vari utilizzi dell'IA per promuovere il valore, l'accessibilità e la preservazione del patrimonio culturale; invita la Commissione e gli Stati membri a promuovere le opportunità offerte dall'utilizzo dell'IA nei CCSI;

55.

sottolinea che le tecnologie di IA possono altresì essere utilizzate per monitorare il traffico illecito e la distruzione di beni culturali, consentendo nel contempo di raccogliere dati per gli sforzi di recupero e ricostruzione del patrimonio culturale materiale e immateriale; rileva, in particolare, che lo sviluppo, la diffusione e l'utilizzo dell'IA nelle procedure di controllo doganale potrebbero sostenere gli sforzi profusi per prevenire il traffico illecito di beni del patrimonio culturale, in particolare andando a integrare i sistemi che consentono alle autorità doganali di concentrare i loro sforzi e le loro risorse sugli articoli a maggiore rischio;

56.

osserva che l'IA potrebbe apportare benefici al settore della ricerca, ad esempio grazie al ruolo che l'analisi predittiva può svolgere nell'affinamento dell'analisi dei dati, anche in relazione all'acquisizione e alla circolazione dei beni culturali; sottolinea la necessità che l'Unione aumenti gli investimenti e promuova i partenariati tra l'industria e il mondo accademico al fine di rafforzare l'eccellenza della ricerca a livello europeo;

57.

ricorda che l'IA può essere uno strumento rivoluzionario per la promozione del turismo culturale e sottolinea il suo considerevole potenziale ai fini della previsione dei flussi turistici, aspetto che potrebbe aiutare le città che incontrano difficoltà per l'eccessiva presenza turistica;

Settori e industrie culturali e creativi

58.

si rammarica che la cultura non rientri tra le priorità individuate nelle opzioni strategiche e nelle raccomandazioni in materia di IA a livello di Unione, in particolare il Libro bianco della Commissione del 19 febbraio 2020 sull'IA; chiede che tali raccomandazioni siano riviste, al fine di rendere la cultura una priorità politica dell'IA a livello di Unione; invita la Commissione e gli Stati membri ad affrontare il potenziale impatto dello sviluppo, della diffusione e dell'utilizzo delle tecnologie di IA nei CCSI e a sfruttare al meglio il piano per la ripresa Next Generation EU per digitalizzare tali settori al fine di rispondere alle nuove forme di fruizione del 21o secolo;

59.

osserva che l'IA ha ormai raggiunto anche i CCSI, come dimostra ad esempio la creazione automatizzata di testi, video e pezzi musicali; sottolinea che anche i creatori e i professionisti della cultura devono disporre delle capacità e delle competenze digitali necessarie, onde poter sfruttare l'IA e le altre tecnologie digitali; esorta la Commissione e gli Stati membri a promuovere maggiormente le opportunità offerte dal ricorso all'IA nei CCSI mediante le risorse destinate alla scienza e alla ricerca, nonché a creare centri per la creatività digitale in cui i creativi e i professionisti della cultura possono sviluppare applicazioni basate sull'IA, imparare a utilizzare queste e altre tecnologie e sperimentarne l'impiego;

60.

riconosce che le tecnologie di IA hanno il potenziale di creare un numero crescente di posti di lavoro nei CCSI, grazie al maggiore accesso a tali tecnologie; sottolinea pertanto l'importanza di potenziare l'alfabetizzazione digitale nei CCSI per rendere tali tecnologie più inclusive, fruibili, di facile apprendimento e interattive per tali settori;

61.

sottolinea che l'interazione tra l'IA e i settori e le industrie culturali e creativi (CCSI) è complessa e richiede una valutazione approfondita; accoglie con favore la relazione della Commissione del novembre 2020 dal titolo «Trends and Developments in Artificial Intelligence — Challenges to the IPR Framework» (Tendenze e sviluppi nell'intelligenza artificiale — Sfide per il quadro relativo ai DPI) e lo studio dal titolo «Study on copyright and New technologies: copyright data management and artificial intelligence» (Studio sui diritti d'autore e le nuove tecnologie: gestione dei dati sul diritto d'autore e intelligenza artificiale); sottolinea l'importanza di chiarire le condizioni per l'uso del contenuto protetto dal diritto d'autore come i dati di entrata (immagini, musica, film, banche dati, ecc.) e nel quadro della realizzazione di prodotti culturali e audiovisivi, sia creati dall'uomo con l'assistenza dell'IA sia generati autonomamente da tecnologie di IA; invita la Commissione a studiare l'impatto dell'IA sulle industrie creative europee; ribadisce l'importanza dei dati europei e accoglie con favore le dichiarazioni rese dalla Commissione al riguardo, nonché l'inserimento dell'intelligenza artificiale e delle tecnologie correlate tra le priorità in programma;

62.

pone l'accento sulla necessità di definire un approccio coerente a livello di Unione in relazione all'utilizzo delle tecnologie di IA nei CCSI; invita gli Stati membri a concentrarsi maggiormente sulla cultura nelle rispettive strategie nazionali in materia di IA onde garantire che i CCSI adottino l'innovazione e restino competitivi e che la diversità culturale sia tutelata e promossa a livello di Unione nel nuovo contesto digitale;

63.

sottolinea l'importanza di creare un ambiente eterogeneo a livello dell'intera Unione per le tecnologie di IA per incoraggiare la diversità culturale e sostenere le minoranze e la diversità linguistica, rafforzando nel contempo anche i CCSI attraverso le piattaforme online, per consentire ai cittadini dell'Unione di essere coinvolti e di partecipare;

64.

invita la Commissione e gli Stati membri a promuovere un dibattito democratico sulle tecnologie di IA e a creare un forum regolare per la discussione con la società civile, i ricercatori, gli accademici e le parti interessate, al fine di sensibilizzare i cittadini in merito ai vantaggi e alle sfide del suo utilizzo nei settori culturali e creativi; sottolinea, in tale contesto, il ruolo svolto da arte e cultura nell'insegnamento dell'IA e il dibattito sociale al riguardo, in quanto possono rendere l'apprendimento automatico trasparente e concreto, per esempio nell'ambito musicale;

65.

invita la Commissione e gli Stati membri ad affrontare la questione dei contenuti generati dall'IA e le sfide che ciò comporta in termini di paternità dell'opera e di violazione del diritto d'autore; chiede alla Commissione a tale riguardo di valutare l'impatto dell'IA e delle tecnologie correlate sul settore audiovisivo e sui CCSI, al fine di promuovere la diversità culturale e linguistica nel rispetto dei diritti degli autori e degli artisti interpreti o esecutori;

66.

sottolinea che l'Istituto europeo di innovazione e tecnologia (EIT), e in particolare la sua futura comunità della conoscenza e dell'innovazione (CCI) dedicata alle industrie culturali e creative (CCS), dovrebbe svolgere un ruolo di primo piano nello sviluppo di una strategia europea sull'IA per l'istruzione, la cultura e il settore audiovisivo e può contribuire ad accelerare e a sfruttare le applicazioni dell'AI in tali settori;

67.

osserva che l'IA è già entrata nella catena del valore creativa a livello di creazione, produzione, diffusione e fruizione e che pertanto ha un impatto enorme sui CCSI, come l'industria musicale e cinematografica, artistica e letteraria, attraverso l'introduzione di nuovi strumenti, software e della produzione assistita dall'IA impiegata per una produzione più semplice, oltre a fornire ispirazione e a consentire a un pubblico più vasto di creare contenuti;

68.

invita la Commissione ad avviare studi e a valutare opzioni strategiche per affrontare l'impatto negativo del controllo basato sull'IA dei servizi di streaming online inteso a limitare la diversità e/o a massimizzare i profitti attraverso l'inclusione o la visualizzazione prioritaria di determinati contenuti nelle offerte ai consumatori, nonché le modalità con cui ciò influisce sulla diversità culturale e i guadagni dei creatori;

69.

ritiene che l'IA stia diventando sempre più utile per i CCSI nelle attività di creazione e produzione;

70.

sottolinea il ruolo della personalità dell'autore ai fini dell'espressione di scelte libere e creative che costituiscono l'originalità delle opere (12); sottolinea l'importanza dei limiti al diritto d'autore e delle relative eccezioni nell'uso di contenuti quali dati di entrata, in particolare nell'istruzione, nel mondo accademico e nella ricerca, e nel quadro della realizzazione di prodotti culturali e audiovisivi, come i prodotti audiovisivi e i contenuti generati dagli utenti;

71.

ritiene che occorra contemplare la tutela delle creazioni tecniche e artistiche generate mediante l'IA al fine di incoraggiare tale forma di creazione;

72.

sottolinea che, nel contesto dell'economia dei dati, è possibile ottenere una migliore gestione dei dati relativi al diritto d'autore, al fine di remunerare meglio gli autori e gli artisti, in particolare consentendo una rapida identificazione della paternità delle opere e della titolarità dei diritti sui contenuti, contribuendo in tal modo a ridurre il numero delle opere orfane; sottolinea inoltre che le soluzioni tecnologiche di IA dovrebbero essere utilizzate per migliorare l'infrastruttura dei dati sul diritto d'autore e l'interconnessione di metadati nelle opere, ma anche per facilitare l'obbligo di trasparenza di cui all'articolo 19 della direttiva (UE) 2019/790 sul diritto d'autore e sui diritti connessi nel mercato unico digitale (13), al fine di fornire informazioni aggiornate, pertinenti e complete sullo sfruttamento delle opere e delle esecuzioni di autori e artisti, in particolare in presenza di una pluralità di titolari dei diritti e di complessi regimi di licenza;

73.

chiede che il piano d'azione in materia di proprietà intellettuale annunciato dalla Commissione affronti la questione dell'IA e il suo impatto sui settori creativi, tenendo conto della necessità di trovare un equilibrio tra la protezione dei DPI e gli incentivi alla creatività nei settori dell'istruzione, della cultura e della ricerca; ritiene che l'Unione possa assumere un ruolo guida nella creazione di tecnologie di IA purché adotti un quadro normativo operativo e attui politiche pubbliche proattive, soprattutto per quanto concerne i programmi di formazione e il sostegno finanziario alla ricerca; chiede alla Commissione di valutare l'impatto dei DPI sulla ricerca e lo sviluppo dell'IA e delle tecnologie correlate, nonché sui CCSI, incluso il settore audiovisivo, soprattutto per quanto concerne la paternità delle opere, l'equa remunerazione degli autori e le questioni collegate;

74.

invita la Commissione a prendere in considerazione gli aspetti giuridici dei prodotti realizzati mediante le tecnologie dell'IA, così come dei contenuti culturali generati con l'ausilio dell'IA e delle tecnologie correlate; ritiene importante sostenere la produzione di contenuti culturali; ribadisce, tuttavia, l'importanza di salvaguardare il quadro unico dell'Unione in materia di DPI e che qualsiasi modifica dovrebbe essere apportata con la dovuta attenzione, per non alterarne il delicato equilibrio; invita la Commissione a eseguire una valutazione approfondita per quanto riguarda l'eventuale personalità giuridica dei contenuti prodotti dall'IA, nonché l'applicazione dei DPI ai contenuti generati dall'IA e ai contenuti creati con l'ausilio di strumenti di IA;

75.

invita inoltre la Commissione a considerare la possibilità di sviluppare, in stretta collaborazione con gli Stati membri e le pertinenti parti interessate, meccanismi o sistemi di verifica per gli editori, gli autori e i creatori, allo scopo di aiutarli a verificare quali contenuti possono utilizzare e di determinare con maggiore facilità ciò che è protetto a norma della legislazione sui DPI;

76.

invita la Commissione a istituire norme che garantiscano un'effettiva interoperabilità dei dati, al fine di rendere i contenuti acquistati su una piattaforma accessibili su qualsiasi strumento digitale, indipendentemente dalla marca;

Settore audiovisivo

77.

rileva che l'IA è spesso utilizzata per consentire ad algoritmi decisionali automatizzati di diffondere e ordinare i contenuti culturali e creativi mostrati agli utenti; sottolinea che tali algoritmi sono una «scatola nera» per gli utenti; sottolinea che gli algoritmi utilizzati dai fornitori di servizi di media, dalle piattaforme per la condivisione di video e dai servizi di streaming musicale dovrebbero essere concepiti in modo da non privilegiare opere specifiche limitando i suggerimenti «personalizzati» alle opere più popolari nell'ambito della pubblicità mirata, a fini commerciali o per massimizzare i profitti; chiede che gli algoritmi di raccomandazione e la pubblicità personalizzata siano spiegabili e trasparenti nella misura del possibile, così da consentire ai consumatori di comprendere in modo preciso e completo tali processi e contenuti e assicurare che i servizi personalizzati non siano discriminatori e siano in linea con il regolamento sulle relazioni piattaforme-imprese (14) e la direttiva omnibus relativa al «New Deal» per i consumatori (15), adottati di recente; invita la Commissione ad affrontare le modalità con cui gli algoritmi di moderazione dei contenuti sono ottimizzati per aumentare il coinvolgimento degli utenti e a proporre raccomandazioni volte ad aumentare il controllo degli utenti su ciò che viene loro mostrato, garantendo e applicando correttamente il diritto degli utenti di non acconsentire ai servizi raccomandati e personalizzati; sottolinea inoltre che i consumatori devono essere informati quando interagiscono con un processo decisionale automatizzato e che le loro scelte e azioni non devono essere limitate; sottolinea che l'utilizzo di meccanismi di IA per la sorveglianza commerciale dei consumatori deve essere contrastato, anche se riguarda «servizi gratuiti», garantendo che rispetti rigorosamente i diritti fondamentali e il GDPR; evidenzia che tutte le modifiche normative devono tenere conto dell'impatto sui consumatori vulnerabili;

78.

sottolinea che ciò che è illegale offline deve esserlo anche online; rileva che gli strumenti di IA possono potenzialmente contrastare i contenuti illeciti online e sono già utilizzati a tal fine, ma ricorda con forza, in vista della prossima legge sui servizi digitali, che detti strumenti devono sempre rispettare i diritti fondamentali, in particolare la libertà di espressione e di informazione, e non dovrebbero comportare un obbligo di sorveglianza generalizzata di Internet né la rimozione di materiale lecito diffuso per finalità educative, giornalistiche, artistiche o di ricerca; sottolinea che gli algoritmi dovrebbero essere utilizzati solo come meccanismo di segnalazione nella moderazione dei contenuti ed essere soggetti all'intervento umano, dato che l'IA non è in grado di distinguere in modo affidabile tra contenuti leciti, illeciti e nocivi; rileva che i termini e le condizioni dovrebbero sempre includere gli orientamenti comunitari e una procedura di ricorso;

79.

ricorda inoltre che non vi dovrebbe essere alcun obbligo generale di sorveglianza, come stabilito dall'articolo 15 della direttiva sul commercio elettronico (16), e che una sorveglianza specifica dei contenuti per i servizi audiovisivi dovrebbe essere conforme alle eccezioni previste dalla legislazione europea; rammenta che le applicazioni di IA devono ottemperare a protocolli di sicurezza interni ed esterni, che dovrebbero essere tecnicamente precisi e di natura robusta; ritiene che ciò debba valere per il funzionamento in situazioni sia normali che sconosciute o imprevedibili;

80.

sottolinea inoltre che l'utilizzo dell'IA da parte dei fornitori di servizi di media, come i servizi di video on demand e le piattaforme per la condivisione di video, per suggerire contenuti sulla base di algoritmi può avere gravi ripercussioni sulla diversità culturale e linguistica, in particolare in relazione all'obbligo di porre in rilievo le opere europee a norma dell'articolo 13 della direttiva sui servizi di media audiovisivi (direttiva (UE) 2018/1808 (17)); osserva che le stesse preoccupazioni riguardano anche i servizi musicali in streaming e chiede di sviluppare indicatori per valutare la diversità culturale e la promozione delle opere europee su tali servizi;

81.

invita la Commissione e gli Stati membri a sostenere maggiormente a livello finanziario lo sviluppo e l'utilizzo dell'IA nell'ambito della sottotitolazione e del doppiaggio automatici delle opere audiovisive europee, onde promuovere la diversità culturale e linguistica nell'Unione e migliorare la diffusione dei contenuti audiovisivi europei, nonché l'accesso a questi ultimi;

82.

invita la Commissione a definire un quadro etico chiaro in relazione all'utilizzo delle tecnologie dell'IA nel settore dei media, al fine di prevenire qualsiasi forma di discriminazione e di assicurare l'accesso a contenuti all'insegna della diversità culturale e linguistica a livello di Unione, sulla base di algoritmi responsabili, trasparenti e inclusivi, nel rispetto delle scelte e delle preferenze del singolo;

83.

sottolinea che l'IA può svolgere un ruolo di primo piano nella rapida diffusione della disinformazione; sottolinea, a tale riguardo, che detto quadro dovrebbe affrontare la questione dell'uso improprio dell'IA per diffondere notizie false, la disinformazione volontaria e involontaria online, evitando al contempo la censura; invita pertanto la Commissione a valutare il rischio che l'IA contribuisca a diffondere la disinformazione nell'ambiente digitale e le modalità con cui l'IA potrebbe essere utilizzata per contribuire a contrastare la disinformazione;

84.

invita la Commissione ad adottare misure normative onde assicurare che i fornitori di servizi di media abbiano accesso ai dati generati nel contesto della messa a disposizione e della diffusione dei propri contenuti su piattaforme di terzi; sottolinea che la trasmissione completa dei dati da parte degli operatori delle piattaforme ai fornitori di servizi di media è di fondamentale importanza affinché questi ultimi possano comprendere meglio il loro pubblico e migliorare i propri servizi in base alle aspettative di tale pubblico;

85.

sottolinea l'importanza di aumentare i finanziamenti per i programmi Europa digitale, Europa creativa e Orizzonte Europa, al fine di rafforzare il sostegno a favore del settore audiovisivo europeo, in particolare attraverso progetti di ricerca collaborativi e iniziative pilota sperimentali sullo sviluppo, la diffusione e l'utilizzo di tecnologie di IA etiche;

86.

chiede una stretta collaborazione tra gli Stati membri per sviluppare programmi di formazione finalizzati a riqualificare i lavoratori o a migliorare le loro competenze, affinché siano più preparati alla transizione sociale che l'utilizzo delle tecnologie di IA nel settore audiovisivo comporterà;

87.

ritiene che l'IA abbia un enorme potenziale per stimolare l'innovazione nel settore dei mezzi di informazione; è del parere che la diffusa integrazione dell'IA, ad esempio per la creazione e la distribuzione di contenuti, il monitoraggio della sezione dei commenti, l'analisi dei dati e l'individuazione di foto e video manipolati, sia essenziale per i risparmi in termini di costi nelle newsroom alla luce della diminuzione delle entrate pubblicitarie e per la capacità di dedicare maggiori risorse ai servizi giornalistici in loco, aumentando in tal modo la qualità e la varietà dei contenuti;

Disinformazione online: deepfake

88.

sottolinea l'importanza di garantire il pluralismo dei media online e offline al fine di garantire la qualità, la diversità e l'affidabilità delle informazioni disponibili;

89.

ricorda che la precisione, l'indipendenza, l'equità, la riservatezza, l'umanità, la responsabilità e la trasparenza, in quanto forze trainanti dei principi della libertà di espressione e dell'accesso all'informazione sui media online e offline, sono decisive nella lotta contro la disinformazione volontaria e involontaria;

90.

prende atto dell'importante ruolo che i media indipendenti svolgono nella cultura e nella vita quotidiana dei cittadini; sottolinea che la disinformazione costituisce un problema fondamentale, poiché il diritto d'autore e i DPI in generale sono costantemente violati; chiede che la Commissione, in cooperazione con gli Stati membri, continui ad adoperarsi per sensibilizzare l'opinione pubblica su questo problema, contrastando gli effetti della disinformazione e i problemi legati alle fonti; ritiene importante, inoltre, elaborare strategie educative volte a migliorare l'alfabetizzazione digitale soprattutto in relazione a tale aspetto;

91.

ricorda che, a causa della rapida diffusione di nuove tecniche, l'individuazione di contenuti falsi e manipolati, come ad esempio i deepfake, potrebbe diventare sempre più difficile a causa della capacità dei produttori malintenzionati di sviluppare algoritmi sofisticati che possono essere addestrati per sfuggire all'individuazione, con gravi ripercussioni sui valori democratici fondamentali; chiede alla Commissione di valutare l'impatto dell'IA sulla creazione di deepfake, di stabilire idonei quadri giuridici per disciplinare la loro creazione, produzione o distribuzione a fini dolosi, e di proporre raccomandazioni, oltre ad altre iniziative, a favore di azioni volte ad affrontare qualsiasi minaccia alimentata dall'IA contro lo svolgimento di elezioni libere ed eque e la democrazia;

92.

accoglie con favore le iniziative e i progetti avviati di recente per creare strumenti più efficienti per l'individuazione dei deepfake e stabilire requisiti in termini di trasparenza; sottolinea, a tale riguardo, la necessità di valutare nuovi metodi per contrastare i deepfake e di investire in tale ambito quale passo fondamentale per combattere la disinformazione involontaria e i contenuti dannosi; ritiene che le soluzioni basate sull'IA possano essere utili a tale riguardo; chiede pertanto alla Commissione di imporre un obbligo in base al quale tutti i materiali deepfake o altri video sintetici realizzati in modo realistico debbano affermare che il materiale non è originale, insieme a una rigorosa limitazione, ove siano utilizzati per finalità elettorali;

93.

è preoccupato per il fatto che l'IA ha un'influenza sempre maggiore sul modo in cui sono trovate e consumate le informazioni online; osserva che le cosiddette bolle di filtraggio e camere d'eco riducono il pluralismo di opinioni e si ripercuotono negativamente su un dibattito sociale aperto; esorta pertanto a rendere trasparente l'utilizzo di algoritmi per la selezione delle informazioni da parte degli operatori e a far sì che gli utenti abbiano una maggiore libertà di scelta sulla misura in cui desiderano ricevere determinate informazioni;

94.

osserva che le tecnologie basate sull'IA sono già utilizzate in ambito giornalistico, ad esempio nella produzione di testi o nell'analisi di serie di dati cospicue nel contesto di ricerche investigative; sottolinea che, nel produrre informazioni rilevanti per la società nel suo complesso, è importante che il giornalismo automatizzato si basi su dati corretti e completi, onde prevenire la diffusione di informazioni false; mette in rilievo che anche per i contenuti giornalistici prodotti utilizzando tecnologie basate sull'IA devono valere i principi fondamentali del giornalismo di qualità, come il controllo redazionale; chiede che i testi generati dall'IA siano contrassegnati in modo da preservare la fiducia nel giornalismo;

95.

sottolinea il potenziale dell'IA di facilitare e incoraggiare il multilinguismo attraverso lo sviluppo di tecnologie correlate alle lingue e la possibilità di scoprire i contenuti europei online;

o o

96.

incarica il suo Presidente di trasmettere la presente risoluzione al Consiglio e alla Commissione.

(1) GU C 202 I del 16.6.2020, pag. 1.

(2) GU C 440 del 6.12.2018, pag. 37.

(3) GU C 449 del 23.12.2020, pag. 37.

(4) GU C 433 del 23.12.2019, pag. 42.

(5) GU C 28 del 27.1.2020, pag. 8.

(6) GU C 252 del 18.7.2018, pag. 239.

(7) GU C 307 del 30.8.2018, pag. 163.

(8) Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla tutela delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati) (GU L 119 del 4.5.2016, pag. 1).

(9) Direttiva 2002/58/CE del Parlamento europeo e del Consiglio, del 12 luglio 2002, relativa al trattamento dei dati personali e alla tutela della vita privata nel settore delle comunicazioni elettroniche (direttiva relativa alla vita privata e alle comunicazioni elettroniche) (GU L 201 del 31.7.2002, pag. 37).

(10) Relazione del relatore speciale delle Nazioni Unite sulla promozione e la tutela del diritto alla libertà di opinione e di espressione, 29 agosto 2018.

(11) Direttiva 2005/36/CE del Parlamento europeo e del Consiglio, del 7 settembre 2005, relativa al riconoscimento delle qualifiche professionali (GU L 255 del 30.9.2005, pag. 22).

(12) Corte di giustizia dell'Unione europea, causa C-833/18, SI and Brompton Bicycle Ltd contro Chedech / Get2Get.

(13) Direttiva (UE) 2019/790 del Parlamento europeo e del Consiglio, del 17 aprile 2019, sul diritto d'autore e sui diritti connessi nel mercato unico digitale e che modifica le direttive 96/9/CE e 2001/29/CE (GU L 130 del 17.5.2019, pag. 92).

(14) Regolamento (UE) 2019/1150 del Parlamento europeo e del Consiglio, del 20 giugno 2019, che promuove equità e trasparenza per gli utenti commerciali dei servizi di intermediazione online (GU L 186 dell'11.7.2019, pag. 57).

(15) Direttiva (UE) 2019/2161 del Parlamento europeo e del Consiglio, del 27 novembre 2019, che modifica la direttiva 93/13/CEE del Consiglio e le direttive 98/6/CE, 2005/29/CE e 2011/83/UE del Parlamento europeo e del Consiglio per una migliore applicazione e una modernizzazione delle norme dell'Unione relative alla protezione dei consumatori (GU L 328 del 18.12.2019, pag. 7).

(16) Direttiva 2000/31/CE del Parlamento europeo e del Consiglio, dell'8 giugno 2000, relativa a taluni aspetti giuridici dei servizi della società dell'informazione, in particolare il commercio elettronico, nel mercato interno (GU L 178 del 17.7.2000, pag. 1).

(17) Direttiva (UE) 2018/1808 del Parlamento europeo e del Consiglio, del 14 novembre 2018, recante modifica della direttiva 2010/13/UE, relativa al coordinamento di determinate disposizioni legislative, regolamentari e amministrative degli Stati membri concernenti la fornitura di servizi di media audiovisivi in considerazione dell'evoluzione delle realtà del mercato (GU L 303 del 28.11.2018, pag. 69).

Top

Choose the experimental features you want to try