Scheda di sintesi

Valutazione d'impatto su un quadro normativo per l'intelligenza artificiale

A. Necessità di intervenire

Qual è il problema e perché si pone a livello dell'UE?

L'intelligenza artificiale (IA) è come una tecnologia emergente avente una finalità generale: una famiglia estremamente potente di tecniche di programmazione per computer. L'adozione dei sistemi di IA ha un forte potenziale in termini di benefici per la società, la crescita economica e il rafforzamento dell'innovazione dell'UE e della sua competitività a livello mondiale. Tuttavia, in taluni casi, l'utilizzo di sistemi di IA può creare problemi. Le caratteristiche specifiche di taluni sistemi di IA possono creare nuovi rischi legati a 1) sicurezza e protezione e 2) diritti fondamentali, nonché incrementare la probabilità o l'intensità dei rischi esistenti. I sistemi di IA 3) rendono altresì difficile per le autorità di controllo la verifica del rispetto e dell'applicazione delle regole esistenti. Tale serie di questioni porta a sua volta a 4) incertezza giuridica per le imprese, 5) adozione potenzialmente più lenta delle tecnologie di IA, in ragione della mancanza di fiducia, da parte delle imprese e dei cittadini, nonché 6) risposte normative da parte delle autorità nazionali per attenuare le possibili esternalità che rischiano di frammentare il mercato interno.

Quali sono gli obiettivi da conseguire?

Il quadro normativo mira ad affrontare tali problemi al fine di assicurare il corretto funzionamento del mercato unico creando le condizioni per lo sviluppo e l'utilizzo di un'IA affidabile nell'Unione. Gli obiettivi specifici sono: 1) assicurare che i sistemi di IA immessi sul mercato e utilizzati siano sicuri e rispettino la normativa vigente in materia di diritti fondamentali e i valori dell'Unione; 2) assicurare la certezza del diritto per facilitare gli investimenti e l'innovazione nell'intelligenza artificiale; 3) migliorare la governance e l'applicazione effettiva della normativa esistente in materia di diritti fondamentali e requisiti di sicurezza applicabili ai sistemi di IA; 4) facilitare lo sviluppo di un mercato unico per sistemi di IA leciti, sicuri e affidabili nonché prevenire la frammentazione del mercato.

Qual è il valore aggiunto dell'intervento a livello dell'UE (sussidiarietà)? 

La natura transfrontaliera dei dati su larga scala e dei set di dati sui quali fanno spesso affidamento le applicazioni di IA fa sì che gli obiettivi dell'iniziativa non possano essere conseguiti efficacemente dai singoli Stati membri. Il quadro normativo europeo per un'IA affidabile mira a stabilire regole armonizzate in materia di sviluppo, immissione sul mercato e utilizzo di prodotti e servizi che integrano la tecnologia di IA o applicazioni indipendenti di IA nell'Unione. La sua finalità consiste nell'assicurare parità di condizioni e nel tutelare tutti i cittadini europei, rafforzando allo stesso tempo la competitività e la base industriale dell'Europa nel settore dell'IA. L'intervento dell'UE in materia di IA promuoverà il mercato interno e presenta un notevole potenziale per fornire all'industria europea un vantaggio competitivo a livello globale, sulla base di economie di scala che non possono essere conseguite individualmente dai singoli Stati membri.

B. Soluzioni

Quali sono le varie opzioni per conseguire gli obiettivi? Ne è stata prescelta una? In caso contrario, perché?

Sono state prese in considerazione le opzioni indicate di seguito. Opzione 1: strumento legislativo dell'UE che istituisce un sistema di etichettatura volontario; opzione 2: approccio settoriale "ad hoc"; opzione 3: strumento legislativo orizzontale dell'UE che stabilisce requisiti obbligatori per le applicazioni di IA ad alto rischio; opzione 3+: come l'opzione 3, ma con codici di condotta volontari per le applicazioni di IA non ad alto rischio; opzione 4: strumento legislativo orizzontale dell'UE che stabilisce requisiti obbligatori per tutte le applicazioni di IA. L'opzione prescelta è l'opzione 3+ dato che offre garanzie proporzionate nei confronti dei rischi posti dall'IA, limitando al minimo i costi amministrativi e di conformità. La questione specifica della responsabilità in relazione alle applicazioni di IA sarà affrontata attraverso regole future distinte e quindi non contemplate nelle opzioni.

Quali sono le opinioni dei diversi portatori di interessi? Chi sono i sostenitori delle varie opzioni?

Le imprese, le autorità pubbliche, gli accademici e le organizzazioni non governative concordano tutti sull'esistenza di lacune legislative o sulla necessità di una nuova legislazione, anche se tra le imprese la maggioranza è inferiore. L'industria e le autorità pubbliche concordano nel limitare i requisiti obbligatori alle applicazioni di IA ad alto rischio. È più probabile che i cittadini e la società civile siano in disaccordo con la limitazione dei requisiti obbligatori alle applicazioni ad alto rischio.

C. Impatto dell'opzione prescelta

Quali sono i vantaggi dell'opzione prescelta (o in mancanza di quest'ultima, delle opzioni principali)? 

Per i cittadini, l'opzione prescelta attenuerà i rischi per la loro sicurezza e i loro diritti fondamentali. Per i fornitori di IA, creerà certezza del diritto e assicurerà l'assenza di ostacoli alla fornitura transfrontaliera di servizi e prodotti collegati all'IA. Per le imprese che utilizzano l'IA, promuoverà la fiducia tra i loro clienti, mentre per le amministrazioni pubbliche nazionali la presente proposta promuoverà la fiducia del pubblico nell'utilizzo dell'IA e rafforzerà i meccanismi di applicazione (introducendo un meccanismo di coordinamento europeo, fornendo capacità adeguate e facilitando l'audit dei sistemi di IA con requisiti nuovi per quanto concerne la documentazione, la tracciabilità e la trasparenza).

Quali sono i costi dell'opzione prescelta (o in mancanza di quest'ultima, delle opzioni principali)? 

Imprese o autorità pubbliche che sviluppano o utilizzano applicazioni di IA che costituiscono un rischio alto per la sicurezza o i diritti fondamentali dei cittadini dovrebbero rispettare requisiti e obblighi orizzontali specifici che saranno posti in essere mediante norme tecniche armonizzate. Il costo totale aggregato della conformità è stimato tra 100 milioni di EUR e 500 milioni di EUR entro il 2025, un importo corrispondente a fino al 4-5 % degli investimenti nell'IA ad alto rischio (che, secondo le stime, rappresentano tra il 5e il 15 % di tutte le applicazioni di IA). I costi di verifica potrebbero ammontare a un ulteriore 2-5 % degli investimenti in IA ad alto rischio. Imprese o autorità pubbliche che sviluppano o utilizzano qualsiasi applicazione di IA non classificata come ad alto rischio non dovrebbero sostenere alcun costo. Potrebbero tuttavia scegliere di aderire volontariamente a codici di condotta per seguire requisiti adeguati e per assicurare che i loro sistemi di IA siano affidabili. In tali casi i costi potrebbero al massimo equivalere a quelli delle applicazioni ad alto rischio, ma sarebbero molto probabilmente inferiori.

Quale sarà l'incidenza sulle PMI e sulla competitività?

Le PMI trarranno maggiori benefici da un livello generale di fiducia più elevato nei confronti dell'IA rispetto alle imprese di grandi dimensioni, che possono contare altresì sull'immagine del proprio marchio. Le PMI che sviluppano applicazioni classificate come ad alto rischio dovrebbero sostenere costi analoghi a quelli delle imprese di grandi dimensioni. In effetti, in ragione dell'elevata scalabilità delle tecnologie digitali, le attività delle piccole e medie imprese possono avere una portata molto estesa nonostante le loro piccole dimensioni, con un impatto potenziale su milioni di persone. Di conseguenza, quando si tratta di applicazioni ad alto rischio, escludere le PMI che forniscono IA dall'applicazione del quadro normativo potrebbe compromettere seriamente il conseguimento dell'obiettivo di aumentare la fiducia. Il quadro prevedrà tuttavia misure specifiche, tra cui spazi di sperimentazione normativa o assistenza mediante poli di innovazione digitale, per sostenere le PMI nel conformarsi alle nuove regole, tenendo conto delle loro esigenze speciali.

L'impatto sui bilanci e sulle amministrazioni nazionali sarà significativo? 

Gli Stati membri dovrebbero designare autorità di controllo incaricate di attuare i requisiti legislativi. La loro funzione di controllo potrebbe basarsi su accordi esistenti, ad esempio per quanto riguarda gli organismi di valutazione della conformità o la vigilanza del mercato, ma richiederebbe competenze tecnologiche e risorse sufficienti. A seconda della struttura preesistente in ciascuno degli Stati membri, ciò potrebbe rappresentare da 1 a 25 equivalenti a tempo pieno per Stato membro.

Sono previsti altri impatti significativi? 

L'opzione prescelta attenuerebbe in maniera significativa i rischi per i diritti fondamentali dei cittadini nonché per i più ampi valori dell'Unione e potenzierà la sicurezza di determinati prodotti e servizi che integrano la tecnologia di IA o applicazioni di IA indipendenti.

Proporzionalità? 

La proposta è proporzionata e necessaria per il conseguimento dei suoi obiettivi dato che segue un approccio basato sul rischio e impone oneri normativi soltanto laddove un sistema di IA possa comportare alti rischi per i diritti fondamentali o la sicurezza. In caso contrario, vengono imposti soltanto obblighi minimi di trasparenza, in particolare in termini di fornitura di informazioni per segnalare l'uso di un sistema di IA quando interagisce con esseri umani o utilizza deep fake, se non impiegati per finalità legittime. Le norme armonizzate e gli strumenti di sostegno per l'orientamento e la conformità mireranno ad assistere i fornitori e gli utenti affinché possano conformarsi ai requisiti e ridurre al minimo i costi.

D. Tappe successive

Quando saranno riesaminate le misure proposte?

La Commissione pubblicherà una relazione di valutazione e sul riesame del quadro cinque anni dopo la data in cui quest'ultimo diventa applicabile.