COMMISSIONE EUROPEA
Bruxelles, 20.5.2026
COM(2026) 234 final
RELAZIONE DELLA COMMISSIONE AL PARLAMENTO EUROPEO E AL CONSIGLIO
RELAZIONE ADOTTATA A NORMA DELL'ARTICOLO 112, PARAGRAFO 1, DEL REGOLAMENTO (UE) 2024/1689 RELATIVA ALLA NECESSITÀ DI RIESAMINARE L'ELENCO DELLE PRATICHE DI IA VIETATE E L'ELENCO DEI SISTEMI DI IA AD ALTO RISCHIO DI CUI ALL'ALLEGATO III
RELAZIONE DELLA COMMISSIONE EUROPEA AL PARLAMENTO EUROPEO E AL CONSIGLIO
RELAZIONE ADOTTATA A NORMA DELL'ARTICOLO 112, PARAGRAFO 1, DEL REGOLAMENTO (UE) 2024/1689 RELATIVA ALLA NECESSITÀ DI RIESAMINARE L'ELENCO DELLE PRATICHE DI IA VIETATE E L'ELENCO DEI SISTEMI DI IA AD ALTO RISCHIO DI CUI ALL'ALLEGATO III
1. Contesto e informazioni generali
(1)Il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull'intelligenza artificiale e modifica taluni regolamenti ("regolamento sull'IA" 1 ) è entrato in vigore il 1º agosto 2024. Tale regolamento stabilisce un quadro giuridico completo per la regolamentazione dell'intelligenza artificiale ("IA") nell'Unione che mira a promuovere l'innovazione e l'adozione dell'IA, garantendo nel contempo un elevato livello di protezione della salute, della sicurezza e dei diritti fondamentali nell'Unione europea (UE), compresi la democrazia e lo Stato di diritto.
(2)Il regolamento sull'IA segue un approccio basato sul rischio, classificando i sistemi di IA in quattro diverse categorie di rischio: i) rischio inaccettabile; ii) alto rischio; iii) rischio per la trasparenza; e iv) rischio minimo o nullo. Per quanto riguarda la categoria di rischio inaccettabile, il regolamento sull'IA elenca specifiche pratiche di IA vietate nell'UE (articolo 5 del regolamento sull'IA). I sistemi di IA sono classificati come ad alto rischio conformemente all'articolo 6 del regolamento sull'IA, in combinato disposto con l'allegato I (elenco della normativa di armonizzazione dell'Unione) e l'allegato III del regolamento sull'IA. L'allegato III riguarda otto settori ed elenca casi d'uso concreti per ciascun settore che, secondo la valutazione del Parlamento europeo e del Consiglio, presentano un alto rischio di pregiudicare la salute e la sicurezza o i diritti fondamentali delle persone.
(3)Il regolamento sull'IA è concepito come uno strumento giuridico flessibile e adeguato alle esigenze future che consente di adattare determinate norme ai ritmi sostenuti dello sviluppo tecnologico, nonché ai potenziali cambiamenti nell'uso dei sistemi di IA e ai rischi emergenti. A tal fine il regolamento sull'IA prevede una costante attività di monitoraggio e revisione, che garantisce che le norme restino pertinenti ed efficaci. Ciò vale anche prima dell'entrata in vigore di disposizioni specifiche, come le norme relative ai sistemi di IA ad alto rischio.
(4)L'articolo 112 del regolamento sull'IA prevede uno strumento di monitoraggio specifico per la valutazione e il riesame del regolamento sull'IA. A norma dell'articolo 112, paragrafo 1, la Commissione ha il compito di valutare la necessità di modificare l'elenco dei sistemi di IA ad alto rischio stabilito nell'allegato III e l'elenco delle pratiche di IA vietate di cui all'articolo 5 una volta all'anno dopo l'entrata in vigore del regolamento sull'IA e fino al termine del periodo della delega di potere di cui all'articolo 97 del medesimo regolamento. La Commissione deve trasmettere i risultati della valutazione al Parlamento europeo e al Consiglio.
(5)La presente è la prima relazione adottata ai sensi di tale disposizione. Il suo obiettivo è valutare se sia necessario modificare l'elenco dei casi d'uso di cui all'allegato III e l'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA al fine di garantire che tale regolamento resti pertinente ed efficace a fronte della rapida evoluzione delle tecnologie di IA. Il riesame dell'elenco dei settori contemplati dall'allegato III non rientra nell'ambito di applicazione della presente relazione, in quanto la Commissione è tenuta a effettuare tale riesame solo entro il 2 agosto 2028, conformemente all'articolo 112, paragrafo 2, del regolamento sull'IA.
(6)La presente relazione illustra innanzitutto la metodologia utilizzata per la sua preparazione. Tale metodologia è successivamente applicata per presentare una valutazione dell'eventuale necessità di riesame dell'elenco dei casi d'uso ad alto rischio di cui all'allegato III e dell'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA.
(7)La valutazione contenuta nella presente relazione è limitata dal breve periodo di tempo trascorso dall'entrata in vigore del regolamento sull'IA e dalla sua entrata in applicazione ridotta al momento dell'adozione della presente relazione. Il capo II del regolamento sull'IA (pratiche vietate) è entrato in applicazione il 2 febbraio 2025. Tuttavia le norme in materia di esecuzione di tale capo si applicheranno soltanto a decorrere dal 2 agosto 2026 e la designazione delle autorità nazionali competenti è ancora in corso. Gli obblighi relativi ai sistemi di IA ad alto rischio elencati nell'allegato III del regolamento sull'IA si applicheranno a decorrere dal 2 agosto 2026, data oggetto di valutazione per un'eventuale proroga 2 . Inoltre, sebbene gli orientamenti della Commissione sulle pratiche di IA vietate siano stati pubblicati nel febbraio 2025 3 , gli orientamenti sulla classificazione dei sistemi di IA ad alto rischio sono ancora in fase di preparazione. Pertanto nei suddetti orientamenti sarà fornita chiarezza su alcuni concetti e sulla classificazione di specifici casi d'uso dell'IA, che sarà successivamente consolidata mediante l'applicazione pratica dell'allegato III del regolamento e delle relative disposizioni.
2. Metodologia adottata per il riesame ai sensi dell'articolo 112, paragrafo 1, del regolamento sull'IA
(8)Conformemente all'articolo 112, paragrafo 11, del regolamento sull'IA, per orientare le valutazioni e i riesami di cui all'articolo 112, paragrafo 1, l'Ufficio per l'IA dovrebbe elaborare una metodologia obiettiva e partecipativa per la valutazione dei livelli di rischio basata sui criteri definiti negli articoli pertinenti e l'inclusione di nuovi sistemi nell'elenco stabilito nell'allegato III, compreso l'ampliamento delle rubriche settoriali esistenti o l'aggiunta di nuove nel medesimo allegato, e nell'elenco delle pratiche vietate di cui all'articolo 5 del regolamento sull'IA.
(9)La presente sezione illustra l'approccio metodologico elaborato dall'Ufficio per l'IA per garantire il rispetto di tale obbligo nella preparazione della presente relazione. In primo luogo, fornisce una panoramica dei criteri giuridici per il riesame dell'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA e dell'elenco dei sistemi di IA ad alto rischio di cui all'allegato III (sezione 2.1.). Tali criteri giuridici costituiscono la base per una successiva valutazione della necessità di un eventuale riesame, in particolare per quanto riguarda specifici sistemi di IA che possono rientrare nelle due categorie summenzionate. In secondo luogo, la relazione delinea i metodi partecipativi utilizzati per la raccolta e l'analisi degli elementi di prova, nonché l'approccio seguito durante l'intero processo di valutazione (sezione 2.2).
2.1. Criteri giuridici per valutare la necessità di modificare l'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA e l'elenco dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA
(10)La valutazione della necessità di modificare l'elenco delle pratiche di IA vietate ai sensi dell'articolo 5 del regolamento sull'IA, nonché dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA, si basa su criteri giuridici. Nel caso dell'allegato III del regolamento sull'IA, tali criteri sono esplicitamente previsti nel medesimo regolamento (articolo 7 del regolamento sull'IA) mentre, per quanto riguarda l'articolo 5 del regolamento sull'IA, sono desunti dalla logica sottesa alla normativa.
2.1.1. Criteri per il riesame dell'elenco dei divieti di cui all'articolo 5
(11)L'articolo 5 del regolamento sull'IA vieta l'immissione sul mercato dell'UE, la messa in servizio o l'uso di un numero limitato di sistemi di IA per pratiche di manipolazione, sfruttamento, controllo sociale, sorveglianza e altre pratiche che, per loro natura, violano i diritti fondamentali e i valori dell'UE. Il considerando 28 del regolamento sull'IA chiarisce che tali pratiche sono particolarmente dannose e abusive in quanto contrarie ai valori dell'UE relativi al rispetto della dignità umana, alla libertà, all'uguaglianza, alla democrazia e allo Stato di diritto e ai diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell'UE ("Carta") 4 . Di conseguenza un riesame dell'articolo 5 del regolamento sull'IA può essere giustificato ogniqualvolta prove sostanziali suggeriscano che i divieti attualmente in vigore non affrontano in modo adeguato le pratiche di IA nuove o emergenti che minano concretamente i valori dell'UE o i diritti fondamentali sanciti dalla Carta e che possono essere considerate particolarmente dannose e abusive.
(12)Inoltre l'articolo 5, paragrafo 8, del regolamento sull'IA stabilisce che il regolamento sull'IA lascia impregiudicati i divieti esistenti a norma di altre normative dell'UE. Tale disposizione sottolinea l'interazione del regolamento sull'IA con altri quadri giuridici, in considerazione della sua natura orizzontale 5 . Nel complesso, i divieti previsti dal regolamento sull'IA mirano principalmente a colmare lacune che non sono già affrontate in altre normative dell'UE e richiedono norme di mercato specifiche per l'IA. Tuttavia altri atti giuridici dell'UE, sebbene possano applicarsi parallelamente, inevitabilmente affrontano le questioni da prospettive diverse e con meccanismi di applicazione differenti, pertanto potrebbero non affrontare in misura sufficiente i rischi complessivi di alcune pratiche di IA inaccettabili.
(13)Di conseguenza l'approccio della Commissione al riesame dell'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA consiste nel valutare la necessità di un riesame subordinatamente al soddisfacimento di almeno due condizioni cumulative:
·l'esistenza di pratiche di IA nuove o emergenti che minano i valori dell'UE o i diritti e le libertà sanciti dalla Carta e che non sono contemplate dall'attuale elenco delle pratiche vietate di cui all'articolo 5 del regolamento sull'IA; e
·la persistenza di lacune normative, malgrado l'esistenza di altre normative dell'UE applicabili, che rendono necessaria una revisione dei divieti del regolamento sull'IA per garantire che le pratiche di IA dannose siano contemplate in modo esaustivo.
(14)L'articolo 5 può essere modificato solo mediante una modifica legislativa. Pertanto, qualora sia individuata la necessità di modificare tale articolo, la Commissione presenterà le conclusioni della propria valutazione al Parlamento europeo e al Consiglio e valuterà la necessità di presentare una proposta legislativa a tal fine.
2.1.2. Criteri per il riesame dell'elenco dei sistemi di IA ad alto rischio di cui all'allegato III
(15)L'articolo 6 del regolamento sull'IA, in combinato disposto con gli allegati I e III, riguarda determinati usi dei sistemi di IA classificati come ad alto rischio perché presentano un rischio significativo di pregiudicare la salute e la sicurezza o i diritti fondamentali delle persone. È opportuno che i sistemi di IA ad alto rischio siano immessi sul mercato, messi in servizio o utilizzati solo se soddisfano determinati requisiti obbligatori stabiliti nel regolamento sull'IA volti a far fronte a tali rischi.
Limitazione del riesame ai casi d'uso dei sistemi di IA ad alto rischio elencati nell'allegato III
(16)Il regolamento sull'IA stabilisce una distinzione tra due categorie di sistemi di IA classificati come "ad alto rischio" ai sensi dell'articolo 6, paragrafo 1 e 2, del regolamento sull'IA. La prima categoria è costituita dai sistemi di IA integrati come componenti di sicurezza di un prodotto o che sono essi stessi prodotti, disciplinati dalla normativa di armonizzazione dell'UE elencata nell'allegato I, che potrebbero avere un impatto negativo sulla salute e sulla sicurezza delle persone e pertanto sono classificati come ad alto rischio a norma dell'articolo 6, paragrafo 1, del regolamento sull'IA. La seconda categoria riguarda i sistemi di IA che, in considerazione della loro finalità prevista, presentano un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali e sono pertanto classificati come ad alto rischio a norma dell'articolo 6, paragrafo 2, del regolamento sull'IA.
(17)Poiché l'articolo 112, paragrafo 1, del regolamento sull'IA si concentra sull'eventuale necessità di un riesame dei casi d'uso ad alto rischio elencati nell'allegato III, i sistemi di IA che costituiscono componenti di sicurezza di prodotti, o che sono essi stessi prodotti, che rientrano nell'ambito di applicazione di alcune normative di armonizzazione dell'UE elencate nell'allegato I, non rientrano nell'ambito di applicazione della presente relazione. Il riferimento ai sistemi di IA ad alto rischio nella presente relazione riguarda solo i sistemi di IA autonomi 6 che rientrano nei settori predefiniti elencati nell'allegato III.
Criteri elencati all'articolo 7 per la modifica dei casi d'uso dei sistemi di IA ad alto rischio
(18)L'articolo 7 del regolamento sull'IA conferisce alla Commissione il potere di modificare, per mezzo di atti delegati, l'allegato III aggiungendo, modificando o eliminando casi d'uso dei sistemi di IA ad alto rischio per tenere conto del rapido ritmo dello sviluppo tecnologico, nonché dei potenziali cambiamenti nell'uso dei sistemi di IA (cfr. anche i considerando 52 e 173 del regolamento sull'IA). Tale potere è soggetto alle condizioni di cui all'articolo 7, paragrafi da 1 a 3, del regolamento sull'IA.
(19)In primo luogo, l'articolo 7, paragrafo 1, del regolamento sull'IA stabilisce che la Commissione può adottare atti delegati per aggiungere nuovi casi d'uso all'allegato III o per modificare quelli attualmente elencati, a condizione che i) i sistemi di IA siano destinati a essere usati in uno degli otto settori elencati nell'allegato III e ii) presentino un rischio di danno equivalente o superiore a quello dei casi d'uso già elencati. Questa seconda condizione fissa una soglia per la valutazione comparativa del rischio: una condizione fondamentale per l'inserimento in elenco di ulteriori casi d'uso dei sistemi di IA ad alto rischio è che essi debbano presentare un rischio di danno per la salute e la sicurezza o i diritti fondamentali delle persone equivalente a quello dei sistemi già elencati nell'allegato III. Ciò garantisce coerenza e proporzionalità nella classificazione dei sistemi di IA ad alto rischio.
(20)L'articolo 7, paragrafo 2, definisce i criteri che devono essere presi in considerazione nel determinare se suddetta soglia sia rispettata. Tali criteri includono, tra l'altro, la finalità prevista del sistema di IA, la misura in cui è probabile che sarà usato, la natura dei dati trattati, nonché la portata attuale e potenziale del danno. Il considerando 52 del regolamento sull'IA chiarisce la logica di tali criteri affermando che è opportuno classificare i sistemi di IA autonomi come ad alto rischio se, alla luce della loro finalità prevista, presentano un alto rischio di pregiudicare la salute e la sicurezza o i diritti fondamentali delle persone, tenendo conto sia della gravità del possibile danno sia della probabilità che si verifichi, e sono utilizzati in una serie di settori specificamente predefiniti indicati nel regolamento sull'IA. La Commissione dispone di un certo margine di discrezionalità nell'applicazione dei criteri, a condizione che questi siano debitamente presi in considerazione e siano ritenuti soddisfatti nella valutazione complessiva.
(21)Ne consegue che la soglia per la modifica dell'elenco di cui all'allegato III del regolamento sull'IA non si esaurisce nella novità tecnologica o nella preoccupazione dell'opinione pubblica, ma richiede l'esistenza di un rischio dimostrabile e comparabile rappresentato dai sistemi di IA per la salute, la sicurezza o i diritti fondamentali, simile a quello dei sistemi di IA attualmente elencati nell'allegato III.
Rimozione dei casi d'uso dei sistemi di IA ad alto rischio dall'allegato III
(22)L'articolo 7, paragrafo 3, del regolamento sull'IA specifica i criteri per la rimozione dei sistemi di IA ad alto rischio dall'allegato III. A tal fine, la Commissione deve dimostrare che il caso d'uso non presenta più un alto rischio di danno e che la sua rimozione non ridurrebbe il livello complessivo di protezione della salute e della sicurezza o dei diritti fondamentali ai sensi del diritto dell'UE.
2.2. Metodologia utilizzata nella presente relazione per la raccolta e l'analisi obiettive e partecipative degli elementi di prova e procedure seguite
(23)Conformemente all'articolo 112, paragrafo 11, del regolamento sull'IA, l'Ufficio per l'IA è tenuto a impegnarsi a sviluppare una metodologia obiettiva e partecipativa per la valutazione della necessità del riesame oggetto della relazione. Inoltre, ai sensi dell'articolo 112, paragrafi 8 e 9, del regolamento sull'IA, la Commissione può richiedere informazioni al consiglio europeo per l'intelligenza artificiale ("consiglio per l'IA"), agli Stati membri e alle autorità nazionali competenti nella preparazione della propria relazione e deve tenere conto delle posizioni e delle conclusioni del consiglio per l'IA, del Parlamento europeo, del Consiglio e di altri organismi o fonti pertinenti nello svolgimento del riesame e della valutazione.
(24)In linea con tali disposizioni, per la preparazione della presente relazione la Commissione ha applicato la seguente metodologia:
·Dialogo con il consiglio per l'IA e consultazioni con gli Stati membri e le autorità nazionali competenti
La Commissione ha avviato un dialogo con gli Stati membri e le rispettive autorità nazionali competenti nel processo di designazione, sottoponendo questioni pertinenti attraverso il consiglio per l'IA. Nel processo sono stati coinvolti diversi sottogruppi del consiglio per l'IA.
·Consultazione dei portatori di interessi
È stata condotta una consultazione multipartecipativa al fine di raccogliere riscontri e prospettive da un'ampia gamma di portatori di interessi, tra cui rappresentanti dell'industria, del mondo accademico e della società civile, nonché il pubblico in generale.
·Ricerca empirica: analisi delle banche dati sugli incidenti di IA
La Commissione ha inoltre analizzato le pertinenti banche dati sugli incidenti di IA al fine di garantire un approccio globale e basato su prove empiriche per quanto riguarda i danni causati dai sistemi di IA.
(25)Le sezioni che seguono illustrano in modo più dettagliato la metodologia per la raccolta e l'analisi oggettive e partecipative degli elementi di prova utilizzata nella presente relazione. Esse descrivono gli approcci adottati per garantire che le informazioni raccolte siano complete e includano le diverse prospettive dei portatori di interessi, sostenendo in tal modo una valutazione trasparente, basata su dati concreti e approfondita.
3. Analisi delle informazioni raccolte
3.1. Analisi dei contributi provenienti dalle consultazioni con gli Stati membri e il consiglio per l'IA
(26)L'Ufficio per l'IA ha consultato gli Stati membri tramite i pertinenti sottogruppi del consiglio per l'IA 7 e li ha invitati a fornire il proprio contributo direttamente nel corso delle riunioni o per iscritto.
3.1.1. Posizione degli Stati membri sulla necessità di riesame dell'elenco delle pratiche vietate di cui all'articolo 5 del regolamento sull'IA
Posizione generale
(27)Nel corso della consultazione del pertinente sottogruppo del consiglio per l'IA, la maggioranza degli Stati membri presenti ha dichiarato che, allo stato attuale, non ravvisa la necessità di modificare l'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA. Inoltre nove Stati membri hanno presentato dichiarazioni scritte via e-mail, confermando analogamente che non vi è una necessità percepita di modificare tale elenco. Risposte analoghe sono pervenute anche dai due osservatori del sottogruppo.
(28)I rappresentanti degli Stati membri che hanno fornito il proprio contributo hanno ripetutamente osservato che, poiché le disposizioni del regolamento sull'IA riguardanti la definizione dei sistemi di IA e delle pratiche vietate hanno iniziato ad applicarsi soltanto il 2 febbraio 2025, le norme in materia di esecuzione diventeranno applicabili il 2 agosto 2026 e i meccanismi di applicazione non sono ancora operativi, la valutazione delle pratiche particolarmente dannose e abusive che sono contrarie ai valori e ai diritti fondamentali dell'UE è soltanto all'inizio. In considerazione del limitato periodo di tempo trascorso dall'entrata in applicazione dell'articolo 5 del regolamento sull'IA, attualmente vi è una mancanza di esperienza pratica e di casi d'uso concreti sulla cui base si possa valutare l'efficacia dei divieti di cui al regolamento sull'IA. Si è pertanto ritenuto che sarà possibile fornire un contributo più significativo una volta che le disposizioni pertinenti saranno in vigore da maggior tempo. Per il momento gli Stati membri hanno osservato che sono disponibili pochi dati o analisi concreti che giustifichino un riesame.
(29)Alla luce di tali considerazioni, in via generale gli Stati membri ritengono che qualsiasi iniziativa volta a riesaminare o modificare l'elenco delle pratiche vietate risulterebbe più appropriata in una fase successiva, una volta maturata un'adeguata esperienza di attuazione.
Questioni segnalate per un ulteriore monitoraggio
(30)Uno Stato membro ha suggerito che potrebbe essere opportuno valutare la possibilità di includere nell'elenco delle pratiche di IA vietate i sistemi di IA destinati a sviluppare o diffondere malware potenzialmente dannosi per le infrastrutture critiche, in grado di compromettere le banche dati o creare rischi per i diritti fondamentali. Dopo aver analizzato tale suggerimento, la Commissione ha ritenuto che i rischi che un divieto di questo tipo avrebbe affrontato sembrassero coperti in misura sufficiente da varie normative dell'UE 8 , ma ha segnalato la questione per un ulteriore monitoraggio e valutazione.
3.1.2. Posizione degli Stati membri sulla necessità di modificare i casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA
Posizione generale
(31)La necessità di modificare l'elenco dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA è stata discussa in diverse riunioni dei sottogruppi del consiglio per l'IA. Nel corso di tali riunioni, molti Stati membri presenti hanno dichiarato di non ravvisare al momento la necessità di modificare l'allegato III. Inoltre sette Stati membri hanno presentato dichiarazioni scritte via e-mail, confermando che allo stato attuale non ritengono necessario modificare l'allegato III.
(32)Analogamente alle considerazioni sopra esposte in relazione a possibili modifiche dell'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA, gli Stati membri rispondenti hanno più volte sottolineato che stanno ancora valutando le implicazioni del quadro legislativo sugli attuali casi d'uso dell'IA ad alto rischio elencati nell'allegato III. Le norme relative ai sistemi di IA ad alto rischio non sono ancora applicabili e i corrispondenti orientamenti della Commissione sulla classificazione dei sistemi di IA ad alto rischio non sono ancora disponibili. Alla luce di tali considerazioni, in via generale gli Stati membri hanno ritenuto prematuro apportare modifiche all'attuale elenco dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA.
Questioni segnalate per un ulteriore monitoraggio
(33)Due Stati membri hanno espresso preoccupazioni in merito ad alcuni specifici casi d'uso dell'IA 9 .
(34)Una delle preoccupazioni riguardava la regolamentazione dei chatbot di IA per l'auto-aiuto (terapia) 10 che non rientrano nell'ambito di applicazione del regolamento sui dispositivi medici 11 . Tali chatbot sono strumenti digitali basati sull'IA e progettati per fornire agli utenti un sostegno per la salute mentale e assistenza emotiva attraverso interfacce conversazionali. Pur essendo presentati come strumenti per il benessere, piuttosto che come dispositivi medici, essi influenzano comunque le decisioni degli utenti relative alla salute mentale e possono trattare dati personali sensibili. Ne consegue che il sostegno e l'assistenza emotiva forniti da tali chatbot potrebbero avere un impatto negativo sulla salute mentale delle persone. Alla luce di quanto precede, uno Stato membro ha sollevato la questione se tali sistemi debbano essere classificati come sistemi di IA ad alto rischio.
(35)Dopo aver analizzato tale questione, la Commissione ritiene che i chatbot per l'auto-aiuto, quando soddisfano la definizione di dispositivo medico, sono soggetti ai rigorosi requisiti e controlli previsti dal regolamento sui dispositivi medici. Inoltre i chatbot di IA per l'auto-aiuto più dannosi rientrano potenzialmente nei divieti di cui all'articolo 5, lettera a) e b), del regolamento sull'IA. Per quanto riguarda la classificazione di altri chatbot di IA per l'auto-aiuto come sistemi di IA ad alto rischio, la maggior parte di tali sistemi potrebbe non essere inserita in uno dei casi d'uso attualmente elencati nell'allegato III, con alcune eccezioni specifiche già contemplate dagli stessi 12 . Inoltre gli obblighi di divulgazione di cui all'articolo 50 del regolamento sull'IA, almeno in una certa misura, possono contribuire a mitigare alcuni dei rischi associati ai chatbot di IA per l'auto-aiuto, in particolare quelli relativi al processo decisionale informato e al potenziale impatto psicologico dell'interazione sugli individui. La Commissione valuterà pertanto in che modo tali disposizioni affrontino nella pratica i rischi sopra menzionati prima di prendere in considerazione eventuali modifiche dell'allegato III. La Commissione riconosce tuttavia che, allo stato attuale, l'uso e i potenziali rischi associati a questo tipo di sistema di IA dovrebbero essere oggetto di un attento monitoraggio e della raccolta di ulteriori elementi di prova nei prossimi anni, soprattutto una volta che entreranno in applicazione le disposizioni del regolamento sull'IA relative ai sistemi di IA ad alto rischio.
(36)Un'altra preoccupazione verteva sull'apprendimento personalizzato basato sull'IA. L'analisi attuale, basata sui criteri elencati all'articolo 7 del regolamento sull'IA, ha portato la Commissione a concludere che i sistemi di IA per l'apprendimento autodidattico (autonomo) nella maggior parte dei casi non comportano rischi equivalenti o superiori a quelli posti dai sistemi di IA elencati nell'allegato III del regolamento sull'IA. In particolare, vi sono limitate prove empiriche di un alto rischio di danno legato a tali sistemi e non sono stati identificati incidenti correlati. Una conclusione analoga si applica ai sistemi di IA utilizzati per sviluppare materiale didattico con contenuti personalizzati nel contesto dell'apprendimento autodidattico (autonomo). Altri casi d'uso per l'apprendimento personalizzato basato sull'IA sono individuati per ulteriori chiarimenti nei futuri orientamenti della Commissione sulla classificazione dei sistemi ad alto rischio.
(37)Infine uno Stato membro ha suggerito di estendere l'allegato III del regolamento sull'IA ai casi d'uso dell'IA per il rilascio di autorizzazioni da parte delle autorità pubbliche, ad esempio il rilascio di patenti di guida, porto d'armi e munizioni o permessi per la manipolazione di sostanze chimiche o l'utilizzo di esplosivi. Allo stato attuale, vi sono scarse prove del fatto che tali casi d'uso giustifichino una classificazione ad alto rischio sulla base dei criteri di cui all'articolo 7 del regolamento sull'IA. Alla luce di quanto precede, la Commissione ritiene che tali rischi meritino un ulteriore monitoraggio.
3.2. Analisi dei contributi provenienti dalle consultazioni dei portatori di interessi
(38)Dal 6 giugno al 18 luglio 2025 la Commissione ha organizzato una consultazione di molteplici portatori di interessi 13 per raccogliere contributi sull'attuazione delle norme del regolamento sull'IA relative ai sistemi di IA ad alto rischio. La consultazione comprendeva anche diverse questioni relative alla potenziale necessità di modificare l'elenco dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA e l'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA.
(39)In totale sono pervenute 547 risposte da diversi portatori di interessi, tra cui figurano imprese, organizzazioni della società civile, mondo accademico, istituzioni pubbliche e persone che agiscono a titolo privato 14 .
3.2.1. Opinioni dei portatori di interessi sulla necessità di riesame dell'elenco dei divieti di cui all'articolo 5 del regolamento sull'IA
(40)Un numero significativo di portatori di interessi ha ritenuto sufficiente l'elenco attuale 15 , mentre altri hanno proposto l'inclusione di ulteriori divieti 16 . La maggioranza dei portatori di interessi che hanno fornito risposte non si è espressa a favore della rimozione di nessuno dei divieti esistenti.
(41)Le proposte dei portatori di interessi di includere ulteriori divieti sono state valutate dalla Commissione applicando la metodologia e i criteri illustrati nella sezione 2.1.1. In particolare la Commissione ha cercato di identificare, tra le proposte ricevute, le pratiche che possono essere considerate particolarmente dannose e abusive, contrarie ai valori e ai diritti fondamentali dell'UE e non adeguatamente disciplinate dalla legislazione vigente dell'UE. Tale approccio ha permesso di valutare se le aggiunte proposte fossero tali da giustificarne l'inclusione nell'elenco delle pratiche di IA vietate o se fosse più opportuno ricorrere ad altri meccanismi normativi previsti dal regolamento sull'IA o eventualmente da altre normative dell'UE.
(42)Un numero considerevole di proposte è stato considerato già sufficientemente coperto dalle disposizioni vigenti del regolamento sull'IA, attraverso i divieti di cui all'articolo 5 del regolamento sull'IA, la classificazione di determinati sistemi di IA come ad alto rischio a norma dell'allegato III o dell'allegato I del regolamento sull'IA o i requisiti di trasparenza di cui all'articolo 50 del regolamento sull'IA. Alcune delle proposte, se valutate alla luce dello stadio attuale di sviluppo e diffusione dell'IA e tenendo conto degli incidenti di IA registrati, non sembravano raggiungere la soglia prevista per il divieto a norma del regolamento sull'IA 17 .
(43)Le seguenti preoccupazioni, espresse ripetutamente dai portatori di interessi, sono state segnalate per un ulteriore monitoraggio e valutazione della pratica.
·Nel settore della biometria, numerosi suggerimenti riguardavano l'estensione del divieto d'uso delle tecnologie di riconoscimento delle emozioni di cui all'articolo 5, paragrafo 1, lettera f), del regolamento sull'IA. Tale uso è vietato nell'ambito del luogo di lavoro e degli istituti di istruzione 18 . L'uso di tali sistemi in tutti gli altri ambiti è classificato come sistema di IA ad alto rischio ai sensi dell'allegato III, punto 1, del regolamento sull'IA. Inoltre l'articolo 50, paragrafo 3, del regolamento sull'IA prevede che i deployer di sistemi di riconoscimento delle emozioni informino le persone fisiche che vi sono esposte in merito al funzionamento del sistema. Tuttavia diversi rispondenti hanno espresso preoccupazioni riguardo al loro impiego in contesti delicati, come la migrazione, e hanno proposto che, invece di essere soggetto ai requisiti normativi per i sistemi ad alto rischio, il loro utilizzo in tali settori specifici sia espressamente vietato. In assenza di prove empiriche comprovanti che la classificazione di tali sistemi come ad alto rischio non sia sufficiente a garantire la tutela dei diritti fondamentali, la Commissione non ravvisa la necessità immediata di modificare l'articolo 5 del regolamento sull'IA a tale riguardo. Tuttavia la questione è stata segnalata per un ulteriore esame.
·La questione inerente la classificazione dei sistemi di IA che consentono percorsi oscuri e una progettazione che crea dipendenza è stata sollevata da diversi portatori di interessi. Secondo l'attuale valutazione della Commissione, i casi più dannosi di tali pratiche sono già contemplati dai divieti esistenti, in particolare quelli elencati all'articolo 5, lettere a) e b), del regolamento sull'IA. Inoltre tali pratiche possono essere disciplinate da altre normative dell'UE, quali la direttiva sulle pratiche commerciali sleali 19 e il regolamento sui servizi digitali 20 , indipendentemente dal fatto che siano basate sull'IA. Ciononostante tali pratiche continuano a destare notevole preoccupazione. È importante monitorarne attentamente l'evoluzione per valutare se la legislazione vigente dell'UE continui a fornire una protezione adeguata, in particolare quando i sistemi di IA consentono percorsi oscuri e una progettazione che crea dipendenza.
·Diversi portatori di interessi hanno richiamato l'attenzione sui sistemi di IA che facilitano le truffe e che generano immagini di nudo e altri deep fake dannosi e degradanti. Tali pratiche dannose sono state individuate anche nell'analisi degli incidenti e sono ulteriormente discusse nella sezione 3.3.3.
3.2.2. Opinioni dei portatori di interessi sulla necessità di modificare i casi d'uso di cui all'allegato III del regolamento sull'IA
(44)Sebbene un numero consistente di portatori di interessi considerasse adeguato 21 l'elenco esistente dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA, altri hanno suggerito di aggiungere di nuovi casi d'uso alle rubriche settoriali, di estendere i casi d'uso attualmente elencati, oppure di considerare l'opportunità di aggiungere nuove rubriche settoriali all'allegato 22 . La maggioranza dei portatori di interessi non ha sostenuto la rimozione di nessuno degli attuali casi d'uso dall'allegato III.
(45)La Commissione ha ritenuto che un numero considerevole di proposte fosse già contemplato in misura sufficiente dalle disposizioni vigenti del regolamento sull'IA 23 . Le restanti proposte relative all'inclusione di ulteriori casi d'uso e rubriche settoriali sono state valutate tenendo conto dei criteri elencati all'articolo 7 del regolamento sull'IA (cfr. sezione 2.1.2). Sono stati esaminati diversi casi d'uso proposti, ma non sono stati ritenuti tali da presentare un rischio di danno equivalente o superiore a quello dei casi già elencati nell'allegato III del regolamento sull'IA 24 . Si è ritenuto che alcune delle preoccupazioni sollevate dai portatori di interessi fossero probabilmente già contemplate dall'elenco dei casi d'uso ad alto rischio di cui all'allegato III del regolamento sull'IA e si è osservato che sarebbero state ulteriormente chiarite negli orientamenti sulla classificazione dei sistemi di IA ad alto rischio attualmente in fase di elaborazione da parte della Commissione 25 .
(46)Alla luce dell'evoluzione delle pratiche, la Commissione ha individuato ai fini di un monitoraggio e una valutazione continui le seguenti preoccupazioni, sollevate in modo ricorrente dai portatori di interessi.
·Un numero significativo di proposte riguardava l'allegato III, punto 5, del regolamento sull'IA. In merito al punto 5, lettera a), diversi portatori di interessi hanno segnalato l'assenza di un riferimento esplicito ai sistemi di IA usati nella pubblica amministrazione per la gestione dell'accesso alle prestazioni sociali e all'edilizia popolare. Per quanto concerne il punto 5, lettera b), i portatori di interessi hanno osservato che i sistemi di IA impiegati per il vaglio dei locatari e l'ammissibilità a servizi privati (ad esempio telecomunicazioni, servizi pubblici) non risultano chiaramente contemplati. Con riferimento al punto 5, lettera c), sono state espresse preoccupazioni circa il fatto che l'attuale caso d'uso ad alto rischio sia limitato all'assicurazione sulla vita e all'assicurazione sanitaria, senza menzionarne altre essenziali (ad esempio l'assicurazione auto, l'assicurazione di responsabilità professionale, l'assicurazione di proprietari di abitazioni, l'assicurazione invalidità). Sono state inoltre avanzate proposte per estendere il punto 5, lettera d), in modo da includere i sistemi di IA che influenzano le decisioni di risposta alle emergenze con effetti sulla sicurezza e sui diritti (ad esempio l'evacuazione forzata, il confinamento). Sebbene molte delle proposte siano state prese in considerazione per ulteriori chiarimenti nei futuri orientamenti della Commissione sulla classificazione dei sistemi ad alto rischio, l'Ufficio per l'IA monitorerà attentamente l'impiego dei sistemi di IA nei settori di cui all'allegato III, punto 5, del regolamento sull'IA, in particolare nelle circostanze in cui per specifici sistemi di IA non esista alcun caso d'uso ad alto rischio pertinente nell'allegato III. Si presterà particolare attenzione alla raccolta di dati empirici sui danni effettivi e all'individuazione di eventuali lacune normative che potrebbero giustificare una modifica o un'integrazione dell'elenco dei casi d'uso ad alto rischio di cui all'allegato III, punto 5, o, più in generale, della rubrica settoriale.
·Ribadendo la preoccupazione espressa da uno Stato membro (cfr. sezione 3.1), una questione ricorrente emersa nella consultazione dei portatori di interessi riguardava i compagni di IA (AI companion) e i chatbot di IA per il sostegno alla salute mentale. Tali sistemi di IA sono stati menzionati sia nel contesto della potenziale necessità di modificare le pratiche di IA vietate sia in relazione ai casi d'uso di cui all'allegato III. Come indicato in precedenza, qualora esercitino un'influenza subliminale, manipolativa o ingannevole, oppure sfruttino le vulnerabilità in modo dannoso, tali sistemi possono rientrare nei divieti di cui all'articolo 5, lettere a) e b), del regolamento sull'IA. Se progettati con elementi per il riconoscimento delle emozioni, possono essere classificati come ad alto rischio ai sensi dell'allegato III, punto 1, lettera c), del regolamento sull'IA. Si applicano inoltre obblighi di trasparenza per garantire che gli utenti siano consapevoli di interagire con una chat box di IA o di essere soggetti a sistemi di riconoscimento delle emozioni o di categorizzazione biometrica. Ulteriori garanzie sono previste dal regolamento sui servizi digitali 26 e dal diritto dell'UE in materia di protezione dei dati, ove applicabile 27 . Tuttavia, alla luce della crescente diffusione di compagni di IA e di chatbot di IA per il sostegno alla salute mentale, la Commissione ritiene importante monitorarne attentamente lo sviluppo nei prossimi anni al fine di raccogliere ulteriori prove e valutare se il quadro legislativo vigente continui a essere adeguato ad affrontare i rischi che tali sistemi possono comportare.
·Alcuni portatori di interessi hanno suggerito di classificare come ad alto rischio i sistemi di IA usati per il recupero crediti e l'escussione, rilevando il loro crescente utilizzo da parte dei fornitori di energia, telecomunicazioni e servizi finanziari. Tali sistemi potrebbero potenzialmente rientrare nella rubrica settoriale di cui all'allegato III, punti 5 o 8, del regolamento sull'IA. La Commissione continuerà a monitorare tali sistemi per valutarne il grado di impiego e i danni che possono sorgere, in particolare in relazione ai consumatori vulnerabili.
·Diversi portatori di interessi hanno proposto di estendere l'ambito di applicazione dell'allegato III, punto 2, del regolamento sull'IA, relativo ai sistemi di IA usati nel settore delle infrastrutture critiche, suggerendo che quest'ultimo dovrebbe comprendere non solo i sistemi di IA che fungono da componenti di sicurezza, ma anche una gamma più ampia di sistemi essenziali per l'affidabilità e la continuità delle infrastrutture. Alla luce di tali proposte, è necessario un ulteriore monitoraggio dei sistemi di IA in questo settore per valutarne il grado di impiego e i danni che possono causare nella pratica.
3.3. Ricerca empirica: analisi delle banche dati sugli incidenti di IA e di altre fonti
(47)Ai fini della presente relazione sono state altresì consultate e analizzate le informazioni contenute nelle pertinenti banche dati sugli incidenti di IA. Tale ricerca documentale è stata condotta per individuare pratiche pericolose e incidenti causati in passato da sistemi di IA, che potrebbero fornire prove empiriche dei rischi per la salute, la sicurezza e i diritti fondamentali che si sono verificati, al fine di orientare la valutazione del riesame. Pur fornendo un'ulteriore fonte per la mappatura dei dati disponibili sui danni e sugli incidenti causati dai sistemi di IA, la ricerca empirica effettuata nella sezione successiva presenta limiti intrinseci, considerato che le banche dati sugli incidenti analizzate non contengono informazioni complete e verificate su tutti gli incidenti di IA. Molti degli incidenti, inoltre, sono globali e non limitati all'Europa e non sempre sono disponibili informazioni dettagliate per la corretta categorizzazione degli incidenti ai sensi del regolamento sull'IA.
3.3.1. Banche dati e calendario
(48)La principale banca dati su cui si è basata la ricerca documentale è stata l'AI Incidents and Hazards Monitor (AIM) 28 dell'Organizzazione per la cooperazione e lo sviluppo economici (OCSE). Si tratta di un progetto gratuito e open source dedicato all'indicizzazione di episodi di danni o di rischio di danni che si sono concretizzati nel mondo reale a seguito dell'impiego di sistemi di IA. La banca dati, basata sull'IA, raccoglie informazioni sugli incidenti legati all'IA provenienti da fonti pubbliche (per lo più incidenti di IA coperti dai media). Un'ulteriore banca dati consultata dalla Commissione è stata l'AI Risk Repository 29 del Massachusetts Institute of Technology (MIT) 30 , analizzata principalmente per elaborare la metodologia di analisi degli incidenti.
(49)In ragione della natura delle banche dati sugli incidenti, che pubblicano soltanto brevi sintesi degli eventi segnalati, le analisi fondate su tali fonti risultano, in una certa misura, limitate. Le descrizioni concise non consentono sempre una valutazione precisa delle caratteristiche degli incidenti, né permettono sistematicamente una classificazione accurata secondo il quadro metodologico adottato nella presente relazione, come illustrato nella sezione 2.1. A causa di tali limitazioni e vincoli, la presente relazione fa riferimento a espressioni quantitative generalizzate (quali "una parte sostanziale" o "una parte ridotta"), anziché fornire percentuali precise degli incidenti.
(50)Al fine di garantire un tempo sufficiente per l'analisi degli incidenti, il periodo di tempo considerato è stato limitato agli incidenti segnalati tra il 1º gennaio 2024 (successivamente alla conclusione dei negoziati sul regolamento sull'IA) e il 31 maggio 2025. In tale periodo l'AI Incidents and Hazards Monitor (AIM) dell'OCSE ha registrato complessivamente 3 791 incidenti.
3.3.2. Categorizzazione degli incidenti segnalati
(51)La prima fase dell'analisi è stata la categorizzazione di tutti i 3 791 incidenti segnalati in sei categorie, che comprendono:
1.incidenti che non rientrano nell'ambito di applicazione del regolamento sull'IA;
2.incidenti presumibilmente disciplinati dall'allegato I del regolamento sull'IA;
3.incidenti presumibilmente coperti dall'articolo 50 del regolamento sull'IA;
4.incidenti che presentano rischi ipotetici, senza che alla data della segnalazione abbiano causato alcun danno;
5.incidenti che sono (o possono essere) potenzialmente disciplinati dall'articolo 5 del regolamento sull'IA; e
6.incidenti che sono (o possono essere) potenzialmente disciplinati dall'allegato III del regolamento sull'IA.
(52)Sebbene i dati delle categorie da 1 a 4 siano stati raccolti al fine di comprendere meglio il panorama generale degli incidenti di IA, solo gli incidenti che rientrano nelle categorie 5 e 6 sono stati oggetto di un'analisi più approfondita, condotta secondo la metodologia utilizzata per la presente relazione e i criteri illustrati di cui sopra (sezione 2.1).
(53)Dall'analisi è emerso che quasi la metà di tutti gli incidenti segnalati nel periodo di tempo considerato non rientrava nell'ambito di applicazione del regolamento sull'IA o risultava disciplinata in misura sufficiente da altri strumenti dell'UE 31 . Inoltre è probabile che circa il 10 % degli incidenti segnalati fosse disciplinato dall'allegato I del regolamento sull'IA 32 e pertanto ci si aspetta che sia attenuato una volta che le norme del regolamento sull'IA entreranno in applicazione. Una parte degli incidenti segnalati risulta essere disciplinata dall'articolo 50 del regolamento sull'IA 33 e, analogamente, si può ragionevolmente ritenere che sarà attenuata quando questa parte del regolamento sull'IA entrerà in applicazione. Infine alcuni degli incidenti erano di natura ipotetica e sono stati pertanto esclusi dall'analisi successiva, la quale si è concentrata sui danni effettivi che si sono verificati o che erano ragionevolmente suscettibili di verificarsi a seguito dell'incidente.
(54)La Commissione ha indicato che circa il 30 % degli incidenti segnalati era rilevante ai fini di un'analisi più dettagliata. Di questi, circa due terzi rientravano nell'ambito di applicazione dell'articolo 5 del regolamento sull'IA o sono stati considerati pertinenti in misura tale da giustificare una valutazione del rispetto dei criteri per l'inclusione nell'elenco delle pratiche di IA vietate (sezione 2.1.1). La restante parte, ossia un terzo degli incidenti selezionati per un'analisi più dettagliata, potrebbe rientrare nelle rubriche settoriali di incidenti ad alto rischio elencate nell'allegato III del regolamento sull'IA 34 . Tuttavia è stato necessario verificare se tali incidenti fossero ricompresi nei casi d'uso ad alto rischio attualmente elencati nell'allegato III del regolamento sull'IA o, in caso contrario, se soddisfacessero i criteri per l'inclusione nel medesimo allegato (criteri illustrati nella sezione 2.1.2).
3.3.3. Valutazione degli incidenti individuati ai fini di un'ulteriore valutazione
(55)La seconda fase dell'analisi consisteva nel valutare se il 30 % degli incidenti segnalati e identificati come pertinenti per un'analisi più dettagliata fosse soggetto ai divieti di cui all'articolo 5 o ai casi d'uso elencati nell'allegato III del regolamento sull'IA. In caso contrario, la valutazione successiva mirava a determinare l'eventuale necessità di modificare tali disposizioni mediante l'aggiunta o la rimozione di casi d'uso pertinenti.
Incidenti che potrebbero rientrare nelle pratiche di IA vietate elencate all'articolo 5 del regolamento sull'IA
(56)Per quanto riguarda gli incidenti che potrebbero potenzialmente essere soggetti ai divieti di cui all'articolo 5 del regolamento sull'IA, una parte degli incidenti valutati risultava già contemplata da tale disposizione 35 . Alcuni degli incidenti non hanno potuto essere considerati né contemplati dai divieti di cui all'articolo 5 del regolamento sull'IA, né esclusi dagli stessi, a causa della mancanza di informazioni sufficienti per effettuare una valutazione concreta.
(57)La Commissione ha tuttavia individuato un numero considerevole di incidenti potenzialmente collegati alle pratiche vietate di cui all'articolo 5 del regolamento sull'IA, o assimilabili a pratiche analoghe con effetti particolarmente dannosi e abusivi, che non risultavano chiaramente contemplate dalla disposizione. Tali incidenti sono stati valutati secondo i criteri illustrati nella sezione 2.1.1. L'analisi ha condotto all'individuazione dei seguenti ambiti, segnalati dalla Commissione:
·sistemi di IA destinati a generare o in grado di generare nudi non consensuali e deep fake sessualmente espliciti che ritraggono persone reali, tra cui minori. La Commissione ha esaminato se i divieti esistenti per i sistemi di IA che utilizzano tecniche volutamente manipolative o ingannevoli (articolo 5, paragrafo 1, lettera a), del regolamento sull'IA), o che sfruttano le vulnerabilità dovute all'età, alla disabilità o a una specifica situazione sociale o economica (articolo 5, paragrafo 1, lettera b)), e che provocano un danno significativo possano riguardare i sistemi di IA che producono materiale pedopornografico e immagini sessualmente esplicite non consensuali. La Commissione ha concluso che tali pratiche non sono contemplate dall'articolo 5, paragrafo 1, lettera a), né dall'articolo 5, paragrafo 1, lettera b), del regolamento sull'IA, in quanto non prevedono la manipolazione dei minori e delle vittime finalizzata al loro coinvolgimento in comportamenti dannosi.
·Sistemi di IA destinati ad agevolare le truffe e le frodi finanziarie, che potrebbero rientrare nell'ambito di applicazione dell'articolo 5, paragrafo 1, lettere a) e b), del regolamento sull'IA, qualora siano soddisfatte le condizioni di tali disposizioni, inclusa la soglia di danno finanziario significativo. Ciò richiede anche necessariamente l'esistenza di un nesso causale plausibile tra il danno finanziario che si è verificato o è ragionevolmente prevedibile e l'uso del sistema di IA (ad esempio contenuti deep fake utilizzati per usurpare l'identità di un familiare). La Commissione ritiene importante valutare l'evoluzione delle prassi degli Stati membri nell'interpretazione del requisito del danno finanziario significativo e il modo in cui ciò inciderà sull'applicabilità dei divieti di cui all'articolo 5 del regolamento a tali pratiche di IA dannose e fraudolente.
Incidenti relativi a casi d'uso ad alto rischio di cui all'allegato III
(58)Dall'analisi degli incidenti che rientrano nei settori ad alto rischio di cui all'allegato III del regolamento sull'IA è emerso che una parte sostanziale era già probabilmente contemplata dai casi d'uso specifici elencati in tale allegato 36 . Inoltre per alcuni incidenti segnalati la valutazione ha indicato che non comportavano un livello di rischio di danno equivalente a quello associato ai casi d'uso già elencati nell'allegato III del regolamento sull'IA 37 . Una percentuale minore di incidenti non ha potuto essere classificata in modo definitivo a causa di informazioni insufficienti.
(59)È stato individuato un numero considerevole di incidenti che rientrano nelle rubriche settoriali elencate nell'allegato III del regolamento sull'IA; tuttavia tali incidenti non risultavano chiaramente riconducibili ai casi d'uso specifici attualmente indicati. Pertanto sono stati valutati sulla base dei criteri illustrati alla sezione 2.1.2. L'analisi ha condotto all'individuazione dei settori segnalati ai fini di un ulteriore monitoraggio e raccolta dei dati come segue.
·Un numero significativo di incidenti interessava le campagne di disinformazione politica, che rientrano tematicamente nel settore dell'amministrazione della giustizia e dei processi democratici di cui all'allegato III, punto 8, ma che non figurano chiaramente nei casi d'uso ivi elencati. Tali campagne hanno riguardato in larga misura video e immagini deep fake, i cui rischi sono già affrontati in una certa misura dall'articolo 50 del regolamento sull'IA. Inoltre parte di tali sistemi di IA può essere soggetta ai divieti di cui all'articolo 5, paragrafo 1, lettera a) o b), del regolamento sull'IA, purché siano soddisfatte tutte le condizioni ivi previste. Alcune delle questioni legate alla disinformazione politica sono altresì affrontate dal regolamento sui servizi digitali e dal regolamento relativo alla trasparenza e al targeting della pubblicità politica 38 . Ulteriori misure e iniziative sono previste nella comunicazione sullo scudo europeo per la democrazia 39 , di recente adozione. La Commissione valuterà e chiarirà ulteriormente nei futuri orientamenti sulla classificazione dei sistemi di IA ad alto rischio se una parte di tali pratiche di IA possa essere classificata come sistemi di IA destinati a essere utilizzati per influenzare l'esito di un'elezione o di un referendum o il comportamento di voto delle persone fisiche nell'esercizio del loro voto alle elezioni o ai referendum.
Conclusioni
(60)La presente relazione è elaborata dalla Commissione ed è destinata al Parlamento europeo e al Consiglio al fine di adempiere agli obblighi della Commissione di cui all'articolo 112, paragrafo 1, del regolamento sull'IA. I risultati in essa illustrati sono sottoposti all'esame di tali istituzioni.
(61)A seguito della valutazione effettuata applicando la metodologia obiettiva e partecipativa per il riesame di cui all'articolo 112, paragrafo 1, del regolamento sull'IA, la Commissione rileva e analizza ulteriormente una potenziale lacuna normativa per quanto riguarda i sistemi di IA che generano materiale pedopornografico e contenuti intimi non consensuali, che non sono vietati dall'articolo 5 del regolamento sull'IA. Poiché le disposizioni del regolamento sull'IA relative alle pratiche di IA vietate sono entrate in vigore il 2 febbraio 2025 e le norme in materia di esecuzione non sono ancora applicabili, la valutazione di altre pratiche di IA particolarmente dannose e abusive che sono contrarie ai valori e ai diritti fondamentali dell'UE è ancora in una fase precoce e manca l'esperienza pratica per quanto riguarda i divieti. Solo quando sarà trascorso almeno un anno dall'applicazione dei divieti e cominceranno ad emergere sfide comuni o lacune normative sarà possibile effettuare una valutazione più approfondita dell'applicazione dell'articolo 5 del regolamento sull'IA. Allo stesso modo, la valutazione del funzionamento delle norme relative ai sistemi di IA ad alto rischio e l'individuazione di potenziali lacune nell'uso di tali sistemi che presentano un alto rischio di pregiudicare la salute e la sicurezza o i diritti fondamentali risulteranno facilitate una volta pubblicati gli orientamenti della Commissione sulla classificazione dei sistemi di IA ad alto rischio e una volta acquisita sufficiente esperienza pratica. Si prevede inoltre che gli spazi di sperimentazione normativa istituiti conformemente al regolamento sull'IA fungeranno da meccanismo per trarre insegnamenti normativi e raccogliere elementi di prova che contribuiranno a individuare eventuali lacune normative e difficoltà nell'interpretazione. Sulla base degli elementi di prova raccolti e della valutazione effettuata nella presente relazione, la Commissione ha tuttavia segnalato specifici sistemi di IA da sottoporre a monitoraggio e ad analisi ulteriori nei successivi riesami.
(62)Nei prossimi anni le autorità di vigilanza del mercato incaricate di vigilare sull'applicazione del regolamento sull'IA sono incoraggiate a valutare se i divieti di cui all'articolo 5 del regolamento sull'IA sono adeguati ad affrontare le applicazioni dannose e specifiche con un elevato potenziale di abuso, attingendo alla loro esperienza pratica in materia di vigilanza ed esecuzione. Analogamente, una volta che le norme relative ai sistemi di IA ad alto rischio entreranno in applicazione e avrà inizio la loro esecuzione, occorrerà prestare particolare attenzione ai sistemi di IA che potrebbero rientrare in uno dei settori elencati nell'allegato III, ma che non sono esplicitamente menzionati nell'attuale elenco di casi d'uso ad alto rischio. Questi sforzi forniranno contributi fondati su dati concreti per le future relazioni della Commissione adottate ai sensi dell'articolo 112, paragrafo 1, del regolamento sull'IA e consentiranno alla Commissione stessa di valutare se l'ambito di applicazione dell'articolo 5 e dell'allegato III del regolamento sull'IA continua a essere adeguato nel tempo, aprendo in tal modo la strada a un riesame ben informato, obiettivo e basato su dati concreti e a un'eventuale revisione delle pertinenti disposizioni del regolamento sull'IA.
(63)Conformemente all'articolo 112, paragrafo 1, del regolamento sull'IA, l'elenco delle pratiche di IA vietate di cui all'articolo 5 e l'elenco dei casi d'uso dei sistemi ad alto rischio di cui all'allegato III del medesimo regolamento sono soggetti a riesame annuale fino alla fine del periodo di delega di potere di cui all'articolo 97 del regolamento sull'IA. La prossima valutazione della Commissione a norma dell'articolo 112 del regolamento sull'IA è pertanto prevista per il 2026 e, una volta completata, la Commissione pubblicherà le proprie conclusioni in una relazione.
(64)Per garantire una raccolta coerente e sistematica dei dati pertinenti in vista della valutazione del 2026, la Commissione intende coordinare gli sforzi di monitoraggio già in corso a livello nazionale e dell'UE. A tal fine l'Ufficio per l'IA coopererà con il consiglio per l'IA e con le autorità nazionali competenti degli Stati membri e consulterà, se del caso, i quadri di cooperazione già istituiti dei punti di contatto nazionali nei settori pertinenti. Particolare attenzione sarà riservata ai settori segnalati per un ulteriore monitoraggio e raccolta degli elementi di prova identificati nella presente relazione. Tuttavia saranno monitorati anche gli sviluppi tecnologici, nonché i potenziali cambiamenti pertinenti nell'uso dei sistemi di IA, il loro impatto e i rischi emergenti.
(65)Nel valutare se i rischi associati all'IA siano adeguatamente affrontati dalla normativa vigente dell'UE, una volta che l'esecuzione del regolamento sull'IA sarà iniziata e sarà stata acquisita esperienza pratica, l'analisi esaminerà in che modo il regolamento sull'IA interagisce con altri quadri dell'UE e li integra nell'affrontare i rischi per la salute, la sicurezza e i diritti fondamentali. Particolare attenzione sarà riservata alla coerenza e all'interazione pratica tra il regolamento sull'IA e strumenti quali il regolamento sui servizi digitali, il regolamento sulla governance dei dati, il regolamento relativo alla trasparenza e al targeting della pubblicità politica, nonché l'acquis in materia di tutela dei consumatori e libera circolazione di beni. Tale analisi dovrebbe avere lo scopo di stabilire in che misura le norme orizzontali, gli obblighi specifici per settore, i meccanismi di governance dei dati e le garanzie relative ai prodotti contribuiscano collettivamente ad attenuare i rischi pertinenti, fornendo in tal modo indicazioni sulla necessità di un ulteriore intervento normativo.
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull'intelligenza artificiale (regolamento sull'intelligenza artificiale) (GU L, 2024/1689, 12.7.2024).
Nel pacchetto omnibus digitale sull'IA, la Commissione ha proposto di allineare il calendario delle norme sull'IA ad alto rischio alla disponibilità di norme e altri strumenti di sostegno. Una volta che la Commissione avrà confermato che questi sono disponibili in misura sufficiente, le norme entreranno in applicazione dopo un periodo di transizione di 6 mesi per i sistemi di IA ad alto rischio di cui all'allegato III e, in ogni caso, non oltre il 2 dicembre 2027. Questo punto è tuttora in fase di negoziazione ed è subordinato all'accordo tra il Parlamento europeo e il Consiglio. Per maggiori dettagli, cfr. la proposta di regolamento del Parlamento europeo e del Consiglio che modifica i regolamenti (UE) 2024/1689 e (UE) 2018/1139 per quanto riguarda la semplificazione dell'attuazione di regole armonizzate sull'intelligenza artificiale (regolamento omnibus digitale sull'IA). {SWD(2025) 836 final}, Bruxelles, 19.11.2025, COM(2025) 836 final, 2025/0359 (COD).
Consultabile al link: La Commissione pubblica gli orientamenti sulle pratiche vietate di intelligenza artificiale (IA), quali definite dalla legge sull'IA. | Plasmare il futuro digitale dell'Europa
Carta dei diritti fondamentali dell'Unione europea. GU C 326 del 26.10.2012, pag. 391.
Cfr. a tale proposito le sezioni 2.8, 3.6, 4.4, 5.4, 6.4 e 8.4 degli orientamenti sulle pratiche di IA vietate.
Sistemi di IA ad alto rischio diversi da quelli che sono componenti di sicurezza di prodotti, o sono essi stessi prodotti, classificati come ad alto rischio a norma dell'articolo 6, paragrafo 1.
In particolare, sono state presentate agli Stati membri questioni relative alla necessità di riesaminare l'elenco dei casi d'uso di cui all'allegato III e l'elenco delle pratiche di IA vietate di cui all'articolo 5 del regolamento sull'IA nel corso della quarta riunione del sottogruppo del consiglio per l'IA sui divieti, tenutasi il 13 maggio 2025; della terza riunione del sottogruppo del consiglio per l'IA sui sistemi di IA ad alto rischio di cui all'allegato III, tenutasi il 16 maggio 2025; della terza riunione del sottogruppo del consiglio per l'IA sull'allegato III in materia di contrasto e sicurezza, tenutasi il 5 giugno 2025; e della seconda riunione del sottogruppo del consiglio per l'IA nel settore dei servizi finanziari, tenutasi il 13 maggio 2025.
Ad esempio la legislazione dell'UE in materia di cibersicurezza (da atti giuridici recenti, cfr. regolamento dell'UE sulla cibersolidarietà), la direttiva 2013/40/UE relativa agli attacchi contro i sistemi di informazione e che sostituisce la decisione quadro 2005/222/GAI del Consiglio.
Come indicato in precedenza, gli orientamenti della Commissione sui sistemi di IA ad alto rischio saranno pubblicati soltanto nel 2026. Di conseguenza le valutazioni di sistemi concreti di IA ad alto rischio individuati dagli Stati membri, dai portatori di interessi o mediante le banche dati sugli incidenti di IA si basano esclusivamente sul testo del regolamento sull'IA. A causa della scarsità di orientamenti disponibili al momento, non è stato sempre possibile effettuare valutazioni concrete e tali casi sono stati segnalati per un ulteriore monitoraggio.
Preoccupazioni analoghe sono state espresse anche da vari portatori di interessi (cfr. sezione 3.2).
Se un chatbot è commercializzato come strumento per affrontare specifiche condizioni di salute mentale o per guidare gli utenti attraverso interventi terapeutici, rientrerebbe probabilmente nell'ambito di applicazione del regolamento sui dispositivi medici, in quanto può essere considerato un software destinato al trattamento o all'attenuazione di malattie (articolo 2, paragrafo 1, del regolamento sui dispositivi medici). Regolamento (UE) 2017/745 del Parlamento europeo e del Consiglio, del 5 aprile 2017, relativo ai dispositivi medici, che modifica la direttiva 2001/83/CE, il regolamento (CE) n. 178/2002 e il regolamento (CE) n. 1223/2009 e che abroga le direttive 90/385/CEE e 93/42/CEE del Consiglio. GU L 117 del 5.5.2017, pag. 1.
Ad esempio i chatbot di IA per l'auto-aiuto con funzionalità di riconoscimento delle emozioni. I sistemi di IA destinati a essere utilizzati per il riconoscimento delle emozioni sono classificati come ad alto rischio a norma dell'allegato III, punto 1, lettera c).
Commission launches public consultation on high-risk AI systems | Portale europeo della giustizia elettronica .
Un totale di 409 rispondenti ha dichiarato di rappresentare un'organizzazione. Tra questi, il gruppo più numeroso era costituito da rappresentanti di imprese (150 risposte), seguito da associazioni (93 risposte) e da coloro che hanno selezionato "altra organizzazione" (81 risposte). Le organizzazioni o associazioni della società civile hanno fornito 56 risposte, mentre gli istituti di ricerca (11 risposte), le università (7 risposte), i gruppi di riflessione (6 risposte) e le organizzazioni dei consumatori (5 risposte) hanno costituito la minoranza delle organizzazioni. Un totale di 138 rispondenti ha dichiarato di agire a titolo individuale. Tra questi ultimi, i gruppi più consistenti hanno indicato di essere altri esperti indipendenti o organizzazioni con competenze pertinenti (35), fornitori di sistemi di IA (34) e rappresentanti del mondo accademico (28), mentre 14 hanno selezionato "altro" e 13 sono stati identificati come deployer di un sistema di IA. Altri rispondenti che hanno indicato di agire a titolo personale hanno segnalato un legame con un'organizzazione della società civile (7), altri operatori (3), un'associazione d'imprese (2) o un'autorità di controllo (2).
Sia i rispondenti che hanno esplicitamente espresso questa opinione nelle proprie risposte sia coloro che non hanno formulato osservazioni sulla domanda in questione sono stati considerati a favore dell'attuale elenco di divieti.
Poco più del 10 % dei rispondenti.
Ad esempio suggerimenti relativi al divieto d'uso di sistemi di IA nella gestione della migrazione; cloni vocali nelle applicazioni di IA rivolte ai consumatori; oppure identità generate dall'IA utilizzate per i messaggi politici.
Tranne nei casi in cui l'uso del sistema di IA è destinato a essere messo in servizio o immesso sul mercato per motivi medici o di sicurezza.
Direttiva 2005/29/CE del Parlamento europeo e del Consiglio, dell'11 maggio 2005, relativa alle pratiche commerciali sleali tra imprese e consumatori nel mercato interno e che modifica la direttiva 84/450/CEE del Consiglio e le direttive 97/7/CE, 98/27/CE e 2002/65/CE del Parlamento europeo e del Consiglio e il regolamento (CE) n. 2006/2004 del Parlamento europeo e del Consiglio ("direttiva sulle pratiche commerciali sleali"). GU L 149 dell'11.6.2005, pag. 22.
Regolamento (UE) 2022/2065 del Parlamento europeo e del Consiglio, del 19 ottobre 2022, relativo a un mercato unico dei servizi digitali e che modifica la direttiva 2000/31/CE (regolamento sui servizi digitali). GU L 277 del 27.10.2022, pag. 1.
Sia i rispondenti che hanno esplicitamente espresso questa opinione nelle proprie risposte sia coloro che non hanno formulato osservazioni sulla questione sono stati considerati a favore dell'attuale elenco di casi d'uso dell'IA ad alto rischio di cui all'allegato III.
Circa il 20 % dei rispondenti.
Ad esempio, proposte relative all'inclusione di specifici sistemi biometrici come sistemi ad alto rischio (già contemplati al punto 1 dell'allegato III).
Ad esempio, i sistemi di IA progettati per i fornitori di servizi online al fine di garantire che i servizi di media audiovisivi di interesse pubblico ricevano un'adeguata visibilità; alcuni sistemi di IA utilizzati nell'allevamento di bestiame.
Ad esempio, preoccupazioni espresse in merito a specifici sistemi di IA utilizzati nel campo dell'occupazione e del riconoscimento delle emozioni.
Il regolamento sui servizi digitali vieta la progettazione manipolativa delle interfacce (percorsi oscuri) e obbliga i fornitori di piattaforme online di dimensioni molto grandi e di motori di ricerca online di dimensioni molto grandi a individuare, valutare e analizzare gli eventuali rischi sistemici derivanti dalla progettazione o dal funzionamento dei loro servizi e dei relativi sistemi, compresi i sistemi algoritmici (articolo 34 del regolamento sui servizi digitali). I fornitori sono inoltre tenuti ad adottare misure di attenuazione ragionevoli, proporzionate ed efficaci, che possono comprendere la sperimentazione e l'adeguamento dei loro sistemi algoritmici (articolo 35 del regolamento sui servizi digitali). Il regolamento sui servizi digitali impone inoltre ai fornitori di piattaforme online accessibili ai minori di adottare misure adeguate e proporzionate per garantire un elevato livello di tutela della vita privata, di sicurezza e di protezione dei minori sul loro servizio (articolo 28, paragrafo 1, del regolamento sui servizi digitali). Regolamento (UE) 2022/2065 del Parlamento europeo e del Consiglio, del 19 ottobre 2022, relativo a un mercato unico dei servizi digitali e che modifica la direttiva 2000/31/CE (regolamento sui servizi digitali). GU L 277 del 27.10.2022, pag. 1.
Quali i principi relativi al trattamento dei dati e i diritti degli interessati sanciti dal GDPR che sarebbero applicabili in relazione a un sistema di IA, ad esempio quando i dati personali sono utilizzati per sviluppare un sistema di IA o quando tali dati sono dati di entrata o di uscita durante l'impiego del sistema. Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati). GU L 119 del 4.5.2016, pag. 1.
Disponibile all'indirizzo https://airisk.mit.edu/.
La banca dati si articola in tre componenti: i) la banca dati sui rischi legati all'IA; ii) la tassonomia causale dei rischi legati all'IA (classificazione in base a come, quando e perché si verificano tali rischi); e iii) la tassonomia per domini dei rischi basati sull'IA (classificazione dei rischi legati all'IA in 7 domini (ad esempio "misinformazione") e 24 sottodomini (ad esempio "informazioni false o fuorvianti").
Tali incidenti riguardavano generalmente questioni coperte da altre normative pertinenti dell'UE, come le violazioni della riservatezza dei dati, disciplinate dal GDPR. Inoltre molti di questi incidenti riguardavano controversie riguardanti il diritto d'autore, coperte da strumenti quali la normativa UE in materia di diritto d'autore. Inoltre molti incidenti riguardavano settori che rientrano nelle competenze degli Stati membri, come l'uso dell'IA nelle applicazioni militari.
Tali incidenti riguardavano principalmente i danni derivanti dall'uso dell'IA nei dispositivi medici o nei veicoli a guida autonoma.
Tali incidenti riguardano i deepfake privi di filigrane apposite o di altre misure di trasparenza.
Più comunemente, tali incidenti riguardavano l'uso dell'IA per l'identificazione biometrica nelle attività di contrasto, nella gestione del controllo delle frontiere, nei servizi essenziali, negli istituti di istruzione e formazione professionale, nonché nell'amministrazione della giustizia e nei processi democratici.
Tali incidenti, potenzialmente contemplati dall'articolo 5 del regolamento sull'IA, riguardavano vari ambiti, quali l'identificazione biometrica in tempo reale o il riconoscimento delle emozioni sul luogo di lavoro.
Gli incidenti nel settore della biometria (allegato III, punto 1) spesso riguardavano i sistemi di IA utilizzati nelle telecamere di sorveglianza per il riconoscimento facciale a distanza al fine di identificare i sospetti. Nel settore dell'occupazione, gli incidenti individuati erano legati a sistemi di IA utilizzati per ottimizzare i processi di assunzione e licenziamento, come la scansione dei CV o la sorveglianza dei dipendenti sulle piattaforme utilizzate sul luogo di lavoro. Nel settore dell'accesso ai servizi essenziali e della loro fruizione, gli incidenti segnalati hanno spesso riguardato l'uso di un algoritmo basato sull'IA per segnalare le persone che ricevevano indennità di alloggio perché sospettate di frode, portando a indagini non necessarie e a violazioni dei diritti. Per quanto riguarda il settore delle attività di contrasto, gli incidenti pertinenti comprendevano l'uso dell'IA per valutare i rischi cui sono esposte le vittime di violenza domestica. Per quanto concerne la gestione del controllo delle frontiere, gli incidenti pertinenti riguardavano il tracciamento e l'identificazione facciale dei migranti tramite telecamere.
Diversi incidenti comportavano l'uso di telecamere dotate di IA e utilizzate per rilevare infrazioni stradali o per monitorare la densità della folla e garantire la sicurezza durante eventi pubblici. Tali applicazioni di IA riguardano le attività di contrasto; tuttavia non sembrano presentare un rischio di danno equivalente o superiore al rischio di danno o di impatto negativo posto da altri sistemi di IA ad alto rischio già elencati nell'allegato II, punto 6. Ciò è principalmente dovuto al fatto che generalmente si tratta di illeciti amministrativi, le cui conseguenze sono meno invasive rispetto a quelle collegate ai reati, oppure sono impiegate per garantire la sicurezza senza effetti diretti sui diritti fondamentali. Di conseguenza tali casi d'uso dell'IA attualmente non richiedono una modifica dell'allegato III.
Regolamento (UE) 2024/900 del Parlamento europeo e del Consiglio, del 13 marzo 2024, relativo alla trasparenza e al targeting della pubblicità politica. GU L, 2024/900, 20.3.2024.
Comunicazione congiunta al Parlamento europeo, al Consiglio, al Comitato economico e sociale europeo e al Comitato delle regioni. Scudo europeo per la democrazia a puntello di democrazie solide e resilienti. Bruxelles, 12.11.2025. JOIN(2025) 791 final.