COMMISSIONE EUROPEA
Bruxelles, 3.6.2025
COM(2025) 265 final
2025/0136(NLE)
Proposta di
DECISIONE DEL CONSIGLIO
relativa alla conclusione, a nome dell'Unione europea, della convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto
RELAZIONE
(1)CONTESTO DELLA PROPOSTA
•Motivi e obiettivi della proposta
Con il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale ("regolamento sull'IA") 1 , l'Unione ha adottato il primo regolamento generale sull'intelligenza artificiale ("IA"), definendo una norma a livello mondiale. Il regolamento sull'IA, entrato in vigore il 1° agosto 2024, comporta un'armonizzazione completa delle regole per l'immissione sul mercato, la messa in servizio e l'uso dei sistemi di IA negli Stati membri 2 , con l'obiettivo di promuovere l'innovazione e l'adozione di un'IA affidabile, proteggendo al tempo stesso la salute, la sicurezza e i diritti fondamentali, compresi la democrazia, lo Stato di diritto e l'ambiente.
Anche varie organizzazioni internazionali, fra cui il Consiglio d'Europa, hanno intensificato gli sforzi per la regolamentazione dell'IA, riconoscendo la natura transfrontaliera dell'IA e la necessità di una cooperazione internazionale volta ad affrontare le sfide comuni poste da tali tecnologie.
Tra giugno 2022 e marzo 2024 il Comitato sull'intelligenza artificiale (CAI) 3 del Consiglio d'Europa ha elaborato una convenzione quadro giuridicamente vincolante (di seguito "convenzione") per affrontare i potenziali rischi che l'IA comporta per i diritti umani, la democrazia e lo Stato di diritto.
Il 17 maggio 2024 il Comitato dei Ministri del Consiglio d'Europa ha adottato il testo della convenzione 4 , ha convenuto di aprire la convenzione alla firma a Vilnius (Lituania) il 5 settembre 2024 e ha invitato i membri del Consiglio d'Europa, altri paesi terzi che hanno partecipato alla sua elaborazione e l'Unione a valutare la possibilità di firmarla in tale circostanza, ricordando nel contempo che alla convenzione possono aderire anche altri Stati terzi 5 .
L'Unione ha firmato la convenzione il 5 settembre 2024, a seguito dell'adozione della decisione (UE) 2024/2218 del Consiglio, del 28 agosto 2024, relativa alla firma, a nome dell'Unione europea, della convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto 6 . In tale occasione la convenzione è stata firmata anche da Andorra, Georgia, Islanda, Israele, Montenegro, Norvegia, Regno Unito, Repubblica di Moldova, San Marino e Stati Uniti d'America. Essa è aperta alla firma, in qualsiasi momento, da parte di altri membri del Consiglio d'Europa e di Stati terzi che hanno partecipato alla sua elaborazione. Dopo la sua entrata in vigore, il Comitato dei Ministri del Consiglio d'Europa può, fatta salva la procedura di cui all'articolo 31 della convenzione, invitare qualsiasi Stato non membro del Consiglio d'Europa che non abbia partecipato all'elaborazione della convenzione ad aderirvi.
In tale contesto, lo scopo della presente proposta di decisione del Consiglio è avviare il processo per la conclusione della convenzione a nome dell'Unione secondo i termini stabiliti nella decisione 2024/2218 del Consiglio che ne autorizza la firma. La conclusione del primo accordo internazionale sull'IA offre all'Unione una preziosa opportunità per promuovere un approccio comune in materia di regolamentazione dell'IA a livello internazionale e fornire un quadro per la cooperazione con i membri del Consiglio d'Europa e i paesi terzi che diventano parti della convenzione.
·Contenuto della convenzione
L'obiettivo della convenzione è garantire che le attività che rientrano nel ciclo di vita dei sistemi di IA siano pienamente coerenti con i diritti umani, la democrazia e lo Stato di diritto.
Le parti della convenzione dovranno attuarla mediante opportune misure legislative, amministrative o di altro tipo al fine di dare efficacia alle sue disposizioni, seguendo un approccio graduale e differenziato, in funzione della gravità degli impatti negativi e della probabilità che si verifichino. La convenzione dovrebbe essere attuata nell'Unione esclusivamente attraverso il regolamento sull'IA, che comporta l'armonizzazione completa delle regole per l'immissione sul mercato, la messa in servizio e l'uso dei sistemi di IA, e altre disposizioni pertinenti dell'acquis dell'Unione, ove applicabili.
L'ambito di applicazione della convenzione comprende i sistemi di IA che potrebbero interferire con i diritti umani, la democrazia e lo Stato di diritto, seguendo un approccio differenziato. I principi e gli obblighi previsti dalla convenzione si applicheranno alle attività che rientrano nel ciclo di vita dei sistemi di IA svolte dalle autorità pubbliche o da attori privati che agiscono per loro conto. Per quanto riguarda il settore privato, le parti sono tenute ad affrontare i rischi e gli impatti che derivano dalle attività svolte da attori privati nell'ambito del ciclo di vita dei sistemi di IA in modo conforme all'oggetto e alla finalità della convenzione, ma hanno la facoltà di scegliere se applicare gli obblighi della convenzione o adottare altre misure adeguate. Alla presente proposta di decisione del Consiglio è allegato un progetto di dichiarazione che impegna l'Unione, attraverso il regolamento sull'IA e altre disposizioni pertinenti dell'acquis, ad applicare i principi e gli obblighi di cui ai capi da II a VI della convenzione alle attività degli attori privati che immettono sul mercato, mettono in servizio e utilizzano sistemi di IA nell'Unione.
Le attività di IA connesse alla sicurezza nazionale sono escluse dall'ambito di applicazione della convenzione, fermo restando che, in ogni caso, tali attività devono essere condotte in modo coerente con il diritto internazionale applicabile in materia di diritti umani e nel rispetto delle istituzioni e dei processi democratici. La convenzione esclude anche le attività di ricerca e sviluppo connesse a sistemi di IA non ancora messi a disposizione per l'uso, salvo che le prove o attività analoghe possano interferire con i diritti umani, la democrazia e lo Stato di diritto. In linea con lo statuto del Consiglio d'Europa, le questioni relative alla difesa nazionale non rientrano nell'ambito di applicazione della convenzione.
La convenzione prevede inoltre una serie di obblighi generali e di principi fondamentali, tra cui la tutela della dignità umana e dell'autonomia individuale, nonché la promozione dell'uguaglianza e della non discriminazione. Impone inoltre il rispetto della vita privata e la protezione dei dati personali, nonché la trasparenza e la sorveglianza al fine di garantire responsabilità e rendicontabilità. Inoltre un principio è dedicato all'innovazione sicura e alla sperimentazione in ambienti controllati.
Un apposito capitolo sui mezzi di ricorso prevede inoltre una serie di misure volte a garantire la disponibilità di mezzi di ricorso accessibili ed efficaci per le violazioni dei diritti umani derivanti dalle attività che rientrano nel ciclo di vita dei sistemi di IA e comprende altresì garanzie e tutele procedurali efficaci per le persone i cui diritti sono stati significativamente compromessi dall'uso di sistemi di IA. Inoltre le persone dovrebbero ricevere una notifica quando sono esposte a un sistema di IA e non stanno interagendo con un essere umano.
La convenzione comprende anche un capitolo sulle misure destinate alla valutazione e all'attenuazione dei rischi e degli impatti negativi da condurre in modo iterativo, onde individuare gli impatti effettivi e potenziali sui diritti umani, sulla democrazia e sullo Stato di diritto e adottare adeguate misure di prevenzione e attenuazione.
La convenzione prevede altresì che le parti valutino la necessità di divieti o moratorie su talune applicazioni dei sistemi di IA considerate incompatibili con il rispetto dei diritti umani, il funzionamento della democrazia o lo Stato di diritto.
La convenzione prevede un meccanismo di follow-up nell'ambito di una conferenza delle parti, composta da rappresentanti delle parti che si consulteranno periodicamente al fine di agevolare l'uso e l'attuazione efficaci della convenzione.
La convenzione prevede inoltre un meccanismo di cooperazione internazionale sia tra le parti della convenzione sia nelle relazioni con i paesi terzi e i pertinenti portatori di interessi, al fine di conseguire la finalità della convenzione.
Ciascuna parte dovrebbe inoltre istituire o designare a livello interno uno o più meccanismi efficaci per vigilare sul rispetto degli obblighi previsti dalla convenzione, come attuata dalle parti.
•Coerenza con le disposizioni vigenti nel settore normativo interessato
La convenzione stabilisce principi e obblighi generali per la protezione dei diritti umani, della democrazia e dello Stato di diritto che sono pienamente coerenti e in linea con gli obiettivi del regolamento sull'IA e con le prescrizioni dettagliate per i sistemi di IA e gli obblighi imposti ai fornitori e ai deployer di tali sistemi.
La definizione di sistema di IA di cui alla convenzione è pienamente allineata alla definizione contenuta nel regolamento sull'IA, in quanto entrambe si basano sulla definizione di tali sistemi contenuta nei principi per l'IA 7 dell'Organizzazione per la cooperazione e lo sviluppo economici, garantendo in tal modo un'interpretazione comune quanto alle tecnologie digitali che fanno parte dell'IA.
Sia la convenzione che il regolamento sull'IA seguono anche un approccio basato sul rischio per la regolamentazione dei sistemi di IA e contengono disposizioni specifiche per quanto riguarda le valutazioni del rischio e dell'impatto e le misure di attenuazione dei rischi. Il regolamento sull'IA comprende, in particolare, una serie di divieti pertinenti e casi d'uso ad alto rischio per i sistemi di IA in tutti i settori pubblici e privati, compreso il settore della democrazia e della giustizia. Le norme e le procedure dettagliate del regolamento sull'IA per lo sviluppo, l'immissione sul mercato e la diffusione dei sistemi di IA in tali settori garantiranno pertanto il rispetto dei diritti fondamentali, della democrazia e dello Stato di diritto durante l'intero ciclo di vita dell'IA.
La convenzione comprende principi e obblighi già contemplati dal regolamento sull'IA, quali misure per proteggere i diritti umani, la sicurezza e l'affidabilità, la responsabilità e la rendicontabilità, la governance dei dati e la protezione dei dati, la trasparenza e la sorveglianza, l'uguaglianza e la non discriminazione, le competenze e l'alfabetizzazione digitali.
La trasparenza è un altro elemento comune di entrambi gli strumenti giuridici, comprese le misure relative all'identificazione dei contenuti generati dall'IA e all'invio di notifiche alle persone esposte a sistemi di IA. Entrambi gli strumenti giuridici contengono anche disposizioni pertinenti sulle valutazioni del rischio e dell'impatto e in materia di gestione del rischio, conservazione delle registrazioni, divulgazione (agli organismi e alle autorità autorizzati e, se del caso, alle persone interessate), tracciabilità e spiegabilità, innovazione sicura e sperimentazione in ambienti controllati, e una serie di misure per consentire mezzi di ricorso efficaci, compreso il diritto di chiedere e ottenere informazioni e di presentare un reclamo a un'autorità competente, e garanzie procedurali.
Il sistema di sorveglianza previsto dalla convenzione è inoltre pienamente coerente con il sistema globale di governance e applicazione del regolamento sull'IA, che consiste nell'applicazione a livello nazionale e dell'Unione, con procedure per l'attuazione coerente delle norme dell'Unione negli Stati membri. In particolare, la convenzione prevede uno o più meccanismi di sorveglianza efficaci a livello interno che devono esercitare le loro funzioni in modo indipendente e imparziale e disporre dei poteri, delle competenze e delle risorse necessari per svolgere efficacemente i compiti di sorveglianza sul rispetto degli obblighi previsti dalla convenzione, come attuata dalle parti.
Mentre il regolamento sull'IA si applicherà ai sistemi di IA immessi sul mercato, messi in servizio o utilizzati nell'Unione, la convenzione ha una portata geografica più ampia che comprende i membri del Consiglio d'Europa e gli Stati terzi in tutto il mondo che possono diventare parti della convenzione. La convenzione rappresenta pertanto un'opportunità unica per promuovere un'IA affidabile al di fuori dell'Unione con un primo trattato internazionale giuridicamente vincolante fondato su un approccio alla regolamentazione dell'IA saldamente incentrato sui diritti umani.
Sia la convenzione sia il regolamento sull'IA sono parte integrante di un approccio normativo all'IA caratterizzato da impegni coerenti e sinergici a molteplici livelli in ambito internazionale e condividono l'obiettivo comune di garantire un'IA affidabile.
•Coerenza con le altre normative dell'Unione
La convenzione condivide inoltre obiettivi comuni con altre politiche e normative dell'Unione volte ad attuare i diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell'Unione europea 8 .
In particolare, il principio di uguaglianza e di non discriminazione sancito dalla convenzione è pienamente coerente con la legislazione dell'Unione in materia di non discriminazione e promuoverà l'integrazione di considerazioni relative all'uguaglianza nella progettazione, nello sviluppo e nell'uso dei sistemi di IA e nell'efficace attuazione del divieto di discriminazione, come previsto dal diritto internazionale e dal diritto interno applicabili delle parti.
La convenzione è inoltre coerente con l'acquis dell'Unione in materia di protezione dei dati, compreso il regolamento generale sulla protezione dei dati 9 in relazione ai diritti fondamentali alla tutela della vita privata e alla protezione dei dati personali, prevedendo l'istituzione di garanzie e tutele efficaci per le persone fisiche, in linea con gli obblighi giuridici interni e internazionali applicabili delle parti.
Le misure previste dalla convenzione per proteggere i processi democratici delle parti nel contesto delle attività che rientrano nel ciclo di vita del sistema di IA sono pienamente coerenti con gli obiettivi e le norme dettagliate del regolamento sui servizi digitali 10 (e il codice di condotta sulla disinformazione 11 ), che disciplina la prestazione di servizi intermediari nell'Unione al fine di garantire un ambiente online sicuro, prevedibile e affidabile in cui siano rispettati i diritti fondamentali, compreso il diritto alla libertà di espressione e il diritto di ricevere e diffondere informazioni. Sono inoltre coerenti con il regolamento relativo alla trasparenza e al targeting della pubblicità politica 12 , che prevede un obbligo specifico di trasparenza nel caso in cui siano utilizzati sistemi di IA per diffondere messaggi di pubblicità politica. Le misure sono inoltre coerenti con le politiche dell'Unione in materia di democrazia ed elezioni libere, eque e resilienti 13 , compresi il piano d'azione per la democrazia europea del 2020 14 , il pacchetto "Rafforzare la democrazia e l'integrità delle elezioni" 15 e, di recente, il pacchetto per la difesa della democrazia 16 del 2023.
La convenzione è coerente con la strategia digitale globale dell'Unione nel contesto del suo contributo alla promozione della tecnologia al servizio delle persone, uno dei tre pilastri principali dell'orientamento politico e degli obiettivi annunciati nella comunicazione della Commissione "Plasmare il futuro digitale dell'Europa" 17 . Quest'ultima mira ad assicurare che l'IA sia sviluppata secondo modalità che rispettano i diritti delle persone e ne guadagnano la fiducia, rendendo l'Europa adatta all'era digitale e trasformando i prossimi anni nel decennio digitale 18 .
Inoltre la dichiarazione europea sui diritti e i principi digitali per il decennio digitale 19 contempla diversi diritti e principi digitali che sono in linea con gli obiettivi e i principi della convenzione, ed entrambi gli strumenti promuovono un approccio alla tecnologia saldamente incentrato sui diritti umani.
La convenzione è inoltre coerente con la strategia dell'UE sui diritti dei minori 20 e con la strategia europea per un'internet migliore per i ragazzi (BIK+) 21 , che mirano a garantire che i minori siano protetti, rispettati e dotati di autonomia e responsabilità online per far fronte alle sfide poste dai nuovi mondi virtuali e dall'IA.
2.BASE GIURIDICA, SUSSIDIARIETÀ E PROPORZIONALITÀ
•Base giuridica
La proposta di decisione che autorizza la conclusione della convenzione a nome dell'Unione è presentata al Consiglio a norma dell'articolo 218, paragrafo 6, lettera a), punto v), TFUE.
La base giuridica procedurale della decisione del Consiglio, vale a dire l'articolo 218, paragrafo 6, lettera a), punto v), TFUE, prevede che il Consiglio adotti una decisione relativa alla conclusione dell'accordo su proposta della Commissione in qualità di negoziatore; nel caso di un accordo che riguarda un settore al quale si applica la procedura legislativa ordinaria, previa approvazione del Parlamento europeo. L'articolo 218, paragrafo 8, primo comma, TFUE prevede il voto a maggioranza qualificata per l'adozione della decisione del Consiglio.
La base giuridica sostanziale di una decisione di cui all'articolo 218, paragrafo 6, lettera a), punto v), TFUE dipende essenzialmente dall'obiettivo e dal contenuto dell'accordo. Secondo la giurisprudenza, se l'esame di un atto dell'UE dimostra che esso persegue una duplice finalità o che possiede una doppia componente e se una di tali finalità o componenti è identificabile come principale o preponderante, mentre l'altra è solo accessoria, l'atto deve fondarsi su una sola base giuridica, ossia su quella richiesta dalla finalità o dalla componente principale o preponderante. In via eccezionale, qualora sia dimostrato, per contro, che l'atto persegue contemporaneamente più obiettivi o ha più componenti tra loro inscindibili, di cui nessuna sia accessoria rispetto alle altre, di modo che siano applicabili diverse disposizioni del Trattato, l'atto deve fondarsi sulle varie basi giuridiche corrispondenti.
Per quanto riguarda la base giuridica sostanziale, l'ambito di applicazione materiale della convenzione rientra nell'ambito di applicazione del regolamento sull'IA, anche in relazione all'esenzione dall'ambito di applicazione dei sistemi di IA utilizzati esclusivamente per attività di ricerca e sviluppo, di sicurezza nazionale e militari. L'analisi di cui sopra ha inoltre dimostrato che i principi e gli obblighi della convenzione sono in larga misura contemplati e si sovrappongono alle prescrizioni più dettagliate per i sistemi di IA e agli obblighi specifici dei fornitori e dei deployer di tali sistemi stabiliti dal regolamento sull'IA. Se il Consiglio adotterà la decisione proposta e l'Unione concluderà la convenzione, il regolamento sull'IA costituirà il diritto primario dell'UE per l'attuazione della convenzione nell'ordinamento giuridico dell'UE con regole completamente armonizzate in materia di immissione sul mercato, messa in servizio e uso dei sistemi di IA nell'Unione direttamente applicabili in tutti gli Stati membri, salvo che il regolamento sull'IA non disponga espressamente altrimenti 22 .
Considerando che l'ambito di applicazione e gli obiettivi della convenzione sono in linea e pienamente coerenti con quelli del regolamento sull'IA e che vi è una notevole sovrapposizione tra i due strumenti, la base giuridica sostanziale per la conclusione della convenzione è l'articolo 114 TFUE, che è la base giuridica primaria del regolamento sull'IA.
La natura degli accordi internazionali ("che riguarda la sola UE" o "misti") dipende dalla compatibilità dell'oggetto specifico con le competenze esclusive o condivise dell'UE.
L'articolo 3, paragrafo 2, TFUE stabilisce che l'Unione ha competenza esclusiva "per la conclusione di accordi internazionali […] nella misura in cui può incidere su norme comuni o modificarne la portata". Un accordo internazionale può incidere su norme comuni o modificarne la portata qualora il settore contemplato dall'accordo si sovrapponga al diritto dell'Unione o sia in gran parte disciplinato da esso 23 .
L'ambito di applicazione personale della convenzione è pienamente allineato al regolamento sull'IA in quanto entrambi gli strumenti giuridici riguardano, in linea di principio, sia attori pubblici che attori privati (con l'applicazione facoltativa dei principi e degli obblighi della convenzione nei confronti di attori privati diversi da quelli che agiscono per conto delle autorità pubbliche), mentre l'ambito di applicazione materiale di entrambi gli strumenti giuridici esclude, dalle regole applicabili, le attività di IA esclusivamente connesse alla sicurezza nazionale, al settore militare e alla ricerca.
Poiché l'ambito di applicazione personale e materiale della convenzione si sovrappone a quello del regolamento sull'IA, la conclusione della convenzione può incidere su norme comuni dell'Unione o modificarne la portata ai sensi dell'articolo 3, paragrafo 2, TFUE. Di conseguenza si dovrebbe ritenere che l'Unione disponga di una competenza esterna esclusiva per la conclusione della convenzione e la convenzione dovrebbe essere conclusa a nome dell'Unione come accordo "che riguarda la sola UE", in quanto è stata firmata conformemente all'autorizzazione di cui alla decisione (UE) 2024/2218 del Consiglio.
•Proporzionalità
La convenzione non va al di là di quanto necessario per conseguire gli obiettivi strategici che sviluppano un approccio coerente alla regolamentazione dell'IA a livello internazionale.
La convenzione stabilisce un quadro giuridico di alto livello per l'IA che lascia spazio alla flessibilità, consentendo alle parti di progettare concretamente i quadri di attuazione. L'approccio basato sul rischio garantisce inoltre la proporzionalità delle norme e consente una differenziazione delle misure di attuazione proporzionata ai rischi, in modo analogo al regolamento sull'IA.
•Scelta dell'atto giuridico
L'atto giuridico prescelto è una proposta di decisione del Consiglio a norma dell'articolo 218, paragrafo 6, lettera a), punto v), TFUE.
3.RISULTATI DELLE VALUTAZIONI EX POST, DELLE CONSULTAZIONI DEI PORTATORI DI INTERESSI E DELLE VALUTAZIONI D'IMPATTO
•Diritti fondamentali
La convenzione mira ad affrontare i potenziali rischi e danni per i diritti umani garantendo che le attività che rientrano nel ciclo di vita dei sistemi di IA siano in linea con i principi del rispetto dei diritti umani, della democrazia e dello Stato di diritto, riconoscendo nel contempo il potenziale dell'IA in termini di protezione e agevolazione dell'esercizio di tali diritti nell'ambiente digitale e di miglioramento del benessere sociale e ambientale e del progresso tecnologico.
I principi e gli obblighi concreti previsti dalla convenzione sono intesi a tutelare e rispettare i diritti umani, sanciti da molteplici strumenti internazionali e regionali 24 applicabili alle parti, tra cui la Carta dei diritti fondamentali dell'Unione e gli atti internazionali in materia di diritti umani conclusi dall'Unione.
La convenzione stabilisce pertanto un livello minimo comune di applicazione della protezione dei diritti umani nel contesto dell'IA, salvaguardando al tempo stesso le tutele esistenti in materia di diritti umani e consentendo alle parti di offrire una protezione più ampia con garanzie più rigorose.
4.INCIDENZA SUL BILANCIO
La convenzione prevede contributi finanziari di Stati terzi alle attività della conferenza delle parti. Tutti i membri del Consiglio d'Europa contribuiranno attraverso il bilancio ordinario del Consiglio d'Europa conformemente allo statuto del Consiglio d'Europa, mentre le parti che non sono membri apporteranno contributi fuori bilancio. Il contributo di un paese non membro del Consiglio d'Europa è stabilito congiuntamente dal Comitato dei Ministri e da tale paese.
La convenzione non interferisce con le leggi e le normative interne delle parti che disciplinano le competenze di bilancio e le procedure per gli stanziamenti di bilancio. La convenzione quadro non definisce la forma in cui saranno stabiliti i contributi, compresi gli importi e le modalità, delle parti che non sono membri del Consiglio d'Europa. La base giuridica del contributo di tali parti sarà costituita dalla convenzione quadro stessa e dall'atto o dagli atti che stabiliscono tale contributo 25 .
5.ALTRI ELEMENTI
•Piani attuativi e modalità di monitoraggio, valutazione e informazione
La conferenza delle parti, composta dai rappresentanti delle parti, verificherà l'effettiva attuazione della convenzione da parte delle stesse e formulerà raccomandazioni specifiche a tal fine. La conferenza delle parti valuterà inoltre possibili modifiche della convenzione.
Ciascuna parte dovrà presentare una relazione alla conferenza delle parti entro i primi due anni dall'adesione e successivamente a intervalli regolari, specificando le misure adottate ai fini dell'attuazione della convenzione. Le parti sono altresì incoraggiate a collaborare per conseguire gli obiettivi della convenzione. Tale cooperazione internazionale può includere la condivisione di informazioni pertinenti riguardanti l'IA e la possibilità che essa abbia un impatto negativo o positivo sui diritti umani, sulla democrazia e sullo Stato di diritto.
Al fine di garantire il monitoraggio e l'attuazione della convenzione, ciascuna parte dovrà designare uno o più meccanismi di sorveglianza efficaci a livello interno. A livello dell'Unione, la Commissione garantirà il monitoraggio e l'attuazione della convenzione, conformemente ai trattati.
I considerando della presente proposta relativa alla conclusione della convenzione confermano che, conformemente all'articolo 218, paragrafo 9, TFUE, il Consiglio, su proposta della Commissione, dovrebbe adottare decisioni che stabiliscono le posizioni da adottare a nome dell'Unione nella conferenza delle parti se tale organo deve adottare atti che hanno effetti giuridici, in particolare il regolamento interno della conferenza delle parti. In sede di negoziazione di tale regolamento interno, che deve essere adottato per consenso entro 12 mesi dall'entrata in vigore della convenzione 26 , l'Unione mirerà ad assicurare che le siano attribuiti 27 voti, un numero pari a quello dei suoi Stati membri. Qualora i 27 voti siano attribuiti all'Unione, la Commissione, in rappresentanza dell'Unione, si adopererà per garantire un coordinamento rafforzato con gli Stati membri al fine di esprimere posizioni uniformi prima della conferenza delle parti e di esercitare il proprio diritto di voto a nome dell'Unione. Tale coordinamento rafforzato è particolarmente pertinente dal momento che tutti gli Stati membri sono anche membri del Consiglio d'Europa e tenuto conto della rapida evoluzione dell'intelligenza artificiale e della necessità di disporre di un quadro coerente e applicabile a livello mondiale nel settore. Al fine di garantire il coordinamento rafforzato, il Consiglio dovrebbe essere coinvolto nella formulazione di un'eventuale posizione di qualunque natura, comprese quelle basate sull'articolo 16, paragrafo 1, TUE e sull'articolo 218, paragrafo 9, TFUE. Qualora l'Unione, malgrado tutti i suoi sforzi, non sia in grado di ottenere l'attribuzione di 27 voti, la Commissione, al fine di garantire che l'Unione disponga di un numero di voti che rispecchi il suo peso in seno al Consiglio d'Europa e le consenta di difendere adeguatamente i propri interessi, proporrà che gli Stati membri siano autorizzati, a norma dell'articolo 2, paragrafo 1, TFUE e nel pieno rispetto della competenza esclusiva dell'Unione, ad aderire alla convenzione al fianco dell'Unione.
La Commissione inviterà ciascuno Stato membro a inviare un rappresentante per accompagnare la rappresentanza della Commissione nell'ambito della delegazione dell'Unione alle riunioni della conferenza delle parti. Deve essere rispettato il principio di leale cooperazione.
2025/0136 (NLE)
Proposta di
DECISIONE DEL CONSIGLIO
relativa alla conclusione, a nome dell'Unione europea, della convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto
IL CONSIGLIO DELL'UNIONE EUROPEA,
visto il trattato sul funzionamento dell'Unione europea, in particolare l'articolo 114, in combinato disposto con l'articolo 218, paragrafo 6, lettera a), punto v),
vista la proposta della Commissione europea,
vista l'approvazione del Parlamento europeo,
considerando quanto segue:
(1)Conformemente alla decisione (UE) 2024/2218 del Consiglio 27 , la convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto ("convenzione") è stata firmata il 5 settembre 2024 a nome dell'Unione europea, con riserva della sua conclusione in una data successiva.
(2)La convenzione stabilisce i principi e gli obblighi generali che le parti della convenzione dovrebbero osservare al fine di garantire la protezione dei diritti umani, della democrazia e dello Stato di diritto in relazione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale (IA).
(3)Il 13 giugno 2024 il Parlamento europeo e il Consiglio hanno adottato, sulla base degli articoli 16 e 114 del trattato sul funzionamento dell'Unione europea (TFUE), il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio 28 , che contiene norme armonizzate basate in linea generale sulla piena armonizzazione che disciplinano l'immissione sul mercato, la messa in servizio e l'uso di sistemi di IA nell'Unione. Tali norme sono direttamente applicabili negli Stati membri, salvo che tale regolamento disponga esplicitamente altrimenti. La convenzione deve essere attuata nell'Unione esclusivamente attraverso il regolamento (UE) 2024/1689 del Parlamento e del Consiglio e altre disposizioni pertinenti dell'acquis dell'Unione, ove applicabili.
(4)Le attività che rientrano nel ciclo di vita dei sistemi di IA connesse alla protezione degli interessi di sicurezza nazionale sono escluse dall'ambito di applicazione della convenzione. Il regolamento (UE) 2024/1689 del Parlamento e del Consiglio, che costituirà il principale atto giuridico dell'Unione ai fini dell'attuazione della convenzione, esclude altresì dal suo ambito di applicazione i sistemi di IA immessi sul mercato, messi in servizio o utilizzati, con o senza modifiche, esclusivamente per scopi di sicurezza nazionale nonché l'output dei sistemi di IA utilizzato nell'Unione esclusivamente per tali scopi, indipendentemente dal tipo di entità che svolge tali attività. Inoltre, come previsto all'articolo 4, paragrafo 2, del trattato sull'Unione europea (TUE), la sicurezza nazionale resta di esclusiva competenza di ciascuno Stato membro. Di conseguenza, la posizione dell'Unione da esprimere in sede di conferenza delle parti dovrebbe rispettare i limiti di cui sopra. In particolare, nelle riunioni della conferenza delle parti istituita dalla convenzione, la Commissione dovrebbe astenersi dal discutere delle attività che rientrano nel ciclo di vita dei sistemi di IA connesse alla protezione degli interessi di sicurezza nazionale e dall'assumere una posizione su tali attività.
(5)Poiché l'ambito di applicazione personale e materiale della convenzione e le disposizioni sostanziali della convenzione coincidono in larga misura con quelli del regolamento (UE) 2024/1689 del Parlamento e del Consiglio, integrato da altre disposizioni pertinenti dell'acquis dell'Unione, la conclusione della convenzione può incidere su norme comuni dell'Unione o modificarne la portata ai sensi dell'articolo 3, paragrafo 2, TFUE. Tali altre disposizioni pertinenti dell'acquis dell'Unione comprendono atti giuridici volti ad attuare i diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell'Unione europea, quali la legislazione dell'Unione in materia di non discriminazione, comprese le direttive 2000/43/CE 29 e 2000/78/CE del Consiglio 30 ; l'acquis dell'Unione in materia di protezione dei dati, compresi i regolamenti (UE) 2016/679 31 e (UE) 2022/2065 del Parlamento europeo e del Consiglio 32 , che mirano ad assicurare un ambiente online sicuro, prevedibile e affidabile in cui siano rispettati i diritti fondamentali, tra cui il diritto alla libertà di espressione e il diritto di ricevere e diffondere informazioni; il regolamento (UE) 2024/900 del Parlamento europeo e del Consiglio relativo alla pubblicità politica 33 ; e la legislazione sulla sicurezza dei prodotti e la legislazione sulla responsabilità per danno da prodotti difettosi, compresa la direttiva 85/374/CEE del Consiglio 34 . L'Unione pertanto ha competenza esterna esclusiva per concludere la convenzione. Di conseguenza, solo l'Unione dovrebbe diventare parte della convenzione.
(6)La conferenza delle parti svolgerà un ruolo importante nell'attuazione efficace della convenzione, anche formulando raccomandazioni specifiche per quanto riguarda la sua interpretazione e applicazione. La conferenza delle parti valuterà inoltre possibili modifiche della convenzione. Conformemente all'articolo 218, paragrafo 9, TFUE, il Consiglio, su proposta della Commissione, dovrebbe adottare decisioni che stabiliscono le posizioni da adottare a nome dell'Unione nella conferenza delle parti se tale organo deve adottare atti che hanno effetti giuridici, in particolare il regolamento interno della conferenza delle parti. In sede di negoziazione di tale regolamento interno, che deve essere adottato per consenso entro 12 mesi dall'entrata in vigore della convenzione, l'Unione mirerà ad assicurare che le siano attribuiti 27 voti, un numero pari a quello dei suoi Stati membri. Qualora i 27 voti siano attribuiti all'Unione, la Commissione, in rappresentanza dell'Unione, dovrebbe garantire un coordinamento rafforzato con gli Stati membri al fine di esprimere posizioni uniformi in sede di conferenza delle parti e di esercitare il proprio diritto di voto a nome dell'Unione. Tale coordinamento rafforzato è particolarmente pertinente dal momento che tutti gli Stati membri sono anche membri del Consiglio d'Europa e tenuto conto della rapida evoluzione dell'IA e della necessità di disporre di un quadro coerente e applicabile a livello mondiale nel settore dell'IA. Al fine di garantire il coordinamento rafforzato, il Consiglio dovrebbe essere coinvolto nella formulazione di un'eventuale posizione di qualunque natura, comprese quelle basate sull'articolo 16, paragrafo 1, TUE e sull'articolo 218, paragrafo 9, TFUE. Qualora l'Unione, malgrado tutti i suoi sforzi, non sia in grado di ottenere l'attribuzione di 27 voti, la Commissione, al fine di garantire che l'Unione disponga di un numero di voti che rispecchi il suo peso in seno al Consiglio d'Europa e le consenta di difendere adeguatamente i propri interessi, dovrebbe proporre che gli Stati membri siano autorizzati, a norma dell'articolo 2, paragrafo 1, TFUE e nel pieno rispetto della competenza esclusiva dell'Unione, ad aderire alla convenzione al fianco dell'Unione.
(7)La Commissione inviterà ciascuno Stato membro a inviare un rappresentante per accompagnare la rappresentanza della Commissione nell'ambito della delegazione dell'Unione alle riunioni della conferenza delle parti. Deve essere rispettato il principio di leale cooperazione.
(8)Riguardo a qualsiasi altro accordo che possa essere concluso in futuro sotto l'egida del Consiglio d'Europa o in altre sedi internazionali, anche nel settore dell'IA, nonché riguardo a qualsiasi modifica della convenzione, la ripartizione delle competenze esterne tra l'Unione e gli Stati membri dovrebbe essere valutata alla luce delle caratteristiche specifiche di ciascuno degli strumenti in questione. È della massima importanza che l'Unione e i suoi Stati membri possano continuare a svolgere il loro ruolo diretto e attivo nell'esprimere la voce dell'Unione e nel difendere i suoi interessi in modo coerente e coordinato, pienamente in linea con i trattati.
(9)È opportuno approvare la convenzione a nome dell'Unione,
HA ADOTTATO LA PRESENTE DECISIONE:
Articolo 1
La conclusione della convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto ("convenzione") è approvata a nome dell'Unione.
Il testo della convenzione da concludere è accluso alla presente decisione come allegato I.
Articolo 2
Le dichiarazioni da presentare al segretario generale del Consiglio d'Europa, accluse alla presente decisione nell'allegato II, sono approvate a nome dell'Unione.
Articolo 3
La convenzione è attuata nell'Unione esclusivamente attraverso il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, che stabilisce regole armonizzate sull'intelligenza artificiale, e altre disposizioni pertinenti dell'acquis dell'Unione, ove applicabili.
Articolo 4
La presente decisione entra in vigore il […].
Fatto a Bruxelles, il
Per il Consiglio
Il presidente
Carta dei diritti fondamentali dell'Unione europea (GU C 326 del 26.10.2012, pag. 391).
COMMISSIONE EUROPEA
Bruxelles, 3.6.2025
COM(2025) 265 final
ALLEGATI
della
proposta di decisione del Consiglio
relativa alla conclusione, a nome dell'Unione europea, della convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto
ALLEGATO I
Testo della convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto
Vilnius, 5.IX.2024
Preambolo
Gli Stati membri del Consiglio d'Europa e gli altri firmatari della presente convenzione,
considerando che l'obiettivo del Consiglio d'Europa è conseguire una maggiore unità tra i suoi membri, basata in particolare sul rispetto dei diritti umani, della democrazia e dello Stato di diritto;
riconoscendo l'importanza di promuovere la cooperazione tra le parti della presente convenzione e di estendere tale cooperazione ad altri Stati che condividono gli stessi valori;
consapevoli dell'accelerazione degli sviluppi scientifici e tecnologici e dei profondi cambiamenti derivanti dalle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale, che hanno il potenziale di promuovere la prosperità umana e il benessere delle persone e della società, lo sviluppo sostenibile, la parità di genere e l'emancipazione di tutte le donne e le ragazze, nonché altri importanti obiettivi e interessi, rafforzando il progresso e l'innovazione;
riconoscendo che le attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale possono offrire opportunità senza precedenti per proteggere e promuovere i diritti umani, la democrazia e lo Stato di diritto;
preoccupati che alcune attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale possano pregiudicare la dignità umana e l'autonomia individuale, i diritti umani, la democrazia e lo Stato di diritto;
preoccupati per i rischi di discriminazione nei contesti digitali, in particolare quelli che comprendono sistemi di intelligenza artificiale, e per il potenziale effetto di tali sistemi di creare o aggravare le disuguaglianze, comprese quelle subite dalle donne e dalle persone in situazioni di vulnerabilità, in relazione all'esercizio dei loro diritti umani e alla loro partecipazione piena, paritaria ed efficace agli affari economici, sociali, culturali e politici;
preoccupati per l'uso improprio dei sistemi di intelligenza artificiale e contrari all'uso di tali sistemi a fini repressivi in violazione del diritto internazionale dei diritti umani, anche attraverso pratiche di sorveglianza e censura arbitrarie e illegittime che minano la tutela della vita privata e l'autonomia individuale;
consapevoli del fatto che i diritti umani, la democrazia e lo Stato di diritto sono intrinsecamente interconnessi;
convinti della necessità di istituire, in via prioritaria, un quadro giuridico applicabile a livello mondiale che stabilisca principi generali comuni e norme che disciplinino le attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale e che preservi efficacemente i valori condivisi e sfrutti i vantaggi derivanti dall'intelligenza artificiale per la promozione di tali valori in modo da favorire un'innovazione responsabile;
riconoscendo la necessità di promuovere l'alfabetizzazione digitale, la fiducia nella progettazione, nello sviluppo, nell'uso e nella dismissione dei sistemi di intelligenza artificiale e la conoscenza in materia;
riconoscendo il carattere "quadro" della presente convenzione, che può essere integrata da ulteriori strumenti per affrontare questioni specifiche relative alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale;
sottolineando che la presente convenzione mira ad affrontare sfide specifiche che sorgono durante l'intero ciclo di vita dei sistemi di intelligenza artificiale e a incoraggiare la presa in esame dei rischi e degli impatti più ampi connessi a tali tecnologie anche, tra l'altro, per la salute umana e l'ambiente, e degli aspetti socioeconomici quali l'occupazione e il lavoro;
prendendo atto dei pertinenti sforzi volti a promuovere la comprensione dell'intelligenza artificiale e la cooperazione in materia a livello internazionale da parte di altri consessi e organizzazioni internazionali e sovranazionali;
tenendo conto degli strumenti internazionali applicabili in materia di diritti umani, quali la Dichiarazione universale dei diritti umani del 1948, la Convenzione per la salvaguardia dei diritti dell'uomo e delle libertà fondamentali del 1950 (STE n. 5), il Patto internazionale relativo ai diritti civili e politici del 1966, il Patto internazionale relativo ai diritti economici, sociali e culturali del 1966, la Carta sociale europea del 1961 (STE n. 35), nonché i relativi protocolli, come pure la Carta sociale europea (riveduta) del 1996 (STE n. 163);
tenendo conto anche della Convenzione delle Nazioni Unite sui diritti dell'infanzia e dell'adolescenza del 1989 e della Convenzione delle Nazioni Unite sui diritti delle persone con disabilità del 2006;
tenendo conto altresì del diritto alla vita privata delle persone e alla protezione dei dati personali, quali applicabili e sanciti, ad esempio, nella Convenzione sulla protezione delle persone rispetto al trattamento automatizzato di dati a carattere personale del 1981 (STE n. 108) e nei suoi protocolli;
affermando l'impegno delle parti a proteggere i diritti umani, la democrazia e lo Stato di diritto e a promuovere l'affidabilità dei sistemi di intelligenza artificiale attraverso la presente convenzione,
hanno convenuto quanto segue:
Capo I – Disposizioni generali
Articolo 1 – Oggetto e finalità
(1)Obiettivo delle disposizioni della presente convenzione è garantire che le attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale siano pienamente coerenti con i diritti umani, la democrazia e lo Stato di diritto.
(2)Ciascuna parte adotta o mantiene in vigore misure legislative, amministrative o di altro tipo appropriate per dare attuazione alle disposizioni di cui alla presente convenzione. Tali misure sono graduate e differenziate quanto necessario tenendo conto della probabilità che si verifichino impatti negativi sui diritti umani, sulla democrazia e sullo Stato di diritto durante l'intero ciclo di vita dei sistemi di intelligenza artificiale e della gravità di tali impatti. Esse possono comprendere misure specifiche o orizzontali che si applichino indipendentemente dal tipo di tecnologia utilizzata.
(3)Per garantire che le parti attuino efficacemente le sue disposizioni, la presente convenzione istituisce un meccanismo di follow-up e prevede la cooperazione internazionale.
Articolo 2 – Definizione di sistemi di intelligenza artificiale
Ai fini della presente convenzione, per "sistema di intelligenza artificiale" si intende un sistema automatizzato che, per obiettivi espliciti o impliciti, deduce dall'input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. Sistemi di intelligenza artificiale diversi presentano diversi livelli di autonomia e adattabilità dopo la diffusione.
Articolo 3 – Ambito di applicazione
(1)L'ambito di applicazione della presente convenzione contempla le attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale e che hanno il potenziale di interferire con i diritti umani, la democrazia e lo Stato di diritto come illustrato di seguito:
(a)ciascuna parte applica la presente convenzione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale intraprese dalle autorità pubbliche o da soggetti privati che agiscono per loro conto;
(b)ciascuna parte affronta i rischi e gli impatti derivanti dalle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale svolte da soggetti privati, nella misura in cui non sono contemplate alla lettera a), in modo conforme all'oggetto e alla finalità della presente convenzione.
Ciascuna parte specifica, in una dichiarazione presentata al segretario generale del Consiglio d'Europa al momento della firma o del deposito dello strumento di ratifica, accettazione, approvazione o adesione, in che modo intende attuare tale obbligo, se applicando i principi e gli obblighi di cui ai capi da II a VI della presente convenzione alle attività dei soggetti privati o adottando altre misure appropriate per adempiere l'obbligo di cui al presente comma. Le parti possono modificare le loro dichiarazioni in qualsiasi momento e nello stesso modo.
Nell'attuare l'obbligo di cui al presente comma, le parti non possono derogare all'applicazione dei propri obblighi internazionali assunti per proteggere i diritti umani, la democrazia e lo Stato di diritto, né limitare tale applicazione.
(2)Le parti non sono tenute ad applicare la presente convenzione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale e sono relative alla tutela dei loro interessi di sicurezza nazionale, con il presupposto che tali attività siano svolte nel rispetto del diritto internazionale applicabile, compresi gli obblighi in materia di diritto internazionale dei diritti umani, nonché delle sue istituzioni e dei suoi processi democratici.
(3)Fatti salvi l'articolo 13 e l'articolo 25, paragrafo 2, la presente convenzione non si applica alle attività di ricerca e sviluppo relative ai sistemi di intelligenza artificiale non ancora messi a disposizione per l'uso, a meno che non siano svolte prove o attività analoghe in modo tale da poter interferire con i diritti umani, la democrazia e lo Stato di diritto.
(4)Le questioni relative alla difesa nazionale non rientrano nell'ambito di applicazione della presente convenzione.
Capo II - Obblighi generali
Articolo 4 – Protezione dei diritti umani
Ciascuna parte adotta o mantiene in vigore misure volte a garantire che le attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale siano coerenti con gli obblighi di protezione dei diritti umani sanciti dal diritto internazionale applicabile e dal proprio diritto interno.
Articolo 5 – Integrità dei processi democratici e rispetto dello Stato di diritto
(1)Ciascuna parte adotta o mantiene in vigore misure volte a garantire che i sistemi di intelligenza artificiale non siano utilizzati per compromettere l'integrità, l'indipendenza e l'efficacia delle istituzioni e dei processi democratici, compresi il principio della separazione dei poteri, il rispetto dell'indipendenza della magistratura e l'accesso alla giustizia.
(2)Ciascuna parte adotta o mantiene in vigore misure volte a proteggere i propri processi democratici nel contesto delle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale, compresi l'accesso equo e la partecipazione delle persone al dibattito pubblico, nonché la loro capacità di formare liberamente le proprie opinioni.
Capo III – Principi relativi alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale
Articolo 6 – Approccio generale
Il presente capo stabilisce i principi generali comuni che ciascuna parte deve attuare in relazione ai sistemi di intelligenza artificiale, in modo adeguato al proprio sistema giuridico interno e agli altri obblighi di cui alla presente convenzione.
Articolo 7 – Dignità umana e autonomia individuale
Ciascuna parte adotta o mantiene in vigore misure volte a rispettare la dignità umana e l'autonomia individuale in relazione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale.
Articolo 8 – Trasparenza e sorveglianza
Ciascuna parte adotta o mantiene in vigore misure volte a garantire che siano posti in essere requisiti adeguati in materia di trasparenza e vigilanza, adattati ai contesti e ai rischi specifici, in relazione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale, anche per quanto riguarda l'individuazione di contenuti generati dai sistemi di intelligenza artificiale.
Articolo9 – Responsabilizzazione e responsabilità
Ciascuna parte adotta o mantiene in vigore misure volte a garantire la responsabilizzazione e la responsabilità per gli impatti negativi sui diritti umani, sulla democrazia e sullo Stato di diritto derivanti dalle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale.
Articolo 10 – Uguaglianza e non discriminazione
(1)Ciascuna parte adotta o mantiene in vigore misure volte a garantire che le attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale rispettino l'uguaglianza, compresa la parità di genere, e il divieto di discriminazione, come previsto dal diritto internazionale e interno applicabile.
(2)Ciascuna parte si impegna ad adottare o mantenere in vigore misure volte a superare le disuguaglianze per conseguire risultati giusti ed equi, in linea con i propri obblighi interni e internazionali applicabili in materia di diritti umani, in relazione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale.
Articolo 11 – Vita privata e protezione dei dati personali
Ciascuna parte adotta o mantiene in vigore misure che, in relazione alle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale, siano volte a garantire:
(a)la protezione del diritto alla vita privata e dei dati personali delle persone, anche attraverso le disposizioni legislative, le norme e i quadri interni e internazionali applicabili; e
(b)la predisposizione di garanzie e salvaguardie efficaci per le persone, conformemente agli obblighi giuridici interni e internazionali applicabili.
Articolo 12 – Affidabilità
Ciascuna parte adotta, se del caso, misure volte a promuovere l'affidabilità dei sistemi di intelligenza artificiale e la fiducia negli output da essi prodotti, che potrebbero includere requisiti relativi a una qualità e una sicurezza adeguate durante l'intero ciclo di vita dei sistemi di intelligenza artificiale.
Articolo 13 – Innovazione sicura
Al fine di promuovere l'innovazione evitando impatti negativi sui diritti umani, sulla democrazia e sullo Stato di diritto, ciascuna parte è invitata a consentire, se del caso, l'istituzione di ambienti controllati per lo sviluppo, la sperimentazione e la prova di sistemi di intelligenza artificiale sotto la supervisione delle proprie autorità competenti.
Capo IV – Mezzi di ricorso
Articolo 14 – Mezzi di ricorso
(1)Ciascuna parte, nella misura in cui l'istituzione di mezzi di ricorso sia imposta dai suoi obblighi internazionali e coerente con il suo sistema giuridico interno, adotta o mantiene in vigore misure volte a garantire la disponibilità di mezzi di ricorso accessibili ed efficaci in caso di violazioni dei diritti umani derivanti dalle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale.
(2)Al fine di sostenere l'attuazione del paragrafo 1, ciascuna parte adotta o mantiene in vigore misure tra le quali:
(a)misure volte a garantire che le pertinenti informazioni riguardanti i sistemi di intelligenza artificiale che possono incidere in modo significativo sui diritti umani e il relativo uso siano documentate, fornite agli organismi autorizzati ad accedere a tali informazioni e, ove opportuno e applicabile, messe a disposizione delle persone interessate o comunicate a queste ultime;
(b)misure volte a garantire che le informazioni di cui alla lettera a) siano sufficienti affinché le persone interessate possano contestare le decisioni adottate utilizzando il sistema o sostanzialmente fondate sull'uso del sistema e, se pertinente e opportuno, l'uso del sistema stesso; e
(c)l'effettiva possibilità per le persone interessate di proporre un reclamo alle autorità competenti.
Articolo 15 – Garanzie procedurali
(1)Ciascuna parte garantisce che, qualora un sistema di intelligenza artificiale abbia un impatto significativo sull'esercizio dei diritti umani, le persone interessate dispongano di garanzie procedurali, salvaguardie e diritti efficaci, conformemente al diritto internazionale e interno applicabile.
(2)Ciascuna parte si adopera per garantire che, in funzione del contesto, le persone che interagiscono con i sistemi di intelligenza artificiale siano informate del fatto che interagiscono con tali sistemi e non con un essere umano.
Capo V – Valutazione e attenuazione dei rischi e degli impatti negativi
Articolo 16 – Quadro di gestione dei rischi e degli impatti
(1)Ciascuna parte, tenendo conto dei principi di cui al capo III, adotta o mantiene in vigore misure volte all'individuazione, alla valutazione, alla prevenzione e all'attenuazione dei rischi posti dai sistemi di intelligenza artificiale, prendendo in considerazione gli impatti effettivi e potenziali sui diritti umani, sulla democrazia e sullo Stato di diritto.
(2)Tali misure sono graduate e differenziate, se del caso, e:
(a)tengono debitamente conto del contesto e dell'uso previsto dei sistemi di intelligenza artificiale, in particolare per quanto riguarda i rischi per i diritti umani, la democrazia e lo Stato di diritto;
(b)tengono debitamente conto della probabilità che si verifichino potenziali impatti e della relativa gravità;
(c)prendono in considerazione, se del caso, i punti di vista dei pertinenti portatori di interessi, in particolare delle persone i cui diritti possono essere colpiti;
(d)si applicano iterativamente a tutte le attività che rientrano nel ciclo di vita del sistema di intelligenza artificiale;
(e)comprendono il monitoraggio dei rischi e degli impatti negativi per i diritti umani, la democrazia e lo Stato di diritto;
(f)comprendono la documentazione dei rischi, degli impatti effettivi e potenziali e dell'approccio alla gestione dei rischi; e
(g)richiedono, se del caso, che i sistemi di intelligenza artificiale siano sottoposti a prova prima di essere messi a disposizione per il primo utilizzo e qualora siano modificati in modo significativo.
(3)Ciascuna parte adotta o mantiene in vigore misure volte a garantire che gli impatti negativi dei sistemi di intelligenza artificiale sui diritti umani, sulla democrazia e sullo Stato di diritto siano affrontati in modo adeguato. Tali impatti negativi e le misure per affrontarli dovrebbero essere documentati e orientare le pertinenti misure di gestione dei rischi di cui al paragrafo 2.
(4)Ciascuna parte valuta la necessità di una moratoria, di un divieto o di altre misure appropriate in relazione a determinati usi dei sistemi di intelligenza artificiale qualora ritenga che tali usi siano incompatibili con il rispetto dei diritti umani, il funzionamento della democrazia o lo Stato di diritto.
Capo VI – Attuazione della convenzione
Articolo 17 – Non discriminazione
Le parti garantiscono l'attuazione delle disposizioni della presente convenzione senza alcuna discriminazione, in conformità ai loro obblighi internazionali in materia di diritti umani.
Articolo 18 – Diritti delle persone con disabilità e dei minori
In conformità al rispettivo diritto interno e agli obblighi internazionali applicabili, ciascuna parte tiene debitamente conto di eventuali esigenze e vulnerabilità specifiche in relazione al rispetto dei diritti delle persone con disabilità e dei minori.
Articolo 19 – Consultazione pubblica
Ciascuna parte si adopera per assicurare che le questioni importanti sollevate in relazione ai sistemi di intelligenza artificiale siano, se del caso, debitamente prese in esame mediante discussioni pubbliche e consultazioni multipartecipative alla luce delle implicazioni sociali, economiche, giuridiche, etiche, ambientali e di altro tipo.
Articolo 20 – Alfabetizzazione e competenze digitali
Ciascuna parte incoraggia e promuove un'alfabetizzazione e delle competenze digitali adeguate per tutti i segmenti della popolazione, comprese competenze specialistiche specifiche per i responsabili dell'individuazione, della valutazione, della prevenzione e dell'attenuazione dei rischi presentati dai sistemi di intelligenza artificiale.
Articolo 21 – Tutela dei diritti umani esistenti
Nessuna disposizione della presente convenzione può essere interpretata in modo da limitare o pregiudicare in altro modo i diritti umani o altri diritti e obblighi giuridici connessi che possono essere garantiti dalla pertinente normativa di una parte o da qualsiasi altro accordo internazionale pertinente a cui tale parte aderisce, o da derogare a tali diritti e obblighi.
Articolo 22 — Protezione superiore
Nessuna delle disposizioni della presente convenzione può essere interpretata in modo da limitare o pregiudicare in altro modo la possibilità per una parte di concedere un livello di protezione superiore a quello previsto dalla presente convenzione.
Capitolo VII — Meccanismo di follow-up e cooperazione
Articolo 23 – Conferenza delle parti
(1)La conferenza delle parti è composta dai rappresentanti delle parti della convenzione.
(2)Le parti si consultano periodicamente al fine di:
a. facilitare l'effettiva applicazione e attuazione della presente convenzione, compresa l'individuazione di eventuali problemi e degli effetti delle riserve formulate a norma dell'articolo 34, paragrafo 1, o delle dichiarazioni rese ai sensi della presente convenzione;
b. prendere in esame eventuali integrazioni o emendamenti della presente convenzione;
c. prendere in esame le questioni e formulare raccomandazioni specifiche in relazione all'interpretazione e all'applicazione della presente convenzione;
d. facilitare lo scambio di informazioni sui pertinenti sviluppi significativi a livello giuridico, politico o tecnologico, anche nel perseguimento degli obiettivi di cui all'articolo 25, ai fini dell'attuazione della presente convenzione;
e. facilitare, ove necessario, la risoluzione amichevole delle controversie relative all'applicazione della presente convenzione; e
f. facilitare la cooperazione con i portatori di interessi rilevanti per quanto riguarda gli aspetti pertinenti dell'attuazione della presente convenzione, anche mediante audizioni pubbliche, se del caso.
(3)La conferenza delle parti è indetta dal segretario generale del Consiglio d'Europa ogniqualvolta sia necessario e in ogni caso qualora la maggioranza delle parti o il Comitato dei Ministri ne richieda la convocazione.
(4)La conferenza delle parti adotta il proprio regolamento interno per consenso entro dodici mesi dall'entrata in vigore della presente convenzione.
(5)Nell'esercizio delle funzioni previste dal presente articolo le parti sono assistite dal segretariato del Consiglio d'Europa.
(6)La conferenza delle parti può proporre al Comitato dei Ministri modalità appropriate per ricorrere alla perizia di esperti a sostegno dell'effettiva attuazione della presente convenzione.
(7)Ogni parte che non è membro del Consiglio d'Europa contribuisce al finanziamento delle attività della conferenza delle parti. Il contributo di un paese non membro del Consiglio d'Europa è stabilito congiuntamente dal Comitato dei Ministri e da tale paese.
(8)La conferenza delle parti può decidere di limitare la partecipazione ai suoi lavori di una parte che abbia cessato di appartenere al Consiglio d'Europa a norma dell'articolo 8 dello statuto del Consiglio d'Europa (STE n. 1) per una grave violazione dell'articolo 3 dello statuto. Analogamente, possono essere adottate misure nei confronti di qualsiasi parte che non sia uno Stato membro del Consiglio d'Europa mediante decisione del Comitato dei Ministri di cessare le sue relazioni con tale Stato per motivi analoghi a quelli di cui all'articolo 3 dello statuto.
Articolo 24 – Obblighi relativi alle relazioni
(1)Entro i primi due anni successivi alla propria adesione, e in seguito con cadenza periodica, ogni parte trasmette alla conferenza delle parti una relazione contenente informazioni dettagliate sulle attività intraprese ai fini dell'applicazione dell'articolo 3, paragrafo 1, lettere a) e b).
(2)La conferenza delle parti stabilisce il formato della relazione e la relativa procedura in conformità al proprio regolamento interno.
Articolo 25 – Cooperazione internazionale
(1)Le parti cooperano al conseguimento della finalità della presente convenzione. Le parti sono inoltre incoraggiate, se del caso, ad assistere gli Stati che non sono parti della presente convenzione affinché agiscano in maniera coerente con i termini della stessa e vi aderiscano.
(2)Le parti scambiano tra di loro, se del caso, informazioni rilevanti e utili sugli aspetti relativi all'intelligenza artificiale che possono incidere significativamente, in maniera positiva o negativa, sull'esercizio dei diritti umani, sul funzionamento della democrazia e sul rispetto dello Stato di diritto, compresi i rischi e gli effetti emersi in contesti di ricerca e in relazione al settore privato. Le parti sono incoraggiate a coinvolgere in tali scambi di informazioni, se del caso, i pertinenti portatori di interessi e gli Stati che non sono parti della presente convenzione.
(3)Le parti sono incoraggiate a rafforzare la cooperazione, ove opportuno anche con i pertinenti portatori di interessi, al fine di prevenire e attenuare i rischi e gli impatti negativi per i diritti umani, la democrazia e lo Stato di diritto nel contesto delle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale.
Articolo 26 — Meccanismi di sorveglianza efficaci
(1)Ciascuna parte istituisce o designa uno o più meccanismi efficaci per sorvegliare l'adempimento degli obblighi previsti dalla presente convenzione.
(2)Ciascuna parte provvede affinché tali meccanismi assolvano le proprie funzioni in modo indipendente e imparziale e dispongano dei poteri, delle competenze e delle risorse necessari per svolgere in maniera efficace i propri compiti di sorveglianza dell'adempimento degli obblighi previsti dalla presente convenzione, come attuati dalle parti.
(3)Qualora abbia previsto più di un meccanismo di questo tipo, una parte adotta, ove possibile, misure per agevolare una cooperazione efficace tra tali meccanismi.
(4)Qualora abbia previsto meccanismi diversi dalle strutture esistenti per i diritti umani, una parte adotta, ove possibile, misure per promuovere una cooperazione efficace tra i meccanismi di cui al paragrafo 1 e le strutture nazionali esistenti per i diritti umani.
Capo VIII – Clausole finali
Articolo 27 – Effetti della convenzione
(1)Se due o più parti hanno già concluso un accordo o un trattato sulle materie oggetto della presente convenzione o se hanno in altro modo stabilito relazioni in tali ambiti, dette parti hanno anche il diritto di applicare tale accordo o trattato o di disciplinare le suddette relazioni di conseguenza, purché ciò non sia incoerente con l'oggetto e la finalità della presente convenzione.
(2)Le parti che sono membri dell'Unione europea applicano, nelle relazioni reciproche, le norme dell'Unione europea che disciplinano le materie che rientrano nell'ambito di applicazione della presente convenzione, fatti salvi l'oggetto e la finalità della presente convenzione, come pure la sua piena applicazione con le altre parti. Lo stesso vale per le altre parti nella misura in cui sono vincolate da tali norme.
Articolo 28 – Emendamenti
(1)Gli emendamenti della presente convenzione possono essere proposti da una delle parti, dal Comitato dei Ministri del Consiglio d'Europa o dalla conferenza delle parti.
(2)Il segretario generale del Consiglio d'Europa comunica alle parti ogni proposta di emendamento.
(3)Ogni emendamento proposto da una delle parti o dal Comitato dei Ministri è comunicato alla conferenza delle parti, che presenta al Comitato dei Ministri il suo parere sull'emendamento proposto.
(4)Il Comitato dei Ministri valuta l'emendamento proposto e il parere presentato dalla conferenza delle parti, e può approvare l'emendamento.
(5)Il testo di ogni emendamento approvato dal Comitato dei Ministri conformemente al paragrafo 4 è trasmesso alle parti per accettazione.
(6)Ogni emendamento approvato conformemente al paragrafo 4 entra in vigore il trentesimo giorno dopo che tutte le parti hanno informato il segretario generale dell'accettazione della modifica.
Articolo 29 – Risoluzione delle controversie
In caso di controversia tra le parti in merito all'interpretazione o all'applicazione della presente convenzione, tali parti cercano di pervenire a una risoluzione mediante negoziato o qualsiasi altra soluzione pacifica di loro scelta, anche attraverso la conferenza delle parti, come previsto all'articolo 23, paragrafo 2, lettera e).
Articolo 30 – Firma ed entrata in vigore
(1)La presente convenzione è aperta alla firma degli Stati membri del Consiglio d'Europa, degli Stati non membri che hanno partecipato alla sua elaborazione e dell'Unione europea.
(2)La presente convenzione è soggetta a ratifica, accettazione o approvazione. Gli strumenti di ratifica, accettazione o approvazione sono depositati presso il segretario generale del Consiglio d'Europa.
(3)La presente convenzione entra in vigore il primo giorno del mese successivo allo scadere di un periodo di tre mesi a decorrere dalla data in cui cinque firmatari, tra i quali almeno tre Stati membri del Consiglio d'Europa, avranno espresso il loro consenso a essere vincolati dalla presente convenzione, conformemente al paragrafo 2.
(4)La presente convenzione entrerà in vigore, per ogni parte firmataria che esprimerà successivamente il suo consenso ad essere vincolata dalla convenzione, il primo giorno del mese successivo alla scadenza di un periodo di tre mesi a decorrere dalla data del deposito dello strumento di ratifica, accettazione o approvazione.
Articolo 31 – Adesione
(1)Dopo l'entrata in vigore della presente convenzione, il Comitato dei Ministri del Consiglio d'Europa, previ consultazione delle parti della presente convenzione e consenso unanime di queste ultime, può invitare qualsiasi Stato non membro del Consiglio d'Europa che non abbia partecipato all'elaborazione della presente convenzione ad aderirvi mediante una decisione adottata alla maggioranza prevista all'articolo 20, lettera d), dello statuto del Consiglio d'Europa e con voto unanime dei rappresentanti delle parti aventi diritto di sedere in seno al Comitato dei Ministri.
(2)La presente convenzione entrerà in vigore per ogni Stato che vi aderisca il primo giorno del mese successivo alla scadenza di un periodo di tre mesi a decorrere dalla data del deposito dello strumento di adesione presso il segretario generale del Consiglio d'Europa.
Articolo 32 – Applicazione territoriale
(1)Ogni Stato o l'Unione europea, al momento della firma o del deposito del proprio strumento di ratifica, accettazione, approvazione o adesione, può indicare il territorio o i territori cui si applica la presente convenzione.
(2)Ogni parte può, in un momento successivo e mediante dichiarazione inviata al segretario generale del Consiglio d'Europa, estendere l'applicazione della presente convenzione a ogni altro territorio specificato in tale dichiarazione. Relativamente a tale territorio la presente convenzione entra in vigore il primo giorno del mese successivo allo scadere di un periodo di tre mesi a decorrere dalla data di ricevimento della dichiarazione da parte del segretario generale.
(3)Ogni dichiarazione effettuata in base ai due precedenti paragrafi può, in relazione a ciascun territorio specificato nella suddetta dichiarazione, essere revocata mediante una notifica indirizzata al segretario generale del Consiglio d'Europa. La revoca ha effetto dal primo giorno del mese successivo allo scadere di un periodo di tre mesi a decorrere dalla data di ricevimento della notifica da parte del segretario generale.
Articolo 33 – Clausola federale
(1)Uno Stato federale può riservarsi il diritto di assumere gli obblighi derivanti dalla presente convenzione in conformità ai suoi principi fondamentali che disciplinano i rapporti tra il suo governo centrale e gli Stati costituenti o altri enti territoriali analoghi, a condizione che la presente convenzione si applichi al governo centrale dello Stato federale.
(2)Per quanto riguarda le disposizioni della presente convenzione la cui applicazione rientra nella competenza degli Stati costituenti o di enti territoriali analoghi che non sono tenuti in base all'ordinamento costituzionale della federazione ad adottare misure legislative, il governo federale comunica alle autorità competenti di tali Stati dette disposizioni assieme al suo parere favorevole, esortandole ad adottare le misure appropriate per darvi attuazione.
Articolo 34 – Riserve
(1)Con notifica scritta indirizzata al segretario generale del Consiglio d'Europa, ogni Stato può, al momento della firma o del deposito del proprio strumento di ratifica, accettazione, approvazione o adesione, dichiarare di avvalersi della riserva di cui all'articolo 33, paragrafo 1.
(2)Non sono ammissibili altre riserve in relazione alla presente convenzione.
Articolo 35 – Denuncia
(1)Ogni parte può, in qualsiasi momento, denunciare la presente convenzione mediante notifica inviata al segretario generale del Consiglio d'Europa.
(2)La denuncia ha effetto a partire dal primo giorno del mese successivo allo scadere di un periodo di tre mesi a decorrere dalla data di ricevimento della notifica da parte del segretario generale.
Articolo 36 – Notifica
Il segretario generale del Consiglio d'Europa notifica agli Stati membri del Consiglio d'Europa, agli Stati non membri che hanno partecipato all'elaborazione della presente convenzione, all'Unione europea, a ciascun firmatario, a ciascuno Stato contraente, a ciascuna parte e a ciascun altro Stato invitato ad aderire alla presente convenzione:
(a)ogni atto di firma;
(b)il deposito di ogni strumento di ratifica, accettazione, approvazione o adesione;
(c)le date di entrata in vigore della presente convenzione, in conformità all'articolo 30, paragrafi 3 e 4, e all'articolo 31, paragrafo 2;
(d)ogni emendamento adottato conformemente all'articolo 28 e la data della sua entrata in vigore;
(e)ogni dichiarazione formulata a norma dell'articolo 3, paragrafo 1, lettera b);
(f)ogni riserva e ogni revoca di una riserva espressa a norma dell'articolo 34;
(g)ogni denuncia presentata a norma dell'articolo 35;
(h)ogni altro atto, dichiarazione, notifica o comunicazione concernente la presente convenzione.
In fede di che, i sottoscritti, debitamente autorizzati, hanno firmato la presente convenzione.
Fatto a Vilnius, il 5 settembre 2024, in inglese e in francese, entrambi i testi facenti ugualmente fede, in un unico esemplare che è depositato negli archivi del Consiglio d'Europa. Il segretario generale del Consiglio d'Europa trasmette una copia certificata conforme a ogni Stato membro del Consiglio d'Europa, agli Stati non membri che hanno partecipato all'elaborazione della presente convenzione, all'Unione europea e a ogni Stato invitato ad aderire alla presente convenzione.
ALLEGATO II
1.Dichiarazione dell'Unione europea sull'ambito di applicazione per quanto riguarda gli attori privati a norma dell'articolo 3, paragrafo 1, lettera b), della convenzione
Rammentando l'obbligo, di cui all'articolo 3, paragrafo 1, lettera b), della Convenzione, di affrontare i rischi e gli impatti derivanti dalle attività che rientrano nel ciclo di vita dei sistemi di intelligenza artificiale svolte da soggetti privati, nella misura in cui non sono contemplate alla lettera a) di tale disposizione, in modo conforme all'oggetto e alla finalità della convenzione, l'Unione dichiara che applicherà i principi e gli obblighi di cui ai capi da II a VI della convenzione alle attività degli attori privati che immettono sul mercato, mettono in servizio e utilizzano sistemi di IA nell'Unione europea mediante l'attuazione del regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale ("regolamento sull'IA"). Anche altre disposizioni pertinenti dell'acquis dell'Unione possono applicarsi a tali attività e contribuire all'attuazione dei principi e degli obblighi della convenzione.
2.Dichiarazione dell'Unione europea sull'ambito di applicazione territoriale a norma dell'articolo 32, paragrafo 1, della convenzione
Con riferimento all'articolo 32, paragrafo 1, della convenzione, l'Unione dichiara che la convenzione quadro sull'intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto si applica, per quanto riguarda la competenza dell'Unione, ai territori in cui si applicano i trattati dell'UE a norma dell'articolo 52 TUE e alle condizioni stabilite, tra l'altro, all'articolo 355 TFUE.