COMMISSIONE EUROPEA
Bruxelles, 18.8.2022
COM(2022) 414 final
Raccomandazione di
DECISIONE DEL CONSIGLIO
che autorizza l'avvio di negoziati a nome dell'Unione europea per una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto
RELAZIONE
CONTESTO DELLA PROPOSTA
L'intelligenza artificiale (IA) offre grandi opportunità per la società, l'ambiente e l'economia. Nel contempo, a seconda delle circostanze relative all'applicazione e all'utilizzo specifici, alcuni sistemi di IA possono causare danni materiali o immateriali e generare rischi per gli interessi pubblici e i diritti e le libertà fondamentali degli individui. Un quadro giuridico coerente per l'IA, che tuteli questi interessi pubblici e diritti fondamentali promuovendo contemporaneamente la fiducia e l'innovazione, è dunque fondamentale per affrontare tali sfide e trarre vantaggio dal potenziale dell'IA.
Ad aprile 2021 la Commissione europea ha proposto un regolamento generale sull'IA volto ad armonizzare le regole sui sistemi di IA in tutti i 27 Stati membri dell'UE 1 . Il Parlamento europeo e il Consiglio stanno attualmente negoziando la proposta secondo la procedura legislativa ordinaria. Anche varie organizzazioni internazionali, fra cui il Consiglio d'Europa, hanno intensificato gli sforzi in questo settore riconoscendo la natura transfrontaliera dell'IA e la necessità di una cooperazione internazionale volta ad affrontare le sfide comuni.
Verso una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto
L'11 settembre 2019 il Comitato dei Ministri del Consiglio d'Europa ha deciso di istituire il Comitato ad hoc sull'intelligenza artificiale (CAHAI) 2 , il cui compito era esaminare la fattibilità e i potenziali elementi di un quadro giuridico sullo sviluppo, la progettazione e l'applicazione dell'IA, tenendo conto delle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto e degli strumenti giuridici internazionali esistenti 3 . Il lavoro del CAHAI si basava su uno studio di fattibilità 4 e su una consultazione di molteplici portatori di interessi condotta nella primavera del 2021 5 . Il 3 dicembre 2021 il CAHAI ha ultimato il suo lavoro e ha redatto un documento finale che individuava i possibili elementi di tale quadro giuridico 6 . Secondo il documento, ai fini dello sviluppo, della progettazione e dell'applicazione dei sistemi di IA è necessario uno strumento giuridico che contenga i principi fondamentali della tutela della dignità umana e del rispetto dei diritti umani, della democrazia e dello Stato di diritto. Lo strumento dovrebbe prevedere l'istituzione di una metodologia di classificazione del rischio dei sistemi di IA, che comprenda le categorie "basso rischio", "alto rischio" e "rischio inaccettabile". Le applicazioni di IA che presentano rischi "inaccettabili" dovrebbero essere vietate 7 . Al fine di evitare pregiudizi ingiustificati dovrebbe essere inclusa una disposizione sul rispetto della parità di trattamento e sulla non discriminazione. Le tutele giuridiche dovrebbero garantire almeno il diritto a un ricorso effettivo dinanzi a un'autorità nazionale, il diritto a essere informati dell'applicazione di un sistema di IA in un processo decisionale, il diritto di scegliere l'interazione con un essere umano e il diritto di sapere che si sta interagendo con un sistema di IA. Tuttavia le problematiche specifiche come la manipolazione di contenuti (deep fake) dovrebbero essere oggetto di altri strumenti settoriali. È opportuno prendere in considerazione l'obbligo di istituire meccanismi di conformità e autorità nazionali di controllo. Un modello non vincolante di valutazione d'impatto potrebbe integrare lo strumento giuridico.
Per il periodo 2022-2024 è stato istituito il Comitato sull'intelligenza artificiale (CAI), successore del CAHAI. Secondo il suo mandato 8 , il CAI è incaricato di istituire un processo di negoziazione internazionale al fine di sviluppare un quadro giuridico sullo sviluppo, la progettazione e l'applicazione dell'IA. Il quadro dovrebbe fondarsi sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto e favorire l'innovazione. Il quadro dovrebbe essere redatto entro il 15 novembre 2023 e ultimato entro la data di scioglimento del CAI, nel 2024. Nell'adempiere il proprio mandato, il CAI dovrebbe coordinare il suo lavoro con altri comitati intergovernativi e organi del Consiglio d'Europa, basare il suo lavoro su prove chiare e un processo di consultazione inclusivo, anche con partner internazionali e sovranazionali, e tenere conto del documento finale del CAHAI.
Dal 4 al 6 aprile 2022 il CAI ha tenuto la sua riunione inaugurale, durante la quale sono stati eletti un presidente, un vicepresidente e un ufficio di presidenza. Il 30 giugno 2022 il Comitato dei Ministri del Consiglio d'Europa ha incaricato il CAI di procedere rapidamente all'elaborazione di uno strumento giuridicamente vincolante di natura trasversale ("convenzione"/"convenzione quadro") sull'intelligenza artificiale basato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto, in linea con il suo mandato, incentrato su principi comuni generali, favorevole all'innovazione e aperto alla partecipazione di Stati terzi, tenendo conto nel contempo di altri pertinenti quadri giuridici internazionali esistenti o in fase di sviluppo 9 .
In seguito il presidente del CAI ha diffuso un "progetto preliminare" della futura convenzione (quadro), che stabilisce i principi e le regole fondamentali volti a garantire che la progettazione, lo sviluppo e l'applicazione dei sistemi di IA siano coerenti con il rispetto dei diritti umani, il funzionamento della democrazia e l'osservanza dello Stato di diritto. La futura convenzione (quadro) dovrà essere attuata nelle rispettive giurisdizioni delle parti. L'ambito di applicazione comprende gli utenti e i fornitori, sia pubblici che privati, dei sistemi di IA, ma esclude i sistemi di IA relativi alla difesa nazionale. Il progetto preliminare propone di includere le disposizioni seguenti:
·finalità e ambito di applicazione della convenzione (quadro);
·definizioni di sistema di IA, ciclo di vita, fornitore, utente e "soggetto dell'IA";
·alcuni principi fondamentali, compresi garanzie procedurali e diritti per i soggetti dell'IA che si applicherebbero a tutti i sistemi di IA, a prescindere dal rispettivo livello di rischio;
·misure supplementari per il settore pubblico e per i sistemi di IA che presentano un livello di rischio "inaccettabile" e "significativo", individuato sulla base di una metodologia di valutazione del rischio e dell'impatto (che verrà definita successivamente in un allegato della convenzione);
·meccanismi di follow-up e cooperazione fra le parti;
·disposizioni finali, che comprendono la possibilità che gli Stati membri dell'UE applichino il diritto dell'Unione nelle reciproche relazioni per questioni disciplinate dalla convenzione e la possibilità che l'Unione aderisca alla convenzione.
Il progetto preliminare sarà esaminato nelle sessioni plenarie del CAI a Strasburgo, previste dal 21 al 23 settembre e dal 23 al 25 novembre 2022. Sono inoltre in programma quattro riunioni per il 2023 e una per il 2024.
•Motivi e obiettivi della proposta
La presente raccomandazione di decisione è presentata al Consiglio a norma dell'articolo 218 del trattato sul funzionamento dell'Unione europea (TFUE). La decisione autorizzerebbe l'avvio di negoziati a nome dell'Unione per una futura convenzione del Consiglio d'Europa sull'IA, i diritti umani, la democrazia e lo Stato di diritto, l'adozione di direttive di negoziato e la nomina della Commissione quale negoziatore dell'Unione.
L'articolo 3, paragrafo 2, TFUE stabilisce che l'Unione ha competenza esclusiva "per la conclusione di accordi internazionali [...] nella misura in cui può incidere su norme comuni o modificarne la portata". Un accordo internazionale può incidere su norme comuni o modificarne la portata laddove il settore oggetto dell'accordo si sovrapponga al diritto dell'Unione o sia in larga parte disciplinato da esso 10 .
Il diritto dell'Unione fornisce in merito un insieme esaustivo di norme comuni sul mercato unico per i prodotti 11 e i servizi 12 per cui è possibile utilizzare i sistemi di IA. Inoltre lo sviluppo e l'utilizzo di alcuni sistemi di IA può incidere sull'esercizio dei diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell'Unione europea 13 e dal diritto derivato dell'UE compresi, ad esempio, il diritto all'integrità fisica e mentale 14 , la protezione dei dati personali 15 , la riservatezza 16 , la non discriminazione 17 , la libertà di espressione e di informazione 18 , la presunzione d'innocenza 19 , il processo equo e il ricorso effettivo 20 . Tale sviluppo e utilizzo può inoltre incidere sui valori su cui si fonda l'Unione, compresa la dignità umana, la democrazia e lo Stato di diritto 21 .
Inoltre al fine di valutare se un settore è disciplinato in gran parte dal diritto dell'UE, occorre prendere in considerazione non soltanto lo stato attuale del diritto dell'UE in materia, ma anche i suoi sviluppi futuri, qualora siano prevedibili al momento di tale analisi 22 . Il settore disciplinato dalla futura convenzione del Consiglio d'Europa sull'IA ha una rilevanza diretta per tali prevedibili sviluppi futuri, tenendo conto della proposta di regolamento sull'IA ("legge sull'IA") 23 presentata dalla Commissione ad aprile 2021 e attualmente in corso di negoziazione da parte del Parlamento europeo e del Consiglio.
I negoziati per la futura convenzione (quadro) del Consiglio d'Europa sull'IA sono legati a questioni di competenza dell'Unione e vi è una sovrapposizione molto significativa in termini di ambito di applicazione, natura e contenuto, fra il progetto preliminare della convenzione e la proposta di legge sull'IA. Ciò rilevato, è importante che i negoziati siano condotti a nome dell'Unione in modo tale da garantire che la coerenza e l'uniformità delle regole dell'UE per l'IA e il corretto funzionamento del sistema che istituiscono non siano compromessi e che la futura convenzione del Consiglio d'Europa sia pienamente coerente con le normative presenti e future dell'UE in tale settore.
•Coerenza con le disposizioni vigenti nel settore normativo interessato
Il 21 aprile 2021 la Commissione ha proposto un regolamento che stabilisce regole armonizzate per l'immissione sul mercato, la messa in servizio e l'utilizzo dei sistemi di IA nell'Unione. Tale proposta ha il duplice obiettivo di creare un mercato unico volto a promuovere lo sviluppo e la diffusione dell'IA e di affrontare i rischi per la sicurezza, la salute e i diritti fondamentali. La proposta è di natura orizzontale, applicabile sia ai fornitori che agli utenti dell'IA, a prescindere dal fatto che siano soggetti pubblici o privati. I sistemi di IA sviluppati o usati per scopi esclusivamente militari sono esclusi dall'ambito di applicazione della proposta.
La proposta stabilisce requisiti e obblighi proporzionati limitati al minimo necessario per affrontare i rischi per la salute, la sicurezza e i diritti fondamentali, senza ostacolare lo sviluppo tecnologico dell'IA o aumentare in modo sproporzionato gli oneri finanziari e amministrativi per gli operatori. A tal fine, essa segue un approccio basato sul rischio che classifica i sistemi di IA in varie categorie di rischio, vale a dire "inaccettabile", "alto", "relativo alla trasparenza", "basso" o "minimo".
·È stato proposto un divieto per i sistemi di IA ritenuti incompatibili con i valori dell'UE e che rappresentano una chiara minaccia alla sicurezza, al sostentamento o ai diritti delle persone, che presentano un "rischio inaccettabile" (ad esempio l'attribuzione di un punteggio sociale da parte delle autorità pubbliche, pratiche di IA manipolative dannose e l'identificazione biometrica remota in tempo reale ai fini di attività di contrasto in spazi accessibili al pubblico, fatte salve alcune eccezioni limitate).
·I sistemi di IA "ad alto rischio" che presentano rischi significativi per la salute, la sicurezza o i diritti fondamentali devono essere sottoposti a controlli di conformità e soddisfare determinati requisiti obbligatori (ad esempio in relazione a gestione dei rischi, qualità dei dati, documentazione, trasparenza, sorveglianza umana, accuratezza, cibersicurezza) prima di essere immessi sul mercato o utilizzati nell'Unione. Ai fornitori e agli utenti sono imposti altresì obblighi di monitoraggio e sorveglianza proporzionati ed efficaci, che ne definiscono chiaramente ruoli e responsabilità lungo la catena del valore senza incidere su altri obblighi previsti dalla normativa settoriale.
·Per quanto concerne i sistemi di IA che presentano un "rischio relativo alla trasparenza", è obbligatorio informare le persone quando stanno interagendo con tali sistemi o sono esposte a essi (ad esempio chatbot, sistemi di riconoscimento delle emozioni o di categorizzazione biometrica, deep fake).
·Tutti gli altri sistemi che presentano un "rischio minimo" o "basso" per la salute, la sicurezza e i diritti fondamentali sono ammessi senza ulteriori restrizioni, ma i fornitori possono scegliere di osservare codici di condotta volontari.
La proposta è attualmente all'esame del Consiglio e del Parlamento europeo secondo la procedura legislativa ordinaria.
I negoziati sulla futura convenzione del Consiglio d'Europa sull'IA, i diritti umani, la democrazia e lo Stato di diritto dovrebbero garantire che le disposizioni concordate siano compatibili con il diritto dell'UE e con gli obblighi incombenti agli Stati membri in forza del diritto dell'UE, tenendo conto dei suoi sviluppi futuri e della proposta di legge sull'IA. Sarà altresì necessario garantire che la convenzione del Consiglio d'Europa comprenda una clausola di deconnessione che consenta agli Stati membri dell'UE che diventano parti della convenzione di disciplinare le relazioni reciproche sulla base del diritto dell'Unione. La proposta di legge sull'IA, man mano che evolve nel corso dei negoziati fra i colegislatori nell'ambito della procedura legislativa e nella sua forma finale (adottata), dovrebbe essere preservata fra gli Stati membri dell'UE. L'Unione europea dovrebbe altresì poter aderire alla convenzione.
•Coerenza con le altre normative dell'Unione
La raccomandazione è pertinente per altre iniziative in corso o previste della Commissione volte ad affrontare i problemi posti dallo sviluppo e dall'utilizzo dei sistemi di IA e individuati nel Libro bianco sull'intelligenza artificiale 24 . Tra le altre iniziative figurano la revisione della normativa settoriale sui prodotti (ad esempio la direttiva macchine 25 , la direttiva sulla sicurezza generale dei prodotti 26 ) e le prossime iniziative che affrontano questioni connesse alla responsabilità in relazione alle nuove tecnologie, compresi i sistemi di IA.
La raccomandazione è inoltre coerente con la strategia digitale globale della Commissione volta a promuovere una tecnologia a servizio delle persone, uno dei tre obiettivi chiave della visione strategica delineata nella comunicazione "Plasmare il futuro digitale dell'Europa" 27 . Essa mira ad assicurare che l'IA sia sviluppata secondo modalità che rispettano i diritti delle persone e ne guadagnano la fiducia, rendendo l'Europa adatta all'era digitale e trasformando i prossimi dieci anni nel decennio digitale 28 .
La raccomandazione proposta rafforza inoltre in maniera significativa il ruolo dell'Unione nella definizione di norme e standard globali e nella promozione di un'IA affidabile che sia coerente con i valori e gli interessi dell'Unione. Essa fornisce all'Unione una base solida per rafforzare la diplomazia digitale dell'UE 29 e per negoziare, con altri paesi europei e non europei, il primo accordo internazionale giuridicamente vincolante sull'IA, fondato su valori e principi condivisi.
2.BASE GIURIDICA, SUSSIDIARIETÀ E PROPORZIONALITÀ
•Base giuridica
Ai sensi dell'articolo 218, paragrafo 3, del trattato sul funzionamento dell'Unione europea (TFUE), la Commissione presenta raccomandazioni al Consiglio, il quale adotta una decisione che autorizza l'avvio dei negoziati e designa il negoziatore dell'Unione. Ai sensi dell'articolo 218, paragrafo 4, TFUE il Consiglio può impartire direttive al negoziatore.
•Sussidiarietà (per la competenza non esclusiva)
La proposta di legge sull'IA stabilisce regole armonizzate per i sistemi di IA nell'Unione e impedisce agli Stati membri di imporre ulteriori restrizioni a meno che non siano esplicitamente consentite dalla legge. In conformità dell'articolo 3, paragrafo 2, TFUE l'Unione ha competenza esclusiva per la conclusione di accordi internazionali nella misura in cui può incidere su norme comuni o modificarne la portata. Ne consegue pertanto che per tutte le questioni concernenti la progettazione, lo sviluppo e l'applicazione di sistemi di IA, in larga parte disciplinati dal diritto dell'UE o che ne saranno disciplinati a seguito degli sviluppi futuri prevedibili del diritto dell'UE e in particolare della proposta di legge sull'IA, l'Unione dovrebbe avere la competenza di negoziare la futura convenzione del Consiglio d'Europa sull'IA.
•Proporzionalità
La presente iniziativa si limita a quanto è necessario per conseguire gli obiettivi strategici in questione.
•Scelta dell'atto giuridico
L'atto giuridico scelto è una raccomandazione di decisione del Consiglio, come previsto dall'articolo 218, paragrafi 3 e 4, TFUE.
3.RISULTATI DELLE VALUTAZIONI EX POST, DELLE CONSULTAZIONI DEI PORTATORI DI INTERESSI E DELLE VALUTAZIONI D'IMPATTO
•Valutazioni ex post / Vaglio di adeguatezza della legislazione vigente
N/A
•Consultazioni dei portatori di interessi
N/A
•Assunzione e uso di perizie
La Commissione ha tenuto conto dei pareri espressi dagli esperti degli Stati membri nelle discussioni in seno al pertinente gruppo di lavoro del Consiglio per preparare i negoziati.
•Valutazione d'impatto
N/A
•Efficienza normativa e semplificazione
N/A
•Diritti fondamentali
La proposta di legge sull'IA e la convenzione del Consiglio d'Europa in esame mirano a ridurre al minimo i rischi e a garantire un livello elevato di tutela dei diritti fondamentali, su cui lo sviluppo e l'utilizzo dell'IA potrebbero incidere negativamente in determinate circostanze, e nel contempo riconoscono il potenziale dell'IA di proteggere e agevolare l'esercizio di tali diritti nell'ambiente digitale e favorire il benessere sociale e ambientale, nonché il progresso tecnologico.
4.INCIDENZA SUL BILANCIO
Non è prevista alcuna incidenza sul bilancio dell'Unione.
5.ALTRI ELEMENTI
•Piani attuativi e modalità di monitoraggio, valutazione e informazione
Il processo negoziale dovrebbe durare fino al 2024, dopodiché la convenzione potrà essere sottoscritta e conclusa.
Raccomandazione di
DECISIONE DEL CONSIGLIO
che autorizza l'avvio di negoziati a nome dell'Unione europea per una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto
IL CONSIGLIO DELL'UNIONE EUROPEA,
visto il trattato sul funzionamento dell'Unione europea, in particolare l'articolo 218, paragrafi 3 e 4,
vista la raccomandazione della Commissione europea,
considerando quanto segue:
(1)Nel 2021 il Comitato dei Ministri del Consiglio d'Europa ha istituito un Comitato sull'intelligenza artificiale (CAI) per il periodo 2022-2024, incaricato di istituire un processo di negoziazione internazionale finalizzato a sviluppare un quadro giuridico sullo sviluppo, la progettazione e l'applicazione dell'intelligenza artificiale (IA) basato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto, e favorevole all'innovazione 30 .
(2)Il 30 giugno 2022 il Comitato dei Ministri del Consiglio d'Europa ha incaricato il Comitato sull'intelligenza artificiale di procedere rapidamente all'elaborazione di uno strumento giuridicamente vincolante di natura trasversale ("convenzione"/"convenzione quadro") sull'intelligenza artificiale basato sulle norme del Consiglio d'Europa in materia di diritti umani, democrazia e Stato di diritto, in linea con il suo mandato, incentrato su principi comuni generali, favorevole all'innovazione e aperto alla partecipazione di Stati terzi, tenendo conto nel contempo di altri pertinenti quadri giuridici internazionali esistenti o in fase di sviluppo 31 .
(3)In seguito il presidente del Comitato sull'intelligenza artificiale ha proposto un progetto preliminare della convenzione (quadro) che si applicherebbe alla progettazione, allo sviluppo e all'applicazione dei sistemi di IA. Il progetto preliminare comprende: disposizioni su finalità e obiettivo, ambito di applicazione, definizioni, principi fondamentali, tra cui le garanzie procedurali e i diritti applicabili a tutti i sistemi di IA a prescindere dal loro livello di rischio, ulteriori misure per i sistemi di IA nel settore pubblico e per i sistemi di IA che presentano livelli di rischio "inaccettabile" e "significativo", e un meccanismo di follow-up e cooperazione; disposizioni finali, inclusa la possibilità per l'Unione di aderire alla convenzione; e un'appendice, in via di elaborazione, su una metodologia di valutazione del rischio e dell'impatto dei sistemi di IA.
(4)L'Unione ha adottato regole comuni su cui incideranno gli elementi presi in esame per la convenzione del Consiglio d'Europa. Ciò comprende in particolare un insieme esaustivo di regole nel settore del mercato unico per i prodotti 32 e i servizi 33 per cui è possibile utilizzare i sistemi di IA, nonché di regole sulla tutela dei diritti fondamentali sanciti nella Carta dei diritti fondamentali dell'Unione europea 34 e attuati nel diritto derivato dell'Unione 35 , considerato che in determinate circostanze lo sviluppo e l'utilizzo di taluni sistemi di IA potrebbero incidere negativamente su tali diritti.
(5)Inoltre il 21 aprile 2021 la Commissione ha presentato una proposta legislativa di regolamento che stabilisce regole armonizzate sull'IA 36 , attualmente in corso di negoziazione da parte del Parlamento europeo e del Consiglio. L'ambito di applicazione della convenzione del Consiglio d'Europa prevista coincide in larga misura con quello della proposta legislativa, dal momento che entrambi gli strumenti mirano a stabilire regole applicabili alla progettazione, allo sviluppo e all'applicazione dei sistemi di IA forniti e utilizzati da soggetti pubblici o privati.
(6)Pertanto la conclusione della convenzione del Consiglio d'Europa in esame può incidere sulle norme comuni dell'Unione esistenti e su quelle prevedibilmente elaborate in futuro o modificarne la portata ai sensi dell'articolo 3, paragrafo 2, del trattato sul funzionamento dell'Unione europea.
(7)Al fine di tutelare l'integrità del diritto dell'Unione e di garantire che le norme del diritto internazionale e unionale rimangano coerenti, è necessario che la Commissione sia autorizzata a negoziare, a norme dell'Unione, la convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto.
(8)Il Garante europeo della protezione dei dati è stato consultato a norma dell'articolo 42, paragrafo 1, del regolamento (UE) 2018/1725 del Parlamento europeo e del Consiglio e ha espresso un parere in data …,
HA ADOTTATO LA PRESENTE DECISIONE:
Articolo 1
La Commissione è autorizzata a negoziare, a nome dell'Unione, la convenzione (quadro) del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto.
Articolo 2
Le direttive di negoziato figurano nell'allegato.
Articolo 3
I negoziati sono condotti in consultazione con [nome del comitato speciale,
da inserire a cura del Consiglio]
Articolo 4
La Commissione è destinataria della presente decisione.
Fatto a Bruxelles, il
Per il Consiglio
Il presidente
COMMISSIONE EUROPEA
Bruxelles, 18.8.2022
COM(2022) 414 final
ALLEGATO
della
RACCOMANDAZIONE DI DECISIONE DEL CONSIGLIO
che autorizza l'avvio di negoziati a nome dell'Unione europea per una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto
ALLEGATO
della raccomandazione di decisione del Consiglio che autorizza l'avvio di negoziati a nome dell'Unione europea per una convenzione del Consiglio d'Europa sull'intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto
Per quanto riguarda il processo dei negoziati, l'Unione dovrebbe ottenere i risultati seguenti:
1)il processo negoziale è aperto, inclusivo e trasparente e si basa su solide prove e una leale cooperazione;
2)il processo negoziale è basato su un processo di consultazione inclusivo e consente una partecipazione significativa di tutti i portatori di interessi pertinenti, compresi la società civile, il settore privato, il mondo accademico, le organizzazioni non governative, le organizzazioni di normazione e altri soggetti pertinenti con competenze relative alla regolamentazione della progettazione, dello sviluppo e dell'applicazione dei sistemi di intelligenza artificiale (IA);
3)tutti i contributi ricevuti da tutte le parti coinvolte nel negoziato sono considerati su base paritaria al fine di garantire un processo inclusivo;
4)il processo negoziale è basato su un programma di lavoro efficace e realistico per l'elaborazione della convenzione (quadro).
Per quanto riguarda gli obiettivi generali dei negoziati, l'Unione dovrebbe ottenere i risultati seguenti:
5)la convenzione è compatibile con la normativa dell'UE relativa al mercato unico e con la normativa dell'UE in altri settori, compresi i principi generali del diritto dell'UE e i diritti e le libertà fondamentali sanciti nella Carta dei diritti fondamentali dell'Unione europea e attuati attraverso il diritto derivato dell'UE;
6)la convenzione è compatibile con la proposta di legge sull'intelligenza artificiale (legge sull'IA) 1 e tiene conto degli sviluppi futuri nell'iter legislativo;
7)la convenzione funge da quadro normativo per l'IA efficace e adeguato alle esigenze future, nell'ottica di garantire un livello elevato di protezione dei diritti umani e di conservazione dei valori europei, promuovendo nel contempo l'innovazione e accrescendo la certezza giuridica e la fiducia; la convenzione riconosce inoltre i potenziali benefici dell'IA per importanti interessi pubblici, ad esempio per proteggere e agevolare l'esercizio dei diritti umani nell'ambiente digitale, favorire il benessere sociale e ambientale e la salute e promuovere il progresso tecnologico;
8)la convenzione rafforza la cooperazione internazionale fra l'Unione europea e altri paesi europei e non europei che potrebbero aderire alla convenzione;
9)la convenzione è compatibile con gli atti giuridici esistenti del Consiglio d'Europa, in particolare con la Convenzione europea dei diritti dell'uomo e i suoi protocolli, la Convenzione n. 108 del Consiglio d'Europa sulla protezione delle persone rispetto al trattamento automatizzato di dati di carattere personale, quale modificata dal protocollo CETS 223, e altri atti giuridici del Consiglio d'Europa pertinenti; la convenzione evita la duplicazione rispetto a tali strumenti e qualsiasi impatto negativo sulla loro applicazione o sull'ulteriore adesione agli stessi di eventuali altri paesi; la convenzione affronta i nuovi rischi e le nuove sfide che le caratteristiche specifiche di alcuni sistemi di IA rappresentano per il rispetto e l'effettiva applicazione dei diritti esistenti tutelati da tali strumenti;
10)la convenzione è compatibile con gli impegni dell'Unione europea nell'ambito di altri accordi internazionali di cui è parte, ed evita qualsiasi impatto negativo sulla loro efficace applicazione; in particolare, la convenzione è in linea con gli impegni commerciali internazionali dell'Unione ed evita restrizioni inutili o ingiustificate al commercio.
Per quanto riguarda la sostanza dei negoziati, l'Unione dovrebbe ottenere i risultati seguenti:
11)le disposizioni della convenzione sono pienamente compatibili con la normativa dell'UE relativa al mercato unico e la normativa dell'UE in altri settori, compresi i principi generali del diritto dell'UE e i diritti fondamentali sanciti nella Carta dei diritti fondamentali dell'Unione europea e attuati attraverso il diritto derivato dell'UE;
12)le disposizioni della convenzione sono pienamente compatibili con la proposta di legge sull'IA e tengono conto degli sviluppi futuri nell'iter legislativo;
13)le disposizioni della convenzione consentono alle parti di concedere un livello di tutela superiore a quello indicato nella convenzione senza compromettere in alcun modo il livello di tutela dei diritti e delle libertà fondamentali e delle garanzie previsti dal diritto dell'Unione, compreso il principio secondo cui le autorità che vigilano sui diritti fondamentali devono essere indipendenti in base a quanto previsto dal diritto dell'UE;
14)la convenzione segue un approccio basato sul rischio e stabilisce regole proporzionate, efficaci e chiare applicabili ai soggetti pubblici e privati lungo la catena del valore dell'IA, intese a ridurre al minimo i rischi derivanti dalla progettazione, dallo sviluppo e dall'applicazione di determinati sistemi di IA evitando nel contempo oneri o restrizioni inutili e sproporzionati per le attività di tali soggetti o limiti allo sviluppo tecnologico; in particolare, la portata e il rigore di qualsiasi intervento normativo sono equilibrati, giustificati e proporzionali rispetto ai livelli di rischio presentati dai sistemi di IA;
15)le disposizioni della convenzione sono formulate, per quanto possibile, in maniera flessibile e adeguata alle esigenze future al fine di tenere conto della futura evoluzione tecnologica, di mercato, sociale e ambientale relativa all'IA;
16)la convenzione prevede regole per la progettazione, lo sviluppo e l'applicazione dei sistemi di IA che evitino sovrapposizioni e forniscano un valore aggiunto significativo rispetto ad altre convenzioni internazionali o regionali pertinenti, in particolare nell'ambito della protezione dei dati; tali regole per l'IA sono compatibili con tali convenzioni e con le norme internazionali in materia di diritti umani;
17)la convenzione comprende disposizioni per l'attuazione efficace delle regole applicabili alla progettazione, allo sviluppo e all'applicazione dei sistemi di IA, in particolare con meccanismi di conformità e di controllo ex ante ed ex post adeguati, e riconosce il ruolo delle norme, dei meccanismi di certificazione, dei terzi indipendenti coinvolti nei controlli di conformità e delle autorità di controllo competenti;
18)la convenzione consente misure a sostegno dell'innovazione, compresi il collaudo dei sistemi di IA e l'istituzione e il funzionamento di spazi di sperimentazione normativa per promuovere l'innovazione dell'IA in un ambiente controllato e sotto la supervisione di autorità competenti;
19)la convenzione tiene conto delle esigenze specifiche delle piccole e medie imprese (PMI), non incide in modo sproporzionato sulla loro competitività e obbliga le parti ad adottare misure specifiche in loro sostegno;
20)la convenzione tiene conto dell'interesse delle autorità di contrasto e delle autorità giudiziarie ai fini di prevenzione, indagine, accertamento e perseguimento dei reati, anche in riferimento alla riservatezza e all'integrità di tali indagini;
21)la convenzione prevede un controllo efficace da parte delle autorità competenti e meccanismi di cooperazione che ne consentono l'efficace attuazione.
Per quanto riguarda il funzionamento della convenzione, l'Unione dovrebbe ottenere i risultati seguenti:
22)la convenzione comprende una clausola di deconnessione che consente agli Stati membri dell'UE, nelle loro relazioni reciproche, di continuare ad applicare il diritto dell'Unione alle questioni che rientrano nell'ambito di applicazione della convenzione;
23)la convenzione prevede un meccanismo adeguato che ne garantisca l'attuazione e comprende disposizioni finali, anche per quanto riguarda la risoluzione delle controversie, la firma, la ratifica, l'accettazione, l'approvazione e l'adesione, l'entrata in vigore, la modifica, la sospensione, la denuncia e il depositario e le lingue mutuate, nella misura del possibile e se opportuno, dalle disposizioni di altre convenzioni pertinenti del Consiglio d'Europa;
24)la convenzione consente all'Unione europea di diventarne parte.