This document is an excerpt from the EUR-Lex website
Document 52022PC0414
Recommendation for a COUNCIL DECISION authorising the opening of negotiations on behalf of the European Union for a Council of Europe convention on artificial intelligence, human rights, democracy and the rule of law
Recomendação de DECISÃO DO CONSELHO que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
Recomendação de DECISÃO DO CONSELHO que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
COM/2022/414 final
COMISSÃO EUROPEIA
Bruxelas, 18.8.2022
COM(2022) 414 final
Recomendação de
DECISÃO DO CONSELHO
que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
EXPOSIÇÃO DE MOTIVOS
CONTEXTO DA PROPOSTA
A inteligência artificial (IA) oferece excelentes oportunidades para a sociedade, o ambiente e a economia. Por outro lado, em função das circunstâncias de aplicação e utilização, determinados tipos de IA podem causar danos materiais ou imateriais e gerar riscos para os interesses públicos e os direitos e liberdades fundamentais das pessoas. Por conseguinte, para responder a esses desafios e explorar o potencial da IA, é crucial um quadro jurídico coerente que proteja esses interesses públicos e os direitos fundamentais e, ao mesmo tempo, promova a confiança e a inovação.
Em abril de 2021, a Comissão Europeia propôs um regulamento abrangente sobre a inteligência artificial que harmonizaria as regras aplicáveis aos sistemas de IA nos 27 Estados-Membros da UE 1 . O Parlamento Europeu e o Conselho estão atualmente a negociar a proposta de acordo com o processo legislativo ordinário. Várias organizações internacionais, incluindo o Conselho da Europa, também intensificaram os seus esforços neste domínio, reconhecendo a natureza transfronteiriça da IA e a necessidade de cooperação internacional para enfrentar os desafios comuns.
Rumo a uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
Em 11 de setembro de 2019, o Comité de Ministros do Conselho da Europa decidiu criar um Comité ad hoc para a Inteligência Artificial (CAHAI) 2 , cuja missão consistia em analisar a viabilidade e os potenciais elementos de um quadro jurídico para o desenvolvimento, a conceção e a aplicação da IA, tendo em conta as normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, bem como os instrumentos jurídicos internacionais pertinentes 3 . O trabalho do CAHAI baseou-se num estudo de viabilidade 4 e numa consulta multilateral, realizada na primavera de 2021 5 . Em 3 de dezembro de 2021, o CAHAI completou a sua missão, apresentando um documento final, que identificava os possíveis elementos desse quadro jurídico 6 . De acordo com o documento, para o desenvolvimento, a conceção e a aplicação dos sistemas de IA, é necessário dispor de um instrumento jurídico que contenha os princípios fundamentais da proteção da dignidade humana e do respeito dos direitos humanos, da democracia e do Estado de direito. O instrumento deve prever o estabelecimento de uma metodologia para a classificação do risco dos sistemas de IA, que inclua as categorias «baixo risco», «risco elevado» e «risco inaceitável». As aplicações de IA que apresentem riscos «inaceitáveis» devem ser proibidas 7 . A fim de evitar distorções injustificadas, é necessário incluir uma disposição relativa ao respeito da igualdade de tratamento e da não discriminação. As garantias jurídicas devem garantir, pelo menos, o direito a um recurso efetivo perante uma autoridade nacional, o direito de ser informado sobre a aplicação de um sistema de IA num processo de tomada de decisão, o direito de escolher a interação com um ser humano e o direito de saber que está a interagir com um sistema de IA. No entanto, questões específicas como a manipulação de conteúdos («falsificação profunda») devem ser tratadas noutros instrumentos setoriais. Convém prever a possibilidade de estabelecer a obrigação de criar mecanismos de conformidade e autoridades supervisoras nacionais. Um modelo (não vinculativo) de avaliação de impacto poderia complementar o instrumento jurídico.
Foi criado um sucessor do CAHAI – o Comité para a Inteligência Artificial (CAI) – para o período 2022-2024. De acordo com o seu mandato 8 , incumbe ao CAI lançar um processo de negociação internacional para desenvolver um quadro jurídico sobre o desenvolvimento, a conceção e a aplicação da IA. O quadro deve basear-se nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, e deve ser propício à inovação. Deve ser elaborado até 15 de novembro de 2023 e concluído até ao momento da dissolução do CAI, em 2024. No cumprimento do seu mandato, o CAI deve coordenar o seu trabalho com outros comités intergovernamentais e entidades do Conselho da Europa, basear o seu trabalho em provas sólidas e num processo de consulta inclusivo, nomeadamente com parceiros internacionais e supranacionais, e ter em conta o documento final do CAHAI.
De 4 a 6 de abril de 2022, o CAI realizou a sua reunião constitutiva, na qual foram eleitos o presidente, o vice-presidente e a mesa. Em 30 de junho de 2022, o Comité de Ministros do Conselho da Europa encarregou o CAI de proceder rapidamente à elaboração de um instrumento juridicamente vinculativo de natureza transversal («convenção»/«convenção-quadro») sobre inteligência artificial assente nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, em conformidade com o seu mandato, centrado em princípios comuns gerais, propício à inovação e aberto à participação de Estados terceiros, tendo simultaneamente em conta outros quadros jurídicos internacionais pertinentes existentes ou em desenvolvimento 9 .
Posteriormente, o presidente do CAI divulgou um projeto preliminar («projeto zero») da futura convenção(-quadro), que estabelece princípios e regras fundamentais destinados a garantir que a conceção, o desenvolvimento e a aplicação dos sistemas de IA sejam coerentes com o respeito dos direitos humanos, o funcionamento da democracia e o respeito do Estado de direito. A futura convenção(-quadro) terá de ser aplicada nas respetivas jurisdições das Partes. O seu âmbito de aplicação abrange tanto os fornecedores como os utilizadores públicos e privados de sistemas de IA, mas exclui os sistemas de IA relacionados com a defesa nacional. O projeto preliminar propõe a inclusão das seguintes disposições:
·objetivo e âmbito de aplicação da convenção(-quadro),
·definições de sistema de IA, ciclo de vida, fornecedor, utilizador e «sujeito de IA»,
·certos princípios fundamentais, incluindo as garantias processuais e os direitos dos sujeitos de IA que se aplicariam a todos os sistemas de IA, independentemente do seu nível de risco,
·medidas adicionais para o setor público, bem como para os sistemas de IA que apresentem níveis de risco «inaceitáveis» e «significativos» identificados com base numa metodologia de avaliação de risco e de impacto (a estabelecer posteriormente num anexo da convenção),
·mecanismo de acompanhamento e de cooperação entre as partes,
·disposições finais, incluindo a possibilidade de os Estados-Membros da UE, nas suas relações mútuas, aplicarem o direito da União nas matérias abrangidas pela convenção e a possibilidade de a União aderir à mesma.
O projeto preliminar será debatido nas sessões plenárias do CAI em Estrasburgo, previstas para 21-23 de setembro e 23-25 de novembro de 2022. Estão também previstas quatro reuniões para 2023 e uma reunião em 2024.
•Razões e objetivos da proposta
A presente recomendação de decisão é apresentada ao Conselho nos termos do artigo 218.º do Tratado sobre o Funcionamento da União Europeia (TFUE). A decisão autorizaria a abertura de negociações, em nome da União, tendo em vista uma futura convenção do Conselho da Europa sobre IA, direitos humanos, democracia e Estado de direito, a adoção de diretrizes de negociação e a nomeação da Comissão como negociador da União.
O artigo 3.º, n.º 2, do TFUE prevê que a União dispõe de competência exclusiva «para celebrar acordos internacionais quando tal celebração [...] seja suscetível de afetar regras comuns ou de alterar o alcance das mesmas». Um acordo internacional pode afetar as regras comuns ou alterar o seu âmbito de aplicação sempre que o domínio abrangido pelo acordo se sobreponha ao direito da União ou seja em grande medida por ele abrangido 10 .
Neste sentido, a legislação da UE prevê um conjunto abrangente de regras do mercado único comum para os produtos 11 e serviços 12 nos quais os sistemas de IA podem ser utilizados. Além disso, o desenvolvimento e a utilização de determinados sistemas de IA podem afetar o exercício dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais da UE 13 e no direito derivado da UE, incluindo, por exemplo, o direito à integridade física e mental 14 , a proteção dos dados pessoais 15 , a privacidade 16 , a não discriminação 17 , a liberdade de expressão e de informação 18 , a presunção de inocência 19 , um julgamento justo e um recurso efetivo 20 . Esse desenvolvimento e utilização podem também afetar os valores em que se baseia a União, incluindo a dignidade humana, a democracia e o Estado de direito 21 .
Além disso, para determinar se um domínio é abrangido, em grande medida, pelo direito da União, há que ter em conta não só o direito da União atualmente em vigor no domínio em causa, mas também as perspetivas da sua evolução, na medida em que tal seja previsível aquando dessa análise 22 . O domínio abrangido pela futura convenção do Conselho da Europa sobre IA tem uma relevância direta para essa evolução previsível, tendo em conta a proposta da Comissão de um regulamento relativo à IA («Regulamento Inteligência Artificial» 23 ), apresentada em abril de 2021 e atualmente em processo de negociação pelo Parlamento Europeu e pelo Conselho.
As negociações para a futura convenção(-quadro) do Conselho da Europa sobre IA incidem sobre questões da competência da União, existindo uma sobreposição muito significativa entre o projeto preliminar de convenção e o Regulamento Inteligência Artificial proposto em termos do seu âmbito de aplicação, natureza e conteúdo. Tendo em conta o que precede, é importante que as negociações sejam conduzidas em nome da União de forma a garantir que a coerência e a uniformidade das regras da UE em matéria de IA e o bom funcionamento do sistema que estabelecem não sejam comprometidos e que a futura convenção do Conselho da Europa seja plenamente coerente com a legislação da UE em vigor e futura neste domínio.
•Coerência com as disposições existentes da mesma política setorial
Em 21 de abril de 2021, a Comissão propôs um regulamento que estabelece regras harmonizadas para a colocação no mercado, a entrada em serviço e a utilização de sistemas de inteligência artificial na União. A proposta tem o duplo objetivo de criar um mercado único para promover o desenvolvimento e a adoção da IA, abordando ao mesmo tempo os riscos para a segurança, a saúde e os direitos fundamentais. A proposta é de natureza horizontal e aplica-se aos fornecedores e utilizadores de sistemas de IA, independentemente de serem entidades públicas ou privadas. Os sistemas de IA desenvolvidos ou utilizados exclusivamente para fins militares estão excluídos do âmbito de aplicação.
A proposta estabelece requisitos e obrigações proporcionados e limitados ao mínimo necessário para fazer face aos riscos para a saúde, a segurança e os direitos fundamentais, sem prejudicar o desenvolvimento tecnológico da IA nem aumentar desproporcionadamente os encargos financeiros e administrativos para os operadores. Para o efeito, segue uma abordagem baseada no risco que classifica os sistemas de IA em diferentes categorias, a saber, risco «inaceitável», «elevado», «relacionado com a transparência» e «baixo» ou «mínimo».
·É proposta uma proibição dos sistemas de IA que se considerem incompatíveis com os valores da UE e constituam uma clara ameaça para a segurança, os meios de subsistência ou os direitos das pessoas, que representem um «risco inaceitável» (por exemplo, a classificação dos cidadãos pelas autoridades públicas, as práticas de manipulação nocivas da IA, a identificação biométrica à distância em tempo real para efeitos de aplicação da lei em espaços de acesso público, com algumas exceções limitadas).
·Os sistemas de IA «de risco elevado» que representem riscos significativos para a saúde, a segurança ou os direitos fundamentais devem ser submetidos a controlos de conformidade e cumprir determinados requisitos obrigatórios (por exemplo, no que respeita à gestão dos riscos, à qualidade dos dados, à documentação, à transparência, à supervisão humana, à exatidão e à cibersegurança) antes de poderem ser colocados no mercado ou utilizados na União. São também impostas obrigações de controlo e supervisão proporcionadas e eficazes aos fornecedores e aos utilizadores, definindo claramente as suas funções e responsabilidades em toda a cadeia de valor, sem afetar outras obrigações ao abrigo da legislação setorial.
·Nos casos dos sistemas de IA que representem um «risco relacionado com a transparência», as pessoas devem ser informadas quando interagem com esses sistemas ou estão a eles expostas (por exemplo, os robôs de conversação, os sistemas de reconhecimento de emoções e de categorização biométrica, as falsificações profundas).
·Todos os outros sistemas que representem um risco «mínimo» ou «baixo» para a saúde, a segurança e os direitos fundamentais são autorizados sem outras restrições, mas os fornecedores podem optar por cumprir códigos de conduta voluntários.
A proposta está a ser debatida pelo Conselho e pelo Parlamento Europeu de acordo com o processo legislativo ordinário.
As negociações relativas à futura convenção do Conselho da Europa sobre a IA, os direitos humanos, a democracia e o Estado de direito devem garantir que as disposições acordadas são compatíveis com o direito da UE e com as obrigações que incumbem aos Estados-Membros por força do mesmo, tendo em conta as perspetivas da sua evolução e o Regulamento Inteligência Artificial proposto. Será igualmente necessário garantir que a convenção do Conselho da Europa inclua uma cláusula de desconexão que permita aos Estados-Membros da UE que se tornem Partes na convenção regular as relações entre si com base no direito da UE. É conveniente preservar entre os Estados-Membros da UE o Regulamento Inteligência Artificial proposto à medida que evolua no processo legislativo e nas negociações dos colegisladores e, por fim, na sua forma final (adotada). A União Europeia deve também poder aderir à convenção enquanto Parte.
•Coerência com outras políticas da União
A recomendação é relevante para outras iniciativas da Comissão, em curso ou previstas, que visam resolver os problemas decorrentes do desenvolvimento e da utilização dos sistemas de IA, identificados no Livro Branco sobre a inteligência artificial 24 . Estas outras iniciativas incluem a revisão da legislação setorial relativa aos produtos (por exemplo, a Diretiva Máquinas 25 e a Diretiva Segurança Geral dos Produtos 26 ) e as próximas iniciativas que abordam questões de responsabilidade relacionadas com as novas tecnologias, incluindo os sistemas de IA.
A recomendação também é coerente com a estratégia digital global da Comissão, que visa promover o conceito de «tecnologia ao serviço das pessoas», um dos três principais objetivos da visão política exposta na Comunicação intitulada «Construir o futuro digital da Europa» 27 . O seu objetivo é assegurar que a IA seja desenvolvida de modo que respeite os direitos humanos e conquiste a confiança das pessoas, preparando a Europa para a era digital e transformando os próximos dez anos na Década Digital 28 .
A recomendação proposta também reforça de forma significativa o papel da União na definição de regras e padrões mundiais e na promoção de uma IA de confiança que é coerente com os valores e os interesses da União. Proporciona à União uma base poderosa para reforçar a diplomacia digital da UE 29 e para negociar, com outros países europeus e não europeus, o primeiro acordo internacional juridicamente vinculativo sobre IA, baseado em valores e princípios partilhados.
2.BASE JURÍDICA, SUBSIDIARIEDADE E PROPORCIONALIDADE
•Base jurídica
O artigo 218.º, n.º 3, do Tratado sobre o Funcionamento da União Europeia (TFUE) dispõe que a Comissão apresenta recomendações ao Conselho, que adota uma decisão que autoriza a abertura de negociações e designa o negociador da União. Nos termos do artigo 218.º, n.º 4, do TFUE, o Conselho pode transmitir diretrizes ao negociador.
•Subsidiariedade (no caso de competência não exclusiva)
O Regulamento Inteligência Artificial proposto estabelece regras harmonizadas para os sistemas de IA na União, impedindo assim os Estados-Membros de impor novas restrições, a menos que tal seja explicitamente autorizado pelo regulamento. Nos termos do artigo 3.º, n.º 2, do TFUE, a União dispõe de competência exclusiva para celebrar acordos internacionais quando estes sejam suscetíveis de afetar regras comuns ou de alterar o alcance das mesmas. Por conseguinte, daqui resulta que, para todas as questões relacionadas com a conceção, o desenvolvimento e a aplicação de sistemas de IA, abrangidas em grande medida pelo direito da União ou a serem abrangidas na sequência da evolução previsível do direito da União e, em especial, do Regulamento Inteligência Artificial proposto, a União deve dispor de competência para negociar a futura convenção do Conselho da Europa sobre IA.
•Proporcionalidade
A presente iniciativa não excede o necessário para alcançar os objetivos estratégicos em causa.
•Escolha do instrumento
O instrumento escolhido é uma recomendação de decisão do Conselho, conforme previsto no artigo 218.º, n.os 3 e 4, do TFUE.
3.RESULTADOS DAS AVALIAÇÕES EX POST, DAS CONSULTAS DAS PARTES INTERESSADAS E DAS AVALIAÇÕES DE IMPACTO
•Avaliações ex post/balanços de qualidade da legislação existente
Não aplicável
•Consultas das partes interessadas
Não aplicável
•Recolha e utilização de conhecimentos especializados
Na preparação das negociações, a Comissão teve em conta os pontos de vista expressos pelos peritos dos Estados-Membros nos debates realizados no grupo de trabalho competente do Conselho.
•Avaliação de impacto
Não aplicável
•Adequação da regulamentação e simplificação
Não aplicável
•Direitos fundamentais
Tanto o Regulamento Inteligência Artificial proposto como a convenção do Conselho da Europa em apreço visam minimizar os riscos e assegurar um elevado nível de proteção dos direitos fundamentais que, em determinadas circunstâncias, podem ser negativamente afetados pelo desenvolvimento e pela utilização da IA, reconhecendo ao mesmo tempo o potencial da IA para proteger e facilitar o exercício desses direitos no ambiente digital e para melhorar o bem-estar social e ambiental, bem como o progresso tecnológico.
4.INCIDÊNCIA ORÇAMENTAL
Não se prevê que a presente recomendação tenha incidência no orçamento da União.
5.OUTROS ELEMENTOS
•Planos de execução e acompanhamento, avaliação e prestação de informações
Prevê-se que o processo de negociação dure até 2024, após o que se poderá assinar e celebrar a convenção.
Recomendação de
DECISÃO DO CONSELHO
que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
O CONSELHO DA UNIÃO EUROPEIA,
Tendo em conta o Tratado sobre o Funcionamento da União Europeia, nomeadamente o artigo 218.º, n.os 3 e 4,
Tendo em conta a recomendação da Comissão Europeia,
Considerando o seguinte:
(1)Em 2021, o Comité de Ministros do Conselho da Europa criou um Comité para a Inteligência Artificial (CAI) para o período 2022-2024, com a missão de pôr em marcha um processo de negociação internacional para desenvolver um quadro jurídico para o desenvolvimento, a conceção e a aplicação da inteligência artificial (IA), assente nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, e propício à inovação 30 .
(2)Em 30 de junho de 2022, o Comité de Ministros do Conselho da Europa encarregou o Comité para a Inteligência Artificial de proceder rapidamente à elaboração de um instrumento juridicamente vinculativo de natureza transversal («convenção»/«convenção-quadro») sobre inteligência artificial assente nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, em conformidade com o seu mandato, centrado em princípios comuns gerais, propício à inovação e aberto à participação de Estados terceiros, tendo simultaneamente em conta outros quadros jurídicos internacionais pertinentes existentes ou em desenvolvimento 31 .
(3)Posteriormente, o presidente da Comissão para a Inteligência Artificial propôs um projeto preliminar («projeto zero») de convenção(-quadro) aplicável à conceção, ao desenvolvimento e à aplicação de sistemas de IA. O projeto preliminar inclui: disposições sobre a finalidade e o objeto, o âmbito de aplicação, as definições, os princípios fundamentais, incluindo as garantias processuais e os direitos aplicáveis a todos os sistemas de IA, independentemente do seu nível de risco, medidas adicionais para os sistemas de IA no setor público e para os sistemas de IA que apresentem níveis de risco «inaceitáveis» e «significativos», bem como um mecanismo de acompanhamento e de cooperação; disposições finais, incluindo a possibilidade de a União aderir à convenção; e um apêndice, em fase de elaboração, sobre uma metodologia para a avaliação dos riscos e do impacto dos sistemas de IA.
(4)A União adotou regras comuns que serão afetadas pelos elementos previstos para a convenção do Conselho da Europa. Entre estas incluem-se, nomeadamente, um conjunto abrangente de regras no domínio do mercado único de produtos 32 e serviços 33 nos quais os sistemas de IA podem ser utilizados, bem como regras sobre a proteção dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais da UE 34 e transpostos no direito derivado da União 35 , tendo em conta que esses direitos são suscetíveis de ser negativamente afetados em determinadas circunstâncias pelo desenvolvimento e utilização de determinados sistemas de IA.
(5)Além disso, em 21 de abril de 2021, a Comissão apresentou uma proposta legislativa de regulamento que estabelece regras harmonizadas para a IA 36 , atualmente em processo de negociação pelo Parlamento Europeu e pelo Conselho. A convenção do Conselho da Europa prevista sobrepõe-se, em grande medida, à proposta legislativa quanto ao seu âmbito de aplicação, uma vez que ambos os instrumentos visam estabelecer regras aplicáveis à conceção, ao desenvolvimento e à aplicação dos sistemas de IA, fornecidos e utilizados por entidades públicas ou privadas.
(6)Por conseguinte, a celebração da convenção do Conselho da Europa em apreço pode afetar as regras comuns da União existentes e previsíveis ou alterar o seu âmbito de aplicação na aceção do artigo 3.º, n.º 2, do Tratado sobre o Funcionamento da União Europeia.
(7)A fim de proteger a integridade do direito da União e assegurar a coerência das regras do direito internacional e do direito da União, é necessário que a Comissão seja autorizada a negociar, em nome da União, a convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito.
(8)A Autoridade Europeia para a Proteção de Dados foi consultada nos termos do disposto no artigo 42.º, n.º 1, do Regulamento (UE) 2018/1725 do Parlamento Europeu e do Conselho e emitiu parecer em …
ADOTOU A PRESENTE DECISÃO:
Artigo 1.º
A Comissão fica autorizada a negociar, em nome da União, a convenção(-quadro) do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito.
Artigo 2.º
As diretrizes de negociação figuram em anexo.
Artigo 3.º
As negociações devem ser conduzidas em consulta com o [nome do comité especial
a inserir pelo Conselho].
Artigo 4.º
A destinatária da presente decisão é a Comissão.
Feito em Bruxelas, em
Pelo Conselho
O Presidente
COMISSÃO EUROPEIA
Bruxelas, 18.8.2022
COM(2022) 414 final
ANEXO
da
RECOMENDAÇÃO DE DECISÃO DO CONSELHO
que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
ANEXO
da recomendação de decisão do Conselho que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito
No que diz respeito ao processo de negociação, a União deve envidar esforços para que:
(1)O processo de negociação seja aberto, inclusivo e transparente e assente em provas sólidas e na cooperação leal;
(2)O processo de negociação se baseie num processo de consulta inclusivo e permita a participação significativa de todas as partes interessadas, incluindo a sociedade civil, o setor privado, o meio académico, as organizações não governamentais, as organizações de normalização e outros intervenientes relevantes, com conhecimentos especializados em matéria de regulamentação da conceção, do desenvolvimento e da aplicação dos sistemas de inteligência artificial (IA);
(3)Todos os contributos recebidos de todas as Partes nas negociações sejam examinados em pé de igualdade, a fim de assegurar um processo inclusivo;
(4)O processo de negociação se baseie num programa de trabalhos eficaz e realista para a elaboração da convenção(-quadro).
No que diz respeito aos objetivos gerais das negociações, a União deve envidar esforços para que:
(5)A convenção seja compatível com a legislação da UE relativa ao mercado único e com outros domínios do direito da União, incluindo os princípios gerais do direito da União e os direitos e liberdades fundamentais consagrados na Carta dos Direitos Fundamentais da UE e transpostos no direito derivado da UE;
(6)A convenção seja compatível com a proposta regulamentar sobre a inteligência artificial (Regulamento Inteligência Artificial) 1 , tendo em conta a evolução futura do processo legislativo;
(7)A convenção constitua um quadro regulamentar para a IA eficaz e orientado para o futuro, com vista a assegurar um elevado nível de proteção dos direitos humanos e a preservação dos valores europeus, promovendo a inovação e aumentando a segurança jurídica e a confiança; a convenção reconheça também os potenciais benefícios da IA para interesses públicos importantes, nomeadamente para proteger e facilitar o exercício dos direitos humanos no ambiente digital, melhorar o bem-estar e a saúde social e ambiental e promover o progresso tecnológico;
(8)A convenção reforce a cooperação internacional entre a União Europeia e outros países europeus e não europeus que possam aderir à mesma;
(9)A convenção seja compatível com os instrumentos existentes do Conselho da Europa, nomeadamente a Convenção Europeia dos Direitos do Homem e os seus Protocolos, a Convenção n.º 108 do Conselho da Europa relativa à proteção das pessoas no que diz respeito ao tratamento automatizado de dados pessoais, com a redação que lhe foi dada pelo Protocolo CETS n.º 223, e outros instrumentos jurídicos pertinentes do Conselho da Europa; a convenção evite a duplicação com esses instrumentos e qualquer impacto negativo na sua aplicação ou na futura adesão de qualquer país aos mesmos; a convenção aborde os novos riscos e desafios que as características específicas de determinados sistemas de IA representam para o cumprimento e a aplicação efetiva dos direitos existentes protegidos por esses instrumentos;
(10)A convenção seja compatível com os compromissos da União Europeia em relação a outros acordos internacionais de que é parte e evite qualquer impacto negativo na sua aplicação efetiva; em especial, a convenção esteja em conformidade com os compromissos da União em matéria de comércio internacional e evite as restrições desnecessárias ou injustificadas ao comércio.
No que diz respeito ao conteúdo das negociações, a União deve envidar esforços para que:
(11)As disposições da convenção sejam plenamente compatíveis com a legislação da UE relativa ao mercado único e com outros domínios do direito da União, incluindo os princípios gerais do direito da União e os direitos e liberdades fundamentais consagrados na Carta dos Direitos Fundamentais da UE e transpostos no direito derivado da UE;
(12)As disposições da convenção sejam plenamente compatíveis com o Regulamento Inteligência Artificial proposto, tendo em conta a evolução futura do processo legislativo;
(13)As disposições da convenção permitam que as partes concedam uma proteção mais ampla do que a estipulada na mesma e não comprometam de forma alguma o nível de proteção dos direitos e liberdades fundamentais e as garantias previstas no direito da União, incluindo o princípio de que as autoridades de supervisão dos direitos fundamentais devem ser independentes, na medida em que o direito da UE o exija;
(14)A convenção siga uma abordagem baseada no risco e estabeleça regras proporcionadas, eficazes e claras aplicáveis às entidades públicas e privadas em toda a cadeia de valor da IA, que visem minimizar os riscos decorrentes da conceção, do desenvolvimento e da aplicação de determinados sistemas de IA, evitando ao mesmo impor encargos ou restrições desnecessários e desproporcionados às atividades dessas entidades ou restrições ao desenvolvimento tecnológico; em especial, o âmbito e o rigor de qualquer intervenção regulamentar sejam equilibrados, justificados e dimensionados em função dos níveis de risco que os sistemas de IA representem;
(15)As disposições da convenção sejam formuladas, na medida do possível, de forma flexível e orientada para o futuro, a fim de permitir a tomada em consideração dos futuros desenvolvimentos tecnológicos, de mercado, societais e ambientais relacionados com a IA;
(16)A convenção preveja regras para a conceção, o desenvolvimento e a aplicação de sistemas de IA que evitem sobreposições e proporcionem um valor acrescentado significativo em relação a outras convenções internacionais ou regionais pertinentes, nomeadamente no domínio da proteção de dados; essas regras para a IA sejam compatíveis com as referidas convenções e com as normas internacionais em matéria de direitos humanos;
(17)A convenção inclua disposições para a aplicação efetiva das regras aplicáveis à conceção, ao desenvolvimento e à aplicação dos sistemas de IA, nomeadamente através de mecanismos adequados de conformidade e controlo ex ante e ex post, e reconheça o papel das normas, dos mecanismos de certificação, dos terceiros independentes que participam nas verificações de conformidade e das autoridades de controlo competentes;
(18)A convenção preveja medidas de apoio à inovação, nomeadamente o ensaio dos sistemas de IA, bem como a criação e o funcionamento de ambientes de testagem da regulamentação para promover a inovação em matéria de IA num ambiente controlado, sob a supervisão das autoridades competentes;
(19)A convenção tenha em conta as necessidades especiais das pequenas e médias empresas (PME), não afete de forma desproporcionada a sua competitividade e obrigue as Partes a tomar medidas específicas para as apoiar;
(20)A convenção tenha em conta os interesses das autoridades policiais e judiciais para efeitos de prevenção, investigação, deteção e repressão de infrações penais, nomeadamente no que respeita à confidencialidade e integridade dessas investigações;
(21)A convenção preveja uma supervisão eficaz por parte das autoridades competentes e mecanismos de cooperação que permitem a sua aplicação efetiva.
No que diz respeito ao funcionamento da convenção, a União deve envidar esforços para que:
(22)A convenção inclua uma cláusula de desconexão que permita aos Estados-Membros da UE, nas suas relações mútuas, continuar a aplicar o direito da União nas matérias abrangidas pelo seu âmbito de aplicação;
(23)A convenção preveja um mecanismo adequado para assegurar a respetiva aplicação e inclua disposições finais, nomeadamente em matéria de resolução de litígios, assinatura, ratificação, aceitação, aprovação e adesão, entrada em vigor, alteração, suspensão, denúncia, depositário e línguas, que sigam, sempre que possível e adequado, as disposições de outras convenções pertinentes do Conselho da Europa;
(24)A convenção permita que a União Europeia se torne Parte na mesma.