O Regulamento (UE) 2024/1689 visa incentivar o desenvolvimento e a adoção de sistemas de inteligência artificial (IA) seguros e fiáveis em todo o mercado único da União Europeia (UE), tanto no setor privado como no setor público, garantindo simultaneamente a saúde e a segurança dos cidadãos da UE e o respeito pelos direitos fundamentais. O regulamento estabelece regras baseadas no risco relativas ao seguinte:
a colocação no mercado, a colocação em serviço e a utilização de determinados sistemas de IA;
a proibição de determinadas práticas de IA;
requisitos e obrigações relativos a sistemas de IA de risco elevado;
transparência para determinados sistemas de IA;
transparência e gestão de riscos para modelos de IA de finalidade geral (modelos de IA potentes que estão na base de sistemas de IA capazes de executar uma vasta gama de tarefas);
acompanhamento do mercado, fiscalização do mercado, governação e aplicação da lei;
apoio à inovação, com especial ênfase nas pequenas e médias empresas (PME) e nas empresas em fase de arranque.
Estão previstas algumas isenções, por exemplo, para sistemas utilizados exclusivamente para fins militares e de defesa ou para fins de investigação.
PONTOS-CHAVE
O que é um sistema de IA?
Um sistema de IA é um sistema baseado em máquinas concebido para funcionar com um certo nível de autonomia que pode:
adaptar-se após a sua implantação; e
gerar resultados como previsões, conteúdos, recomendações ou decisões a partir dos dados que recebe (para atingir objetivos explícitos ou implícitos).
Uma abordagem baseada no risco
A legislação segue uma abordagem baseada no risco, o que significa que quanto maior for o risco de causar danos à sociedade, mais rigorosas serão as regras. O regulamento define a utilização da IA nos seguintes domínios como sendo de risco elevado, atendendo ao seu potencial impacto nos direitos fundamentais, na segurança e no bem-estar:
componentes de segurança de produtos abrangidos pela legislação de harmonização da UE (ou como produtos autónomos) que têm de ser sujeitos a uma avaliação da conformidade por terceiros ao abrigo da mesma legislação de harmonização da UE;
dados biométricos, quando utilizados para identificação à distância, categorização de indivíduos de acordo com atributos sensíveis (como a raça ou a religião) ou reconhecimento de emoções, exceto quando utilizados para uma simples verificação da identidade;
infraestruturas críticas, quando a IA é utilizada como componente de segurança em domínios como as infraestruturas digitais, o tráfego, a água, o gás, o aquecimento e a eletricidade;
educação e formação profissional, incluindo aspetos relacionados com o acesso à educação, a avaliação dos resultados da aprendizagem, a avaliação dos níveis de educação ou o controlo de comportamentos durante os testes;
emprego, incluindo o recrutamento, a seleção de candidatos, a tomada de decisões sobre as condições de emprego (promoções, rescisões), a atribuição de tarefas ou o acompanhamento do desempenho;
serviços essenciais — sistemas de IA utilizados pelas autoridades públicas para avaliar a elegibilidade para acesso a serviços de assistência pública (cuidados de saúde, prestações sociais), classificação de créditos, avaliação de riscos de seguros e definição de prioridades para respostas de emergência;
aplicação da lei — sistemas de IA utilizados para avaliar os riscos de infrações penais, polígrafos, avaliar a fiabilidade dos elementos de prova, prever reincidências ou traçar perfis de indivíduos para efeitos de investigação criminal;
migração e controlo das fronteiras — sistemas de IA utilizados para avaliar os riscos relacionados com migração, asilo e pedidos de visto, ou para detetar e identificar pessoas em contextos de migração;
administração da justiça e processos democráticos — sistemas de IA utilizados pelas autoridades judiciais para efeitos de investigação e interpretação jurídica ou sistemas suscetíveis de influenciar os resultados eleitorais.
O regulamento proíbe as seguintes práticas de IA com um nível de risco inaceitável
Técnicas subliminares ou enganosas para manipular o comportamento de uma pessoa ou de um grupo de pessoas, prejudicando a sua capacidade de tomar decisões informadas e sendo suscetíveis de causar danos.
Exploração de vulnerabilidades com base na idade, deficiência ou situações socioeconómicas para manipular uma pessoa ou um grupo de pessoas, levando a potenciais danos.
Classificação social, avaliação ou classificação de pessoas com base em comportamentos ou características, resultando no tratamento injusto não relacionado com o contexto em que os dados foram recolhidos ou no tratamento prejudicial desproporcionado para a gravidade do comportamento.
Avaliação do risco criminal, prever a probabilidade da prática de um crime apenas com base na definição de perfis ou em traços de personalidade, exceto em investigações criminais objetivas e baseadas em factos.
Bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais a partir da Internet ou de imagens de câmaras de segurança.
Inferência de emoções em áreas sensíveis, como locais de trabalho ou instituições de ensino, exceto se utilizada para fins médicos ou de segurança.
Categorização biométrica baseada em dados para inferir atributos sensíveis como a raça, a religião ou as opiniões políticas, exceto para utilização legal no âmbito da aplicação da lei.
Identificação biométrica em tempo real em espaços acessíveis ao público pelas autoridades policiais, exceto se estritamente necessária para situações específicas (por exemplo, busca por pessoas desaparecidas, prevenção de ameaças iminentes ou identificação de suspeitos de crimes graves). Tal deve obedecer a procedimentos legais rigorosos, incluindo autorização prévia, um âmbito de aplicação limitado e salvaguardas para a proteção dos direitos e liberdades.
O regulamento introduz obrigações de divulgação nos casos em que possa existir um risco decorrente da falta de transparência na utilização da IA:
A IA concebida para se fazer passar por humanos (por exemplo, um robô de conversação) tem de informar o humano com quem está a interagir;
o resultado da IA generativa tem de ser marcado como IA gerada de uma forma legível por máquina;
em certos casos, os resultados da IA generativa têm de ser rotulados de forma visível, nomeadamente as falsificações profundas e os textos destinados a informar o público sobre questões de interesse público.
Todos os outros sistemas de IA são considerados como apresentando um risco limitado, pelo que o regulamento não introduz quaisquer outras regras.
Utilização fiável de grandes modelos de IA
Os modelos de IA de finalidade geral são modelos de IA treinados com grandes quantidades de dados e que podem executar uma vasta gama de tarefas. Podem ser componentes de sistemas de IA.
O regulamento introduz obrigações de transparência para os prestadores desses modelos de IA de finalidade geral, nomeadamente a documentação técnica, a prestação de informações aos criadores de sistemas de IA a jusante e a divulgação dos dados utilizados para o treino do modelo.
Os modelos de IA de finalidade geral mais potentes podem apresentar riscos sistémicos. Se um modelo atingir um determinado limiar de capacidade, o prestador desse modelo deve cumprir obrigações adicionais em matéria de gestão dos riscos e de cibersegurança.
Governação
O regulamento cria vários órgãos de governação que estarão operacionais a partir de :
autoridades nacionais competentes para supervisionar e fazer cumprir as regras aplicáveis aos sistemas de IA;
um Serviço para a IA no âmbito da Comissão Europeia, que coordenará a aplicação coerente das regras comuns em toda a UE e atuará como regulador dos modelos de IA de finalidade geral.
Os Estados-Membros da UE e o Serviço para a IA cooperarão estreitamente num Comité para a IA, composto por representantes dos Estados-Membros, a fim de assegurar a aplicação coerente e eficaz do regulamento.
O regulamento cria dois órgãos consultivos para o Serviço para a IA e o Comité para a IA:
um painel científico de peritos independentes para prestar aconselhamento científico;
um fórum consultivo para as partes interessadas, que disponibilizará conhecimentos técnicos especializados ao Comité para a IA e à Comissão.
Sanções
O montante das coimas aplicáveis às infrações é fixado em percentagem do volume de negócios anual da empresa infratora ou num montante pré-determinado, consoante o que for mais elevado. As pequenas e médias empresas e as empresas em fase de arranque estão sujeitas a coimas administrativas proporcionais.
Transparência e proteção dos direitos fundamentais
O desenvolvimento e a utilização de sistemas de IA de risco elevado estão sujeitos a uma maior transparência:
antes de um sistema de IA de risco elevado ser implantado por entidades que prestam serviços públicos, deve ser realizada uma avaliação do seu impacto nos direitos fundamentais;
os sistemas de IA de risco elevado e as entidades que os utilizam devem estar registados numa base de dados da UE.
Inovação
O regulamento prevê um quadro jurídico favorável à inovação e tem como objetivo promover a aprendizagem regulamentar baseada em dados concretos. Prevê ambientes de testagem da regulamentação da IA, permitindo um ambiente controlado no qual os sistemas inovadores de IA podem ser desenvolvidos, testados e validados, nomeadamente em condições reais. Além disso, o regulamento permite a testagem em condições reais de sistemas de IA de risco elevado em determinadas condições.
Avaliação e revisão
A Comissão avalia anualmente a necessidade de alterar a lista de utilizações de risco elevado da IA e a lista de práticas proibidas. Até e, posteriormente, de quatro em quatro anos, a Comissão avaliará e apresentará um relatório sobre os seguintes aspetos:
aditamento ou alargamento da lista de categorias de risco elevado;
alterações da lista de sistemas de IA que exigem medidas de transparência adicionais;
alterações destinadas a melhorar a supervisão e a governação.
A PARTIR DE QUANDO É APLICÁVEL O REGULAMENTO?
O regulamento é aplicável a partir de . No entanto, estão previstas algumas exceções:
as proibições, definições e obrigações relativas à literacia em matéria de IA são aplicáveis desde ;
algumas regras entrarão em vigor em , incluindo as relativas à estrutura de governação, às sanções e às obrigações dos fornecedores de modelos de IA de finalidade geral.
Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de , que cria regras harmonizadas em matéria de inteligência artificial e que altera os Regulamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Regulamento da Inteligência Artificial) (JO L, 2024/1689, ).
DOCUMENTOS RELACIONADOS
Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho, de , relativo a um mercado único para os serviços digitais e que altera a Diretiva 2000/31/CE (Regulamento dos Serviços Digitais) (JO L 277 de , p. 1-102).
Diretiva (UE) 2020/1828 do Parlamento Europeu e do Conselho, de , relativa a ações coletivas para proteção dos interesses coletivos dos consumidores e que revoga a Diretiva 2009/22/CE (JO L 409 de , p. 1-27).
As sucessivas alterações da Diretiva (UE) 2020/1828 foram integradas no texto de base. A versão consolidada tem apenas valor documental.
Regulamento (UE) 2019/881 do Parlamento Europeu e do Conselho, de , relativo à ENISA (Agência da União Europeia para a Cibersegurança) e à certificação da cibersegurança das tecnologias da informação e comunicação e que revoga o Regulamento (UE) n.o 526/2013 (Regulamento Cibersegurança) (JO L 151 de , p. 15-69).
Diretiva (UE) 2019/882 do Parlamento Europeu e do Conselho, de , relativa aos requisitos de acessibilidade para produtos e serviços (JO L 151 de , p. 70-115).
Regulamento (UE) n.o2019/1020 do Parlamento Europeu e do Conselho, de relativo à fiscalização do mercado e à conformidade dos produtos e que altera a Diretiva 2004/42/CE e os Regulamentos (CE) n.o 765/2008 e (UE) n.o 305/2011 (JO L 169 de , p. 1-44).
Regulamento (UE) 2019/2144 do Parlamento Europeu e do Conselho, de , relativo aos requisitos de homologação de veículos a motor e seus reboques e dos sistemas, componentes e unidades técnicas destinados a esses veículos, no que se refere à sua segurança geral e à proteção dos ocupantes dos veículos e dos utentes da estrada vulneráveis, que altera o Regulamento (UE) 2018/858 do Parlamento Europeu e do Conselho e revoga os Regulamentos (CE) n.o 78/2009, (CE) n.o 79/2009 e (CE) n.o 661/2009 do Parlamento Europeu e do Conselho e os Regulamentos (CE) n.o 631/2009, (UE) n.o 406/2010, (UE) n.o 672/2010, (UE) n.o 1003/2010, (UE) n.o 1005/2010, (UE) n.o 1008/2010, (UE) n.o 1009/2010, (UE) n.o 19/2011, (UE) n.o 109/2011, (UE) n.o 458/2011, (UE) n.o 65/2012, (UE) n.o 130/2012, (UE) n.o 347/2012, (UE) n.o 351/2012, (UE) n.o 1230/2012, e (UE) n.o 2015/166 da Comissão (JO L 325 de , p. 1-40).
Regulamento (UE) 2018/858 do Parlamento Europeu e do Conselho, de , relativo à homologação e à fiscalização do mercado dos veículos a motor e seus reboques, e dos sistemas, componentes e unidades técnicas destinados a esses veículos, que altera os Regulamentos (CE) n.o 715/2007 e (CE) n.o 595/2009 e revoga a Diretiva 2007/46/CE (JO L 151 de , p. 1-218).
Regulamento (UE) 2018/1139 do Parlamento Europeu e do Conselho, de , relativo a regras comuns no domínio da aviação civil que cria a Agência da União Europeia para a Segurança da Aviação, altera os Regulamentos (CE) n.o 2111/2005, (CE) n.o 1008/2008, (UE) n.o 996/2010 e (UE) n.o 376/2014 e as Diretivas 2014/30/UE e 2014/53/UE do Parlamento Europeu e do Conselho, e revoga os Regulamentos (CE) n.o 552/2004 e (CE) n.o 216/2008 do Parlamento Europeu e do Conselho e o Regulamento (CEE) n.o 3922/91 do Conselho (JO L 212 de , p. 1-122).
Regulamento (UE) 2018/1725 do Parlamento Europeu e do Conselho, de , relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais pelas instituições e pelos órgãos e organismos da União e à livre circulação desses dados, e que revoga o Regulamento (CE) n.o 45/2001 e a Decisão n.o 1247/2002/CE (JO L 295 de , p. 39-98).
Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de , relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados) (JO L 119 de , p. 1-88).
Diretiva (UE) 2016/680 do Parlamento Europeu e do Conselho, de , relativa à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais pelas autoridades competentes para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, e à livre circulação desses dados, e que revoga a Decisão-Quadro 2008/977/JAI do Conselho (JO L 119 de , p. 89-131).
Diretiva (UE) 2016/797 do Parlamento Europeu e do Conselho, de , relativa à interoperabilidade do sistema ferroviário na União Europeia (reformulação) (JO L 138 de , p. 44-101).
Diretiva (UE) 2016/2102 do Parlamento Europeu e do Conselho, de , relativa à acessibilidade dos sítios web e das aplicações móveis de organismos do setor público (JO L 327 de , p. 1-15).
Diretiva 2014/90/EU do Parlamento Europeu e do Conselho, de , relativa aos equipamentos marítimos e que revoga a Diretiva 96/98/CE do Conselho (JO L 257 de , p. 146-185).
Regulamento (UE) n.o167/2013 do Parlamento Europeu e do Conselho, de , relativo à homologação e fiscalização do mercado de tratores agrícolas e florestais (JO L 60 de , p. 1-51).
Regulamento (UE) n.o168/2013 do Parlamento Europeu e do Conselho, de , relativo à homologação e fiscalização do mercado dos veículos de duas ou três rodas e dos quadriciclos (JO L 60 de , p. 52-128).
Regulamento (UE) n. o1025/2012 do Parlamento Europeu e do Conselho, de , relativo à normalização europeia, que altera as Diretivas 89/686/CEE e 93/15/CEE do Conselho e as Diretivas 94/9/CE, 94/25/CE, 95/16/CE, 97/23/CE, 98/34/CE, 2004/22/CE, 2007/23/CE, 2009/23/CE e 2009/105/CE do Parlamento Europeu e do Conselho e revoga a Decisão 87/95/CEE do Conselho e a Decisão En.o 1673/2006/C do Parlamento Europeu e do Conselho (JO L 316 de , p. 12-33).
Regulamento (CE) n.o300/2008 do Parlamento Europeu e do Conselho, de , relativo ao estabelecimento de regras comuns no domínio da segurança da aviação civil e que revoga o Regulamento (CE) n.o 2320/2002 (JO L 97 de , p. 72-84).
Regulamento (CE) n.o765/2008 do Parlamento Europeu e do Conselho, de , que estabelece os requisitos de acreditação e fiscalização do mercado relativos à comercialização de produtos, e que revoga o Regulamento (CEE) n.o 339/93 (JO L 218 de , p. 30-47).