O Parlamento Europeu aprovou o primeiro conjunto abrangente de diretrizes do mundo para limitar os riscos da inteligência artificial (IA).
O setor tem visto um crescimento explosivo – impulsionando enormes lucros, mas também alimentando temores sobre viés, privacidade e até mesmo o futuro da humanidade.
A Lei da IA funciona classificando os produtos de acordo com o risco e ajustando a fiscalização de acordo.
Os criadores da lei disseram que ela tornará a tecnologia mais “centrada no ser humano”.
“O ato de IA não é o fim da jornada, mas o ponto de partida para uma nova governança construída em torno da tecnologia”, acrescentou o MEP Dragos Tudorache.
Ele também coloca a UE na vanguarda das tentativas globais de abordar os perigos associados à IA.
A China já introduziu uma série de leis de IA. Em outubro de 2023, o presidente dos EUA, Joe Biden, anunciou uma ordem executiva exigindo que os desenvolvedores de IA compartilhem dados com o governo.
Mas a UE agora foi além.
“A adoção do Ato de IA marca o início de uma nova era de IA e sua importância não pode ser superestimada”, disse Enza Iannopollo, analista principal da Forrester.
“O Ato de IA da UE é o primeiro e único conjunto de requisitos vinculativos para mitigar os riscos da IA”, acrescentou.
Ela disse que isso tornaria a UE o padrão global “de facto” para IA confiável, deixando todas as outras regiões, incluindo o Reino Unido, “correndo atrás”.
Em novembro de 2023, o Reino Unido sediou uma cúpula de segurança de IA, mas não planeja legislação nos moldes do Ato de IA.
Como o Ato de IA funcionará
A ideia principal da lei é regular a IA com base em sua capacidade de causar danos à sociedade. Quanto maior o risco, mais rigorosas serão as regras.
Aplicações de IA que representam um “risco claro aos direitos fundamentais” serão proibidas, por exemplo, algumas das que envolvem o processamento de dados biométricos.
Sistemas de IA considerados “de alto risco”, como os usados em infraestrutura crítica, educação, saúde, aplicação da lei, gerenciamento de fronteiras ou eleições, terão que cumprir requisitos rigorosos.
Serviços de baixo risco, como filtros de spam, enfrentarão a regulamentação mais leve – a UE espera que a maioria dos serviços se enquadre nessa categoria.
O Ato também cria disposições para lidar com os riscos apresentados pelos sistemas que sustentam ferramentas de IA generativas e chatbots, como o ChatGPT da OpenAI.
Isso exigiria que os produtores de alguns sistemas de IA de propósito geral, que podem ser aproveitados para uma variedade de tarefas, sejam transparentes sobre o material usado para treinar seus modelos e cumpram a lei de direitos autorais da UE.
O Sr. Turodache disse aos repórteres antes da votação que as disposições de direitos autorais foram uma das partes mais “lobbied” do projeto de lei.
OpenAI, Stability AI e a gigante dos chips gráficos Nvidia estão entre um punhado de empresas de IA enfrentando processos judiciais por seu uso de dados para treinar modelos generativos.
Alguns artistas, escritores e músicos argumentaram que o processo de “raspar” grandes volumes de dados, incluindo potencialmente suas próprias obras, de praticamente todos os cantos da internet viola as leis de direitos autorais.
O Ato ainda precisa passar por várias etapas antes de se tornar formalmente lei.
Linguistas jurídicos, cujo trabalho é verificar e traduzir leis, examinarão seu texto e o Conselho Europeu – composto por representantes dos Estados membros da UE – também precisará endossá-lo, embora isso seja esperado como uma formalidade.
Enquanto isso, as empresas estarão trabalhando para descobrir como cumprir a legislação.
Kirsten Rulf – ex-conselheira do governo alemão, e agora sócia do Boston Consulting
