A União Europeia inicia uma nova etapa na regulamentação da inteligência artificial. A partir de 2 de agosto, entram em vigor grande parte das obrigações previstas no AI Act, considerado o primeiro marco regulatório abrangente do mundo voltado exclusivamente para sistemas de IA.
A legislação, aprovada em 2024 e com implementação gradual até 2028, busca garantir que a inteligência artificial seja utilizada de forma segura, transparente e em conformidade com os direitos fundamentais dos cidadãos europeus.
Embora diversas regras passem a valer imediatamente, algumas das exigências mais rigorosas foram adiadas para os próximos anos.
O que é o AI Act
O AI Act estabelece um conjunto de regras comuns para o desenvolvimento, comercialização e uso de sistemas de inteligência artificial em toda a União Europeia.
A legislação adota uma abordagem baseada no nível de risco de cada aplicação.
Quanto maior o potencial de impacto sobre direitos, segurança ou privacidade, mais rigorosas são as exigências impostas aos desenvolvedores e empresas que utilizam essas tecnologias.
Além disso, o regulamento prevê sanções severas para quem descumprir as normas.
As multas podem chegar a 35 milhões de euros nos casos mais graves, como o uso de sistemas proibidos, e a 15 milhões de euros para infrações relacionadas aos sistemas classificados como de alto risco.
Quais aplicações já estão proibidas
Diversos usos considerados de risco inaceitável já são proibidos na União Europeia.
Entre eles estão sistemas que utilizam técnicas subliminares, manipuladoras ou enganosas para influenciar o comportamento das pessoas.
Também são proibidas ferramentas que explorem a vulnerabilidade de crianças, idosos ou pessoas com deficiência.
A legislação ainda veta sistemas capazes de utilizar classificação biométrica para deduzir características sensíveis, como raça, religião ou orientação sexual.
Outro exemplo é o chamado “crédito social”, em que algoritmos atribuem notas às pessoas com base em seus comportamentos.
Além disso, permanecem proibidos:
- sistemas de inferência de emoções em ambientes de trabalho ou instituições de ensino;
- coleta de imagens da internet para criar bancos de dados de reconhecimento facial;
- identificação biométrica remota em tempo real para fins policiais em locais públicos, salvo exceções previstas na legislação.
Deepfakes sexuais e pornografia infantil também serão proibidos
O AI Act também amplia a lista de usos proibidos da inteligência artificial generativa.
A partir de dezembro, passam a ser expressamente proibidos sistemas destinados à criação ou manipulação de imagens íntimas sem consentimento, conhecidos como deepfakes sexuais.
Ferramentas capazes de gerar pornografia infantil por meio de inteligência artificial também entram na lista de aplicações vetadas.
O que muda a partir de 2 de agosto
A principal mudança imediata envolve as obrigações de transparência.
Sempre que uma pessoa interagir diretamente com um sistema de inteligência artificial, ela deverá ser informada de que está conversando com uma IA.
No entanto, outra exigência bastante discutida foi adiada.
A marcação obrigatória de conteúdos sintéticos produzidos por inteligência artificial — como imagens, vídeos e áudios gerados artificialmente — só passará a valer em dezembro para os sistemas que criarem esse tipo de conteúdo.
Essa identificação deverá indicar que o material foi produzido por IA, utilizando mecanismos como marcações digitais ou outras formas de sinalização.
Regras para sistemas de alto risco terão implementação gradual
As obrigações mais exigentes do AI Act ainda levarão mais tempo para entrar em vigor.
Graças às mudanças promovidas pela iniciativa Omnibus Digital da Comissão Europeia, parte das exigências foi adiada para facilitar a adaptação das empresas.
Até dezembro de 2027, os sistemas classificados como de alto risco deverão cumprir requisitos específicos.
Entre eles estão aplicações utilizadas para:
- avaliar estudantes;
- selecionar candidatos em processos de recrutamento;
- analisar a capacidade financeira de consumidores;
- definir preços de seguros de saúde ou de vida.
Já os sistemas de inteligência artificial incorporados a produtos regulamentados terão prazo ainda maior.
Dispositivos médicos, assistentes de direção, brinquedos inteligentes e sistemas de navegação aérea só precisarão cumprir integralmente as novas obrigações em agosto de 2028.
Objetivo é aumentar a confiança na inteligência artificial
Com a implementação gradual do AI Act, a União Europeia pretende estabelecer um padrão internacional para o uso responsável da inteligência artificial.
A proposta busca equilibrar inovação tecnológica com proteção aos cidadãos, exigindo maior transparência, responsabilidade e supervisão em aplicações capazes de afetar diretamente a vida das pessoas.
Nos próximos anos, empresas que desenvolvem ou utilizam IA no mercado europeu precisarão adaptar produtos, processos e políticas para atender às novas exigências do regulamento.
[ Fonte: DW ]
