O avanço da inteligência artificial trouxe recursos impressionantes para edição de imagens, mas também abriu espaço para novos desafios jurídicos e éticos. Entre eles está a criação de imagens falsas extremamente realistas envolvendo pessoas reais, uma tecnologia que vem preocupando autoridades em diversos países. Agora, uma disputa judicial nos Estados Unidos promete estabelecer um importante precedente sobre até onde governos podem restringir essas ferramentas antes que ocorram abusos.
Uma nova lei colocou empresas de IA diante de um grande desafio
A empresa xAI, fundada por Elon Musk e responsável pelo assistente de inteligência artificial Grok, iniciou uma batalha judicial para tentar impedir a aplicação de uma nova lei aprovada no estado de Minnesota. A legislação proíbe que sites e aplicativos disponibilizem ferramentas capazes de criar imagens íntimas falsas e realistas de pessoas identificáveis utilizando inteligência artificial.
A norma entrou oficialmente em vigor em 1º de agosto de 2026, após um juiz federal negar o pedido urgente da empresa para suspender temporariamente sua aplicação. Segundo a decisão, a própria xAI demorou quase três meses para contestar a lei e apresentou a solicitação apenas poucos dias antes de sua entrada em vigor, enfraquecendo o argumento de que sofreria um dano imediato e irreparável.
Apesar da negativa inicial, a disputa está longe do fim. O processo continuará tramitando e uma audiência foi marcada para o dia 19 de agosto, quando o tribunal analisará o pedido de liminar apresentado pela empresa.
A legislação de Minnesota vai além da simples remoção de imagens já publicadas. Ela define como “nudificação” qualquer processo que utilize inteligência artificial para alterar ou gerar imagens de maneira que uma pessoa apareça com partes íntimas expostas de forma altamente realista, mesmo que essas partes não existissem na fotografia original.
O foco da norma não está apenas nos usuários. Ela responsabiliza diretamente as empresas que desenvolvem ou oferecem essas ferramentas. Os serviços não podem permitir que seus sistemas sejam utilizados para produzir esse tipo de conteúdo, nem divulgar ou promover aplicações com essa finalidade.
As penalidades previstas são severas. O procurador-geral do estado poderá aplicar multas civis de até US$ 500 mil por cada utilização considerada ilegal da ferramenta. Além disso, a pessoa retratada poderá buscar indenizações, danos adicionais, reembolso de despesas judiciais e ordens para interromper imediatamente a atividade.
A lei também estabelece uma exceção para softwares que exijam um trabalho técnico ou artístico significativo do usuário, buscando diferenciar programas profissionais de edição das plataformas que geram esse tipo de imagem automaticamente com apenas alguns comandos.
🚨JUST IN: Elon Musk’s xAI sued Minnesota to block the first U.S. law targeting AI nudification platforms, arguing its broad definition could cover shirtless men and swimwear photos.
The law takes effect August 1 and carries penalties of up to $500,000 per image. pic.twitter.com/mpBSvM8fP9
— Coin Bureau (@coinbureau) July 30, 2026
A empresa afirma que a lei restringe até conteúdos autorizados
A xAI não contesta o direito do estado de combater a divulgação de imagens íntimas produzidas sem autorização da pessoa retratada. O principal argumento da empresa é que a legislação foi redigida de forma excessivamente ampla e pode atingir situações nas quais existe consentimento explícito.
Segundo a ação judicial, a norma poderia proibir até imagens criadas pela própria pessoa retratada ou conteúdos produzidos com autorização voluntária. A empresa também critica a ausência de um mecanismo de proteção jurídica para plataformas que adotem filtros, sistemas de moderação e medidas preventivas, mas que ainda assim tenham suas barreiras burladas por alguns usuários.
Na avaliação da companhia, esse alcance viola a Primeira Emenda da Constituição dos Estados Unidos, responsável por proteger a liberdade de expressão. A empresa sustenta que, diante do risco de multas milionárias, poderá ser obrigada a restringir recursos legítimos de edição de imagens oferecidos pelo Grok aos usuários de Minnesota.
O resultado pode influenciar futuras leis sobre inteligência artificial
O governo de Minnesota defende uma interpretação completamente diferente. Para as autoridades estaduais, responsabilizar apenas quem cria ou compartilha imagens falsas não é suficiente diante da velocidade com que essas ferramentas evoluem.
Enquanto a lei federal TAKE IT DOWN Act, aprovada em 2025, determina que plataformas removam rapidamente imagens íntimas divulgadas sem consentimento, ela não impede o funcionamento das ferramentas capazes de produzi-las. A legislação estadual busca preencher justamente essa lacuna ao responsabilizar também os desenvolvedores da tecnologia.
O procurador-geral Keith Ellison argumenta que aplicações de “nudificação” podem causar danos profundos às vítimas, afetando sua dignidade, saúde emocional, reputação pessoal e vida profissional. Além disso, autoridades apontam que essas ferramentas vêm sendo utilizadas para assédio, produção de material envolvendo menores de idade e exploração de pessoas reais sem autorização.
Mais do que decidir o futuro de uma única empresa, esse processo poderá definir até onde governos estaduais podem regulamentar tecnologias baseadas em inteligência artificial antes que ocorram danos concretos. Caso a Justiça valide a lei de Minnesota, outros estados poderão adotar medidas semelhantes. Se a xAI obtiver sucesso, o julgamento também poderá estabelecer novos limites para futuras regulamentações envolvendo IA generativa.
Independentemente do resultado, o caso já é considerado um dos debates jurídicos mais importantes sobre inteligência artificial nos Estados Unidos e poderá influenciar a forma como ferramentas desse tipo serão desenvolvidas e utilizadas nos próximos anos.
