O Grok, chatbot de inteligência artificial desenvolvido pela xAI, enfrenta uma nova e grave acusação judicial. Uma ação apresentada nesta semana afirma que o sistema teria sido treinado com material de abuso sexual infantil, conhecido pela sigla CSAM.
A denúncia surge após meses de controvérsias envolvendo a capacidade do Grok de gerar imagens sexualizadas a partir de fotografias de pessoas reais sem consentimento. Entre as vítimas identificadas anteriormente estavam menores de idade.
Até agora, grande parte das ações contra a xAI questionava principalmente a falta de mecanismos de segurança capazes de impedir esse tipo de geração. O novo processo vai além: acusa a empresa de ter utilizado o próprio material abusivo no treinamento de seus modelos.
Processo afirma que imagens de uma vítima foram usadas para treinar o Grok
A autora da ação é identificada apenas como Jane Doe. Ela afirma ter sido vítima de abuso sexual infantil e está incluída no Child Exploitation Notification Program, programa do FBI destinado a vítimas identificadas em materiais desse tipo.
Segundo a denúncia, imagens dos abusos sofridos por ela durante a infância teriam sido utilizadas no treinamento do Grok.
A ação afirma ainda que isso teria contribuído para que a inteligência artificial produzisse novas imagens sexualmente abusivas envolvendo sua aparência e a de outras vítimas.
“xAI deve ser responsabilizada por treinar conscientemente seus modelos com imagens dos terríveis abusos que ela sofreu”, afirmou Sarah London, advogada da autora e sócia do escritório Girard Sharp.
As alegações ainda precisam ser analisadas judicialmente e não equivalem, por si só, a uma conclusão de que a xAI realmente utilizou esse material no treinamento.
Grok já enfrentava críticas por deepfakes sexuais
A nova ação aparece depois de uma sequência de controvérsias envolvendo as ferramentas de geração de imagens do Grok.
Elon Musk chegou a promover publicamente recursos capazes de alterar roupas ou criar versões sexualizadas de fotografias. Posteriormente, milhões de deepfakes sexuais não consensuais teriam circulado pela plataforma X.
Uma parcela das vítimas era formada por menores de idade.
O caso provocou investigações governamentais e diferentes processos judiciais, incluindo ações individuais e coletivas.
A xAI posteriormente restringiu o acesso a determinados recursos. O chamado “spicy mode”, entretanto, continuou disponível com limitações adicionais.
xAI também processou usuários do próprio Grok
A situação ganhou um capítulo incomum recentemente quando a própria xAI decidiu processar dois usuários acusados de utilizar o Grok para produzir material de abuso sexual infantil.
A empresa também afirmou ter colaborado com autoridades em investigações que levaram à prisão de pelo menos 244 pessoas relacionadas à criação ou distribuição desse tipo de conteúdo por meio da plataforma.
Essa estratégia representa uma tentativa da companhia de responsabilizar usuários que empregaram suas ferramentas para atividades ilegais.
O novo processo, porém, apresenta um argumento diferente. Em vez de se concentrar apenas no comportamento dos usuários, a ação questiona diretamente a maneira como o próprio sistema teria sido desenvolvido e treinado.
Conteúdo gerado poderia voltar ao treinamento da IA, diz ação
Um dos principais argumentos do processo envolve as políticas de utilização de dados da xAI.
Segundo a denúncia, conteúdos publicados publicamente no X e resultados produzidos pelo Grok poderiam ser considerados elegíveis para treinamento.
Com isso, os advogados alegam que materiais abusivos gerados pelo chatbot e posteriormente publicados poderiam ter sido incorporados novamente ao processo de desenvolvimento do modelo.
A acusação sustenta que esse ciclo permitiria que a influência desse conteúdo permanecesse no sistema mesmo depois da exclusão das imagens originais.
Nesse cenário, simplesmente remover uma publicação não resolveria necessariamente o problema.
Os advogados argumentam que, caso esse material tenha realmente entrado nos dados de treinamento, sua influência poderia continuar aparecendo em futuras gerações da inteligência artificial.
Vítimas poderiam ter suas imagens recriadas repetidamente
Essa possibilidade é especialmente preocupante para sobreviventes de abuso sexual infantil.
Ferramentas de inteligência artificial generativa conseguem criar novas imagens a partir de padrões aprendidos durante o treinamento. Por isso, o processo argumenta que uma vítima poderia ter sua aparência reproduzida, modificada e redistribuída inúmeras vezes.
Isso ampliaria o alcance do abuso original e dificultaria ainda mais que as vítimas recuperassem o controle sobre imagens relacionadas à própria exploração.
A ação sustenta que, enquanto o sistema mantiver a capacidade de produzir esse tipo de material, o problema não pode ser considerado resolvido apenas pela remoção das publicações que aparecem na internet.
Processo pede indenização e destruição do material
A autora pede que a Justiça determine o pagamento de indenizações às pessoas cujas imagens teriam sido utilizadas para produzir material de abuso sexual infantil por meio do Grok.
Ela também solicita a destruição de todo o conteúdo desse tipo produzido pela inteligência artificial.
O pedido não envolve apenas imagens que estejam disponíveis publicamente. A ação busca também eliminar materiais que eventualmente permaneçam armazenados ou possam fazer parte dos sistemas utilizados para treinar os modelos da xAI.
“Não existe uma exceção para inteligência artificial nas leis federais de proteção infantil”, afirmou Margaret E. Mabie, uma das advogadas responsáveis pela ação.
Caso pode aumentar pressão sobre empresas de IA
A acusação toca em uma das questões mais delicadas envolvendo inteligência artificial generativa: a responsabilidade das empresas não apenas pelo conteúdo produzido pelos usuários, mas também pelos dados utilizados para desenvolver seus modelos.
Até agora, as ações relacionadas ao Grok se concentraram principalmente na possibilidade de a xAI não ter implementado proteções suficientes contra a criação de imagens abusivas.
A nova ação tenta avançar um passo além ao responsabilizar a empresa pelo próprio treinamento do sistema.
Se as acusações forem comprovadas, o caso poderá ampliar o debate sobre como empresas de IA selecionam, filtram e removem conteúdos ilegais de seus conjuntos de dados.
Por enquanto, trata-se de uma alegação apresentada em uma ação judicial. Caberá ao processo determinar se material de abuso sexual infantil realmente foi utilizado no treinamento do Grok e qual responsabilidade jurídica a xAI poderá ter sobre isso.
