Boas intenções, soluções parciais. É assim que especialistas e autoridades vêm reagindo ao anúncio mais recente do X sobre como pretende lidar com a proliferação de deepfakes sexuais criados com o Grok, seu chatbot de inteligência artificial. Em meio a críticas crescentes e investigações oficiais, a empresa diz que vai impor novas restrições técnicas e geográficas. O problema é que, na prática, o acesso às ferramentas segue desigual — e, em alguns casos, ainda aberto.
O comunicado foi publicado na noite de quarta-feira pelo perfil @Safety, responsável por temas de segurança na plataforma. O texto, confuso e cheio de exceções, descreve mudanças diferentes dependendo de como o usuário acessa o Grok: mencionando a conta @Grok em posts ou usando diretamente a aba do chatbot dentro do X.
O que muda — e o que não muda
A principal novidade anunciada é a implementação de medidas técnicas para impedir que usuários usem a conta @Grok para editar imagens de “pessoas reais em roupas reveladoras, como biquínis”. Segundo a empresa, a restrição vale para todos, inclusive assinantes premium.
Além disso, o X reforçou que a geração e edição de imagens via @Grok agora estão limitadas a usuários pagantes. A empresa afirma que isso adiciona “uma camada extra de proteção”, ao permitir a identificação de quem tentar violar leis ou políticas internas.
Essa justificativa, no entanto, já havia gerado críticas no Reino Unido. Autoridades locais disseram que a mudança apenas transforma uma ferramenta capaz de produzir imagens ilegais em um serviço pago — sem eliminar o risco.
As brechas continuam abertas
O ponto mais controverso é que as ferramentas de geração de imagens do Grok continuam disponíveis gratuitamente quando acessadas pelo site e aplicativo próprios do chatbot, além da aba do Grok dentro do X. Testes feitos por veículos especializados mostraram que contas gratuitas ainda conseguem criar imagens sexualizadas de pessoas reais por esses caminhos alternativos.
Em um dos casos relatados, o sistema gerou imagens de Elon Musk usando biquíni — e aceitou removê-lo quando solicitado — sem qualquer bloqueio imediato. Ou seja: enquanto a empresa endurece regras em um canal específico, mantém outros praticamente intactos.
Bloqueios por país e pressão legal
O X também anunciou que vai bloquear a geração de imagens de pessoas reais em biquínis, roupas íntimas ou trajes semelhantes “nas jurisdições onde isso for ilegal”. A regra, segundo a empresa, passa a valer tanto para a conta @Grok quanto para o Grok integrado ao X — mas apenas em determinados países.
A medida surge no momento em que o Reino Unido discute leis para criminalizar explicitamente esse tipo de conteúdo. Ainda assim, o regulador britânico Ofcom afirmou que manterá sua investigação, independentemente das mudanças anunciadas.
“Seguimos comprometidos em tornar o X uma plataforma segura para todos”, disse a empresa, reiterando tolerância zero a exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
Um problema que ganhou escala
As mudanças vêm depois de semanas de repercussão negativa. Desde o fim do mês passado, usuários passaram a usar o Grok para criar imagens sexualizadas a partir de fotos reais publicadas no X — muitas vezes sem consentimento e, em alguns casos, envolvendo menores.
Um pesquisador da área de deepfakes estimou que o Grok foi capaz de gerar cerca de 6.700 imagens sexualizadas por hora, durante um período de 24 horas no início de janeiro, segundo reportagem da Bloomberg. O número ajudou a acelerar a reação de governos e reguladores.
Reação global e investigações
A resposta internacional foi rápida. Malásia e Indonésia bloquearam o acesso ao Grok. No Reino Unido e na União Europeia, autoridades abriram investigações formais por possíveis violações de leis de segurança online. Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, anunciou a abertura de uma apuração estadual sobre o caso.
Enquanto isso, o X e sua empresa controladora, a xAI, não responderam a pedidos de comentário de veículos de imprensa.
Mudanças legais nos bastidores
Paralelamente, a plataforma atualizou silenciosamente seus termos de serviço, exigindo que todos os processos judiciais presentes e futuros contra a empresa sejam apresentados em um tribunal específico no Texas, visto como favorável ao X. A mudança provocou reações imediatas: o grupo de monitoramento Media Matters, crítico frequente de Musk, anunciou que deixará a plataforma.
Um ajuste cosmético?
No fim das contas, o anúncio do X parece mais um remendo do que uma solução estrutural. Ao fragmentar regras por tipo de acesso, região e modelo de assinatura, a empresa cria um sistema difícil de entender — e fácil de contornar.
Para críticos, o episódio expõe um dilema central da era da IA generativa: sem políticas claras, fiscalização consistente e responsabilidade real, medidas pontuais não acompanham a velocidade com que o abuso se espalha. O Grok segue sob escrutínio, e o X ainda precisa provar que está disposto a ir além de restrições parciais para enfrentar de fato o problema dos deepfakes sexuais.
