O escândalo dos “bots de celebridades”
De acordo com a Reuters, Meta e seus usuários criaram chatbots que imitavam celebridades no Facebook, Instagram e WhatsApp. Entre as personalidades envolvidas estão Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez.
O problema ficou mais grave quando foi revelado que um funcionário da Meta desenvolveu pessoalmente pelo menos três desses bots, incluindo dois com a imagem de Taylor Swift. Antes de serem removidos, esses perfis falsos somaram mais de 10 milhões de interações.
Conversas inapropriadas e imagens sensuais
O caso ganhou ainda mais polêmica porque muitos desses bots participavam de conversas de teor sexual e alguns chegaram a gerar imagens realistas de celebridades em lingerie ou dentro de uma banheira.
A Reuters também encontrou um chatbot baseado em um ator de 16 anos que criou uma imagem sem camisa considerada inapropriada. Tudo isso viola as políticas internas da Meta, que proíbem imagens íntimas, nudez e material sexualmente sugestivo.
Meta responde, mas admite falhas graves
Um porta-voz da Meta, Andy Stone, confirmou à Reuters que a empresa considera o episódio um “fracasso na aplicação das próprias regras”.
“Permitimos a geração de imagens com figuras públicas, mas nossas políticas proíbem conteúdos íntimos, nus ou sexualmente sugestivos”, afirmou Stone.
Como resposta, a empresa removeu dezenas de bots problemáticos e anunciou novas diretrizes internas para restringir o acesso de adolescentes a chatbots potencialmente perigosos.
Entre as mudanças, a Meta promete treinar os sistemas para evitar conversas com temas de romance, suicídio e automutilação com menores de idade, além de limitar temporariamente o acesso de adolescentes a certos personagens de IA.
Risco jurídico e pressão política
A situação abriu espaço para uma batalha legal. Especialistas afirmam que a empresa pode enfrentar processos baseados em leis estaduais de “direito de imagem” nos EUA. Segundo o professor de direito da Universidade de Stanford, Mark Lemley, os bots da Meta “cruzaram a linha do aceitável” e não seriam protegidos por exceções legais, como paródias ou usos transformativos.
O sindicato SAG-AFTRA, que representa atores de Hollywood, também expressou preocupação com os riscos reais para a segurança das celebridades e dos usuários. Há o temor de que pessoas passem a criar vínculos emocionais com personagens digitais que parecem reais, gerando impactos psicológicos.
Nos bastidores políticos, o senador Josh Hawley anunciou uma investigação formal contra a Meta e exigiu acesso a documentos internos e relatórios de risco sobre o uso de IA para conversas de teor romântico com crianças.
Tragédia com consequências reais
O episódio teve um desfecho trágico envolvendo um homem de 76 anos com declínio cognitivo, que morreu após tentar encontrar pessoalmente “Big Sis Billie”, uma chatbot criada pela Meta com base na modelo Kendall Jenner.
Acreditando que falava com uma pessoa real, o homem viajou até Nova York, sofreu uma queda próxima a uma estação de trem e não resistiu aos ferimentos. O caso aumentou ainda mais a pressão sobre a empresa, especialmente porque as antigas diretrizes da Meta permitiam que bots simulassem romance até mesmo com menores de idade.
O futuro da Meta em jogo
O episódio expõe os riscos da IA generativa e o impacto que decisões mal geridas podem ter na reputação e na segurança de milhões de usuários. Para a Meta, o desafio agora é recuperar a confiança do público, evitar processos milionários e provar que pode controlar os próprios algoritmos.
Com a pressão de celebridades, usuários, políticos e investidores, o escândalo coloca a empresa no centro de um debate global sobre ética, privacidade e inteligência artificial.
O caso mostra como a combinação de IA, celebridades e redes sociais pode sair do controle rapidamente. E levanta uma questão urgente: quem deve ser responsabilizado quando a tecnologia ultrapassa os limites éticos?
