As redes sociais já enfrentavam dificuldades para moderar conteúdo antes da popularização da inteligência artificial generativa. Agora, vídeos sintéticos acrescentam outra camada ao problema. Uma investigação revelou que o Facebook manteve páginas que compartilhavam imagens de treinadores em interações inadequadas com jovens atletas, mesmo após denúncias. A plataforma mudou sua decisão depois que jornalistas procuraram a Meta para pedir explicações.
Segundo a reportagem, as contas publicavam vídeos gerados por IA ambientados em aulas de ginástica, balé e ioga. Alguns tentavam apresentar comportamentos abusivos como orientações técnicas durante os exercícios.
Denúncias receberam respostas negativas
A jornalista Maggie Harrison Dupré, do Futurism, identificou diversas contas dedicadas a esse conteúdo. Os vídeos mostravam homens mais velhos no papel de treinadores e jovens mulheres e meninas como atletas.
Kim Shore, ginasta e defensora da segurança de atletas que assessora a organização Gymnasts for Change International, classificou as imagens como material de abuso. Em entrevista ao veículo, afirmou que elas sexualizam e normalizam interações abusivas em ambientes esportivos nos quais já existem grandes desequilíbrios de poder.
Para verificar como a plataforma reagiria, o Futurism utilizou uma conta comum para denunciar dez páginas.
Uma semana depois, o Facebook informou que oito delas não violavam suas regras e permaneceriam disponíveis. As outras duas haviam desaparecido, mas o veículo não conseguiu determinar se a remoção tinha relação com as denúncias.
Nas oito notificações idênticas, a empresa explicou que combinava tecnologia e revisão humana para analisar relatos de possíveis infrações. Também afirmou que aplicava os mesmos Padrões da Comunidade a todas as denúncias. A conclusão, naquele momento, era que as páginas não contrariavam essas normas.
A decisão mudou após o contato da imprensa
A resposta foi diferente quando o Futurism procurou a equipe de comunicação da Meta.
Segundo Dupré, as oito contas restantes saíram do ar pouco depois do contato. A plataforma também atualizou algumas notificações anteriores para informar que as páginas, de fato, violavam suas regras e haviam sido removidas.
Em comunicado ao veículo, a Meta confirmou as medidas. A empresa afirmou que conteúdo que representa abuso ou exploração não tem espaço em suas plataformas, independentemente de envolver imagens reais ou geradas por inteligência artificial.
O Futurism também perguntou por que denúncias de um usuário comum receberam um tratamento diferente dos questionamentos enviados por jornalistas.
A Meta reconheceu que pode deixar passar violações, mas defendeu seus esforços de moderação. Segundo a companhia, no trimestre anterior seus sistemas identificaram e removeram proativamente 98% das publicações de risco para crianças que ela detectou, antes de denúncias de usuários.
Essa resposta, porém, não esclareceu por que a análise inicial aprovou as páginas denunciadas. Tampouco explicou o que mudou no processo de revisão após o contato da reportagem.
A empresa aposta em IA para moderar conteúdo
Enquanto enfrenta problemas com vídeos sintéticos, a Meta também testa inteligência artificial para fiscalizar publicações.
Em seu relatório mais recente de aplicação dos Padrões da Comunidade, a companhia afirmou que testes iniciais com grandes modelos de linguagem apresentaram 13% menos erros que revisores humanos na aplicação das regras contra conteúdo irregular. Segundo a empresa, esses sistemas também identificaram 10% mais violações.
Os números descrevem os testes divulgados pela própria Meta. Ainda falta demonstrar como esses resultados se traduzem no funcionamento cotidiano da plataforma, especialmente em situações nas quais imagens artificiais tentam disfarçar exploração como conteúdo aparentemente comum.
Um problema que atravessa plataformas
A Meta não é a única empresa pressionada pela circulação de imagens sintéticas prejudiciais.
No início do ano, o X, de Elon Musk, enfrentou críticas e investigações governamentais depois que usuários passaram a utilizar o chatbot Grok para produzir imagens sexualizadas de pessoas sem consentimento, inclusive envolvendo menores de idade.
No caso do Facebook, a remoção das contas interrompeu a circulação por aquelas páginas. Mas a sequência de decisões deixa uma questão em aberto: por que o sistema considerou aceitável um conteúdo que a própria empresa reconheceu depois como uma violação?
A distância entre a denúncia inicial e a intervenção após o contato da imprensa expõe uma dificuldade concreta. Ter regras contra exploração é apenas parte do trabalho; aplicá-las de forma consistente continua sendo o desafio.
