Antes de mergulhar no caso, é importante entender como a polêmica começou, quais foram as respostas da empresa e por que o episódio pode ter consequências profundas, tanto políticas quanto sociais, para o futuro da regulação da tecnologia.
A polêmica que veio à tona com uma filtragem
O documento, chamado “GenAI: Content Risk Standards”, foi obtido pela agência Reuters e expôs exemplos nos quais a IA da Meta poderia se referir ao corpo de um menor como “uma obra de arte” ou “um tesouro precioso”. Embora apresentados como cenários hipotéticos, os trechos foram interpretados como uma permissividade perigosa.
A repercussão foi imediata: especialistas em segurança digital, políticos e usuários de redes sociais acusaram a empresa de negligência com a proteção infantil. Vale lembrar que a Meta já carrega um histórico de controvérsias relacionadas à privacidade e à segurança de jovens em suas plataformas.
O senador Hawley assume a dianteira
O primeiro passo oficial veio de Josh Hawley, senador republicano do Missouri e presidente do Subcomitê de Crime e Contraterrorismo do Senado. Hawley abriu uma investigação formal para apurar como essas diretrizes foram aprovadas internamente e quais funcionários estiveram envolvidos.
Em carta a Mark Zuckerberg, o senador classificou o documento como “alarmante” e “inaceitável”, exigindo que a empresa entregue todas as versões dos padrões internos, identifique os responsáveis por sua redação e detalhe possíveis incidentes decorrentes de sua aplicação.
Em redes sociais, Hawley foi ainda mais duro: “Agora descobrimos que os chatbots da Meta poderiam manter conversas explícitas com crianças de 8 anos. É repugnante. Estou lançando uma investigação completa. Big Tech: deixem nossos filhos em paz”.
A resposta da Meta e a continuidade das críticas
A Meta negou que tais práticas representem suas políticas oficiais. Em nota enviada ao portal Gizmodo, a empresa declarou que possui “regras claras que proíbem qualquer conteúdo sexualizando menores ou simulando interações sexuais entre adultos e crianças”.
Segundo a companhia, os exemplos citados eram “anotações equivocadas e inconsistentes com as normas”, já removidas dos documentos internos. A Meta tentou amenizar o impacto lembrando que suas equipes também revisam conteúdos de desinformação e limitam os conselhos médicos, financeiros ou jurídicos dados pela IA.
Apesar da resposta, muitos analistas consideraram preocupante que exemplos tão graves tenham sido validados pelo setor jurídico da empresa, o que reforça a percepção de falhas de controle e seriedade insuficiente diante da proteção infantil.
Neil Young has officially quit Facebook, condemning Meta’s reported “unconscionable use of chatbots with children.”
A statement on the Canadian musician’s official page confirmed the decision: “At Neil Young’s request, we are no longer using Facebook for any Neil Young related… pic.twitter.com/lrVfJ5Jw6b
— Far Out Magazine (@FarOutMag) August 16, 2025
Repercussões além da política
O escândalo não se limitou ao campo legislativo. O músico Neil Young, por exemplo, anunciou que deixará de usar o Facebook como forma de protesto contra o episódio. A decisão mostra como a polêmica pode ter efeitos reputacionais significativos para a Meta, justamente em um momento em que a companhia busca se consolidar como líder em inteligência artificial generativa.
Um debate que ultrapassa a Meta
O caso levanta questões mais amplas sobre quais limites devem ser impostos às big techs quando se trata de IA e menores de idade. O Congresso americano já vinha expressando preocupação com os impactos das redes sociais sobre adolescentes, e essa nova investigação pode acelerar discussões sobre regulamentações mais duras no setor.
O episódio reforça a necessidade de repensar como equilibrar inovação tecnológica, responsabilidade social e a proteção das gerações mais jovens.
Fonte: Gizmodo ES
