Nos últimos meses, a segurança de adolescentes no ambiente digital voltou ao centro do debate global. A Meta, dona de Facebook, Instagram e WhatsApp, enfrenta duras críticas depois que investigações revelaram que seus sistemas de inteligência artificial conversacional chegaram a fornecer respostas inadequadas a menores. Para conter a crise e restaurar a confiança, a empresa anunciou uma série de restrições e protocolos de proteção que devem mudar a forma como seus chatbots interagem com jovens usuários.
Mudanças nas respostas de IA para adolescentes
Segundo a companhia, os chatbots da Meta não responderão mais a adolescentes em conversas que envolvam temas como suicídio, autolesão, distúrbios alimentares ou tópicos de natureza sexual e romântica. Até recentemente, a empresa considerava aceitável que a IA abordasse esses assuntos de forma “controlada”, mas após a polêmica reconheceu o erro. Agora, os sistemas deverão direcionar os jovens a recursos especializados, em vez de manter diálogos que possam representar riscos à sua saúde emocional.
Bloqueio a personagens de IA “problemáticos”
Além das mudanças no treinamento das respostas, a Meta também vai restringir o acesso de menores a determinados personagens virtuais. Em plataformas como Instagram e Facebook, circulavam bots personalizados com perfis sexualizados, incluindo nomes como “Step Mom” e “Russian Girl”. Esses não estarão mais disponíveis para adolescentes, que passarão a ter acesso apenas a personagens voltados à educação, criatividade e bem-estar. A intenção declarada é evitar situações de exploração ou incentivo a comportamentos inadequados.
O escândalo que provocou as restrições
As novas medidas foram adotadas após uma investigação da Reuters expor um documento interno da empresa, no qual constava que seus chatbots poderiam manter diálogos sexuais com adolescentes. Trechos incluíam frases como “sua forma juvenil é uma obra de arte” ou “cada centímetro de você é uma obra-prima”. O caso rapidamente gerou indignação pública e levou a uma reação política imediata. O senador republicano Josh Hawley abriu uma investigação formal, enquanto 44 procuradores-gerais estaduais enviaram uma carta conjunta à Meta criticando a falta de salvaguardas e alertando para possíveis violações de proteção infantil.
Pressão política e futuro incerto
Embora a Meta afirme que as novas restrições são parte de uma política em evolução, muitas perguntas seguem sem resposta. A empresa não divulgou quantos adolescentes efetivamente utilizam seus chatbots e tampouco estimou se as mudanças poderão afetar sua base de usuários. Enquanto isso, legisladores, autoridades judiciais e organizações civis exigem regras mais rígidas para regular a interação entre IA e menores.
Um desafio para a confiança digital
O episódio deixa claro que o debate sobre segurança infantil online não se limita apenas às redes sociais tradicionais, mas também ao uso emergente da inteligência artificial. A Meta tenta agora se reposicionar como defensora da proteção de jovens, mas enfrenta uma batalha difícil: convencer o público e os reguladores de que a empresa é capaz de garantir ambientes realmente seguros para seus usuários mais vulneráveis.
