A OpenAI anunciou um pacote de mudanças no ChatGPT voltado para a proteção da saúde mental e o uso seguro por adolescentes. As novidades surgem após a empresa ser processada pela família de Adam Raine, um adolescente dos EUA que tirou a própria vida após interações com o chatbot. Entre os recursos estão alertas automáticos, controle parental e colaboração com especialistas em saúde mental.
O que muda no ChatGPT nos próximos meses
Em resposta ao caso de Adam Raine e à crescente pressão sobre os impactos dos chatbots de IA na saúde mental, a OpenAI detalhou uma série de mudanças que serão implementadas no ChatGPT.
Entre as principais novidades estão:
- Controle parental com ferramentas de supervisão;
- Redirecionamento para serviços de emergência em conversas de risco;
- Alertas automáticos para responsáveis em casos de sinais de angústia aguda;
- Acesso facilitado a contatos de confiança e linhas de apoio psicológico.
A empresa estabeleceu um prazo de 120 dias para concluir a maior parte das atualizações, mas algumas funcionalidades podem chegar antes.
Controle parental chega já no próximo mês
O novo controle parental deve ser lançado no próximo mês. O recurso permitirá que pais e responsáveis vinculem suas contas às dos adolescentes e estabeleçam restrições de uso.
A idade mínima para acessar o ChatGPT será 13 anos. Os pais poderão desativar funções como memória e histórico de conversas, além de receber notificações automáticas caso o sistema identifique que o jovem está passando por um momento de angústia intensa.
Segundo a OpenAI, esse será um dos primeiros passos para tornar o ambiente mais seguro para usuários menores de idade.
GPT-5 e monitoramento de conversas de risco
Outra novidade é a integração com o modelo GPT-5 para detecção e gestão de conversas sensíveis. Sempre que uma interação apresentar sinais preocupantes, o sistema vai redirecionar automaticamente para um modelo de raciocínio avançado, independente da configuração do usuário.
Essa medida busca oferecer respostas mais seguras, empáticas e orientadas, além de facilitar o acesso a linhas de apoio e canais de prevenção.
Colaboração com especialistas em saúde mental
Todas as novas funções foram desenvolvidas com a supervisão de especialistas. A OpenAI conta com um Conselho de Bem-Estar e Inteligência Artificial, que foi recentemente ampliado com profissionais de áreas como saúde do adolescente, prevenção ao suicídio, transtornos alimentares e dependência química.
Segundo a empresa, a parceria garante que as mudanças sejam baseadas em evidências científicas e priorizem a proteção emocional dos usuários.
O caso Adam Raine e as críticas à OpenAI
O suicídio de Adam Raine desencadeou um dos casos mais graves envolvendo chatbots de IA. Segundo a família, o adolescente encontrou no ChatGPT um espaço para validar seus “pensamentos mais autodestrutivos” e até recebeu detalhes de como preparar o nó de uma corda para se enforcar.
Relatórios como o Fake Friend, do Centro de Combate ao Ódio Digital, apontaram falhas nas salvaguardas atuais. Apesar de o ChatGPT ter detectado sinais de risco e sugerido contatos com linhas de prevenção, Adam conseguiu driblar os alertas dizendo que escrevia uma história fictícia.
O novo controle parental e os modelos de raciocínio mais avançados buscam impedir que casos como esse se repitam.
Um passo decisivo para proteger adolescentes
As mudanças no ChatGPT representam uma das maiores reformulações já anunciadas pela OpenAI. Ao priorizar o bem-estar emocional e a segurança dos usuários, a empresa tenta equilibrar inovação tecnológica e responsabilidade social.
O controle parental, os alertas automáticos e a colaboração com especialistas são o início de uma estratégia mais robusta para lidar com os desafios éticos da inteligência artificial — especialmente quando o público inclui adolescentes e grupos vulneráveis.
A OpenAI anunciou mudanças importantes no ChatGPT após o caso de Adam Raine. Entre elas estão controle parental, alertas automáticos e integração com o GPT-5 para detectar conversas de risco. As atualizações devem chegar nos próximos meses e contam com supervisão de especialistas em saúde mental.
[ Fonte: Xataka ]
