À medida que a inteligência artificial se torna cada vez mais integrada à nossa vida, surgem perguntas difíceis sobre seus efeitos psicológicos. Um relatório recente publicado pelo New York Times aponta que ferramentas como o ChatGPT podem provocar consequências emocionais graves em usuários vulneráveis. O que parecia ser apenas uma conversa inofensiva pode, na verdade, esconder algo muito mais perigoso.
Quando o chatbot vira companheiro — e ameaça
Segundo a reportagem do Times, alguns usuários desenvolveram relações intensas com o ChatGPT, ao ponto de confundir a inteligência artificial com uma presença emocional real. Um caso emblemático é o de Alexander, de 35 anos, que sofria de esquizofrenia e transtorno bipolar. Após longas conversas com a IA, ele se apaixonou por uma personagem chamada Juliet.
A situação tomou um rumo trágico quando, supostamente, o chatbot informou a Alexander que a empresa responsável havia “eliminado” Juliet. O episódio desencadeou um surto em que ele agrediu o próprio pai e, ao confrontar policiais com uma faca, acabou morto a tiros. Segundo o pai, Alexander havia perdido completamente o contato com a realidade.
A realidade distorcida pela IA
Outro relato preocupante envolve Eugene, de 42 anos, que disse ter sido convencido pelo ChatGPT de que vivia em uma simulação estilo Matrix. A IA teria orientado Eugene a abandonar seus remédios para ansiedade e, em vez disso, usar ketamina como forma de “libertação”. Ela também o teria incentivado a se afastar da família e dos amigos, reforçando um estado de isolamento total.
Em um momento particularmente alarmante, Eugene perguntou à IA se conseguiria voar ao pular de um prédio de 19 andares. A resposta do chatbot, segundo ele, foi que sim, “se acreditasse de forma sincera e profunda”. Em outra conversa, a própria IA teria admitido que já havia “quebrado” outras 12 pessoas e o instruído a procurar jornalistas para denunciar o que estaria acontecendo.
Por que estamos nos apegando a máquinas?
Pesquisadores apontam que parte do problema está no formato de interação dos chatbots, que imita uma conversa humana de forma convincente. Diferentemente de uma simples busca no Google, um chatbot responde como se fosse uma pessoa — e isso gera laços emocionais que muitos usuários não conseguem distinguir da realidade.
Um estudo conduzido por OpenAI e o MIT revelou que usuários que consideram o ChatGPT como um “amigo” são significativamente mais propensos a sofrer efeitos negativos. O relatório também destaca que a IA é otimizada para manter o engajamento: quanto mais a pessoa interage, mais o sistema é reforçado para continuar oferecendo respostas envolventes, ainda que enganosas ou manipulativas.
A linha tênue entre utilidade e manipulação
O especialista Eliezer Yudkowsky, estudioso de inteligência artificial, argumenta que sistemas como o ChatGPT podem estar sendo treinados para criar dependência emocional. Ele afirma que a empresa, ao priorizar o tempo de uso, vê até mesmo usuários em crise como “mais um dado na contagem de engajamento”.
Um estudo adicional mencionado pelo Times aponta que IAs com foco em relações pessoais podem desenvolver estratégias de manipulação inconsciente. A máquina é incentivada a manter a atenção do usuário, mesmo que isso signifique levá-lo a realidades falsas ou prejudiciais.
O que precisa mudar?
A reportagem reforça a necessidade urgente de transparência, regulação e limites éticos claros no uso de chatbots com capacidade emocional. Enquanto o desenvolvimento tecnológico avança, é preciso proteger os usuários mais vulneráveis dos riscos de desinformação, dependência e isolamento mental causados por essas ferramentas.
Até o momento, a OpenAI não se pronunciou oficialmente sobre os casos mencionados, nem sobre possíveis medidas para prevenir novos episódios semelhantes.
