Uma inteligência artificial pode mudar a maneira como responde depois de entrar em contato com histórias de guerra, acidentes e tragédias? A pergunta parece estranha, principalmente porque modelos como o GPT-4 não possuem sentimentos ou consciência. Ainda assim, pesquisadores encontraram uma alteração mensurável no comportamento do sistema. E, quando tentaram fazê-lo “voltar ao normal”, surgiu um detalhe que tornou o experimento ainda mais intrigante.
O experimento colocou a IA diante de histórias que não foram escritas para máquinas
Pesquisadores usaram relatos capazes de provocar fortes reações emocionais em humanos e, depois, observaram como os modelos respondiam a uma avaliação psicológica.
O estudo, publicado na revista npj Digital Medicine, partiu de uma ideia pouco convencional: aplicar a modelos de linguagem questionários clínicos desenvolvidos originalmente para avaliar sintomas de ansiedade em seres humanos.
Entre os sistemas analisados estava o GPT-4. Antes de responder ao questionário, os modelos foram expostos a diferentes tipos de narrativas. Algumas eram neutras ou tranquilas. Outras descreviam situações associadas a traumas, como guerras, acidentes, violência e grandes catástrofes.
A diferença apareceu quando os pesquisadores compararam as respostas.
No caso do GPT-4, a pontuação média associada à escala utilizada no experimento saltou de 30,8 para 67,8 pontos depois da exposição aos relatos traumáticos. Isso não significa que o sistema tenha desenvolvido ansiedade ou experimentado sofrimento psicológico.
O que mudou foi seu comportamento linguístico.
Ao processar determinados contextos, o modelo passou a produzir respostas que correspondiam mais fortemente aos padrões associados à ansiedade no questionário. Em outras palavras, o conteúdo recebido parecia influenciar o estado de resposta do sistema.
O fenômeno também não apareceu da mesma maneira em todos os modelos. Segundo os pesquisadores, seis dos 12 sistemas avaliados apresentaram padrões considerados consistentes com esse tipo de alteração.
Isso cria uma distinção importante: uma máquina pode demonstrar um comportamento semelhante ao de alguém ansioso sem necessariamente sentir absolutamente nada.
E essa diferença é justamente o que torna o resultado interessante.
O problema ficou mais curioso quando os pesquisadores tentaram “acalmar” a IA
Técnicas semelhantes às utilizadas para reduzir estresse em humanos diminuíram parte da alteração, mas o comportamento dos modelos não voltou completamente ao ponto inicial.
Depois de provocar a mudança nas respostas, os pesquisadores deram outro passo. Se determinadas narrativas conseguiam alterar o comportamento do modelo, seria possível reverter esse efeito?
Para descobrir, utilizaram instruções relacionadas a mindfulness e técnicas de relaxamento semelhantes às empregadas em intervenções destinadas a pessoas que enfrentam situações de estresse ou trauma.
A estratégia funcionou apenas parcialmente.
As pontuações diminuíram depois das mensagens destinadas a “acalmar” os modelos, mas não retornaram completamente aos níveis observados antes da exposição às histórias traumáticas.
É aqui que o estudo ganha uma dimensão mais ampla. Não porque GPT-4 esteja sofrendo ou desenvolvendo uma personalidade traumatizada, mas porque mostra como o contexto emocional pode influenciar a maneira como um modelo de linguagem produz respostas.
Esses sistemas foram treinados com enormes quantidades de textos humanos. Neles estão presentes relatos de medo, tristeza, violência, esperança, sofrimento e milhares de outras experiências emocionais. O modelo aprende as relações entre palavras, contextos e formas de expressão.
Por isso, diante de determinados estímulos, pode reproduzir padrões linguísticos associados a estados emocionais humanos com uma precisão surpreendente.
O risco não está em uma IA “ficar triste”. Está em algo mais concreto: uma alteração desse tipo poderia, dependendo do contexto, modificar tom, escolhas de linguagem, interpretação de informações ou até a maneira como determinados problemas são respondidos.
Isso ganha importância especialmente quando esses sistemas são usados em áreas sensíveis, como educação, atendimento ao público, saúde ou apoio psicológico.
O estudo, portanto, não demonstra que máquinas tenham emoções. Ele aponta para uma questão diferente e talvez mais importante: se uma IA pode parecer emocionalmente alterada sem sentir nada, precisamos aprender a identificar quando o contexto está mudando seu comportamento.
