A promessa dos chatbots modernos é praticamente ilimitada. Eles podem escrever contos, criar personagens, inventar mundos fictícios e produzir narrativas sob demanda em questão de segundos. Mas uma nova pesquisa sugere que essa criatividade talvez seja muito menos original do que parece.
Pesquisadores da Universidade Cornell descobriram que diversos modelos de inteligência artificial repetem constantemente os mesmos personagens, cenários e profissões ao criar histórias. Entre todos eles, um nome aparece com frequência impressionante: Elias Thorne, geralmente retratado como um faroleiro solitário.
O caso chamou atenção inicialmente do engenheiro de software Daniel May, que percebeu a repetição ao testar diferentes chatbots. Agora, um estudo busca explicar por que tantas inteligências artificiais parecem contar versões diferentes da mesma história.
O estranho domínio de Elias Thorne
No trabalho conduzido pelos pesquisadores Sil Hamilton e David Mimno, diversos modelos de IA foram submetidos a cinco tipos diferentes de solicitações para criar narrativas.
Entre eles estavam sistemas da OpenAI, da Anthropic e da Google.
Ao analisar cerca de 20 mil histórias geradas, os pesquisadores encontraram um padrão surpreendente. Apenas 11 palavras apareciam em 88% dos textos produzidos.
Entre os termos mais recorrentes estavam “farol”, “prefeito”, “bibliotecário”, “padeiro”, “maquinista” e três nomes próprios: Mara, Elias e Elara.
O destaque absoluto foi Elias, frequentemente associado ao papel de guardião de um farol. Segundo o estudo, a combinação “Elias, o faroleiro” apareceu em aproximadamente dois terços de todas as histórias geradas.
O problema não parece estar nos dados originais
A primeira hipótese dos pesquisadores foi que o personagem estivesse presente em grande quantidade nos textos usados para treinar os modelos.
No entanto, após analisar bases de dados e obras literárias utilizadas durante o treinamento das inteligências artificiais, a equipe não encontrou evidências de que “Elias Thorne, o faroleiro” fosse um personagem popular ou amplamente difundido.
Isso levou os cientistas a procurar outra explicação.
A resposta pode estar nos chamados processos de alinhamento, uma etapa posterior ao treinamento principal em que as empresas ajustam os modelos para evitar comportamentos problemáticos, conteúdos inadequados ou violações de direitos autorais.
O efeito colateral da segurança da IA
Os pesquisadores acreditam que conjuntos de dados utilizados para ensinar comportamentos seguros às IAs podem ter contribuído para a popularidade inesperada de Elias.
Um dos exemplos citados é o WildChat, uma enorme base de dados aberta composta por milhões de conversas entre usuários e um chatbot baseado no GPT-3.5.
Segundo a hipótese apresentada, ao tentar evitar personagens protegidos por direitos autorais ou conteúdos considerados inadequados, os sistemas podem ter passado a privilegiar alternativas consideradas “seguras”.
Com o tempo, nomes como Elias Thorne teriam sido reforçados repetidamente durante os processos de alinhamento e passaram a surgir com frequência desproporcional quando os modelos recebem pedidos para criar histórias originais.
Em vez de inventar novos protagonistas a cada narrativa, as IAs acabam recorrendo aos mesmos personagens que aprenderam ser opções confiáveis.
O personagem já escapou dos chatbots
O mais curioso é que Elias Thorne parece estar ultrapassando os limites dos modelos de linguagem.
Segundo uma investigação do site 404 Media, o nome começou a aparecer em livros de fantasia publicados online, faixas de música ambiente disponíveis em plataformas digitais e até como autor de obras supostamente informativas.
Em alguns casos, o personagem é apresentado como escritor, músico ou especialista em diferentes áreas, sugerindo que conteúdos gerados por IA podem estar espalhando o nome para além dos próprios chatbots.
Isso levanta preocupações sobre a criação de figuras fictícias que passam a circular na internet como se fossem pessoas reais.
A criatividade artificial pode ser menos criativa do que parece
O caso de Elias Thorne reforça uma crítica recorrente às inteligências artificiais generativas: elas não criam exatamente como seres humanos.
Em vez de produzir ideias genuinamente novas, os modelos tendem a reorganizar padrões estatísticos aprendidos durante o treinamento.
Estudos anteriores já haviam mostrado fenômenos semelhantes em geradores de imagens, que frequentemente convergem para um conjunto limitado de estilos visuais mesmo quando recebem comandos muito diferentes.
A história do misterioso faroleiro sugere que algo parecido acontece com a escrita. Por trás da aparente criatividade infinita das IAs, pode existir uma forte tendência à repetição. E, por algum motivo ainda não totalmente compreendido, um dos rostos mais conhecidos desse comportamento atende pelo nome de Elias Thorne.
