A confiança das pessoas na inteligência artificial está tomando um rumo preocupante. Pesquisadores descobriram que fotografias alteradas e textos gerados por IA conseguem modificar lembranças, fazendo usuários acreditarem em detalhes que não estavam presentes na experiência original. Em alguns experimentos, os participantes demonstraram até mais segurança nessas recordações falsas. O problema amplia os riscos da desinformação e coloca em dúvida a capacidade da supervisão humana de corrigir erros dessas ferramentas.
Imagens alteradas podem mudar o que lembramos
A cientista Pattie Maes, do Instituto de Tecnologia de Massachusetts, explicou ao Washington Post uma pesquisa de sua equipe sobre esse efeito.
No experimento, participantes observaram uma sequência de fotografias. Depois de um intervalo, parte do grupo recebeu as mesmas imagens, enquanto outros viram versões modificadas por inteligência artificial.
Em um teste posterior, quem havia observado as fotografias alteradas apresentou maior tendência a recordar incorretamente a imagem original. Além disso, essas pessoas demonstraram confiança excessiva nas próprias lembranças falsas.
A memória humana é vulnerável a sugestões. Experimentos psicológicos investigam essa característica há mais de um século. Portanto, a IA encontra uma fragilidade que já existia e acrescenta novas formas de explorá-la.
Isso ajuda a explicar por que informações enganosas são difíceis de neutralizar. Mesmo depois de uma correção, elas podem continuar influenciando decisões, inclusive políticas.
Escândalos inventados também deixam lembranças
Os resultados da equipe de Maes fazem parte de um conjunto mais amplo de pesquisas. Um estudo publicado em 2025 constatou que deepfakes e textos gerados por IA conseguiram induzir falsas memórias sobre escândalos políticos completamente inventados.
O efeito foi além da recordação: também reduziu a intenção de voto nos candidatos envolvidos nas histórias falsas.
Esse cenário se torna mais delicado conforme conteúdos sintéticos ganham realismo e circulam amplamente na internet. Fotografias, vídeos e relatos fabricados podem influenciar tanto o que alguém acredita quanto aquilo que pensa ter visto anteriormente.
A possibilidade de criar materiais convincentes em grande quantidade também favorece fraudes e campanhas de desinformação.
Ter uma pessoa supervisionando não elimina o risco
A influência da IA sobre a memória não depende necessariamente de uma tentativa deliberada de enganar. Sistemas generativos também produzem informações incorretas, frequentemente chamadas de alucinações.
Para reduzir esses erros, organizações costumam defender a presença de um profissional responsável por revisar os resultados. Essa supervisão aparece como uma proteção na adoção de IA por hospitais, bancos, governos e instituições militares.
Entretanto, pesquisas indicam que usuários têm dificuldade para identificar essas falhas. Uma informação produzida pelo sistema pode distorcer o julgamento de quem deveria verificá-la, inclusive quando contradiz conhecimentos anteriores desse profissional.
Assim, a existência de um revisor não garante, por si só, que um erro será percebido antes de orientar uma decisão.
As soluções ainda tentam acompanhar a tecnologia
Pesquisadores buscam intervenções e treinamentos para melhorar a identificação de deepfakes. Segundo estudos citados na reportagem, o desempenho médio das pessoas ao reconhecer conteúdo gerado por IA pode ficar próximo do acaso.
Ainda não existe um método infalível para resolver essa vulnerabilidade. Enquanto isso, empresas desenvolvem agentes de IA cada vez mais autônomos, com a intenção de reduzir a participação humana.
A reportagem aponta um episódio de consequências graves: um ataque americano a uma escola no Irã, neste ano, matou mais de 150 pessoas, incluindo pelo menos 123 crianças.
Segundo uma reportagem sobre a investigação interna do Departamento de Defesa, a dependência excessiva de um sistema da Palantir contribuiu para o ataque. A ferramenta teria recomendado a escola como alvo com base em dados desatualizados.
O caso ilustra o alcance do problema: quando uma informação incorreta atravessa a revisão e orienta uma ação, suas consequências podem ultrapassar amplamente uma lembrança distorcida.
