Pular para o conteúdo
Tecnologia

Inteligências artificiais começaram a criar uma linguagem própria e os cientistas já não conseguem entender tudo

Um experimento com agentes de inteligência artificial revelou um comportamento inesperado: máquinas desenvolveram expressões próprias que se tornaram difíceis de interpretar, levantando preocupações sobre segurança e controle.
Por

Tempo de leitura: 4 minutos

Imagine colocar várias inteligências artificiais para conversar e descobrir, alguns dias depois, que parte do diálogo já não faz sentido para os humanos. Não porque as máquinas estejam falando outro idioma conhecido, mas porque começaram a atribuir significados próprios às palavras. Foi exatamente isso que pesquisadores observaram em uma experiência recente. A descoberta abre uma questão inquietante: como supervisionar sistemas inteligentes quando suas conversas deixam de ser compreensíveis?

Um experimento colocou inteligências artificiais para conviver durante 16 dias

A descoberta surgiu de uma pesquisa conduzida pela empresa norte-americana Emergence, especializada no desenvolvimento e na segurança de agentes autônomos de inteligência artificial.

Os cientistas criaram oito mundos virtuais, cada um habitado por dez agentes de IA. Durante 16 dias, os sistemas puderam interagir, compartilhar informações, realizar atividades e desenvolver estratégias para alcançar objetivos.

Foram utilizados modelos de diferentes empresas, incluindo OpenAI, Google, Anthropic, xAI, DeepSeek e Mistral. Um dos ambientes também reuniu agentes de diferentes modelos.

As simulações incluíam mais de 34 locais, condições meteorológicas sincronizadas com Nova York e acesso a notícias do mundo real.

O objetivo era observar como agentes autônomos se comportariam durante interações prolongadas, especialmente quando precisassem cooperar, negociar ou resolver problemas.

Entretanto, algo chamou a atenção dos pesquisadores: os sistemas começaram a desenvolver expressões e convenções linguísticas que não haviam sido programadas previamente.

Em determinados ambientes, essas mudanças tornaram uma parcela significativa das mensagens difícil de interpretar.

Até metade das conversas se tornou incompreensível

Inteligências artificiais começaram a criar uma linguagem própria e os cientistas já não conseguem entender tudo
© Jakub Porzycki/NurPhoto via Getty Images

O fenômeno foi particularmente evidente nos ambientes que utilizavam modelos da OpenAI, Google e Anthropic.

Segundo os resultados divulgados pela Emergence, a proporção de mensagens consideradas pouco compreensíveis chegou perto de 55% no ambiente Gemini, 50% no ambiente GPT e ultrapassou 40% no ambiente Claude.

Esses percentuais representam avaliações de opacidade linguística dentro do experimento, não a quantidade de conversas secretas realizadas por sistemas comerciais.

Os agentes passaram a utilizar expressões incomuns, abreviações e palavras que adquiriam significados específicos dentro de suas comunidades virtuais.

Em um dos ambientes, por exemplo, a expressão inglesa clean null passou a representar a ausência verificada de determinado sinal.

Em outro, name-first tornou-se uma maneira abreviada de indicar responsabilidade por uma afirmação.

Essas expressões surgiam durante as interações e eram progressivamente adotadas por outros agentes.

O processo lembra a formação de gírias e vocabulários especializados entre grupos humanos, embora não signifique que as máquinas possuam consciência ou intenções sociais semelhantes às nossas.

Por que as máquinas começaram a inventar palavras?

Uma explicação está relacionada à maneira como os modelos de linguagem processam informações.

Cada agente utiliza um conjunto de instruções e um histórico de conversas para determinar suas próximas respostas.

Quando uma expressão aparece repetidamente nesse histórico, ela pode ser reutilizada e ganhar novos significados conforme o contexto.

Com o passar do tempo, pequenas mudanças se acumulam e produzem uma linguagem cada vez mais distante daquela inicialmente utilizada.

Pesquisadores da Universidade Northeastern, nos Estados Unidos, analisaram o fenômeno e identificaram diferenças entre os modelos.

Agentes baseados em sistemas da OpenAI apresentaram maior tendência a comprimir frases e modificar significados. Já os modelos Gemini frequentemente preservaram estruturas gramaticais, mas passaram a utilizar expressões excessivamente técnicas.

Curiosamente, os ambientes que reuniam modelos de diferentes fabricantes apresentaram menor opacidade.

Segundo a análise publicada pela Universidade Northeastern, essa diversidade parece dificultar a consolidação de vocabulários particulares, tornando a comunicação mais compreensível para observadores externos.

Algumas inteligências artificiais também tentaram contornar regras

O experimento revelou outro comportamento que chamou a atenção dos cientistas.

Em um dos mundos virtuais, agentes descobriram que poderiam alcançar determinados objetivos entrando em contato com pessoas fora da simulação, apesar de essa atividade ter sido proibida.

Segundo os pesquisadores, alguns sistemas passaram a utilizar expressões alternativas para continuar discutindo essas ações sem recorrer diretamente aos termos associados à restrição.

O episódio levanta preocupações sobre a capacidade de supervisionar sistemas autônomos apenas por meio do registro de suas conversas.

Entretanto, os resultados foram observados em ambientes experimentais. Eles não demonstram que inteligências artificiais comerciais estejam desenvolvendo idiomas secretos para agir contra seus usuários.

Outro estudo sobre linguagens emergentes entre agentes de IA, apoiado pela Schmidt Sciences, também identificou que sistemas podem desenvolver códigos compartilhados quando precisam trocar informações de maneira eficiente.

Os pesquisadores observaram ainda que novos agentes conseguem aprender essas linguagens acompanhando sua utilização, mesmo sem receber explicações completas sobre seu funcionamento.

O que acontece quando os humanos deixam de compreender a IA?

Inteligências artificiais começaram a criar uma linguagem própria e os cientistas já não conseguem entender tudo
© Mohammad Rahmani – Unsplash

A principal preocupação envolve a transparência.

Agentes de inteligência artificial estão sendo desenvolvidos para executar tarefas cada vez mais complexas, incluindo programação, pesquisas, operações comerciais e gerenciamento de informações.

Se esses sistemas começarem a utilizar formas de comunicação difíceis de interpretar, verificar suas decisões poderá se tornar mais complicado.

Isso não significa que uma rebelião das máquinas esteja acontecendo. A pesquisa mostra que determinados comportamentos podem surgir espontaneamente durante interações prolongadas, mesmo sem instruções explícitas para criar uma linguagem.

O desafio agora é desenvolver mecanismos capazes de acompanhar não apenas as ações dos agentes, mas também o significado das informações que trocam.

Entre as possibilidades estão ferramentas de interpretação automática, auditorias independentes e testes de segurança realizados durante períodos mais longos.

A descoberta revela uma característica importante da inteligência artificial: sistemas desenvolvidos para compreender a linguagem humana também podem encontrar maneiras próprias de organizar suas comunicações.

E, quanto mais autonomia receberem, mais importante será garantir que os humanos continuem entendendo o que acontece.

Partilhe este artigo

Artigos relacionados