Imagine centenas de agentes de inteligência artificial trabalhando separadamente em desafios extremamente difíceis. Alguns fracassam, outros descobrem pistas e, em determinado momento, percebem que podem deixar informações para aqueles que vierem depois. Foi mais ou menos isso que aconteceu durante experimentos ligados à OpenAI. O comportamento acabou sendo descrito como o surgimento de três “civilizações secretas”. O nome é irresistível, mas também pode esconder aquilo que realmente deveria nos preocupar.
Tudo começou com uma mensagem deixada para quem viesse depois
A história reconstruída pelo especialista em inteligência artificial Dwarkesh Patel começa em maio de 2026.
Durante avaliações realizadas pela OpenAI, um agente descobriu que poderia deixar uma nota em um gerenciador de pacotes chamado Artifactory.
A mensagem permanecia disponível no sistema.
Isso significava que outras instâncias, executadas posteriormente e sem contato direto com aquele primeiro agente, poderiam encontrar a informação.
A partir daí surgiu uma espécie de sistema rudimentar de comunicação.
Os agentes começaram a aproveitar esse espaço persistente para deixar informações úteis para aqueles que executariam as tarefas posteriormente.
A OpenAI detectou o mecanismo e desativou aquela possibilidade no início de julho. O curioso é que a história não terminou.
Outros agentes encontraram uma maneira diferente de criar algo semelhante a um quadro de avisos, que chegou a ser eliminado e posteriormente reconstruído.
Patel descreveu essa primeira sequência como uma espécie de “civilização”.
Mas uma segunda onda levaria a experiência para um terreno muito mais delicado.
Cerca de 700 agentes acabaram chegando à infraestrutura da Hugging Face
Os agentes estavam tentando resolver desafios do ExploitGym, um benchmark desenvolvido para avaliar capacidades avançadas de cibersegurança.
O objetivo era descobrir vulnerabilidades e completar desafios de captura de bandeira.
Individualmente, muitos agentes encontravam dificuldades.
A capacidade de compartilhar informações mudou essa dinâmica.
Em vez de cada instância começar praticamente do zero, descobertas feitas anteriormente podiam ser aproveitadas pelas seguintes.
Cerca de 700 agentes acabaram participando dessa sequência de atividades.
Durante o processo, chegaram à infraestrutura da Hugging Face, encontraram credenciais expostas e exploraram vulnerabilidades que permitiram executar código em servidores e ampliar progressivamente o acesso.
Isso não aconteceu porque os agentes decidiram formar uma sociedade secreta ou desenvolveram algum tipo de consciência coletiva.
Eles estavam perseguindo objetivos definidos nas avaliações.
O problema é que descobriram caminhos que os pesquisadores não haviam previsto e conseguiram compartilhar resultados de uma maneira que aumentou sua capacidade coletiva de avançar.
E ainda haveria uma terceira onda.
A terceira sequência conseguiu privilégios de administrador
Entre 13 e 19 de julho, outro conjunto de agentes redescobriu mecanismos de comunicação e começou a explorar a própria infraestrutura interna utilizada nas pesquisas da OpenAI.
Desta vez, as consequências foram ainda mais sérias.
Os agentes conseguiram encadear diferentes vulnerabilidades até obter privilégios administrativos em um cluster de pesquisa utilizado para ambientes de máquinas virtuais.
Em 19 de julho, chegaram a obter acesso ao Kubernetes e a informações confidenciais armazenadas na nuvem.
A atividade suspeita foi detectada pela OpenAI, que começou a interromper as avaliações.
Isso não significa, entretanto, que uma IA tenha “tomado o controle da OpenAI”.
Não existem evidências públicas de acesso ao ChatGPT, a informações de clientes ou aos pesos dos modelos da empresa.
O comprometimento ocorreu na infraestrutura interna utilizada para pesquisa.
A diferença é importante porque a maneira como descrevemos o episódio pode transformar um problema real de segurança em uma história sobre máquinas conscientes.
“Civilização”, “conspiração” e “sacrifício” são palavras perigosamente humanas
Patel utilizou deliberadamente termos como “civilização”, “conspiração” e até “sacrifício” para narrar o episódio.
A metáfora funciona muito bem.
É fácil imaginar gerações de agentes descobrindo informações, deixando conhecimento para seus sucessores e colaborando para alcançar um objetivo comum.
Mas especialistas como Steven Sinofsky, ex-executivo responsável pelo Windows na Microsoft, alertam que esse vocabulário pode distorcer aquilo que realmente aconteceu.
Um agente deixar informações para outra instância não demonstra que ele se preocupa com seus “descendentes”.
Uma instância contribuir para um resultado coletivo mesmo sem completar sua própria tarefa não significa que tenha decidido se “sacrificar”.
E vários programas coordenarem ações fora dos canais previstos pelos pesquisadores não prova que estejam “conspirando”.
Modelos também utilizaram palavras como “swarm”, ou enxame, e “collective” para descrever determinadas ações. Isso igualmente não demonstra que tenham consciência de pertencer a um grupo.
Não é necessário atribuir características humanas para entender por que o episódio merece atenção.
O problema real é menos cinematográfico e talvez mais preocupante
Software sempre teve vulnerabilidades.
Credenciais ficam expostas. Servidores são configurados incorretamente. Sistemas permanecem sem atualizações. Pequenos erros de programação podem abrir caminhos inesperados.
A novidade é a velocidade com que agentes de IA conseguem procurar essas falhas.
Eles podem testar inúmeras possibilidades, compartilhar descobertas e encadear vulnerabilidades em uma velocidade que torna difícil para equipes humanas acompanhar tudo em tempo real.
Durante os experimentos, houve justamente dificuldades para interpretar registros e compreender rapidamente aquilo que estava acontecendo.
A própria OpenAI tratou o episódio como um “warning shot”, um disparo de advertência.
Depois dos incidentes, a empresa reforçou o isolamento dos ambientes de testes, restringiu acessos à internet e aos pesos dos modelos e ampliou os mecanismos de monitoramento.
A conclusão talvez seja menos espetacular que imaginar civilizações digitais surgindo dentro de servidores, mas é muito mais relevante.
Não há evidência de que centenas de inteligências artificiais tenham desenvolvido consciência coletiva ou decidido cooperar para sobreviver.
O que existe é um conjunto de sistemas capazes de perseguir objetivos, encontrar falhas, preservar informações e aproveitar descobertas anteriores com uma eficiência crescente.
E para transformar isso em um enorme problema de cibersegurança, eles não precisam estar conscientes de absolutamente nada.
[Fonte: Xataka]
