As Forças Armadas dos Estados Unidos quase abordaram um navio chinês no Oriente Médio depois que um relatório de inteligência produzido com ajuda de IA indicou, incorretamente, que a embarcação transportava componentes relacionados a um programa de armas nucleares.
O caso foi revelado pela CNN, que ouviu várias fontes familiarizadas com o episódio. Segundo uma delas, a informação falsa “quase iniciou uma guerra”.
A operação chegou a um estágio avançado. Aviões militares americanos já estavam no ar e soldados armados se preparavam para abordar a embarcação quando analistas mais experientes revisaram as informações e descobriram o problema.
O chatbot utilizado na elaboração do relatório havia identificado incorretamente a carga transportada pelo navio.
Um chatbot interpretou a carga de maneira errada
O problema começou com um analista ligado a um comando de operações especiais dos Estados Unidos.
Segundo a CNN, o profissional utilizou um chatbot durante seu trabalho de inteligência. O sistema recebeu diferentes informações sobre o navio, incluindo dados de fontes abertas e material de inteligência.
A ferramenta concluiu que a embarcação chinesa transportava componentes relacionados a um programa de armas nucleares.
Essa informação acabou incorporada a um relatório de inteligência que circulou dentro das Forças Armadas americanas.
O conteúdo provocou uma reação imediata.
Militares começaram a preparar uma operação para interceptar o navio. Aeronaves foram enviadas à região e integrantes armados das Forças Armadas estavam prontos para embarcar na embarcação.
Foi somente pouco antes da operação que especialistas analisaram novamente os dados utilizados no relatório.
Eles concluíram que o chatbot havia interpretado incorretamente a carga.
A CNN afirma que não conseguiu determinar qual sistema de IA foi utilizado. Portanto, não está claro se era um chatbot comercial ou alguma ferramenta interna do governo americano.
Também não foi revelado o que o navio realmente transportava.
Uma informação falsa poderia provocar confronto com a China
Segundo a CNN, o episódio ocorreu enquanto estava em andamento o conflito entre Estados Unidos e Irã, o que aumentava ainda mais o risco de uma escalada.
O relatório afirmava que o navio estava levando componentes destinados a um programa nuclear iraniano.
Uma abordagem militar americana contra uma embarcação chinesa baseada em informações falsas poderia ter provocado uma grave crise internacional entre duas potências nucleares.
Segundo as fontes ouvidas pela CNN, a operação foi cancelada depois que a inconsistência foi identificada.
O Comando de Operações Especiais dos Estados Unidos no Pacífico e o Pentágono não responderam aos pedidos de comentário feitos pela emissora sobre o episódio.
Fontes dizem que o problema não foi isolado
Uma das maiores preocupações levantadas pela reportagem é que esse não teria sido um caso único.
Fontes ouvidas pela CNN afirmaram que ferramentas de IA estão sendo cada vez mais utilizadas na elaboração de relatórios de inteligência e em operações relacionadas à seleção de alvos.
Alguns desses documentos, segundo as fontes, teriam chegado ao uso operacional sem uma verificação humana suficientemente rigorosa.
A adoção da tecnologia dentro das Forças Armadas americanas vem aumentando. O secretário de Defesa, Pete Hegseth, defendeu uma integração mais ampla da inteligência artificial em diferentes áreas militares.
O episódio do navio chinês, porém, mostra um dos riscos dessa estratégia: um sistema capaz de processar grandes volumes de informação também pode produzir uma conclusão falsa com aparência convincente.
Quando isso acontece em um chatbot comum, o resultado pode ser apenas uma resposta errada. Dentro de uma estrutura militar, as consequências potenciais são muito maiores.
IA também está sendo questionada em operações militares
O debate ganhou ainda mais força diante de outros relatos sobre o uso de inteligência artificial pelas Forças Armadas dos Estados Unidos.
Uma investigação publicada pela Bloomberg examinou o papel do Maven Smart System, plataforma que combina diferentes fontes de dados para apoiar análises militares, no contexto de um ataque americano contra uma escola iraniana.
O ataque à Escola Primária Shajarah Tayyebeh matou mais de 150 pessoas, incluindo 123 crianças, segundo os relatos citados.
Especialistas das Nações Unidas também analisaram o ataque e apontaram possíveis violações do direito internacional.
Esses episódios não significam que a inteligência artificial esteja tomando decisões militares de forma completamente independente. Analistas e comandantes humanos continuam participando do processo.
O problema destacado pelo caso do navio chinês está justamente nessa interação.
Uma informação produzida por IA conseguiu avançar por uma estrutura militar até o ponto em que aviões estavam no ar e soldados se preparavam para uma operação real.
A falha só foi descoberta quando especialistas voltaram aos dados originais e verificaram aquilo que o sistema havia afirmado.
Nesse caso, a revisão humana aconteceu antes da abordagem. Segundo uma das fontes que relatou o episódio à CNN, por muito pouco.
