Um relatório publicado pela Brookings Institution propõe que Washington e Pequim criem regras conjuntas para reduzir o risco de erros de IA desencadearem uma escalada militar. Entre as ideias estão linhas vermelhas, supervisão humana obrigatória e até uma linha direta para emergências envolvendo inteligência artificial.
IA está entrando cada vez mais nas operações militares
O alerta foi apresentado por Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade Fudan.
Os especialistas argumentam que sistemas de IA mais autônomos estão sendo incorporados a áreas como inteligência, defesa cibernética, sistemas de armas e processos de comando militar.
O problema aparece quando essas ferramentas deixam de apenas fornecer informações e começam a tomar decisões ou executar ações.
Quanto maior a autonomia, maior seria o risco de uma falha técnica, interpretação incorreta ou comportamento inesperado desencadear uma resposta militar antes que humanos consigam intervir.
Por isso, Sisson e Jiang defendem que Estados Unidos e China estabeleçam limites para determinadas aplicações militares da tecnologia.
A decisão sobre armas nucleares deve continuar humana
Em 2024, os então presidentes Joe Biden e Xi Jinping concordaram que humanos, e não sistemas de inteligência artificial, deveriam manter o controle sobre decisões relacionadas ao uso de armas nucleares.
Os especialistas agora propõem ampliar esse princípio.
Uma das recomendações é impedir que sistemas autônomos decidam iniciar ataques cibernéticos contra infraestruturas críticas ou contra sistemas de comando, controle e comunicação nuclear.
A preocupação é que ataques digitais realizados em alta velocidade possam ser interpretados pelo outro país como preparação para uma ofensiva maior.
Sistemas automáticos poderiam então responder, provocando uma sequência de ações e reações difícil de interromper.
Uma linha direta para emergências provocadas por IA
O relatório apresenta três medidas principais.
A primeira seria estabelecer “linhas vermelhas” que definam situações nas quais uma IA jamais poderia agir de maneira autônoma, especialmente envolvendo armas nucleares e infraestrutura estratégica.
A segunda seria chegar a uma definição comum de “controle humano significativo”. Na prática, os dois países precisariam determinar em quais momentos uma pessoa deve obrigatoriamente revisar e autorizar uma ação sugerida por uma máquina.
A terceira proposta é a criação de uma linha direta militar dedicada a incidentes envolvendo inteligência artificial.
O canal permitiria que autoridades americanas e chinesas se comunicassem rapidamente caso um erro de IA, drone autônomo ou ataque cibernético produzisse uma situação inesperada.
Um falso alerta quase provocou uma catástrofe em 1983
O risco de sistemas automáticos interpretarem informações incorretamente não surgiu com a inteligência artificial.
Um dos episódios mais conhecidos ocorreu durante a Guerra Fria.
Em setembro de 1983, o sistema soviético de alerta antecipado indicou que cinco mísseis nucleares americanos estavam a caminho da União Soviética.
O tenente-coronel Stanislav Petrov desconfiou do alerta.
Ele considerou estranho que os Estados Unidos realizassem um ataque nuclear utilizando apenas cinco mísseis e decidiu comunicar que provavelmente se tratava de um falso alarme.
Petrov estava certo.
O sistema havia interpretado reflexos da luz solar nas nuvens como lançamentos de mísseis.
O episódio é frequentemente citado para mostrar a importância do julgamento humano quando sistemas tecnológicos produzem informações potencialmente catastróficas.
O problema é que a IA pode agir rápido demais
Com sistemas modernos de inteligência artificial, existe uma complicação adicional: velocidade.
Um agente de IA pode detectar uma suposta ameaça, analisar informações e iniciar uma resposta em frações de segundo.
Se dois países utilizarem sistemas automáticos capazes de responder uns aos outros, uma sequência de ações pode acontecer rápido demais para que pessoas consigam avaliar corretamente a situação.
Jiang alerta justamente para esse cenário de “confronto automático”, no qual sistemas de defesa interpretam ações adversárias e iniciam contramedidas sucessivas.
Nesse contexto, simplesmente afirmar que um humano terá a palavra final pode não ser suficiente se todo o processo anterior ocorrer em milissegundos.
EUA e China enfrentam o mesmo problema
As propostas surgem enquanto Washington e Pequim intensificam sua competição tecnológica e, ao mesmo tempo, discutem formas de reduzir riscos relacionados à inteligência artificial.
O relatório não afirma que sistemas atuais estejam prestes a iniciar autonomamente uma guerra nuclear. A preocupação é estabelecer mecanismos de segurança antes que agentes mais capazes sejam incorporados profundamente às estruturas militares.
Para os especialistas, algumas decisões precisam permanecer deliberadamente lentas e humanas.
Em um cenário no qual um erro pode ser interpretado como o início de uma guerra, permitir que máquinas decidam e reajam umas às outras em velocidades impossíveis para pessoas acompanharem pode transformar uma simples falha técnica em uma crise internacional.
