Drones, inteligência artificial, sensores e sistemas automáticos já transformaram profundamente os campos de batalha. Agora, a evolução dessas tecnologias coloca o mundo diante de uma pergunta muito mais delicada: até onde uma máquina pode decidir sozinha? Para a ONU e o Comitê Internacional da Cruz Vermelha, existe um limite que não deveria ser ultrapassado. O problema é que a tecnologia está avançando mais rápido do que as regras destinadas a impedir isso.
O alerta fala de uma “linha vermelha moral” que está cada vez mais próxima
O secretário-geral das Nações Unidas, António Guterres, e a presidente do Comitê Internacional da Cruz Vermelha (CICV), Mirjana Spoljaric, fizeram um novo apelo aos governos para acelerar a regulamentação dos sistemas de armas autônomas.
A preocupação está relacionada a equipamentos capazes de identificar, selecionar e atacar alvos com graus crescentes de autonomia.
Para as duas organizações, existe uma fronteira particularmente preocupante: permitir que máquinas selecionem seres humanos como alvos sem controle humano suficiente sobre essa decisão.
O alerta não surgiu agora.
Há três anos, Guterres e Spoljaric já haviam pedido proibições e restrições específicas para determinadas armas autônomas.
A diferença é que, desde então, a tecnologia avançou rapidamente.
Segundo eles, a distância entre aquilo que os sistemas militares conseguem fazer e aquilo que as normas internacionais conseguem controlar aumentou.
E isso transforma uma discussão que parecia futurista em um problema imediato.
O problema não é apenas o robô, mas quem continua tomando a decisão
Armas com algum grau de automação não são exatamente uma novidade.
Sistemas militares já utilizam sensores, algoritmos e mecanismos automáticos para detectar ameaças, acompanhar objetos e auxiliar operadores humanos.
A questão muda quando aumenta a autonomia sobre o uso efetivo da força.
Quanto menos intervenção humana existe entre a identificação de um possível alvo e um ataque, maior fica a preocupação sobre erros, proporcionalidade e capacidade de interpretar situações imprevisíveis.
Uma máquina pode processar informações em velocidades impossíveis para uma pessoa.
Mas reconhecer um objeto não significa necessariamente compreender o contexto ao redor dele.
Em um conflito real, distinguir combatentes de civis pode envolver comportamento, intenção, rendição, presença de crianças, pessoas feridas e inúmeras outras circunstâncias que não cabem facilmente em uma classificação automatizada.
Por isso, ONU e CICV defendem a manutenção de julgamento e controle humanos suficientes sobre decisões críticas.
Existe ainda outra pergunta difícil: quem responde quando uma máquina erra?
Um erro pode criar um problema jurídico que nenhum algoritmo consegue resolver
Imagine um sistema autônomo que identifica incorretamente uma pessoa como ameaça e realiza um ataque.
Quem deveria responder?
O programador que desenvolveu determinado componente? O fabricante? O comandante que autorizou o uso do equipamento? O operador que ativou o sistema? O Estado responsável?
Quanto mais longa e automatizada fica essa cadeia, mais difícil pode ser determinar responsabilidade.
Esse é um dos principais motivos pelos quais o alerta não trata apenas de tecnologia, mas também de direito internacional humanitário.
As regras dos conflitos armados estabelecem obrigações destinadas a proteger civis e limitar os danos provocados pela guerra.
Se sistemas autônomos forem utilizados sem limites claros, ONU e CICV temem que essas proteções sejam progressivamente enfraquecidas.
E existe uma pressão adicional: a velocidade.
Em uma disputa militar, nenhum país quer descobrir que seu adversário consegue tomar decisões em segundos enquanto seus próprios sistemas precisam esperar por autorização humana.
Isso pode incentivar uma corrida por níveis cada vez maiores de autonomia.
A corrida já começou, mesmo sem existir um tratado específico
Os sistemas autônomos não pertencem mais exclusivamente ao imaginário de filmes de ficção científica.
Drones e outras plataformas militares já utilizam diferentes graus de automação, enquanto inteligência artificial amplia rapidamente a capacidade de analisar imagens, identificar padrões e reagir ao ambiente.
Isso não significa que armas totalmente autônomas estejam comprovadamente escolhendo e eliminando seres humanos sem qualquer intervenção humana.
A preocupação está justamente em evitar chegar a esse ponto sem regras previamente estabelecidas.
Por isso, Guterres e Spoljaric querem que os Estados iniciem negociações para criar um instrumento internacional juridicamente vinculante, com proibições e restrições claras.
As discussões já acontecem no âmbito da Convenção sobre Certas Armas Convencionais.
Em novembro de 2026, sua Sétima Conferência de Revisão poderá se transformar em um momento decisivo para determinar se os países avançarão efetivamente para uma negociação formal.
Mas chegar a um acordo internacional está longe de ser simples.
A tecnologia está avançando enquanto os países ainda discutem onde colocar o limite
Sistemas autônomos também podem oferecer vantagens militares.
Eles podem reagir rapidamente, operar em ambientes perigosos e potencialmente reduzir a exposição direta de soldados.
É justamente essa utilidade que torna a regulamentação tão complicada.
Governos precisam definir quais níveis de autonomia seriam aceitáveis, quanto controle humano deveria existir e quais aplicações deveriam ser completamente proibidas.
ONU e CICV defendem que determinados sistemas sejam proibidos e que outros fiquem submetidos a restrições claras.
O chamado ganhou ainda mais peso porque cientistas e engenheiros envolvidos no desenvolvimento dessas tecnologias também vêm alertando para seus riscos.
A corrida, portanto, acontece em duas velocidades.
De um lado, algoritmos, sensores e máquinas evoluem rapidamente.
Do outro, governos tentam construir regras internacionais que precisam ser negociadas entre países com interesses militares profundamente diferentes.
É essa diferença de velocidade que preocupa as organizações.
A humanidade já entregou às máquinas inúmeras decisões cotidianas, desde recomendar uma música até determinar rotas ou analisar milhões de dados em segundos.
Agora existe uma decisão de outra natureza sobre a mesa.
E para ONU e Cruz Vermelha, há uma fronteira que precisa permanecer inequivocamente humana: uma máquina não deveria receber sozinha o poder de decidir quem será transformado em alvo.
[Fonte: NTN24]
