Imagine um mundo em que sistemas de inteligência artificial não apenas respondem perguntas, mas também executam tarefas, movimentam informações e tomam decisões sem consultar uma pessoa a cada etapa. Esse cenário já começou a sair dos laboratórios e entrar na rotina de empresas e instituições. Mas, enquanto a tecnologia avança rapidamente, uma questão permanece sem resposta definitiva: quem realmente controla essas máquinas quando algo dá errado?
A inteligência artificial está deixando de apenas responder para começar a agir
Durante muito tempo, a inteligência artificial generativa ficou conhecida principalmente por produzir textos, criar imagens e responder perguntas. Agora, uma nova geração de sistemas promete transformar essa relação.
São os chamados agentes de IA, ferramentas capazes de interpretar objetivos, organizar etapas e executar ações em diferentes plataformas digitais com supervisão humana limitada.
Na prática, isso significa que uma inteligência artificial pode deixar de simplesmente explicar como realizar uma tarefa e passar a executá-la diretamente.
Em fevereiro de 2026, o Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) anunciou uma iniciativa voltada à segurança e à interoperabilidade desses agentes.
O órgão destacou que sistemas desse tipo já conseguem desenvolver códigos, administrar e-mails, organizar agendas e até realizar compras.
A diferença parece pequena, mas suas consequências são enormes.
Um assistente tradicional pode sugerir alterações em um banco de dados. Já um agente com as permissões necessárias pode modificar essas informações sem depender de uma nova autorização humana em cada etapa.
Isso não significa que as máquinas tenham consciência, desejos ou vontade própria. Sua autonomia está relacionada à capacidade de executar tarefas dentro dos objetivos e limites estabelecidos.
Mesmo assim, quanto maior o poder de ação desses sistemas, maiores podem ser as consequências de erros, falhas de segurança ou decisões inadequadas.
Uma especialista em direitos humanos fez uma comparação inquietante
Foi justamente esse cenário que motivou uma advertência da jurista colombiana Catalina Botero, especialista em direitos humanos e regulação tecnológica.
Durante uma entrevista ao jornalista José Antonio Montenegro, no programa GloboEconomía, da CNN em Español, exibida em 16 de outubro, Botero comparou o desenvolvimento dessas tecnologias à criação de verdadeiros “exércitos sem alma”.
A expressão é uma metáfora sobre o poder de sistemas automatizados, e não uma afirmação de que existam exércitos de robôs conscientes ou independentes.
Botero, que atuou como relatora especial para a liberdade de expressão da Comissão Interamericana de Direitos Humanos entre 2008 e 2014, chamou a atenção para um problema fundamental: a responsabilidade pelas decisões tomadas por sistemas cada vez mais autônomos.
O risco não está necessariamente na possibilidade de uma máquina desenvolver intenções maliciosas.
A preocupação é que decisões automatizadas provoquem prejuízos reais sem que esteja claramente definido quem deve responder por eles.
A UNESCO já alertou que a inteligência artificial pode afetar direitos relacionados à privacidade, igualdade, trabalho e liberdade de expressão.
Algoritmos também podem reproduzir preconceitos existentes nos dados utilizados em seu desenvolvimento, ampliando desigualdades.
Quando essas tecnologias passam a influenciar contratações, serviços públicos e decisões financeiras, os impactos deixam de ser apenas técnicos.
Governos estão adotando IA mais rapidamente do que conseguem fiscalizá-la
A velocidade de adoção da inteligência artificial representa outro motivo de preocupação.
Segundo o relatório Digital Government Outlook 2026, da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), 35 dos 36 países analisados já utilizavam IA em pelo menos uma atividade governamental.
Entretanto, apenas 39% exigiam avaliações de risco antes da implementação desses sistemas.
O número era ainda menor quando o assunto envolvia auditorias posteriores: somente 31% realizavam esse tipo de verificação.
Os dados revelam uma diferença preocupante entre a expansão da tecnologia e a capacidade das instituições de acompanhar seus efeitos.
A discussão também envolve as próprias empresas responsáveis pelos modelos mais avançados.
Uma reportagem da Reuters publicada em 13 de outubro de 2026 apontou divergências envolvendo OpenAI e Anthropic sobre o grau de controle que empresas deveriam manter sobre a divulgação de avaliações externas de segurança.
De um lado, existe a necessidade de transparência. Do outro, estão os interesses comerciais e a proteção de informações consideradas estratégicas.
Quem será responsável quando uma inteligência artificial tomar a decisão errada?
O avanço dos agentes autônomos não significa que a inteligência artificial esteja destinada a escapar do controle humano.
Essas tecnologias podem trazer benefícios importantes para a medicina, a educação, a pesquisa científica e a produtividade.
Mas seu uso exige mecanismos capazes de identificar falhas, registrar decisões e estabelecer responsabilidades.
A OCDE considera a supervisão humana, a rastreabilidade e a definição clara de responsabilidades elementos essenciais para a adoção segura desses sistemas.
No Brasil, onde ferramentas de IA também estão chegando a empresas, serviços e atividades profissionais, essa discussão ganha relevância à medida que a automação se expande.
A advertência de Catalina Botero aponta justamente para esse desafio.
Estamos desenvolvendo máquinas capazes de realizar tarefas cada vez mais complexas, mas ainda precisamos definir quem responde pelas consequências de suas ações.
A questão central não é se a inteligência artificial pode se tornar mais poderosa. É se as instituições conseguirão estabelecer limites e mecanismos de controle antes que decisões automatizadas afetem milhões de pessoas.
