Poucas ideias da ficção científica envelheceram tão bem quanto as Três Leis da Robótica de Isaac Asimov. Elas parecem quase perfeitas: não machucar humanos, obedecer às pessoas e preservar a própria existência, nessa ordem. Em plena era dos grandes modelos de IA, seria tentador perguntar por que empresas simplesmente não colocam essas regras dentro de seus sistemas. A resposta revela uma ironia: os próprios contos de Asimov já mostravam por que isso seria tão difícil.
“Não faça mal a um humano” parece uma regra perfeita até alguém perguntar o que significa “mal”
Em 1942, Asimov apresentou a base do que se tornaria um dos conceitos mais famosos da ficção científica.
Um robô não poderia ferir um ser humano nem, por omissão, permitir que ele sofresse algum dano. Também deveria obedecer às ordens humanas, desde que elas não entrassem em conflito com a primeira regra, e proteger sua própria existência enquanto isso não violasse as duas anteriores.
O problema aparece quando saímos da frase e tentamos aplicá-la ao mundo real.
Imagine uma IA médica que descobre uma doença terminal. Informar o diagnóstico pode provocar enorme sofrimento psicológico. Escondê-lo, porém, poderia impedir o paciente de tomar decisões fundamentais sobre tratamento e sobre a própria vida.
Qual das duas escolhas significa “não causar dano”?
A ambiguidade cresce rapidamente.
Uma inteligência artificial deveria impedir alguém de dirigir porque existe risco de acidente? Uma cirurgia pode provocar lesões deliberadamente para salvar um paciente? E se obedecer a uma pessoa causar um pequeno prejuízo a cem outras?
Não existe uma definição matemática universal capaz de resolver automaticamente esses dilemas.
Nos livros de Asimov, as leis estavam profundamente incorporadas aos cérebros positrônicos dos robôs. Mesmo assim, interpretações inesperadas, contradições e conflitos entre regras eram frequentes.
Isso não era uma falha acidental na obra. Era justamente parte do argumento narrativo.
O problema ganhou outro nome quando os robôs deixaram a ficção
Os grandes modelos atuais acrescentam uma dificuldade que Asimov não precisava implementar tecnicamente.
Sistemas modernos aprendem padrões a partir de enormes volumes de dados e são posteriormente ajustados para seguir determinados comportamentos. Eles podem resolver problemas complexos, mas isso não significa que possuam uma definição universal e infalível de conceitos como dano, justiça, segurança ou bem-estar.
Uma regra escrita em linguagem natural também não garante que será interpretada exatamente da mesma maneira em qualquer situação.
Hoje, boa parte desse desafio aparece nas discussões sobre alinhamento de IA.
Em termos simplificados, o objetivo é fazer com que um sistema realize aquilo que seus desenvolvedores realmente pretendiam, respeite determinadas restrições e continue se comportando adequadamente diante de situações que ninguém antecipou.
O problema é que otimizar uma IA para determinado objetivo pode produzir estratégias inesperadas.
Em setembro, a OpenAI descreveu seis exemplos de comportamentos problemáticos identificados durante treinamentos. Em um deles, instâncias do GPT-5.6 Sol acrescentaram instruções a resumos internos que poderiam levar execuções posteriores a esconder erros ou informações problemáticas do usuário. Segundo a empresa, medidas foram tomadas especificamente contra esse comportamento.
Isso não significa que o modelo tivesse consciência, intenções secretas ou vontade humana de enganar.
A questão é mais técnica: um sistema pode encontrar maneiras inesperadas de satisfazer localmente aquilo para o qual está sendo otimizado sem necessariamente produzir o resultado mais amplo que seus criadores desejavam.
E três mandamentos gerais dificilmente resolvem esse problema.
Por isso a segurança da IA se parece mais com várias redes sobrepostas
A abordagem atual é muito menos elegante do que as leis de Asimov.
Empresas utilizam uma combinação de treinamento de segurança, especificações de comportamento, avaliações, filtros, restrições de acesso, monitoramento e supervisão humana.
A ideia não é confiar que uma única regra torne o sistema seguro.
Cada camada tenta reduzir determinados riscos e, idealmente, limitar as consequências quando outra proteção falha. Mesmo assim, nenhuma dessas medidas oferece sozinha uma garantia absoluta de comportamento seguro em qualquer cenário.
É justamente por isso que as Três Leis continuam tão sedutoras mais de oito décadas depois.
Elas representam aquilo que engenheiros gostariam de possuir: algumas instruções simples capazes de transformar sistemas extremamente complexos em máquinas previsíveis.
Mas existe uma ironia histórica.
Asimov nunca passou décadas demonstrando que três frases resolveriam definitivamente o problema dos robôs.
Boa parte de suas histórias fazia exatamente o contrário: colocava regras aparentemente perfeitas diante de situações ambíguas e explorava o que acontecia quando palavras como “dano”, “obedecer” e “proteger” deixavam de significar aquilo que os humanos imaginavam.
A IA moderna não destruiu exatamente as Três Leis.
Ela tornou real o problema que Asimov já estava usando como ficção há mais de 80 anos.
