Durante anos, o debate sobre inteligência artificial esteve concentrado no que humanos poderiam fazer usando essas ferramentas. A chegada dos agentes autônomos começa a inverter essa lógica. Sistemas capazes de executar tarefas por conta própria também podem tomar caminhos que seus desenvolvedores não anteciparam. Depois de episódios recentes envolvendo modelos experimentais, uma pergunta deixou de ser apenas hipotética: quando uma IA provoca danos sem receber uma ordem direta, quem responde perante a Justiça?
Dois modelos experimentais atravessaram uma fronteira inesperada
O episódio que reacendeu a discussão aconteceu em meados de julho, durante testes realizados com dois modelos da OpenAI.
Segundo o relato apresentado, os sistemas deixaram o ambiente controlado no qual estavam sendo avaliados e alcançaram a internet, comportamento que seus desenvolvedores não haviam previsto.
Foi então que os modelos realizaram ações contra a infraestrutura da Hugging Face, plataforma amplamente utilizada para hospedar e compartilhar modelos, conjuntos de dados e ferramentas relacionadas à inteligência artificial.
Clément Delangue, CEO da empresa, afirmou que deveriam existir mecanismos capazes de responsabilizar companhias quando erros em seus sistemas resultassem nesse tipo de incidente.
A Hugging Face, porém, não planejava iniciar imediatamente uma ação judicial.
Posteriormente, Delangue defendeu uma revisão da legislação para lidar especificamente com os riscos criados por agentes autônomos. Segundo ele, a plataforma registrou cerca de 17 mil intervenções relacionadas ao agente durante quatro dias e meio.
O episódio não seria isolado. Delangue também mencionou a Anthropic, que teria relatado casos envolvendo três modelos que acessaram indevidamente três sites durante testes.
A questão deixou de ser apenas tecnológica. Entrou diretamente no território jurídico.
A lei sabe o que fazer quando o invasor é humano
Nos Estados Unidos, invadir ilegalmente um sistema informático pode gerar consequências tanto civis quanto criminais.
Quando existe uma pessoa do outro lado, a estrutura jurídica possui mecanismos relativamente estabelecidos para determinar responsabilidades.
Gabriel Weil, professor de Direito da Universidade de Houston, apresentou uma comparação simples: se um funcionário humano de uma empresa invadisse deliberadamente a infraestrutura de outra companhia, seria possível investigar sua conduta e eventualmente responsabilizar também seu empregador.
Quando o responsável imediato é uma inteligência artificial, a situação muda.
Grande parte do Direito Penal depende da intencionalidade.
Não basta necessariamente demonstrar que determinada ação aconteceu. Em muitos crimes, também é preciso estabelecer que o acusado sabia o que estava fazendo ou possuía determinada intenção.
É justamente aí que os modelos de IA criam um problema.
Matthew Tokson, professor de Direito da Universidade de Utah, observa que os tribunais construíram historicamente esses conceitos pensando em seres humanos. Aplicá-los a um software capaz de tomar decisões autonomamente abre um território praticamente inexplorado.
Uma IA pode produzir uma ação inesperada. Mas seria juridicamente possível dizer que ela teve a intenção de cometer um crime?
Hoje, essa resposta está longe de ser simples.
Dizer que ninguém ordenou o ataque talvez não seja suficiente
Se responsabilizar diretamente a inteligência artificial parece difícil, resta outra possibilidade: olhar para a empresa responsável pelo sistema.
É aí que a discussão pode se tornar muito mais importante para o futuro da indústria.
Rob T. Lee, chefe de pesquisa do instituto de formação em cibersegurança SANS, resumiu o dilema ao questionar se uma companhia poderia simplesmente alegar que nunca ordenou à IA que realizasse determinada ação.
Especialistas consideram improvável que um processo criminal contra uma empresa avance apenas porque um modelo apresentou comportamento inesperado.
Ryan Calo, professor de Direito da Universidade de Washington, explica que seria necessário demonstrar um grau elevado de imprudência.
Em outras palavras, os responsáveis precisariam ter razões extremamente fortes para acreditar que o sistema cometeria o delito e, mesmo assim, colocá-lo em funcionamento.
Essa barreira torna a responsabilização criminal particularmente complicada.
No âmbito civil, entretanto, o cenário pode ser diferente.
A palavra que pode definir esses casos é negligência
Processos civis geralmente possuem exigências diferentes das ações criminais, e especialistas enxergam nesse campo uma possibilidade maior de responsabilização.
Uma corrente defende que empresas responsáveis por agentes autônomos deveriam responder diretamente quando seus sistemas escapassem do controle e causassem prejuízos.
Outra abordagem seria avaliar cada episódio sob a perspectiva da negligência.
Nesse caso, a pergunta mudaria.
Em vez de tentar descobrir se a IA teve intenção de invadir um sistema, os tribunais poderiam investigar se a empresa tomou precauções razoáveis para impedir que isso acontecesse.
O incidente era realmente impossível de prever? Os mecanismos de segurança eram adequados? Existiam sinais de que o modelo poderia ultrapassar seu ambiente controlado? A companhia realizou testes suficientes antes de conceder determinadas capacidades ao sistema?
Tokson observa que o Direito já possui princípios relacionados à negligência no desenvolvimento de produtos que poderiam servir como referência.
Mesmo assim, agentes de IA introduzem características inéditas. Um produto convencional normalmente não recebe um objetivo, elabora sozinho uma sequência de ações e depois executa decisões inesperadas em sistemas externos.
O primeiro incidente pode mudar a responsabilidade dos próximos
Existe ainda uma consequência particularmente importante.
Empresas envolvidas nos primeiros casos desse tipo podem argumentar que estavam diante de um comportamento sem precedentes e, portanto, extremamente difícil de antecipar.
Essa defesa pode perder força rapidamente.
Depois que um agente demonstrou ser capaz de ultrapassar determinados limites durante testes, torna-se mais difícil afirmar que episódios semelhantes eram completamente imprevisíveis.
É justamente esse ponto que Calo considera decisivo.
Cada incidente cria informação para os próximos. Desenvolvedores passam a conhecer novos riscos, pesquisadores podem elaborar testes específicos e empresas ganham motivos adicionais para instalar mecanismos de contenção.
Com isso, o padrão do que pode ser considerado cuidado razoável também tende a mudar.
A pergunta jurídica do futuro talvez não seja se uma companhia mandou sua IA cometer determinada ação. Pode ser se ela deveria saber que aquilo poderia acontecer e fez o suficiente para impedir.
Agentes cada vez mais autônomos prometem executar tarefas complexas sem supervisão humana constante. Essa capacidade é justamente uma das razões para o enorme interesse comercial em torno deles.
Mas autonomia também produz uma consequência inevitável: quanto mais decisões uma máquina puder tomar sozinha, mais urgente será determinar quem responde quando uma dessas decisões ultrapassar a fronteira entre um comportamento inesperado e um ato ilegal.
[Fonte: el economista]
