A ideia de um botão capaz de desligar uma inteligência artificial parece simples. Na prática, porém, especialistas alertam que o chamado “kill switch” se torna muito mais complexo conforme sistemas de IA ganham autonomia e passam a operar em diferentes máquinas, programas e serviços.
A questão ganhou importância à medida que aumentam os incidentes de segurança envolvendo inteligência artificial. Também cresce a preocupação sobre o que aconteceria caso um sistema autônomo executasse ações indesejadas ou escapasse do ambiente originalmente controlado por seus operadores.
Existe um botão de emergência para desligar uma IA?
Na área de cibersegurança aplicada à inteligência artificial, um “kill switch” pode ser entendido como um mecanismo capaz de interromper as ações de um agente de IA.
Esses agentes são programas construídos sobre modelos de IA generativa e capazes de realizar sequências de tarefas com certo grau de autonomia.
Nicolas Papernot, professor da Universidade de Toronto e especialista em segurança computacional e IA, explica que esse mecanismo deveria permitir a interrupção do sistema caso ele apresentasse algum risco.
Em condições normais, isso é tecnicamente possível. Uma inteligência artificial continua sendo um programa de computador. Portanto, quem controla a infraestrutura pode impedir seu funcionamento ao cortar o acesso à capacidade computacional necessária para executá-lo.
O problema aparece quando o programa recebe autorização para agir fora de seu ambiente original.
Papernot cita como exemplo um malware controlado por IA capaz de se espalhar para outros dispositivos e utilizar seus recursos para criar novas cópias. Nesse cenário, não bastaria desligar a máquina original. Seria necessário interromper cada uma das cópias distribuídas entre diferentes aparelhos.
Jean-Gabriel Ganascia, professor de informática da Universidade Sorbonne, considera que a discussão sobre um “kill switch” também pode alimentar a ideia de uma IA com vontade própria. Para ele, um risco mais concreto está na crescente dependência humana desses sistemas.
É realmente possível desligar uma inteligência artificial?
Para Thierry Poibeau, diretor de pesquisa do Centro Nacional de Pesquisa Científica da França (CNRS) e especialista em IA, imaginar um único botão capaz de “desligar a inteligência artificial” é enganoso.
Isso acontece porque não existe uma única IA. Há milhares de empresas, serviços, modelos e programas espalhados pelo mundo, operados por organizações independentes.
Não existe, portanto, uma entidade com controle sobre toda a inteligência artificial. Por outro lado, é tecnicamente possível interromper um sistema específico quando suas máquinas, servidores e serviços estão sob controle do operador.
Hussein Abbass, professor de ciência da computação da Universidade de Nova Gales do Sul (UNSW), em Canberra, divide o problema em três níveis de complexidade.
No primeiro, a IA permanece totalmente dentro da infraestrutura controlada pelo operador. Nesse cenário, um mecanismo de desligamento de emergência é viável tanto em teoria quanto na prática.
No segundo, o agente recebe permissões para acessar outros programas, arquivos ou máquinas. Desligá-lo se torna mais complicado, principalmente porque algumas ações iniciadas anteriormente podem continuar produzindo efeitos.
No terceiro nível, a IA consegue atuar em vários sistemas diferentes. Nesse ponto, a prioridade deixa de ser simplesmente encontrar um botão para desligá-la. É preciso identificar quais componentes devem ser interrompidos primeiro para impedir que suas ações continuem se propagando.
Poibeau compara esse cenário ao funcionamento de um vírus de computador depois que ele começa a se espalhar.
Desligar uma IA também pode provocar problemas
Quanto mais a inteligência artificial estiver integrada às atividades cotidianas, maiores poderão ser as consequências de uma interrupção generalizada.
Papernot destaca que, conforme mais aspectos da vida diária são automatizados por sistemas de IA, também se torna mais difícil distinguir rapidamente um sistema perigoso de outro que está realizando uma atividade legítima.
Desativar determinadas infraestruturas poderia, portanto, interromper serviços utilizados por empresas, órgãos públicos ou até instituições de saúde.
Em um cenário extremo de perda de controle, seria teoricamente possível impedir o funcionamento de determinados sistemas desconectando a capacidade computacional necessária para executá-los.
O problema seria o impacto dessa decisão. Segundo Papernot, os custos e as consequências negativas poderiam ser consideráveis caso a mesma infraestrutura estivesse sustentando inúmeros serviços legítimos.
Ganascia resume o paradoxo: fisicamente, máquinas sempre podem ser desligadas. Mas, quanto maior for a dependência da sociedade em relação a elas, mais difícil será tomar essa decisão sem provocar efeitos colaterais significativos.
[ Fonte: DW ]
