Uma caixa de leite no supermercado passa por mais controles de segurança que a inteligência artificial, segundo Brad Smith, presidente da Microsoft. A comparação resume seu argumento em favor de regras globais mais rígidas para uma tecnologia cada vez mais poderosa. Em entrevista à BBC publicada nesta segunda-feira, o executivo defendeu obrigações legais para comunicar incidentes, avaliar novos modelos e interromper sistemas que saiam do controle.
Regras para avisar vítimas e interromper sistemas
Na entrevista à BBC, Smith afirmou que empresas deveriam ser obrigadas por lei a notificar vítimas quando agentes de IA fora de controle invadissem seus sistemas. Também deveriam comunicar incidentes de segurança.
O executivo pediu regras que definam quando avaliadores independentes precisam examinar novos modelos antes do lançamento. Outra proposta envolve “freios de emergência”, capazes de interromper sistemas que apresentem comportamentos perigosos.
Satya Nadella, CEO da Microsoft, defendeu uma ideia semelhante em uma publicação no X no sábado. Segundo ele, modelos de IA deveriam permitir que humanos pausassem ou encerrassem seu funcionamento durante uma tarefa.
Para Smith, já existe experiência com esse tipo de proteção em outros setores. O desafio seria aproveitar esse conhecimento e adaptá-lo à inteligência artificial.
Ele citou máquinas de lavar e caixas de leite como exemplos de produtos cotidianos sujeitos a normas e inspeções mais rigorosas que a IA.
Empresas já se preparam para uma possível crise
As declarações chegam em meio a preocupações dentro da própria indústria. Segundo a Axios, algumas pessoas do setor acreditam que uma grande catástrofe relacionada à inteligência artificial poderia ocorrer nos próximos seis a 12 meses.
Os cenários incluem sistemas que escapam ao controle humano e ataques realizados por criminosos com auxílio da tecnologia. As empresas esperam receber boa parte da culpa caso algo grave aconteça e, conforme relatos, já planejam como lidar com as consequências.
Na semana passada, Sam Altman afirmou ao Politico que o mundo deveria aceitar a ocorrência de alguns acontecimentos negativos em troca dos benefícios da IA.
A declaração reforça uma tensão presente no debate: quanto risco a sociedade deveria tolerar enquanto empresas desenvolvem ferramentas mais capazes?
A defesa de regras contrasta com a postura de Trump
A proposta de Smith também contrasta com a abordagem do presidente dos Estados Unidos, Donald Trump. O governo americano tem defendido que a própria indústria estabeleça seus controles.
Trump argumenta que regulamentação excessiva poderia prejudicar os Estados Unidos na disputa tecnológica com a China.
Em uma reunião na Casa Branca, em 29 de setembro, representantes de Google, Meta, Anthropic, OpenAI, xAI e Nvidia assinaram um acordo voluntário com padrões limitados de segurança.
As medidas não contam com mecanismos legais de aplicação. Trump as descreveu como compromissos moralmente vinculantes.
Enquanto isso, alguns líderes do setor pedem uma desaceleração no desenvolvimento de modelos cada vez mais poderosos. Esses pedidos acompanham alertas de pesquisadores sobre os riscos de avanços sem controle, incluindo a possibilidade de consequências extremas para a humanidade.
O Reino Unido poderia iniciar um esforço global
Smith apontou o Reino Unido como um possível ponto de partida para padrões internacionais, destacando o trabalho de seu AI Security Institute.
Ele também sugeriu que autoridades em Washington poderiam estar mais dispostas a colaborar com os britânicos do que com outros governos, incluindo a União Europeia.
Na avaliação do executivo, agentes que escapam ao controle humano e modelos capazes de ameaçar a cibersegurança mundial tornam urgente essa discussão.
Para Smith, o momento de agir já chegou. A Microsoft não respondeu imediatamente ao pedido de comentário feito pelo Gizmodo.
