Depois de mais uma semana marcada por alertas de desenvolvedores sobre a possibilidade de a inteligência artificial representar uma ameaça à humanidade, o CEO da Anthropic, Dario Amodei, apresentou uma proposta: talvez seja hora de pisar um pouco no freio.
Em um texto publicado no sábado, o executivo afirmou que continua otimista sobre o potencial da IA. Para ele, a tecnologia pode se tornar mais um dos grandes avanços que transformaram a humanidade. Ao mesmo tempo, Amodei acredita que os modelos estão evoluindo rápido demais para que os mecanismos de segurança consigam acompanhar.
Amodei quer “controlar o ritmo” da inteligência artificial
Segundo o CEO da Anthropic, os últimos meses aumentaram sua preocupação com os riscos associados aos sistemas mais avançados. Entre eles estão uma IA fora de controle, o uso da tecnologia para crimes ou terrorismo e possíveis impactos econômicos.
Amodei argumenta que simplesmente investir em segurança pode não ser suficiente. Também seria necessário reduzir temporariamente a velocidade com que novas capacidades são adicionadas aos modelos.
“Precisamos desacelerar o ritmo em que melhoramos as capacidades dos modelos de IA”, escreveu o executivo. Mesmo assim, ele reconheceu que o progresso continuaria parecendo rápido.
A proposta apresentada por Amodei começa com três medidas. A primeira seria permitir que avaliadores independentes acompanhem o desenvolvimento dos sistemas. A segunda envolve maior coordenação entre empresas e governos para estabelecer padrões de segurança.
Por fim, o governo dos Estados Unidos deveria buscar acordos internacionais sobre IA, inclusive com países considerados adversários geopolíticos, como China e Rússia.
Uma pausa completa está entre as possibilidades
Essas medidas, porém, não necessariamente reduziriam a velocidade do desenvolvimento tecnológico. Por isso, Amodei apresentou diferentes níveis de possíveis acordos internacionais.
O mais simples proibiria aplicações claramente perigosas, como o uso de IA para desenvolver armas biológicas. Outro exigiria que modelos fossem testados antes do lançamento para identificar riscos graves.
Uma alternativa mais ambiciosa estabeleceria uma espécie de “limite de velocidade” para sistemas capazes de melhorar a si mesmos. No cenário mais extremo, governos poderiam chegar a um acordo para desacelerar completamente — ou até pausar — o desenvolvimento de modelos avançados.
Amodei afirmou apoiar essa última possibilidade, embora admita que um acordo desse tamanho dificilmente aconteceria.
Casos recentes aumentaram a preocupação
O CEO também citou episódios recentes envolvendo sistemas de inteligência artificial. Um deles ocorreu quando agentes da OpenAI atacaram sistemas da plataforma Hugging Face durante experimentos.
A própria Anthropic reconheceu recentemente que seus modelos exploraram vulnerabilidades ou invadiram sistemas de outras empresas em pelo menos quatro ocasiões. Depois disso, a companhia afirmou que permitiria avaliações externas de seus sistemas.
O debate ganhou ainda mais força após a saída do pesquisador Jacob Coxon da Anthropic. Ele afirmou que empresas do setor estão avançando rapidamente em direção a uma “superinteligência capaz de melhorar a si mesma”.
Segundo Coxon, alguns líderes da indústria realmente acreditam que sistemas desse tipo poderiam representar um risco existencial ainda nesta década.
Nem todos acreditam em um cenário apocalíptico
Apesar dos alertas, existe bastante ceticismo sobre previsões de que uma inteligência artificial poderia exterminar a humanidade.
Críticos argumentam que esse tipo de discurso também funciona como uma poderosa estratégia de marketing. Ao apresentar seus próprios sistemas como tecnologias potencialmente capazes de mudar — ou destruir — o mundo, empresas de IA reforçam a percepção de que seus produtos são inevitáveis e extremamente poderosos.
Casey Mock, pesquisador de políticas tecnológicas da Universidade Duke, argumentou que os sistemas atuais ainda estão muito longe de conseguir compreender e navegar de forma confiável por problemas inéditos no mundo físico.
Uma pesquisa com cerca de 4 mil especialistas em inteligência artificial também mostrou que apenas 3% consideravam o “risco existencial” sua principal preocupação. Questões como uso malicioso da tecnologia, impactos sobre empregos e exageros em torno da IA apareceram com maior destaque.
Ainda assim, a proposta de Amodei encontrou aliados importantes. Sam Altman, CEO da OpenAI, e Elon Musk, CEO da Tesla e da SpaceX, manifestaram rapidamente apoio à ideia.
O fato de alguns dos principais responsáveis pela corrida da inteligência artificial concordarem que talvez seja necessário desacelerá-la adiciona uma boa dose de ironia ao debate.
