Um engenheiro do Google DeepMind decidiu abandonar seu emprego por uma razão incomum: ele acredita que seu próprio trabalho estava ajudando a inteligência artificial a avançar rápido demais.
Robert O’Callahan anunciou que deixou o Google apesar de afirmar que gostava do trabalho e das pessoas com quem trabalhava. Segundo ele, sua equipe estava desenvolvendo uma nova geração de chips destinada a tornar sistemas de IA muito mais rápidos e baratos.
Para O’Callahan, continuar contribuindo para essa aceleração já não fazia sentido diante de suas preocupações sobre a velocidade do desenvolvimento da tecnologia.
A decisão se soma a uma série de alertas recentes vindos de dentro das próprias empresas que desenvolvem os modelos mais avançados de inteligência artificial.
“A IA já está avançando rápido demais”
O’Callahan reconheceu que sua decisão individual terá impacto limitado.
Milhões de pessoas trabalham direta ou indiretamente no avanço da inteligência artificial. Mesmo assim, o engenheiro argumentou que algumas de suas habilidades são relativamente incomuns e que deixar de contribuir para acelerar os chips teria um efeito pequeno, mas não inexistente.
Ele também considerou permanecer dentro do Google DeepMind para tentar influenciar o desenvolvimento da tecnologia internamente. No fim, concluiu que poderia buscar esse objetivo fora da empresa.
O caso chama atenção principalmente pelo tipo de projeto no qual ele trabalhava.
Chips especializados são uma das peças fundamentais da atual corrida pela IA. Torná-los mais rápidos e eficientes significa permitir o treinamento e a execução de modelos maiores por custos menores.
Outro pesquisador já havia abandonado a Anthropic
A saída de O’Callahan acontece poucas semanas depois de Jacob Coxon deixar a Anthropic e fazer críticas ainda mais duras ao ritmo da indústria.
Coxon trabalhou durante três anos com pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic. Ao anunciar sua saída, acusou as duas empresas de avançarem em direção a sistemas capazes de se aperfeiçoar sem que existam garantias suficientes de segurança.
Segundo Coxon, existe uma corrida entre os principais laboratórios para chegar primeiro a sistemas muito mais poderosos.
Suas afirmações provocaram repercussão dentro e fora do setor e ajudaram a intensificar o debate sobre até que ponto empresas deveriam continuar aumentando rapidamente as capacidades dos modelos.
As previsões mais extremas sobre uma possível perda de controle sobre sistemas futuros continuam sendo objeto de forte debate e não representam um consenso científico.
Até o CEO da Anthropic pediu para diminuir o ritmo
Poucos dias depois da saída de Coxon, Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo que a indústria reduza o ritmo de aumento das capacidades dos modelos.
Amodei não propõe interromper completamente o desenvolvimento da inteligência artificial. Sua ideia é ganhar tempo para melhorar mecanismos de segurança e supervisão enquanto os sistemas continuam evoluindo.
Entre os riscos citados pelo executivo estão perda de controle sobre sistemas avançados, utilização da IA em ataques cibernéticos, aplicações biológicas perigosas e grandes impactos econômicos.
Amodei também argumenta que a competição comercial entre empresas pode incentivar uma corrida na qual preocupações de segurança acabam ficando em segundo plano.
OpenAI e outras empresas do setor manifestaram apoio a partes das propostas de avaliação independente apresentadas pelo executivo.
Nem todos concordam que seja necessário desacelerar
Dentro da própria indústria existe uma posição bastante diferente.
Jensen Huang, CEO da Nvidia, tem rejeitado previsões catastróficas sobre inteligência artificial e questionado os argumentos utilizados para defender uma desaceleração significativa da tecnologia.
Essa divergência revela uma divisão cada vez mais visível no setor.
De um lado estão pesquisadores e executivos que acreditam que o aumento acelerado das capacidades exige mecanismos adicionais de segurança e coordenação. Do outro, estão aqueles que consideram que os riscos podem ser administrados sem reduzir significativamente o ritmo de inovação.
A saída de O’Callahan não resolve essa discussão. Mas adiciona um novo elemento ao debate: profissionais diretamente envolvidos na construção da infraestrutura que torna a IA mais poderosa estão começando a questionar se acelerar essa tecnologia continua sendo algo com que desejam contribuir.
[ Fonte: Infobae ]
