Durante três anos, ele esteve exatamente onde o futuro da inteligência artificial estava sendo construído. Trabalhou em duas das empresas mais importantes do setor e participou do desenvolvimento de modelos cada vez mais poderosos. Agora, aos 27 anos, Jacob Coxon decidiu sair da Anthropic — e transformou sua despedida em um alerta público sobre uma corrida tecnológica que, segundo ele, pode estar avançando rápido demais.
Um pesquisador que viu a corrida pela IA por dentro
Jacob Coxon não é um crítico que observa a inteligência artificial à distância. O pesquisador britânico trabalhou durante aproximadamente três anos com pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic, empresa responsável pelo Claude.
Esse detalhe ajuda a explicar por que sua saída ganhou tanta repercussão. Coxon teve contato direto com algumas das tecnologias mais avançadas da indústria e, ao anunciar sua demissão da Anthropic, decidiu tornar públicas preocupações que afirma existirem também nos bastidores do setor.
Sua avaliação é dura: as principais empresas estariam avançando em direção a sistemas de inteligência artificial capazes de superar humanos em uma quantidade crescente de tarefas sem que existam garantias suficientes de que essas tecnologias permanecerão sob controle.
Para Coxon, o problema não está necessariamente nos chatbots que milhões de pessoas utilizam hoje. A preocupação é com aquilo que poderá surgir conforme modelos mais avançados começarem a participar diretamente da criação de seus sucessores.
É nesse cenário que aparece uma expressão cada vez mais frequente entre pesquisadores de segurança: automejora recursiva.
Em termos simples, seria um processo no qual uma inteligência artificial ajudaria a desenvolver uma versão ainda mais poderosa de si mesma. Essa nova geração poderia colaborar na criação da próxima, acelerando o avanço tecnológico em um ritmo muito mais difícil de acompanhar.
E é justamente aí que o alerta do pesquisador se torna muito mais sombrio.
A frase mais assustadora veio acompanhada de uma acusação
Ao explicar sua decisão, Coxon afirmou que pessoas envolvidas diretamente no desenvolvimento de inteligência artificial acreditam seriamente na possibilidade de sistemas futuros representarem uma ameaça existencial para a humanidade ainda nesta década.
Sua crítica vai além da tecnologia.
Segundo o pesquisador, existe uma espécie de paradoxo dentro dos grandes laboratórios: mesmo reconhecendo riscos potencialmente enormes, as empresas continuam avançando porque nenhuma delas quer permitir que uma concorrente chegue primeiro a sistemas muito mais poderosos.
Coxon também diferenciou suas experiências nas duas companhias.
Em sua avaliação, parte das pessoas na OpenAI ainda não teria assimilado completamente a dimensão dos possíveis riscos para a civilização. Na Anthropic, por outro lado, haveria uma consciência maior do problema, mas acompanhada pela sensação de que a empresa precisa continuar avançando porque seus concorrentes também continuarão.
O resultado seria uma corrida tecnológica em que desacelerar unilateralmente pode significar perder vantagem.
Entre os cenários mencionados pelo pesquisador estão sistemas capazes de executar ataques cibernéticos sofisticados, acelerar descobertas científicas e adquirir recursos ou influência no mundo real.
Não significa que as inteligências artificiais atuais consigam fazer tudo isso de maneira autônoma e irrestrita. A preocupação está na velocidade com que suas capacidades estão evoluindo.
Mas Coxon não ficou sozinho nessa avaliação.
Um pesquisador da própria Anthropic tornou o alerta ainda mais inquietante
Depois das declarações de Coxon, Evan Hubinger, pesquisador que lidera trabalhos relacionados à segurança e ao alinhamento de IA na Anthropic, respaldou publicamente parte das preocupações.
E acrescentou um número que rapidamente chamou atenção.
Hubinger estima em mais de 10% a possibilidade de uma inteligência artificial provocar uma catástrofe capaz de eliminar a humanidade durante a próxima década.
A estimativa não deve ser confundida com uma previsão científica de que isso acontecerá. Trata-se de uma avaliação pessoal de risco sobre sistemas futuros, e há enorme incerteza e divergência entre especialistas sobre a probabilidade real de cenários extremos.
O próprio Hubinger ressalta que considera baixo o risco representado pelos modelos atuais.
Sua preocupação está concentrada em uma eventual superinteligência capaz de participar de seu próprio processo de aprimoramento. Segundo ele, os avanços nessa direção estariam acontecendo mais rapidamente do que alguns pesquisadores esperavam.
Há outro detalhe importante: Hubinger reconheceu que a Anthropic ainda não possui um plano definitivo para solucionar o chamado problema de alinhamento de uma eventual superinteligência.
Esse é um dos grandes desafios da área: garantir que sistemas muito mais capazes continuem seguindo objetivos compatíveis com os interesses humanos, inclusive em situações imprevistas.
A discussão já deixou de ser apenas ficção científica
Durante muito tempo, cenários envolvendo uma inteligência artificial fora de controle pareciam pertencer exclusivamente ao cinema. Hoje, a discussão chegou aos laboratórios que desenvolvem esses sistemas.
Isso não significa que exista consenso de que uma catástrofe esteja próxima. Especialistas divergem profundamente sobre capacidades futuras, prazos e até sobre a utilidade de tentar atribuir percentuais ao chamado risco existencial.
Mas a saída de Coxon revela algo difícil de ignorar: pessoas que trabalham diretamente na fronteira tecnológica estão debatendo seriamente essa possibilidade.
Para ele, sistemas com capacidades superiores às humanas não deveriam ser desenvolvidos unilateralmente por uma única empresa. Seria necessário algum tipo de coordenação entre governos, países e laboratórios para estabelecer limites antes que a tecnologia alcance um ponto muito mais difícil de controlar.
A ironia é que a inteligência artificial promete acelerar pesquisas médicas, ciência, produtividade e praticamente todas as áreas do conhecimento. O mesmo poder que alimenta esse entusiasmo é justamente o que preocupa alguns de seus criadores.
Coxon decidiu não continuar participando dessa corrida.
Agora, sua saída deixa uma pergunta bem maior do que qualquer novo chatbot: se algumas das pessoas que constroem os sistemas mais avançados estão preocupadas com aquilo que pode acontecer, até onde a indústria deveria continuar acelerando?
[Fonte: Perfil]
