Durante décadas, cientistas imaginaram um futuro em que máquinas inteligentes poderiam participar da criação de sistemas ainda mais avançados. Agora, parte dessa ideia começa a sair do campo teórico. Empresas como OpenAI e Anthropic já utilizam inteligência artificial para acelerar o desenvolvimento de seus modelos. Mas uma pesquisadora que participou de decisões importantes na OpenAI alerta que a evolução tecnológica está acontecendo enquanto questões fundamentais de segurança continuam sem solução.
A inteligência artificial começou a participar do próprio desenvolvimento
A pesquisadora Helen Toner, ex-integrante do conselho de administração da OpenAI, revelou que algumas das principais empresas do setor estão incorporando inteligência artificial em diferentes etapas de suas atividades de pesquisa e desenvolvimento.
Em entrevista ao podcast Decoder, do site The Verge, Toner explicou que OpenAI e Anthropic utilizam modelos de IA para auxiliar na criação e no aperfeiçoamento de novas gerações dessa tecnologia.
Atualmente, ela dirige o Centro de Segurança e Tecnologias Emergentes (CSET), da Universidade de Georgetown, instituição dedicada a estudar as implicações da inteligência artificial para a segurança e as políticas públicas.
Segundo Toner, as duas empresas foram criadas com ambições muito maiores do que desenvolver aplicativos ou assistentes virtuais. Seu objetivo original envolve construir sistemas capazes de alcançar ou superar a inteligência humana em uma ampla variedade de atividades.
O uso da IA dentro dos próprios laboratórios pode acelerar esse processo, reduzindo o tempo necessário para determinadas tarefas de programação, análise e experimentação.
Entretanto, existe uma diferença importante entre utilizar ferramentas inteligentes para auxiliar pesquisadores e desenvolver uma máquina que consiga melhorar suas próprias capacidades de maneira totalmente autônoma.
Toner ressalta que as empresas ainda não demonstraram ter alcançado esse segundo estágio.
Uma teoria dos anos 1960 começa a ganhar importância
A ideia de máquinas capazes de criar versões mais inteligentes de si mesmas não é recente.
Em 1965, o matemático britânico Irving John Good, que trabalhou com Alan Turing, apresentou o conceito de uma máquina ultrainteligente capaz de desenvolver outras máquinas superiores.
Esse processo ficou associado ao conceito de autossuperação recursiva, no qual sucessivas gerações de inteligência artificial poderiam contribuir para avanços cada vez mais rápidos.
A hipótese também está relacionada à chamada singularidade tecnológica, um cenário especulativo em que o progresso da inteligência artificial poderia ultrapassar a capacidade humana de acompanhar ou prever suas consequências.
Demis Hassabis, diretor do Google DeepMind, já utilizou a ideia de que a humanidade estaria nas etapas iniciais desse possível processo.
Toner, porém, recomenda cautela. Embora empresas afirmem que o uso de IA está acelerando suas pesquisas, ainda existem dúvidas sobre a intensidade desse efeito e sobre a possibilidade de ele produzir um ciclo de aprimoramento independente da intervenção humana.
O debate ganhou força porque pesquisadores passaram a considerar não apenas o potencial dessas ferramentas, mas também os riscos de desenvolver sistemas progressivamente mais autônomos.
O maior problema não é a inteligência, mas o controle
Uma das principais preocupações de Toner envolve o chamado alinhamento da inteligência artificial.
O conceito descreve a tentativa de garantir que sistemas inteligentes compreendam corretamente as intenções humanas e ajam de acordo com elas.
Isso parece simples, mas se torna especialmente complicado quando os modelos recebem tarefas complexas, utilizam ferramentas externas ou tomam decisões em várias etapas.
Um sistema pode executar uma instrução de maneira tecnicamente correta e, ainda assim, produzir consequências que seu usuário não desejava.
Na entrevista original publicada pelo The Verge, Toner argumentou que o setor ainda não encontrou uma solução satisfatória para esse problema.
A preocupação também aparece entre pesquisadores de outras empresas. Uma reportagem da Reuters, publicada em setembro, reuniu alertas de profissionais ligados à OpenAI e ao Google DeepMind sobre a possibilidade de o desenvolvimento tecnológico avançar mais rapidamente do que os mecanismos de segurança.
Isso não demonstra que sistemas atuais estejam fora de controle. O risco discutido é que ferramentas futuras adquiram capacidades difíceis de supervisionar adequadamente.
A ex-diretora que ajudou a afastar Sam Altman voltou a fazer críticas
Helen Toner ganhou notoriedade em novembro de 2023, quando participou da decisão do conselho da OpenAI de destituir Sam Altman do cargo de diretor executivo.
A medida provocou uma crise interna, seguida pelo retorno de Altman e pela saída de integrantes do conselho, incluindo a pesquisadora.
Questionada sobre aquela decisão, Toner afirmou que votaria novamente pela destituição.
Sua principal crítica, entretanto, vai além de uma disputa pessoal. Para ela, a segurança de uma tecnologia com potencial de transformar a sociedade não pode depender exclusivamente da confiança depositada em um executivo.
A pesquisadora defende estruturas de governança mais transparentes, participação de diferentes especialistas e mecanismos capazes de responsabilizar empresas por suas decisões.
Ela também considera que a expressão inteligência artificial geral perdeu parte de sua utilidade, já que diferentes pesquisadores utilizam critérios muito distintos para definir quando uma máquina alcançaria capacidades comparáveis às humanas.
O que pode acontecer se a IA acelerar seu próprio desenvolvimento?
O cenário descrito por Toner apresenta oportunidades e desafios.
Ferramentas capazes de auxiliar pesquisadores podem acelerar descobertas científicas, aprimorar medicamentos, identificar falhas de segurança e tornar o desenvolvimento tecnológico mais eficiente.
Por outro lado, a automação crescente das pesquisas exige métodos confiáveis para verificar resultados, identificar comportamentos inesperados e manter decisões importantes sob supervisão humana.
Em outubro de 2026, a Associated Press relatou que a Anthropic estimava que seu modelo Claude já realizava 26% das atividades de pesquisa e desenvolvimento de modelos da empresa, embora ainda sob supervisão humana. O dado é uma estimativa da própria companhia, não uma comprovação de autonomia completa.
O desafio, portanto, não é simplesmente impedir que a inteligência artificial participe de seu próprio aperfeiçoamento.
A questão central é determinar como aproveitar essa capacidade sem permitir que a velocidade dos avanços ultrapasse a possibilidade de compreendê-los e controlá-los.
A advertência de Toner aponta para uma transformação que já começou nos laboratórios: a inteligência artificial está deixando de ser apenas o resultado da pesquisa e passando a participar cada vez mais do processo que produz sua próxima geração.
