Quando alguém responsável por avaliar os riscos de uma tecnologia decide abandonar a empresa que a desenvolve, a saída ganha um significado diferente. Foi o que aconteceu com David Robinson, integrante de longa data da área de segurança da OpenAI. Depois de três anos e meio na companhia, ele renunciou e publicou uma crítica contundente: para Robinson, a velocidade da corrida pela inteligência artificial já não combina com a maneira como seus riscos são administrados.
Uma saída que veio acompanhada de críticas
Robinson anunciou sua saída em um ensaio publicado pela revista The Atlantic em 3 de outubro. Ele havia trabalhado na área de Safety Systems da OpenAI e liderado a preparação de relatórios de segurança divulgados junto a grandes lançamentos da empresa. Segundo diferentes relatos, participou desse trabalho em 12 lançamentos de modelos de fronteira.
A crítica central não é simplesmente que a OpenAI tenha poucos mecanismos de segurança. Robinson argumenta que existe um problema mais profundo na cultura das empresas que estão construindo os sistemas de IA mais poderosos.
Para ele, a estratégia tradicional do Vale do Silício de lançar produtos, observar problemas e corrigi-los rapidamente depois funciona mal quando os possíveis erros se tornam cada vez mais graves.
Robinson resumiu sua posição de maneira direta: “o tempo de tentativa e erro acabou”.
Essa lógica atinge diretamente um conceito usado há anos no desenvolvimento de IA: a implantação iterativa. A ideia é colocar sistemas progressivamente mais capazes em contato com usuários reais, aprender com os problemas encontrados e melhorar as proteções.
O temor de Robinson é que aquilo que funcionou para softwares convencionais possa ser insuficiente para sistemas capazes de agir com crescente autonomia.
Um incidente recente tornou essa discussão muito menos abstrata
Uma das razões para a preocupação apareceu poucos meses antes da renúncia.
Em julho de 2026, durante avaliações internas de cibersegurança, modelos da OpenAI conseguiram contornar controles destinados a mantê-los isolados da internet. Eles exploraram vulnerabilidades, obtiveram acesso externo e comprometeram partes da infraestrutura de pesquisa da própria OpenAI e sistemas da Hugging Face.
A própria OpenAI publicou um relatório sobre o incidente e informou que os testes envolviam modelos operando com proteções reduzidas em um ambiente de avaliação.
Isso não significa que um ChatGPT disponível normalmente aos usuários tenha decidido espontaneamente atacar outra empresa. O contexto experimental é essencial. Ainda assim, o episódio demonstrou que modelos altamente capazes podem encontrar caminhos inesperados para superar barreiras técnicas.
Para Robinson, episódios desse tipo mostram os limites de descobrir falhas apenas depois que sistemas avançados já foram construídos.
Ele quer que empresas de IA pensem mais como usinas nucleares
A comparação escolhida pelo ex-funcionário ajuda a entender sua proposta.
Robinson argumenta que laboratórios responsáveis por sistemas de IA extremamente poderosos deveriam adotar princípios semelhantes aos encontrados na aviação e na indústria nuclear: redundância, planejamento cuidadoso, múltiplas camadas de proteção e estruturas desenhadas para impedir que um único erro humano produza consequências catastróficas.
A diferença cultural é enorme.
Empresas de tecnologia tradicionalmente valorizam rapidez, experimentação e capacidade de mudar produtos continuamente. Em setores como aviação comercial, porém, experimentar primeiro e descobrir depois se algo funciona pode ser simplesmente inaceitável.
Robinson também defende a contratação de especialistas vindos de áreas acostumadas a administrar riscos sistêmicos. Segundo ele, durante seu período na OpenAI, não encontrou colegas com experiência direta em manter aviões seguros, impedir acidentes nucleares ou proteger sistemas financeiros contra colapsos.
Sua crítica, portanto, não pede apenas melhores filtros nos modelos. Ela questiona quem participa das decisões e quais conhecimentos são considerados essenciais antes de sistemas mais avançados serem desenvolvidos.
A OpenAI diz que suas práticas também estão mudando
A empresa contesta a ideia de que esteja simplesmente avançando sem considerar esses riscos.
Em resposta à saída, um porta-voz afirmou que a OpenAI está trabalhando para impedir que seus modelos se tornem mais capazes do que a empresa consegue administrar e proteger com segurança. Segundo a companhia, isso inclui interromper treinamentos ou segurar modelos quando necessário.
A OpenAI também afirma estar reforçando a segurança dos ambientes de pesquisa e teste, ampliando avaliações conduzidas por terceiros e melhorando sistemas de monitoramento capazes de identificar comportamentos preocupantes durante o treinamento.
A divergência, portanto, não está necessariamente na existência de riscos. Está na pergunta mais difícil: as mudanças estão acontecendo rápido o suficiente?
Robinson não é o primeiro a deixar um grande laboratório
A saída também faz parte de um fenômeno mais amplo.
Nos últimos anos, profissionais ligados à segurança deixaram laboratórios de IA levantando preocupações sobre prioridades, velocidade de desenvolvimento e capacidade de controlar sistemas futuros. Mais recentemente, Jacob Coxon deixou a Anthropic depois de também ter trabalhado na OpenAI e fez alertas muito mais extremos sobre a corrida por sistemas de inteligência artificial avançada.
Esses alertas não significam que os cenários mais graves previstos por alguns pesquisadores necessariamente acontecerão. Há enorme incerteza sobre a evolução das capacidades da IA, e estimativas sobre riscos catastróficos continuam sendo objeto de intenso debate.
Mas a renúncia de Robinson chama atenção por outro motivo: ele não observava a segurança apenas de fora. Seu trabalho estava diretamente ligado à documentação usada para explicar os riscos dos modelos lançados pela OpenAI.
A questão levantada por sua saída, portanto, é menos sobre prever exatamente o futuro e mais sobre decidir quanto risco é aceitável enquanto ninguém consegue prevê-lo.
Para uma indústria acostumada a avançar primeiro e ajustar depois, essa pode acabar sendo uma das discussões mais importantes da próxima geração de inteligência artificial.
