Pular para o conteúdo
Tecnologia

“A IA pode nos matar até o fim da década”: alertas aumentam enquanto empresas aceleram corrida pela superinteligência

Um ex-pesquisador da OpenAI e da Anthropic acusou as empresas de avançarem de forma irresponsável rumo à superinteligência. Ao mesmo tempo, novos resultados matemáticos reacenderam o debate sobre segurança, competição e uso de dados.
Por

Tempo de leitura: 4 minutos

A corrida pela inteligência artificial entrou em uma semana particularmente turbulenta. Enquanto pesquisadores ligados às maiores empresas do setor fizeram alertas sobre riscos potencialmente catastróficos, avanços apresentados pela OpenAI mostraram justamente o outro lado da equação: sistemas cada vez mais capazes de realizar tarefas antes consideradas inacessíveis às máquinas.

No centro da polêmica está Jacob Coxon, pesquisador que trabalhou na OpenAI e na Anthropic. Segundo ele, as empresas estão presas em uma competição que pode levar ao desenvolvimento de uma superinteligência antes que existam mecanismos suficientes para controlá-la.

“Pode nos matar até o fim da década”

Coxon publicou uma série de mensagens no X nas quais afirmou que nem OpenAI nem Anthropic estariam agindo de maneira suficientemente responsável.

Para o pesquisador, as empresas avançam em direção a sistemas capazes de superar seres humanos em diversas áreas e, eventualmente, melhorar suas próprias capacidades.

O cenário descrito por Coxon é extremo. Ele acredita que futuros sistemas poderão encontrar vulnerabilidades digitais, acelerar descobertas científicas e adquirir influência sobre recursos do mundo real.

Segundo ele, pesquisadores que trabalham diretamente com IA discutem internamente riscos muito mais graves do que normalmente admitem em público.

Evan Hubinger, líder de ciência de alinhamento da Anthropic, também entrou na discussão. Ele afirmou considerar superior a 10% a possibilidade de que a IA provoque a extinção humana durante a próxima década.

Essas estimativas são opiniões sobre riscos futuros, e não previsões científicas estabelecidas. Ainda assim, mostram o nível de preocupação existente entre alguns especialistas envolvidos diretamente no desenvolvimento desses sistemas.

Uma corrida que ninguém quer perder

Parte do problema está na própria competição.

Empresas de IA enfrentam um dilema semelhante ao observado historicamente em corridas tecnológicas e militares: desacelerar unilateralmente significa correr o risco de ficar para trás.

E essa disputa não ocorre apenas entre empresas. Estados Unidos e China também competem pela liderança em inteligência artificial.

Coxon argumenta que essa dinâmica cria um ciclo perigoso. Cada organização pode acreditar que precisa continuar avançando porque seus concorrentes provavelmente farão o mesmo.

O resultado é uma corrida na qual todos reconhecem determinados riscos, mas poucos estão dispostos a reduzir significativamente a velocidade.

OpenAI e o problema de Navier-Stokes

A discussão ganhou outra dimensão com um anúncio envolvendo um dos maiores problemas em aberto da matemática.

A OpenAI afirmou que um conjunto interno de modelos teria chegado a uma solução para o Problema do Prêmio do Milênio de Navier-Stokes.

Segundo a empresa, aproximadamente 10 mil agentes de IA trabalharam de maneira coordenada durante 88 horas. O sistema teria produzido uma prova analítica acompanhada de uma formalização em Lean.

O resultado sugeriria que determinadas soluções das equações de Navier-Stokes podem desenvolver uma singularidade em tempo finito.

Caso seja confirmado, seria um avanço matemático extraordinário. Entretanto, uma alegação desse porte precisa passar pela avaliação independente da comunidade científica.

O Clay Mathematics Institute ainda considera oficialmente o problema de Navier-Stokes como não resolvido enquanto o trabalho não passa pelo processo necessário de verificação.

Uma disputa sobre dados e atribuição

O anúncio também desencadeou uma controvérsia envolvendo os matemáticos Tristan Buckmaster e Levent Alpöge.

Os pesquisadores vinham trabalhando em problemas relacionados à dinâmica de fluidos e utilizaram ferramentas de IA durante parte da pesquisa.

Buckmaster questionou como o modelo interno da OpenAI chegou a uma abordagem semelhante àquela explorada por sua equipe. Uma de suas preocupações era saber se dados das sessões de trabalho armazenadas em ferramentas da empresa poderiam ter influenciado o sistema.

Segundo seu relato, a OpenAI afirmou que o modelo não consultava diretamente dados dos usuários. No entanto, ele disse não ter recebido inicialmente uma resposta clara sobre a possibilidade de informações terem sido utilizadas durante o treinamento.

A própria empresa reconheceu que não poderia excluir completamente a possibilidade de dados desidentificados provenientes do uso de seus produtos terem contribuído para melhorias dos modelos.

A controvérsia coloca em evidência uma questão cada vez mais importante: quando pesquisadores utilizam IA para desenvolver trabalhos inéditos, até que ponto suas interações podem acabar contribuindo para sistemas que posteriormente produzem resultados semelhantes?

Anthropic e OpenAI falam agora em desacelerar

Anthropic Cria Modelo Para Prever A Economia De 2030 — Mas Deixa De Fora O Cenário Em Que A Ia Acaba Com A Humanidade
© LUDOVIC MARIN

Em meio à discussão, Dario Amodei, CEO da Anthropic, defendeu publicamente uma redução no ritmo da corrida pela IA de fronteira.

Amodei apresentou um plano para aumentar a fiscalização sobre sistemas avançados e afirmou que a Anthropic permitirá que avaliadores externos tenham acesso permanente e semelhante ao de funcionários.

A ideia é permitir que especialistas independentes verifiquem medidas de segurança, investiguem incidentes e avaliem o comportamento dos modelos durante seu desenvolvimento.

Sam Altman, CEO da OpenAI, apoiou a proposta e afirmou que sua empresa pretende adotar uma iniciativa semelhante.

A posição dos dois executivos evidencia uma contradição que deve acompanhar a indústria nos próximos anos. As mesmas empresas que investem bilhões para construir sistemas cada vez mais poderosos agora discutem mecanismos para impedir que essa corrida avance rápido demais.

O desafio será descobrir se essas medidas realmente conseguirão acompanhar a velocidade da tecnologia — ou se a competição continuará falando mais alto.

 

[ Fonte: El Litoral ]

 

Partilhe este artigo

Artigos relacionados