A corrida pela inteligência artificial parece cada vez mais acelerada. Novos modelos surgem em intervalos de semanas, empresas investem bilhões de dólares em infraestrutura e governos enxergam a tecnologia como uma peça estratégica para o futuro econômico e militar. Em meio a essa disputa, uma das companhias mais influentes do setor está defendendo uma posição que parece contraditória: apertar o freio.
A Anthropic, criadora do assistente Claude e uma das principais rivais da OpenAI, publicou um manifesto alertando para os riscos do avanço acelerado da IA. Segundo a empresa, os sistemas estão evoluindo em uma velocidade tão grande que podem atingir, em um futuro próximo, um estágio capaz de mudar completamente a dinâmica do desenvolvimento tecnológico.
O temor da “melhoria recursiva”
O principal ponto levantado pela Anthropic envolve um conceito conhecido como “melhoria recursiva”.
A ideia é relativamente simples, embora suas consequências possam ser profundas. Em determinado momento, uma inteligência artificial suficientemente avançada poderia começar a aperfeiçoar seu próprio código, arquitetura e desempenho sem depender diretamente de engenheiros humanos.
Em vez de esperar que pesquisadores criem novas versões dos modelos, a própria IA passaria a participar ativamente do processo de evolução. Teoricamente, isso poderia acelerar o desenvolvimento tecnológico em uma escala muito superior à observada atualmente.
Para Jack Clark, cofundador da Anthropic, e Marina Favaro, diretora do instituto de pesquisa da empresa, seria prudente que o mundo tivesse mecanismos capazes de interromper ou desacelerar esse processo caso ele começasse a representar riscos significativos.
A proposta inclui a criação de acordos internacionais e sistemas de verificação que garantam o cumprimento de eventuais restrições por todos os países e empresas envolvidos.
Um cenário que ainda não existe, mas preocupa especialistas
A própria Anthropic reconhece que a melhoria recursiva ainda não aconteceu. Além disso, não há consenso entre pesquisadores de que ela realmente ocorrerá.
Mesmo assim, alguns especialistas acreditam que essa possibilidade merece atenção. Durante uma conferência realizada em Londres, Jack Clark afirmou que tecnologias desse tipo poderiam surgir dentro de dois anos ou até antes.
Segundo ele, o principal problema é que a competição entre empresas e governos cria incentivos para continuar avançando rapidamente, mesmo diante de possíveis riscos. Nesse cenário, qualquer tentativa isolada de desaceleração teria pouca eficácia se os concorrentes continuassem investindo agressivamente na tecnologia.
As declarações reforçam posicionamentos recentes de Dario Amodei, CEO da Anthropic. O executivo já afirmou em outras ocasiões que sistemas de IA extremamente avançados podem apresentar comportamentos inesperados e potencialmente prejudiciais.
Críticas apontam interesses comerciais por trás do discurso
Nem todos receberam a mensagem da Anthropic com entusiasmo.
As críticas se intensificaram porque a empresa ocupa atualmente uma posição privilegiada no mercado. Recentemente, a companhia concluiu uma nova rodada de investimentos bilionária e deu passos importantes para uma futura abertura de capital.
Para alguns observadores, pedir uma desaceleração global enquanto amplia sua própria participação no mercado pode parecer contraditório.
Entre os críticos está David Sacks, investidor de capital de risco e figura conhecida do setor tecnológico. Ele acusou a Anthropic de tentar promover uma espécie de “captura regulatória”, estratégia na qual empresas estabelecidas apoiam regulamentações mais rígidas que podem dificultar a entrada ou o crescimento de concorrentes.
Outros argumentam que alertas dramáticos sobre riscos existenciais acabam funcionando como uma poderosa ferramenta de marketing, aumentando a percepção de que seus produtos são tecnologicamente avançados e potencialmente transformadores.
Um debate que divide a comunidade de IA
A discussão lembra um episódio marcante de 2023, quando Elon Musk, pesquisadores e executivos do setor assinaram uma carta aberta pedindo uma pausa temporária no desenvolvimento das inteligências artificiais mais avançadas.
Na época, o documento surgiu logo após o lançamento do GPT-4 e provocou uma intensa divisão entre especialistas.
Essa divisão continua presente atualmente. De um lado, há pesquisadores que acreditam que sistemas cada vez mais sofisticados podem representar riscos inéditos e exigem mecanismos de controle preventivos.
Do outro, figuras influentes como Yann LeCun defendem que os modelos atuais estão muito longe de alcançar uma inteligência comparável à humana. LeCun chegou a afirmar que os grandes modelos de linguagem possuem capacidades mais próximas às de um gato do que às de uma pessoa.
Já o professor Ethan Mollick argumenta que muitos pesquisadores da Anthropic acreditam sinceramente nos riscos que descrevem.
Enquanto o debate continua, uma questão permanece sem resposta: a inteligência artificial está caminhando para se tornar uma ferramenta cada vez mais poderosa sob controle humano ou poderá, algum dia, começar a traçar seu próprio caminho? A resposta pode definir não apenas o futuro da tecnologia, mas também a forma como a sociedade conviverá com ela nas próximas décadas.
[ Fonte: Hipertextual ]
