A corrida pela inteligência artificial acaba de revelar uma divisão importante entre algumas das pessoas mais poderosas do setor. De um lado, executivos como Dario Amodei e Sam Altman defendem coordenação para permitir que mecanismos de segurança acompanhem o avanço dos modelos. Do outro, Mark Zuckerberg rejeita uma desaceleração conjunta. Para o fundador da Meta, cada laboratório já possui motivos suficientes para não colocar no mercado uma IA perigosa.
Zuckerberg não quer que toda a indústria pise no freio
A discussão ganhou força depois que Dario Amodei, CEO da Anthropic, propôs que empresas coordenassem medidas para reduzir o ritmo de avanço das capacidades mais sofisticadas da inteligência artificial.
A ideia recebeu apoio público de nomes como Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, ligado ao Google DeepMind. O argumento central é que o desenvolvimento está avançando rapidamente e que mecanismos de avaliação e segurança precisam acompanhar esse movimento.
Zuckerberg seguiu por outro caminho.
Em uma publicação no X, o CEO da Meta afirmou que cada laboratório possui responsabilidade e incentivos para avançar apenas na velocidade necessária para treinar seus modelos de maneira segura.
Em outras palavras, ele não defende abandonar a segurança.
A divergência está em quem deve decidir quando diminuir a velocidade.
Para Zuckerberg, essa responsabilidade deve permanecer principalmente com cada empresa, em vez de depender de um acordo que obrigue todos os grandes laboratórios a avançarem juntos.
O argumento é simples: ninguém quer comprar uma IA perigosa
Parte do raciocínio de Zuckerberg se apoia no próprio mercado.
Usuários não teriam interesse em utilizar agentes de inteligência artificial que ignorassem suas instruções ou se comportassem de maneira incompatível com seus objetivos. Empresas que produzissem sistemas assim perderiam confiança e competitividade.
Há também o risco jurídico.
Segundo Zuckerberg, laboratórios podem enfrentar responsabilidades significativas caso seus sistemas causem danos. Esses fatores criariam incentivos econômicos para investir em alinhamento e segurança mesmo sem uma desaceleração coordenada de toda a indústria.
Esse é justamente um dos pontos mais controversos do debate.
Críticos dessa abordagem questionam se incentivos comerciais são suficientes quando empresas competem por bilhões de dólares, talentos e liderança tecnológica.
Os defensores respondem que segurança e velocidade não precisam necessariamente ser forças opostas.
A Meta diz que já apertou o próprio freio
Zuckerberg também apresentou um exemplo para sustentar seu argumento.
A Meta atrasou por alguns meses o lançamento do agente de inteligência artificial Muse devido a preocupações relacionadas à segurança.
A empresa poderia ter pressionado concorrentes para que fizessem o mesmo, mas decidiu simplesmente adiar seu próprio produto.
Segundo Zuckerberg, esse tipo de decisão deveria fazer parte do funcionamento normal dos laboratórios: encontrou um risco significativo, interrompe o processo, corrige o problema e continua depois.
A Meta também utiliza avaliadores independentes para analisar determinados aspectos de seus sistemas. Zuckerberg classificou essa prática como algo que deveria se tornar padrão no setor.
Sua posição encontra um aliado importante.
O CEO da Nvidia pensa de maneira parecida
Jensen Huang, CEO da Nvidia, também rejeitou a ideia de que seja necessário escolher entre inovação rápida e produtos seguros.
Durante o Dreamforce, Huang argumentou que empresas deveriam interromper um lançamento quando não tiverem certeza sobre sua segurança.
Caso contrário, deveriam continuar avançando.
Para o executivo, tratar velocidade e segurança como necessariamente incompatíveis cria uma falsa escolha. Ele também se mostrou contrário à necessidade de novas leis específicas apenas para desacelerar o desenvolvimento da IA.
Isso coloca Meta e Nvidia em uma posição diferente daquela assumida por Anthropic e outros nomes que defendem maior coordenação.
E a diferença fica especialmente importante quando entra em cena uma capacidade que preocupa alguns pesquisadores.
Existe uma fronteira que até Zuckerberg trata com cautela
A chamada autoaperfeiçoamento recursivo descreve, em termos gerais, a possibilidade de sistemas de inteligência artificial ajudarem a melhorar sucessivamente suas próprias capacidades.
Esse cenário está no centro de parte das preocupações sobre IAs futuras.
Zuckerberg afirmou que a Meta destina a grande maioria de sua capacidade computacional a produtos voltados diretamente para pessoas, em vez de participar de uma corrida focada nesse tipo de autoaperfeiçoamento.
Para ele, essa é uma maneira concreta de desenvolver a tecnologia de forma mais segura.
Amodei enxerga o problema de outra maneira.
O CEO da Anthropic argumenta que uma coordenação mais ampla poderia dar tempo para que mecanismos de segurança acompanhassem o crescimento das capacidades dos modelos. Sua proposta não equivale a interromper completamente a inteligência artificial, mas a limitar determinados avanços enquanto salvaguardas são desenvolvidas.
A grande discussão deixou de ser apenas sobre aquilo que a IA consegue fazer
Durante anos, a corrida pela inteligência artificial foi acompanhada principalmente por uma pergunta: quem conseguiria construir o modelo mais poderoso?
Agora existe outra disputa acontecendo paralelamente.
Quem define a velocidade dessa corrida?
Uma possibilidade é coordenar empresas, governos e organizações internacionais para estabelecer limites comuns.
Outra é permitir que cada laboratório avalie seus próprios riscos, utilizando pressão do mercado, responsabilidade jurídica e auditorias independentes como mecanismos de controle.
Zuckerberg está claramente mais próximo da segunda visão.
Isso não significa que ele considere a segurança irrelevante. Significa que discorda de que uma desaceleração coletiva seja necessária para alcançá-la.
A diferença parece pequena no papel.
Na prática, pode ser enorme.
Porque as empresas envolvidas nessa discussão estão investindo fortunas para construir sistemas cada vez mais capazes.
E, enquanto algumas delas começam a perguntar se chegou o momento de diminuir a velocidade, uma das maiores empresas de tecnologia do planeta acaba de deixar claro que pretende continuar avançando.
[Fonte: Perfil]
