O debate sobre até onde as empresas devem acelerar o desenvolvimento da inteligência artificial ganhou um novo capítulo. Mark Zuckerberg, CEO da Meta, criticou nesta terça-feira a ideia de uma desaceleração coordenada de toda a indústria, em uma mensagem interpretada como uma resposta à Anthropic e ao seu CEO, Dario Amodei.
Sem citar diretamente a empresa ou o executivo, Zuckerberg argumentou que os principais laboratórios deveriam assumir individualmente a responsabilidade pela segurança de seus sistemas, em vez de exigir que todos reduzam simultaneamente o ritmo de desenvolvimento.
Zuckerberg defende que cada empresa controle seu próprio ritmo
A manifestação aconteceu depois de Amodei defender uma desaceleração global no desenvolvimento da IA diante da rápida evolução das capacidades dos modelos.
“Cada laboratório tem o incentivo e a responsabilidade de avançar no ritmo necessário para treinar seus modelos com segurança”, escreveu Zuckerberg. “A Meta assumiu esse compromisso, e outros laboratórios também podem fazer isso.”
A discussão sobre velocidade e segurança ganhou força nos últimos dias após a saída de um pesquisador da Anthropic. Ao deixar a empresa, ele alertou sobre os possíveis riscos associados à corrida pelo desenvolvimento de sistemas cada vez mais poderosos.
Posteriormente, Amodei manifestou apoio a uma desaceleração. Outros nomes importantes do setor, como Sam Altman, Elon Musk e Demis Hassabis, também participaram das discussões sobre a necessidade de administrar o ritmo de avanço da tecnologia.
Meta diz que já adiou produtos por questões de segurança
Zuckerberg reconheceu que sistemas avançados de inteligência artificial podem apresentar riscos. Sua divergência está principalmente na forma de enfrentá-los.
Segundo o executivo, as próprias empresas têm incentivos para proteger seus usuários e podem decidir reduzir internamente a velocidade de desenvolvimento quando considerarem necessário.
Como exemplo, ele citou Muse, novo agente de IA da Meta capaz de utilizar softwares de maneira autônoma.
De acordo com Zuckerberg, a empresa adiou o lançamento do sistema durante vários meses para realizar avaliações adicionais de segurança.
“Não exigimos que os outros fizessem isso antes de nós”, afirmou. “Simplesmente fizemos isso como parte do nosso trabalho cotidiano, porque claramente era a coisa certa para as pessoas e para nós.”
O debate também envolve a capacidade da IA de melhorar a própria IA
Outro ponto levantado por Zuckerberg envolve o chamado “autoaperfeiçoamento recorrente”, processo no qual sistemas de inteligência artificial são utilizados para ajudar a desenvolver versões ainda mais avançadas da própria tecnologia.
O CEO da Meta criticou a corrida entre laboratórios nessa direção e argumentou que as empresas deveriam concentrar seus esforços em desenvolver sistemas capazes de atender às necessidades das pessoas.
Essa questão tornou-se particularmente relevante com o avanço dos agentes de IA, sistemas capazes de executar sequências de ações, utilizar programas e realizar tarefas com um grau maior de autonomia.
Quanto mais essas capacidades avançam, maior é a discussão dentro da indústria sobre quais mecanismos de segurança precisam acompanhar o desenvolvimento.
Anthropic também enfrenta críticas sobre sua posição
A defesa de uma desaceleração feita por Amodei também recebeu críticas de outras figuras do setor tecnológico.
David Sacks, investidor e assessor do governo de Donald Trump, por exemplo, questionou publicamente as motivações do CEO da Anthropic. Críticos argumentam que destacar os riscos extremos da IA poderia favorecer empresas que já ocupam posições importantes na corrida tecnológica e dificultar a entrada ou o avanço de concorrentes.
Essa interpretação, porém, é contestada por pesquisadores e executivos que consideram legítima a preocupação com sistemas cada vez mais autônomos e poderosos.
A discussão evidencia uma divisão importante na indústria: existe amplo interesse em tornar a IA mais segura, mas não há o mesmo consenso sobre quem deveria determinar a velocidade de seu desenvolvimento.
Meta prepara seu modelo de IA mais poderoso
A manifestação de Zuckerberg também acontece em um momento importante para a própria Meta.
A empresa tenta ganhar espaço na corrida pelos modelos mais avançados depois de enfrentar forte concorrência de laboratórios como Anthropic e OpenAI.
Nas próximas semanas, a Meta pretende apresentar seu modelo de inteligência artificial mais poderoso até agora. Internamente, o sistema é conhecido pelo codinome Watermelon.
O lançamento deve aumentar ainda mais a competição entre os grandes laboratórios justamente quando seus principais executivos discutem uma questão que pode definir os próximos anos da indústria: como continuar desenvolvendo sistemas mais capazes sem acelerar além do que seus mecanismos de segurança conseguem acompanhar.
[ Fonte: Clarín ]
