A promessa de um assistente capaz de resolver tarefas sozinho colocou a Meta diante de uma decisão delicada: quando entregar essa autonomia aos usuários? Segundo uma investigação do The New York Times, Mark Zuckerberg autorizou o lançamento do Muse mesmo após testes internos revelarem problemas de segurança. A empresa afirma que adiou a estreia por meses para aperfeiçoar as proteções, mas o episódio expõe os desafios de uma IA que pode agir em nome de alguém.
A reunião que antecedeu o lançamento
De acordo com a investigação do jornal, Zuckerberg se reuniu em agosto com Alexandr Wang, chefe de inteligência artificial da Meta, e Nat Friedman, responsável pelos produtos de IA.
Três pessoas com conhecimento da conversa disseram que o executivo considerou o Muse pronto para chegar ao mercado, apesar dos riscos. Dois desses relatos indicam que os líderes conheciam problemas identificados nos testes, incluindo uma troca de senha sem autorização.
A reunião também abordou o avanço da Instinct, uma startup com apenas 14 funcionários cujo assistente vinha atraindo atenção. A Meta, porém, rejeita a interpretação de que essa concorrência determinou a estreia. Seu posicionamento é que os adiamentos demonstram o cuidado dedicado ao produto.
O Muse foi lançado em 8 de setembro. A discussão sobre sua segurança passou, então, a envolver um serviço disponível ao público.
Por que um agente exige mais cuidado
Na apresentação oficial do Muse, a Meta descreve um assistente pessoal que executa tarefas. A proposta inclui acessar serviços conectados e lidar com atividades digitais com mais autonomia.
Essa capacidade muda o impacto de um erro. Uma resposta equivocada pode confundir o usuário. Já uma ação indevida pode alterar informações, enviar dados ou interferir em uma conta. Por isso, a qualidade das respostas representa apenas uma parte da avaliação de segurança.
A própria Meta reconhece essa diferença. Em sua documentação técnica, a empresa relata que entregar caixas de entrada, calendários e ferramentas de computador ao agente nem sempre produziu os resultados esperados. Também admite que o Muse continuará cometendo erros e poderá enfrentar tentativas de manipulação.
As proteções anunciadas pela Meta
Na explicação sobre como construiu a segurança do Muse, a companhia apresenta um sistema de isolamento e supervisão.
Cada usuário conta com um computador virtual dedicado. Um componente separado, chamado Sentinel, avalia as ações propostas pelo assistente. Conforme as permissões e o contexto, ele pode autorizar uma operação, bloqueá-la ou solicitar aprovação.
A Meta afirma que o agente principal não recebe diretamente as credenciais reais dos serviços conectados. Compras também devem passar por confirmação, com os detalhes apresentados ao usuário. Além disso, a empresa abriu um programa de recompensas de até US$ 300 mil por relatos válidos de vulnerabilidades.
Essas medidas procuram limitar os danos quando algo falha. A própria documentação, contudo, ressalta que o produto não está imune a ataques.
A confiança será parte do produto
O caso coloca uma questão prática no centro da corrida pelos assistentes pessoais: quanto controle uma pessoa pode delegar sem perder a capacidade de supervisionar?
A utilidade depende de o agente conseguir agir. A confiança depende de ele respeitar limites, reconhecer situações sensíveis e permitir intervenções claras.
Para a Meta, o desafio é demonstrar que essas duas exigências podem funcionar juntas. A promessa de economizar tempo só se sustenta quando o usuário consegue prever o que o assistente fará com os acessos concedidos.
