Uma IA pessoal se torna muito mais útil quando lembra que seu parceiro prefere determinadas flores, que um amigo está procurando apartamento ou que existe uma conversa pendente com um colega. Para isso, porém, ela precisa compreender não apenas você, mas também as pessoas que aparecem constantemente na sua vida. É justamente aí que surge uma questão desconfortável: até onde um agente pode construir conhecimento sobre alguém que nunca concordou em utilizá-lo?
Para entender você, Muse pode criar uma espécie de página para cada pessoa importante
O sistema em questão é Muse, agente pessoal de IA da Meta apresentado em setembro.
Pesquisadores de segurança conseguiram acessar algumas de suas instruções internas ao solicitar pelo próprio chat que o agente compartilhasse determinados arquivos. Um dos prompts analisados pela WIRED revela uma característica particularmente interessante: Muse pode ser instruído a manter “uma página para cada pessoa na vida do usuário”.
Esse processo pode ser executado periodicamente, inclusive a cada hora.
As páginas podem incluir familiares, parceiros, amigos, colegas de trabalho, colaboradores e até pessoas acompanhadas pelo usuário.
Inicialmente, uma ficha pode conter quase nada. Conforme novas informações aparecem, porém, o sistema pode enriquecê-la.
As instruções preveem campos para fatos sobre a pessoa, interesses compartilhados, histórico da relação, assuntos pendentes e características do vínculo.
Muse poderia registrar, por exemplo, onde alguém mora, sua profissão, aniversário ou outras datas importantes. Também poderia organizar episódios compartilhados, como viagens, projetos, objetivos em comum ou até conflitos anteriores que já foram resolvidos.
Existe ainda uma dimensão voltada para manutenção dos relacionamentos.
O agente pode lembrar que seria interessante telefonar para determinada pessoa, recuperar um assunto mencionado anteriormente ou avisar que uma data importante está chegando.
A Meta sempre apresentou a memória como uma parte central da proposta. Um exemplo oferecido pela empresa envolve lembrar restrições alimentares de amigos antes de organizar um jantar.
A questão fica mais delicada quando percebemos de onde essas informações podem surgir.
Seu amigo nunca precisou instalar Muse para acabar representado dentro dele
Uma pessoa pode aparecer repetidamente em emails, mensagens, calendários ou conversas conectadas ao agente.
Com o tempo, essas referências dispersas permitem construir uma representação muito mais organizada.
Assim, alguém que jamais utilizou Muse pode acabar tendo uma página dentro do ambiente de outro usuário simplesmente porque faz parte de sua vida.
Segundo a Meta, um agente realmente útil precisa compreender o contexto social do usuário. Um porta-voz explicou à WIRED que Muse trabalha com informações públicas e com conteúdos que o próprio usuário escolheu disponibilizar.
A empresa também afirma que o sistema deve se apoiar nas evidências existentes, evitando inventar informações apenas para completar uma ficha.
Mas isso cria uma diferença importante entre acesso e consentimento.
Foi o usuário de Muse quem decidiu conectar seus serviços. A pessoa descrita nas mensagens, porém, não necessariamente tomou qualquer decisão sobre fornecer informações ao agente.
Carissa Véliz, do Institute for Ethics in AI da Universidade de Oxford, destaca outra camada desse problema: sistemas desse tipo podem fazer mais do que simplesmente reunir fatos explícitos.
A partir de vários fragmentos, uma IA pode inferir relações, prioridades e determinadas situações pessoais.
Isso significa que a discussão não envolve apenas aquilo que alguém escreveu diretamente, mas também aquilo que um sistema consegue concluir combinando diferentes pistas.
As proteções técnicas resolvem parte do problema — mas não a questão mais difícil
A Meta afirma ter criado diferentes barreiras de segurança para Muse.
Cada usuário opera dentro de uma máquina virtual dedicada. Outros agentes não deveriam conseguir acessar esse ambiente, conexões externas podem ser revogadas e determinadas ações sensíveis — como enviar emails ou realizar compras — exigem confirmação.
O usuário também pode consultar registros de atividade e solicitar que o agente esqueça determinadas informações.
Essas medidas são importantes para reduzir riscos de segurança e limitar ações não autorizadas.
Mas existe uma questão diferente que elas não eliminam completamente: quem deveria decidir quanto uma IA pode saber sobre alguém que nunca escolheu conversar com ela?
Esse pode se tornar um dos grandes dilemas dos agentes pessoais.
Para antecipar necessidades, organizar compromissos e oferecer recomendações realmente contextualizadas, essas ferramentas precisam construir uma compreensão cada vez mais detalhada da vida de seus usuários.
Só que nossas vidas não existem isoladamente.
Elas são formadas por mensagens, relacionamentos, famílias, amizades e trabalho.
Por isso, o paradoxo revelado pelas instruções de Muse é simples: quanto melhor uma IA aprende a conhecer você, maior a probabilidade de também construir conhecimento sobre pessoas que nunca deram permissão para serem conhecidas por ela.
