Pular para o conteúdo
Tecnologia

A nova IA da Meta cria perfis detalhados de seus amigos e familiares — mesmo que eles nunca tenham usado o serviço

Muse organiza informações sobre parceiros, familiares, amigos e colegas para entender melhor a vida do usuário. A descoberta levanta uma questão incômoda: e a privacidade de quem nunca decidiu usar a IA?
Por

Tempo de leitura: 4 minutos

Para ser realmente útil, uma inteligência artificial pessoal precisa conhecer você. A Muse, nova agente de IA da Meta, parece levar essa ideia muito além. Uma investigação descobriu que o sistema mantém páginas dedicadas às pessoas que fazem parte da vida de seus usuários, reunindo informações sobre familiares, parceiros, amigos e colegas. Esses perfis podem crescer ao longo do tempo e incluir desde aniversários até discussões passadas e detalhes sobre os relacionamentos.

Muse cria uma página para cada pessoa da sua vida

A descoberta foi revelada em uma investigação da WIRED, depois que o pesquisador independente de segurança Karan Joshi conseguiu extrair arquivos e instruções internas utilizadas pela Muse.

Entre as orientações encontradas estava uma ordem para manter uma página dedicada a cada pessoa considerada relevante na vida do usuário.

O sistema pode organizar informações sobre familiares, parceiros, amigos, colegas de trabalho e outras pessoas presentes nos dados aos quais recebeu acesso.

Esses arquivos não são necessariamente estáticos. Eles começam com poucas informações e podem se tornar mais detalhados conforme a Muse encontra novos dados.

As categorias incluem fatos sobre a pessoa, histórico da relação, interesses compartilhados, assuntos pendentes e o estado atual daquele relacionamento.

Isso significa que uma IA pode acabar sabendo que alguém se mudou recentemente, quando é seu aniversário, quais objetivos financeiros compartilha com o usuário ou até detalhes de discussões anteriores.

O detalhe mais delicado: essas pessoas não precisam usar Muse

É aqui que surge a principal questão de privacidade.

O usuário da Muse pode autorizar a inteligência artificial a acessar determinados serviços e fornecer informações pessoais. Seus familiares, amigos ou colegas, entretanto, não necessariamente tomaram a mesma decisão.

Mesmo assim, informações sobre eles podem aparecer nas mensagens, emails, calendários e outros dados aos quais o agente recebeu acesso.

A própria Meta explica oficialmente como a Muse funciona e deixa claro que lembrar informações sobre outras pessoas faz parte da proposta de personalização.

Um dos exemplos fornecidos pela empresa é justamente a capacidade de lembrar as restrições alimentares dos amigos de um usuário antes de organizar um jantar.

A diferença revelada pela investigação está na escala e na organização sistemática dessas informações.

Em vez de simplesmente encontrar um detalhe quando necessário, a IA pode construir registros estruturados sobre as relações existentes na vida do usuário.

Meta diz que os dados ficam em um computador virtual separado

Meta
© Nicolas Economou/NurPhoto

A empresa argumenta que desenvolveu uma arquitetura específica para proteger essas informações.

Cada usuário possui uma máquina virtual dedicada na nuvem, chamada Muse Secure VM. É nesse ambiente que ficam armazenados os arquivos, credenciais e memórias utilizados pelo agente.

Na documentação técnica de segurança da Muse, a Meta afirma que as máquinas virtuais são isoladas umas das outras e que os usuários podem visualizar, editar ou apagar informações armazenadas pela inteligência artificial.

A empresa também diz que as conversas e os dados guardados na máquina virtual não são compartilhados diretamente com seus sistemas de publicidade.

Interações com a Muse podem ser utilizadas para melhorar seus modelos, depois de um processo destinado a remover determinadas informações de identificação pessoal. O usuário também pode desativar esse uso nas configurações.

Meta diz que esse contexto é necessário para a IA ser útil

Em resposta à WIRED, a Meta defendeu o funcionamento da ferramenta.

A empresa argumenta que um agente pessoal precisa entender não apenas seu usuário, mas também o contexto das pessoas que fazem parte de sua vida para executar tarefas corretamente.

Há uma lógica nisso.

Se alguém pede à IA que compre flores para sua parceira, por exemplo, lembrar quais flores ela prefere torna o agente mais útil. O mesmo acontece se o sistema precisa reconhecer que determinado contato é um encanador ou que um amigo possui uma alergia alimentar.

O problema é até onde essa memória deve chegar.

Agentes de IA estão criando um novo problema de privacidade

Agentes De Ia Vão Muito Além Dos Chatbots — E Sua Autonomia Já Preocupa Especialistas
© Getty Images – Unsplash

Chatbots que lembram informações pessoais não são novidade. O que muda com agentes como Muse é a quantidade de sistemas aos quais eles podem ser conectados e a capacidade de agir autonomamente utilizando esses dados.

Email, calendário, redes sociais e outros serviços podem fornecer uma visão extremamente detalhada da rotina de uma pessoa.

E, inevitavelmente, parte dessa rotina envolve terceiros.

Carissa Véliz, professora do Instituto de Ética em Inteligência Artificial da Universidade de Oxford, destacou à WIRED justamente essa assimetria: estamos fornecendo aos sistemas de IA uma quantidade enorme de informações sobre nossas vidas e sobre as pessoas ao nosso redor.

Muse representa, portanto, um dilema que provavelmente aparecerá cada vez mais conforme agentes pessoais se popularizem.

Quanto mais contexto uma IA possui, melhor ela pode trabalhar por você. Mas esse contexto não fala apenas sobre você.

Ele também conta a história das pessoas que fazem parte da sua vida — inclusive daquelas que nunca concordaram em conversar com aquela inteligência artificial.

 

Partilhe este artigo

Artigos relacionados