Para ensinar uma inteligência artificial a trabalhar como uma pessoa, existe uma fonte de dados quase perfeita: observar pessoas trabalhando. A Meta decidiu explorar justamente essa possibilidade dentro da própria empresa, registrando interações de funcionários com computadores para ensinar modelos a executar tarefas cotidianas. Só havia um problema. Muitos trabalhadores não queriam participar. O conflito cresceu rapidamente e terminou expondo uma falha que transformou uma discussão sobre IA em uma crise de privacidade.
A Meta queria que a IA aprendesse olhando funcionários trabalhar
O projeto recebeu o nome de Model Capability Initiative, ou MCI.
Criado dentro da unidade de inteligência artificial TBD, o programa tinha uma missão aparentemente simples: coletar dados sobre a maneira como funcionários utilizavam seus computadores e aproveitar essas informações para treinar modelos de IA.
Isso incluía movimentos do mouse, cliques, teclas pressionadas e informações exibidas nas telas.
A justificativa da Meta era que modelos modernos já conseguem realizar tarefas sofisticadas, como programação e pesquisa, mas ainda enfrentam dificuldades com algumas ações extremamente comuns para humanos, como navegar por menus ou utilizar determinados atalhos.
Observar trabalhadores reais poderia ajudar a preencher essa lacuna.
A longo prazo, sistemas treinados dessa maneira poderiam executar tarefas administrativas e profissionais hoje realizadas por pessoas, incluindo partes de trabalhos relacionados à programação e contabilidade.
Mas havia um detalhe particularmente delicado.
Inicialmente, participar não seria uma escolha.
Quando o CTO da Meta, Andrew Bosworth, informou que não haveria possibilidade de simplesmente ficar fora do programa, a reação interna foi imediata.
Os funcionários começaram a imaginar tudo o que a IA poderia enxergar
O problema de registrar aquilo que acontece em um computador de trabalho é que nem tudo o que aparece nele pertence necessariamente ao trabalho.
Funcionários começaram a questionar o que aconteceria quando digitassem senhas, números de cartão ou informações relacionadas a processos de imigração.
Também havia uma preocupação ainda mais incômoda.
Se aqueles dados estavam sendo utilizados para ensinar uma IA a reproduzir o trabalho realizado por seres humanos, os funcionários poderiam estar ajudando a construir sistemas capazes de automatizar partes de seus próprios empregos.
A insatisfação deixou de ser apenas conversa de escritório.
Memes contra o projeto começaram a circular pelos canais internos. O ícone que indicava quando o sistema estava capturando informações recebeu dos funcionários um apelido inspirado em O Senhor dos Anéis: “Olho de Sauron”.
Depois veio uma petição.
Mais de 1.800 funcionários assinaram um documento pedindo que a iniciativa fosse interrompida. Alguns trabalhadores também distribuíram cartazes pelos escritórios da empresa.
A Meta tentou fazer uma concessão.
Os funcionários poderiam suspender temporariamente o monitoramento por até 30 minutos para realizar atividades envolvendo informações mais sensíveis.
Para os organizadores do movimento, não era suficiente.
Eles queriam o fim do programa.
Então alguém descobriu onde os dados estavam indo
A Meta havia afirmado internamente que as informações coletadas pelo MCI estariam protegidas por controles rígidos.
Foi justamente essa promessa que tornou o episódio seguinte especialmente problemático.
No final de junho, um engenheiro descobriu que dados capturados pelo programa podiam ser visualizados internamente de forma muito mais ampla do que se esperava.
Entre o material potencialmente exposto estavam teclas pressionadas, cliques e conteúdo exibido nas telas. Uma investigação da WIRED também confirmou que informações potencialmente sensíveis coletadas dos notebooks de funcionários ficaram acessíveis dentro da empresa.
Segundo a investigação posterior do Business Insider, até conversas privadas haviam sido incluídas nos dados acessíveis.
A descoberta se espalhou rapidamente pelos canais internos.
E produziu uma situação particularmente irônica: justamente aquilo que alguns trabalhadores temiam ao questionar o projeto havia acontecido.
Poucas horas depois, a Meta desligou o MCI.
O projeto não foi exatamente cancelado
Existe uma diferença importante entre suspender e abandonar definitivamente uma iniciativa.
A Meta afirmou que o programa foi suspenso, e não permanentemente cancelado.
Caso volte, a participação deverá ser opcional. Dois meses depois da suspensão, a empresa disse ao Business Insider que o MCI continuava paralisado.
Outra pergunta permanece sem uma resposta completamente clara: o que aconteceu com as informações que já haviam sido coletadas?
A Meta não detalhou ao Business Insider se ou como esses dados foram utilizados. Internamente, porém, Bosworth teria afirmado posteriormente que as informações haviam se mostrado mais úteis do que a empresa esperava.
O executivo também criticou duramente os funcionários envolvidos na oposição.
Em um áudio interno vazado, Bosworth argumentou que o movimento havia dificultado a capacidade da empresa de implementar mudanças.
Para os trabalhadores envolvidos na mobilização, naturalmente, aconteceu exatamente o contrário.
Eles enxergaram a suspensão como uma vitória.
A história da Meta pode antecipar um problema muito maior
O episódio ultrapassa os escritórios da Meta.
Treinar agentes capazes de utilizar computadores exige exemplos reais de como pessoas navegam por softwares, escrevem documentos, organizam arquivos, clicam em menus e resolvem os pequenos problemas que aparecem durante um dia normal de trabalho.
Esses dados podem ser extremamente valiosos para empresas que querem construir agentes capazes de automatizar atividades profissionais.
Mas existe uma contradição difícil de resolver.
Os melhores dados para ensinar uma IA a trabalhar podem pertencer justamente às pessoas cujos empregos poderão ser transformados por essa mesma tecnologia.
E essas pessoas podem não querer entregar cada clique, tecla pressionada e conversa para treiná-la.
O caso da Meta mostrou que funcionários de uma das empresas mais poderosas do setor tecnológico estão dispostos a resistir quando percebem que essa fronteira foi ultrapassada.
A próxima grande disputa da inteligência artificial, portanto, talvez não seja apenas sobre quem possui os melhores modelos ou os chips mais poderosos.
Pode ser sobre algo muito mais básico: quem aceita fornecer os dados necessários para ensiná-los a trabalhar como nós.
[Fonte: biobio]
