Você abre o X por alguns minutos e, de repente, está diante de uma sequência de publicações que parecem ter sido escolhidas especialmente para irritá-lo. A sensação pode não ser apenas impressão. Um estudo conduzido por pesquisadores de Stanford sugere que existe uma falha importante na maneira como sistemas de recomendação interpretam nossas interações. O detalhe está justamente no que fazemos quando encontramos algo de que discordamos.
O algoritmo pode estar entendendo errado o que você realmente quer ver
A pesquisa, publicada na Proceedings of the National Academy of Sciences (PNAS), analisou uma questão cada vez mais importante nas redes sociais: até que ponto uma interação representa realmente interesse?
Para os algoritmos, ações como curtir, responder, compartilhar ou permanecer algum tempo diante de uma publicação são sinais valiosos. Elas ajudam o sistema a decidir quais conteúdos provavelmente manterão a atenção do usuário.
O problema é que essas ações não têm necessariamente uma única interpretação.
Uma pessoa pode comentar uma publicação porque gostou dela. Mas também pode escrever uma resposta justamente porque ficou indignada. Pode compartilhar algo para recomendá-lo aos amigos ou para criticá-lo publicamente. Para o algoritmo, porém, essas motivações podem acabar parecendo muito semelhantes.
Foi essa diferença que chamou a atenção dos pesquisadores da Universidade de Stanford.
O estudo acompanhou 715 usuários do X escolhidos aleatoriamente e comparou seus valores pessoais com os conteúdos apresentados na plataforma. Para identificar essas preferências, os pesquisadores utilizaram a escala de Schwartz, um modelo psicológico que organiza diferentes valores humanos, como segurança, independência, humildade e hedonismo.
Depois, os pesquisadores compararam dois ambientes dentro da própria rede: a aba “Seguindo”, baseada principalmente nas contas escolhidas pelo usuário, e o “Para você”, que depende fortemente das recomendações algorítmicas.
E foi nessa segunda experiência que surgiu uma diferença bastante interessante.
O conteúdo que provoca pode acabar recebendo uma segunda chance
Os pesquisadores observaram que publicações contrárias aos valores declarados pelos usuários tinham maior probabilidade de aparecer amplificadas no feed “Para você” do que conteúdos alinhados com suas preferências.
Isso não significa que o algoritmo tenha sido programado deliberadamente para deixar as pessoas irritadas. A explicação encontrada pelos pesquisadores é mais simples — e talvez justamente por isso mais preocupante.
O sistema aprende observando o comportamento.
Imagine que você veja uma publicação com a qual discorda profundamente. Você para para ler, abre os comentários, responde ao autor e talvez compartilhe o post para contestá-lo. Para você, aquilo foi uma reação de rejeição. Para um sistema focado em engajamento, entretanto, foram várias demonstrações de atenção.
A consequência pode ser um ciclo.
Primeiro aparece um conteúdo provocativo. Depois, o usuário reage porque ficou irritado. O algoritmo registra a interação como um possível sinal de interesse e aumenta a probabilidade de recomendar conteúdos semelhantes. O usuário encontra ainda mais publicações desse tipo e reage novamente.
É assim que uma plataforma pode acabar confundindo “quero ver mais disso” com “isso me incomodou tanto que precisei responder”.
Os pesquisadores destacam que esse mecanismo pode ajudar a explicar por que determinados usuários sentem que seus feeds se tornam progressivamente mais confrontativos.
O problema não é mostrar opiniões diferentes
Há uma diferença importante entre apresentar perspectivas diferentes e criar um fluxo de conteúdo escolhido principalmente pela capacidade de provocar reações emocionais.
Uma rede social que mostrasse apenas aquilo com que o usuário concorda poderia criar outro problema: as chamadas bolhas de informação. Ter contato com opiniões diferentes pode ser saudável e importante para compreender outros pontos de vista.
O desafio, portanto, não é eliminar a divergência.
A questão é descobrir se o sistema consegue diferenciar curiosidade, interesse genuíno, concordância e indignação.
Segundo os pesquisadores, os mecanismos de recomendação deveriam ser capazes de reconhecer melhor quando uma interação é motivada por confronto. Caso contrário, uma reação negativa pode funcionar como uma espécie de voto involuntário a favor daquele conteúdo.
Enquanto isso não acontece, existe uma alternativa bastante simples para quem deseja reduzir a influência das recomendações: utilizar com mais frequência a aba “Seguindo”, onde aparecem principalmente as publicações das contas escolhidas diretamente pelo usuário.
Os pesquisadores também testaram uma extensão de navegador capaz de reorganizar o conteúdo levando em consideração os valores declarados por cada pessoa.
No fim, o estudo deixa uma conclusão curiosa: o que consegue prender nossa atenção não é necessariamente aquilo que queremos consumir. E, se um algoritmo não consegue perceber essa diferença, até mesmo nossa indignação pode acabar ensinando à plataforma exatamente o que colocar diante dos nossos olhos na próxima vez.
