A inteligência artificial entrou silenciosamente na rotina até se tornar quase impossível escapar dela. Está nos buscadores, celulares, redes sociais, escolas e ambientes profissionais. Na comunicação científica, sua presença também cresce rapidamente. Mas um grupo internacional de pesquisadores alerta que simplesmente aprender a usar essas ferramentas não é suficiente. Para compreender seus riscos, talvez seja necessário olhar para algo menos visível: quem constrói os algoritmos e quais decisões estão escondidas dentro deles.
A inteligência artificial começa a ser tratada como algo inevitável
A comparação utilizada durante um encontro internacional sobre IA e comunicação científica é simples: essas tecnologias se comportam como água. Elas encontram espaços, atravessam fronteiras e, gradualmente, tornam as pessoas mais dependentes delas.
Foi nesse contexto que o Fórum Aberto de Ciências da América Latina e Caribe (CILAC) promoveu uma discussão dedicada à inteligência artificial e à comunicação pública da ciência.
A iniciativa contou com participação da Universidade Nacional de Quilmes (UNQ) e da RedPOP, por meio da recém-criada Rede de Formação em Comunicação Pública da Ciência e Tecnologia na América Latina.
O encontro virtual foi coordenado pelo especialista em política científica da UNESCO Guillermo Anlló e reuniu pesquisadores de diferentes áreas e países.
Entre os participantes estavam Gema Revuelta, professora da Universidade Pompeu Fabra, na Espanha; Yurij Castelfranchi, professor da Universidade Federal de Minas Gerais (UFMG); e Gabriela Frías Villegas, pesquisadora da Universidade Nacional Autônoma do México (UNAM).
A discussão começou por uma questão fundamental: quando falamos simplesmente em “IA”, estamos colocando tecnologias bastante diferentes dentro da mesma caixa.
Nem toda inteligência artificial funciona da mesma maneira
Gema Revuelta apresentou as diferenças entre sistemas de processamento de linguagem natural, aprendizado de máquina, inteligência artificial generativa e aprendizado profundo.
Cada tecnologia possui aplicações, capacidades e riscos próprios. Entre as preocupações levantadas estão a dificuldade de compreender como determinados algoritmos chegam às suas conclusões e recursos cada vez mais sofisticados, como a possibilidade de clonar vozes.
Revuelta também chamou atenção para um ponto frequentemente esquecido durante o entusiasmo em torno da automação: a criatividade humana continua desempenhando um papel fundamental.
Para ela, ferramentas de IA devem ser utilizadas preferencialmente em assuntos que o próprio usuário conheça. Isso permite analisar criticamente as respostas e identificar erros que poderiam passar despercebidos.
A recomendação ganha importância entre os jovens, descritos pela pesquisadora como uma geração que já cresce cercada por essas tecnologias.
Outra preocupação está na tendência de humanizar sistemas artificiais. Atribuir intenções, sentimentos ou capacidades humanas a uma ferramenta pode gerar uma percepção equivocada sobre aquilo que ela realmente faz.
Por isso, Revuelta defendeu também a criação de normas e compromissos institucionais para orientar o uso responsável dessas tecnologias.
Mas a discussão ficou ainda mais profunda quando deixou de analisar apenas os usuários e passou a olhar para a construção dos algoritmos.
Os erros da IA podem revelar algo sobre quem a construiu
Yurij Castelfranchi levou ao encontro reflexões desenvolvidas em seus estudos sobre algoritmos, paz e erros produzidos por sistemas de inteligência artificial.
Segundo o professor da UFMG, as chamadas alucinações e falhas desses sistemas não aparecem de maneira completamente aleatória ou homogênea.
Elas podem reproduzir desigualdades relacionadas a raça, classe social e gênero.
É justamente daí que surge uma das ideias centrais da discussão: a IA não depende apenas de como é utilizada, mas de como é construída.
Isso significa abandonar a ideia de que a tecnologia é uma ferramenta neutra que só se torna problemática quando alguém decide utilizá-la de maneira inadequada.
Algoritmos são desenvolvidos dentro de contextos sociais, econômicos e políticos. Os dados utilizados para treiná-los, as decisões de projeto e os interesses das organizações responsáveis por essas tecnologias podem influenciar seus resultados.
Castelfranchi propõe, portanto, compreender a inteligência artificial como parte de um ecossistema de poder. Em vez de apenas aceitar sistemas prontos, seria necessário encontrar maneiras de participar da construção dos algoritmos e imaginar modelos diferentes.
Uma “prótese cognitiva” que não pode pensar por nós
Gabriela Frías Villegas acrescentou outra dimensão ao debate ao abordar vieses relacionados a etnia, gênero e idade.
Especialista em filosofia da ciência e direitos humanos, a pesquisadora da UNAM alertou para o risco de esses preconceitos serem reproduzidos justamente na comunicação pública da ciência.
Frías comparou a inteligência artificial a uma espécie de “prótese cognitiva”. Ela pode ampliar capacidades, acelerar tarefas e ajudar na produção de conhecimento, mas não substitui o pensamento crítico necessário para questionar seus resultados.
Esse cuidado é particularmente importante diante das alucinações, quando sistemas apresentam informações falsas ou inventadas com aparência convincente, e da chamada opacidade algorítmica, que dificulta compreender exatamente como determinada resposta foi produzida.
A pesquisadora também defendeu uma perspectiva decolonial e multicultural para a utilização da IA, capaz de incorporar experiências e conhecimentos que muitas vezes ficam marginalizados durante o desenvolvimento tecnológico.
O desafio agora é acordar do “sonambulismo tecnológico”
Apesar das preocupações, o encontro terminou longe de uma visão fatalista sobre o futuro da inteligência artificial.
Revuelta lembrou que transformações sociais importantes também nasceram de movimentos organizados de baixo para cima. A tecnologia, portanto, não precisa necessariamente seguir uma trajetória definida apenas pelas empresas e instituições que atualmente dominam seu desenvolvimento.
Frías defendeu ampliar o conhecimento sobre inteligência artificial para utilizá-la como ferramenta de fortalecimento da comunicação científica e dos direitos humanos.
Castelfranchi resumiu o desafio com outra expressão provocadora: é necessário superar o “sonambulismo tecnológico”.
Em vez de caminhar passivamente em direção a um futuro determinado pelos algoritmos, a proposta é compreender como eles funcionam, questionar suas estruturas e participar de sua reconstrução.
A grande pergunta talvez não seja apenas o que faremos com a inteligência artificial.
É também que inteligência artificial queremos construir antes que ela esteja em absolutamente todos os lugares.
[Fonte: UNQ]
