Robôs fora de controle, sistemas conscientes e máquinas decidindo eliminar a humanidade dominam boa parte das conversas sobre os riscos da inteligência artificial. Mas talvez estejamos olhando para o lugar errado. Para Nicolás Wolovick, pesquisador com décadas de experiência em computação, a transformação realmente importante acontece longe da ficção científica: está na infraestrutura que sustenta a IA e, principalmente, nas poucas mãos que começam a controlá-la.
Por trás da IA existem máquinas, dados e muito poder
Nicolás Wolovick, professor de Ciências da Computação, acompanha o setor há mais de quatro décadas. Mesmo assim, afirma nunca ter presenciado uma transformação com a velocidade e a dimensão da atual revolução da inteligência artificial.
Para ele, existe uma maneira menos misteriosa de enxergar aquilo que chamamos de IA. Por trás de chatbots capazes de conversar, sistemas que produzem imagens e algoritmos de recomendação existem enormes quantidades de computadores processando volumes gigantescos de dados.
E isso exige infraestrutura cara.
Treinar e operar grandes modelos demanda chips avançados, centros de dados, energia e investimentos bilionários. Como poucas organizações conseguem reunir esses recursos, uma parte importante do desenvolvimento acaba concentrada em um grupo relativamente pequeno de grandes empresas privadas.
É aí que Wolovick identifica uma das questões mais relevantes.
Durante outras revoluções tecnológicas, recursos estratégicos ficaram muitas vezes concentrados principalmente em Estados. No caso da IA, empresas privadas ocupam uma posição central, acumulando capacidade tecnológica, infraestrutura e influência econômica.
Para o especialista, essa concentração deveria preocupar mais do que cenários cinematográficos envolvendo máquinas conscientes.
O problema começa quando não conseguimos mais viver sem ela
Existe outra peça nessa história: a dependência.
Ferramentas de IA estão entrando rapidamente no trabalho, nas universidades, nos mecanismos de busca, na produção de conteúdo e até na maneira como encontramos informações. Quanto mais úteis ficam, mais difícil pode ser imaginar determinadas atividades sem elas.
Wolovick propõe um exercício incômodo: o que aconteceria se um país que concentra parte dessas tecnologias simplesmente restringisse seu acesso durante uma crise internacional?
Ou se, diante de uma nova pandemia, cada potência decidisse reservar seus sistemas mais avançados para suas próprias necessidades?
São hipóteses, não previsões. Mas servem para expor uma vulnerabilidade estratégica: países que apenas consomem inteligência artificial desenvolvida no exterior podem acabar dependendo de decisões tomadas por governos e empresas sobre os quais possuem pouca influência.
Por isso, Wolovick defende que os Estados desenvolvam capacidade computacional própria suficiente para manter alguma autonomia tecnológica.
Também acredita que precisamos começar a enxergar a inteligência artificial como enxergamos outras grandes indústrias. Por trás de uma resposta aparentemente instantânea existe uma cadeia enorme de infraestrutura, empresas, centros de dados e interesses econômicos.
A interface pode parecer simples. A estrutura que permite seu funcionamento está longe disso.
Talvez estejamos com medo do cenário errado
Histórias sobre inteligências artificiais que desenvolvem comportamentos inesperados costumam ganhar enorme repercussão. Sistemas que supostamente enganam humanos ou escapam do controle parecem confirmar antigos temores da ficção científica.
Wolovick recomenda cautela diante dessas narrativas.
Existe atualmente uma corrida entre empresas para demonstrar quem possui o modelo mais poderoso. Nesse ambiente competitivo, anúncios sobre capacidades extraordinárias também podem funcionar como marketing. Isso não significa que sistemas avançados estejam livres de riscos, mas que afirmações espetaculares precisam ser examinadas cuidadosamente.
Para o pesquisador, não existe evidência de um cenário catastrófico iminente semelhante a O Exterminador do Futuro. Isso não elimina a necessidade de mecanismos de segurança à medida que modelos recebem mais poder computacional e assumem novas funções.
Mas existe uma preocupação bem mais imediata.
A IA começa a participar da maneira como encontramos e interpretamos conhecimento. Se milhões de pessoas recorrem aos mesmos sistemas para obter informações, resumir acontecimentos ou compreender o mundo, torna-se importante perguntar quem desenvolveu esses modelos, quais dados foram utilizados e quais vieses podem aparecer nas respostas.
A verdadeira “caixa-preta” precisa ser aberta
Há ainda uma dimensão cultural.
Muitos dos grandes modelos são desenvolvidos em países centrais e refletem, inevitavelmente, decisões tomadas nesses ambientes. Isso levanta perguntas sobre como outras culturas, sociedades e realidades serão representadas por sistemas utilizados globalmente.
Wolovick chama essa estrutura de uma espécie de “caixa-preta”: usamos ferramentas extremamente sofisticadas diariamente sem necessariamente compreender quem as controla, onde estão seus centros de dados ou quanto estamos delegando aos algoritmos.
A solução, segundo ele, passa por debate público, conhecimento e regulação. Não se trata de abandonar uma tecnologia que pode oferecer benefícios enormes, mas de evitar que sua adoção aconteça mais rápido do que nossa capacidade de discutir suas consequências.
A grande pergunta sobre o futuro da IA talvez não seja, portanto, quando uma máquina se tornará inteligente o suficiente para controlar os humanos.
Pode ser algo bem menos cinematográfico: quanto controle estaremos dispostos a entregar antes de perceber que nos tornamos dependentes dela?
[Fonte: opinion austral]
