Não era uma conferência de tecnologia comum. Em uma propriedade no interior da Escócia, o rei Charles III recebeu algumas das figuras mais influentes da inteligência artificial para discutir o que acontece se sistemas cada vez mais poderosos avançarem mais rápido que nossa capacidade de controlá-los. O monarca reconheceu o enorme potencial da IA, mas deixou um recado claro: desenvolver máquinas mais capazes não pode significar entregar a elas nosso próprio destino.
OpenAI, Nvidia e Google DeepMind estavam na mesma sala
O encontro aconteceu nesta quinta-feira, 17 de setembro, em Dumfries House, propriedade ligada às iniciativas filantrópicas do rei na Escócia.
Entre os participantes estavam Jensen Huang, CEO da Nvidia; Demis Hassabis, cofundador e presidente do Google DeepMind; Sarah Friar, diretora financeira da OpenAI; e Tino Cuéllar, diretor de Assuntos Globais da Anthropic.
O ministro britânico de Inteligência Artificial, Kanishka Narayan, também participou das discussões.
Charles III abriu o encontro reconhecendo aquilo que torna a discussão tão complicada.
A inteligência artificial já demonstra capacidade para melhorar e até salvar vidas, especialmente em áreas como medicina e ciências biológicas.
Mas, segundo ele, algumas das próprias pessoas responsáveis por desenvolver esses sistemas estão alertando que capacidades futuras também podem ser utilizadas de maneiras perigosas.
A questão, portanto, deixou de ser simplesmente até onde a tecnologia consegue chegar.
Passou a ser quem continuará controlando-a quando chegar lá.
O rei colocou duas perguntas sobre a mesa
Charles III resumiu suas preocupações em duas questões.
A primeira: como aproveitar os benefícios da inteligência artificial colocando a segurança no centro de seu desenvolvimento?
A segunda: como construir cooperação internacional suficiente para que isso aconteça sem deixar países para trás?
Por trás das perguntas existe uma preocupação ainda maior.
O monarca afirmou que muitas pessoas querem garantias de que a humanidade não perderá o controle de seu próprio destino conforme sistemas de IA se tornem mais poderosos.
Charles também defendeu que mecanismos de controle sejam desenvolvidos antes que seja tarde demais.
Não apresentou uma proposta regulatória específica. O encontro tinha como objetivo discutir princípios comuns, e não produzir imediatamente novas leis ou acordos internacionais.
Mas a mensagem dirigida às empresas foi bastante direta: criar tecnologia mais avançada não pode ser o único objetivo.
O alerta ficou muito mais sério quando apareceu a palavra “existencial”
Charles III foi além das preocupações mais conhecidas envolvendo empregos, desinformação ou privacidade.
Ele mencionou os chamados riscos existenciais da inteligência artificial.
O termo é utilizado em discussões sobre cenários extremos nos quais sistemas muito poderosos poderiam causar danos catastróficos, especialmente se fossem utilizados deliberadamente por atores mal-intencionados ou desenvolvessem capacidades difíceis de controlar.
Isso não significa que exista consenso de que esses cenários acontecerão.
Pesquisadores, empresas e especialistas divergem bastante sobre sua probabilidade, o horizonte temporal e até sobre quais riscos deveriam receber prioridade.
O ponto levantado por Charles é outro: se as consequências potenciais forem suficientemente graves, esperar até que o perigo esteja comprovado pode ser tarde demais para desenvolver proteções eficazes.
Nem os líderes da tecnologia concordam sobre a velocidade certa
O encontro acontece justamente quando as diferenças dentro da própria indústria estão ficando mais visíveis.
Alguns pesquisadores e executivos defendem mecanismos mais fortes de avaliação, coordenação e controle antes que modelos significativamente mais capazes sejam lançados.
Outros consideram que interromper ou desacelerar amplamente o desenvolvimento pode criar novos problemas.
Jensen Huang, da Nvidia, defendeu uma postura de “otimismo responsável” e argumentou que empresas devem evitar lançar sistemas antes que estejam suficientemente desenvolvidos e seguros.
O debate também envolve uma pergunta particularmente difícil: as próprias empresas deveriam decidir quais limites seguir ou governos precisam estabelecer regras obrigatórias?
Essa discussão tende a ficar mais complicada conforme diferentes países competem pela liderança em IA.
Se uma empresa desacelera enquanto outra continua avançando, existe um incentivo econômico para correr. O mesmo raciocínio pode acontecer entre países.
É justamente por isso que Charles colocou cooperação internacional no centro de sua segunda pergunta.
A preocupação do rei não começou agora
Charles III já havia participado do debate durante a cúpula britânica de segurança em IA realizada em Bletchley Park, em 2023.
Na época, pediu união internacional para enfrentar riscos que, segundo ele, não respeitariam fronteiras.
Três anos depois, a tecnologia avançou consideravelmente e a discussão deixou de estar restrita a laboratórios e empresas especializadas.
Modelos conseguem gerar vídeos, programar, pesquisar, operar ferramentas e realizar sequências cada vez mais complexas de tarefas.
Para Charles, as decisões tomadas justamente nesta fase terão consequências muito além da geração atual.
Sua ideia central pode ser resumida de maneira simples: a tecnologia deve permanecer a serviço das pessoas, das comunidades e do mundo natural.
A pergunta agora é quem define os limites
A reunião na Escócia não terminou com um grande tratado internacional nem com novas regras obrigatórias para as empresas.
Mas mostrou como o debate sobre inteligência artificial mudou.
Há poucos anos, grande parte da discussão girava em torno daquilo que os modelos seriam capazes de fazer.
Agora, uma pergunta diferente começa a ganhar espaço: o que deveríamos permitir que eles façam?
E existe uma segunda questão ainda mais complicada.
Quem deve tomar essa decisão?
Empresas, governos, cientistas, organizações internacionais ou alguma combinação de todos eles?
Charles III não apresentou a resposta.
Em vez disso, colocou a responsabilidade justamente diante das pessoas que estão construindo alguns dos sistemas mais poderosos do mundo.
Porque, em sua visão, existe algo que nenhuma corrida tecnológica deveria colocar em jogo: a capacidade humana de continuar decidindo o próprio futuro.
[Fonte: Infobae]
