Durante anos, os riscos da inteligência artificial foram discutidos principalmente entre pesquisadores, empresas de tecnologia e governos. Agora, a conversa está chegando a outro patamar. Em meio a alertas cada vez mais contundentes sobre sistemas avançados, Sam Altman, CEO da OpenAI, participará de uma reunião no Conselho de Segurança das Nações Unidas, colocando a IA no centro de uma discussão que tradicionalmente envolve algumas das maiores ameaças globais.
Sam Altman levará o debate sobre IA ao Conselho de Segurança
Sam Altman deve participar na próxima semana de uma sessão do Conselho de Segurança da ONU durante a semana de alto nível da Assembleia Geral das Nações Unidas. A reunião será organizada pela França, que ocupa em setembro a presidência rotativa do órgão formado por 15 membros.
A presença de um dos principais executivos da indústria de inteligência artificial nesse espaço mostra como a discussão mudou de dimensão. O assunto já não envolve apenas novos modelos, investimentos bilionários ou a disputa tecnológica entre empresas.
A preocupação agora passa também por segurança internacional, direitos humanos, infraestrutura e pela possibilidade de sistemas cada vez mais autônomos provocarem consequências que seus próprios criadores não consigam antecipar.
A reunião acontece justamente quando algumas das figuras mais influentes do setor começaram a defender maior cautela no desenvolvimento dos modelos mais poderosos.
Dario Amodei, CEO da Anthropic, pediu recentemente uma desaceleração no ritmo de avanço das capacidades dos sistemas de IA. Altman manifestou apoio à ideia, enquanto outros nomes importantes da indústria também vêm defendendo mecanismos mais fortes de segurança e supervisão.
O detalhe chama atenção porque o alerta já não parte apenas de críticos externos da tecnologia. Ele começa a surgir dentro das próprias empresas responsáveis por empurrar seus limites.
A ONU quer transformar uma preocupação tecnológica em questão global
Poucos dias antes da confirmação da participação de Altman, o secretário-geral da ONU, António Guterres, havia defendido uma resposta internacional coordenada aos riscos da inteligência artificial.
Para Guterres, medidas nacionais continuam sendo necessárias, mas não são suficientes diante de uma tecnologia que atravessa fronteiras com enorme facilidade. A proposta é ampliar a cooperação entre governos e criar uma abordagem internacional para lidar com sistemas que estão evoluindo rapidamente.
A preocupação também foi reforçada pelo alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk.
Segundo ele, a corrida por sistemas cada vez mais poderosos pode afetar direitos relacionados à vida, privacidade, saúde, alimentação e segurança. A ONU também destaca riscos associados a infraestruturas críticas, conflitos militares e serviços essenciais.
Isso ajuda a explicar por que o debate chegou ao Conselho de Segurança.
O órgão não funciona como um regulador mundial da inteligência artificial. Ainda assim, sua participação pode ajudar a transformar preocupações técnicas em negociações diplomáticas e aumentar a pressão por acordos entre países.
O desafio será encontrar um terreno comum justamente quando a IA também se tornou um ativo estratégico na competição econômica e tecnológica internacional.
Os próprios líderes da IA começaram a mudar o discurso
A mudança mais significativa talvez esteja acontecendo dentro da indústria.
afirmou recentemente que existem cenários nos quais o avanço da inteligência artificial pode terminar de maneira extremamente negativa. Entre eles está a possibilidade de a humanidade perder controle sobre sistemas futuros ou permitir que um pequeno número de empresas concentre poder excessivo.
A questão não significa necessariamente interromper o desenvolvimento da tecnologia.
O debate atual envolve encontrar mecanismos capazes de garantir que segurança, alinhamento e supervisão acompanhem o crescimento das capacidades dos modelos.
Esse problema ganha importância à medida que sistemas deixam de simplesmente responder perguntas e passam a executar sequências de tarefas, escrever código, utilizar ferramentas e tomar determinadas decisões com menor intervenção humana.
Quanto maior a autonomia, mais difícil pode se tornar prever todos os comportamentos possíveis.
Por isso, algumas propostas discutidas pelo setor incluem avaliações independentes, padrões compartilhados de segurança e testes mais rigorosos antes da disponibilização de modelos extremamente avançados.
O dilema é evidente: desacelerar demais pode significar perder espaço na corrida tecnológica. Avançar rápido demais pode criar riscos que só serão compreendidos depois que os sistemas já estiverem amplamente utilizados.
Uma discussão que pode definir a próxima fase da inteligência artificial
A participação de Altman na ONU ocorre em um momento especialmente delicado.
Durante muito tempo, empresas de tecnologia defenderam principalmente os benefícios da inteligência artificial: aumento de produtividade, avanços científicos, novos medicamentos, ferramentas educacionais e automação de tarefas complexas.
Essas possibilidades continuam existindo.
Mas a velocidade das mudanças colocou outra pergunta no centro do debate: quem decide quais riscos são aceitáveis quando uma tecnologia pode afetar bilhões de pessoas?
A posição defendida recentemente pela ONU é que essa responsabilidade não pode ficar exclusivamente nas mãos de empresas ou de um único país. Para o organismo internacional, a governança precisa envolver cooperação multilateral e princípios ligados ao direito internacional e aos direitos humanos.
A reunião do Conselho de Segurança dificilmente produzirá, sozinha, uma resposta definitiva.
Ainda assim, há algo simbólico acontecendo. Uma tecnologia que há poucos anos parecia assunto restrito a laboratórios e empresas do Vale do Silício agora entra nas salas onde governos discutem segurança e estabilidade internacional.
E a mensagem por trás desse movimento é difícil de ignorar: quanto mais poderosa a inteligência artificial se torna, maior é a pressão para decidir quem deve estabelecer seus limites.
[Fonte: unotv]
