A inteligência artificial avança rapidamente, mas as regras para controlar seus sistemas mais poderosos ainda são diferentes em cada país. A OpenAI acredita que chegou o momento de estabelecer padrões internacionais e defende que os Estados Unidos assumam a liderança desse processo.
Em uma publicação divulgada nesta segunda-feira (21), a empresa afirmou que governos, laboratórios e especialistas precisam cooperar para definir normas técnicas comuns de segurança. A proposta inclui uma atenção especial à chamada melhoria recursiva, na qual sistemas de IA participam do desenvolvimento de versões cada vez mais avançadas da própria tecnologia.
OpenAI quer padrões internacionais para a IA
Segundo a OpenAI, os Estados Unidos estão em uma posição privilegiada para coordenar a criação desses padrões porque sua indústria ocupa uma posição central no desenvolvimento dos modelos mais avançados.
A empresa argumenta que diferentes regras nacionais podem dificultar a comparação de riscos, a comunicação de incidentes e a resposta a problemas capazes de ultrapassar fronteiras.
Por isso, propõe uma estrutura que combine normas nacionais e internacionais, com métricas comuns para avaliar capacidades, riscos e mecanismos de segurança dos modelos de fronteira.
A ideia não seria criar uma autoridade internacional responsável por aprovar cada novo sistema antes de seu lançamento. Cada governo continuaria decidindo como incorporar esses padrões às próprias leis.
A OpenAI também defende a participação de empresas que desenvolvem modelos abertos e fechados, pesquisadores independentes e universidades para evitar que as normas beneficiem determinados países ou companhias.
O que preocupa na melhoria recursiva da IA
Um dos principais pontos levantados pela empresa envolve a chamada melhoria recursiva, conhecida pela sigla RSI.
Esse processo pode acontecer quando sistemas de inteligência artificial assumem uma parcela cada vez maior do trabalho necessário para desenvolver novas gerações de IA. Quanto maior a automação dessa pesquisa, mais rapidamente as capacidades dos modelos poderiam evoluir.
A OpenAI ressalta que uma RSI totalmente autônoma não existe atualmente. Ainda assim, afirma que esse caminho não deve ser perseguido até que existam condições para fazê-lo de maneira segura.
O risco seria chegar a um cenário no qual seres humanos deixassem de compreender ou supervisionar adequadamente o processo usado pelas máquinas para desenvolver sistemas posteriores.
Para reduzir essa possibilidade, a empresa propõe padrões específicos para medir quanto da pesquisa de IA está sendo automatizada e determinar quais atividades deveriam exigir uma revisão humana imediata.
Países poderiam compartilhar informações sobre incidentes
Outra proposta envolve a criação de protocolos internacionais para classificar, registrar e comunicar incidentes relacionados aos modelos mais avançados.
Isso permitiria estabelecer níveis comuns de gravidade e critérios para decidir quando determinado problema precisa ser informado às autoridades ou a outras organizações.
A OpenAI também considera importante criar canais seguros de comunicação entre governos e operadores de infraestruturas críticas para compartilhar informações sobre vulnerabilidades, ameaças e novos riscos.
Nesse contexto, a empresa defende inclusive o diálogo entre Estados Unidos e China em questões relacionadas à segurança da inteligência artificial.
Trump rejeita desacelerar a corrida pela IA
A proposta surge enquanto o governo americano enfatiza a competição tecnológica internacional, especialmente com a China.
O presidente Donald Trump tem defendido que os Estados Unidos mantenham o ritmo de desenvolvimento da inteligência artificial e rejeitado pedidos para uma desaceleração ampla da tecnologia.
A posição cria uma diferença importante de abordagem. Enquanto a OpenAI argumenta que o avanço da IA deve ser acompanhado por padrões técnicos, supervisão humana e cooperação internacional, Trump enfatiza a necessidade de preservar a posição dos Estados Unidos na disputa tecnológica.
Para a OpenAI, estabelecer padrões internacionais não significa determinar uma velocidade fixa para o desenvolvimento da inteligência artificial. A empresa sustenta que o objetivo deve ser garantir que as pesquisas de alinhamento e os mecanismos de segurança avancem junto com as capacidades dos modelos.
Com sistemas cada vez mais autônomos participando da própria pesquisa em inteligência artificial, a discussão deixa de envolver apenas o que essas máquinas conseguem fazer hoje. A questão passa a ser também como manter o controle humano caso elas comecem a desempenhar um papel cada vez maior na criação das próximas gerações de IA.
[ Fonte: DW ]
