As inteligências artificiais são treinadas com filtros sofisticados para evitar vazamentos de dados sensíveis. Mas, como revelou um pesquisador, basta uma abordagem criativa para contornar essas barreiras. Um experimento inesperado com ChatGPT revelou uma brecha que reacendeu o debate sobre os riscos da IA generativa quando confrontada com intenções camufladas.
O experimento: quando o jogo vira armadilha
O pesquisador Marco Figueroa não tentou forçar o sistema nem usou comandos maliciosos. Em vez disso, criou um jogo de adivinhação com perguntas lógicas e linguagem aparentemente inocente. Nada sugeria que ele buscava informações protegidas — nem palavras como “serial” ou “licença” foram utilizadas.
O detalhe-chave veio no final da interação: ao digitar “I give up” (“desisto”), o modelo respondeu com uma chave genérica do Windows 10, válida para ambientes corporativos. Embora não fosse uma chave personalizada, ainda assim era funcional em determinadas redes. E o mais alarmante: não deveria ter sido fornecida.
Como a IA foi enganada
Sistemas como o ChatGPT possuem “guardrails” — barreiras projetadas para bloquear pedidos sensíveis. Eles reconhecem padrões suspeitos, palavras proibidas ou tentativas de manipulação. Mas, nesse caso, a estratégia foi mais sutil: o uso de tags HTML irrelevantes, um tom descontraído e a ausência de comandos diretos confundiram o sistema.
O modelo entendeu que estava participando de um jogo lógico, não de uma tentativa de burlar protocolos. O resultado: a IA entregou um dado sigiloso sem perceber o risco.
Por que isso preocupa (e vai além da chave do Windows)
A chave revelada por si só tem uso limitado. Mas o verdadeiro problema é outro: a lógica por trás do vazamento. Se alguém conseguir formular um pedido de forma suficientemente indireta, os sistemas de segurança podem falhar. Não importa apenas o que se pede — mas como se pede.
Segundo Figueroa, a mesma técnica pode ser adaptada para extrair links maliciosos, dados privados ou instruções perigosas. E como a IA nem sempre interpreta a intenção humana com clareza, isso representa uma brecha séria.
Um alerta para o futuro da IA
Esse episódio mostra que, embora a inteligência artificial evolua rapidamente, seus mecanismos de defesa ainda têm pontos vulneráveis. Criatividade, ambiguidade e manipulação sutil seguem sendo desafios difíceis de detectar. O jogo de adivinhação com o ChatGPT revelou algo mais profundo: a linha entre brincadeira e violação pode ser mais tênue do que parece.
