Mãos deformadas, textos incompreensíveis, reflexos absurdos e rostos perfeitos demais. Durante anos, detectar uma imagem criada por inteligência artificial significava procurar pequenos erros. Essa estratégia está deixando de funcionar. Os novos modelos alcançaram um nível de realismo que obriga a repensar como verificamos aquilo que aparece em uma tela. E, segundo especialistas, o próximo salto pode chegar muito antes do esperado.
Olhar com atenção já não garante descobrir uma imagem criada por IA
A inteligência artificial generativa provocou uma situação curiosa: até mesmo uma fotografia completamente autêntica pode despertar suspeitas. Aprendemos que aquilo que parece real talvez nunca tenha acontecido, e essa incerteza está mudando nossa relação com as imagens que circulam pela internet.
Daniel Púa, responsável pela área de segurança da Magnific, plataforma especializada na geração de imagens e vídeos por IA, afirma que chegamos a um ponto em que identificar visualmente a origem de determinados conteúdos se tornou extremamente complicado.
O salto experimentado pelos modelos nos últimos meses explica boa parte do problema. Ferramentas como o Nano Banana Pro, do Google, elevaram consideravelmente o nível de detalhes, coerência e iluminação das imagens sintéticas.
Os defeitos clássicos começaram a desaparecer. Dedos impossíveis, objetos fundidos, sombras incoerentes ou letras deformadas deixaram de ser indicadores suficientemente confiáveis.
Púa explica que o resultado depende tanto do modelo utilizado quanto das instruções fornecidas pelo usuário. No entanto, reconhece uma realidade muito mais incômoda: praticamente ninguém consegue afirmar com 100% de certeza, apenas olhando, se determinadas imagens foram criadas por inteligência artificial.
Isso vale inclusive para profissionais acostumados a trabalhar diariamente com esse tipo de conteúdo. O problema já não é simplesmente que a IA consegue produzir imagens bonitas. Agora ela também consegue reproduzir imperfeições, iluminação, texturas e detalhes cotidianos que associamos intuitivamente a uma fotografia real.
O vídeo ainda deixa pistas, mas essa vantagem pode durar pouco
Existe um território no qual a inteligência artificial ainda encontra mais dificuldades para se esconder: o vídeo.
Uma imagem estática precisa manter coerência em apenas um instante. Um vídeo, por outro lado, deve preservar essa lógica durante dezenas ou centenas de quadros consecutivos. Pessoas, objetos, iluminação e movimentos precisam se comportar de maneira consistente enquanto a cena avança.
É justamente aí que alguns erros ainda aparecem.
Segundo Púa, observar atentamente a evolução de uma sequência pode revelar movimentos estranhos ou comportamentos físicos que simplesmente não fariam sentido no mundo real. O vídeo gerado por inteligência artificial estaria aproximadamente “dois passos atrás” das imagens estáticas.
Mas essa distância está diminuindo rapidamente.
Os modelos mais recentes já conseguem produzir sequências muito mais coerentes, e o desafio começa a se concentrar em detalhes cada vez menores. É um processo semelhante ao que aconteceu com os geradores de imagens antes de alcançarem o atual nível de realismo.
A previsão do especialista chama atenção: ele considera possível que, dentro de aproximadamente um ano e meio, vídeos sintéticos cheguem a um nível no qual distingui-los visualmente também seja extremamente difícil.
Se isso acontecer, procurar erros com nossos próprios olhos deixará definitivamente de ser uma estratégia suficiente. A solução terá que estar em outro lugar.
Marcas invisíveis podem ajudar, mas existe um obstáculo importante
Uma das alternativas é introduzir marcas d’água invisíveis capazes de identificar automaticamente conteúdos produzidos por inteligência artificial.
O Google utiliza uma tecnologia chamada SynthID. De maneira simplificada, o sistema altera determinados elementos de uma imagem de forma praticamente imperceptível para incorporar um sinal que pode ser identificado posteriormente.
A ideia parece simples, mas existe uma limitação fundamental.
Para que um sistema desse tipo permita verificar com segurança a origem de qualquer imagem, ele precisaria se transformar em um padrão amplamente adotado pelas empresas responsáveis pelos modelos generativos.
Encontrar determinada marca pode indicar que uma imagem foi produzida por IA. Não encontrá-la, entretanto, não significa necessariamente que a fotografia seja verdadeira. Ela pode simplesmente ter sido criada por uma ferramenta que utiliza outro sistema ou que não incorpora qualquer identificação.
Outra alternativa é o C2PA, um padrão aberto que segue uma lógica diferente. Em vez de modificar visualmente o arquivo, ele permite armazenar informações sobre sua procedência e as alterações realizadas.
Em teoria, seria possível saber qual ferramenta criou determinado conteúdo, quando isso aconteceu e quais programas participaram posteriormente da edição.
Mas existe uma vulnerabilidade difícil de ignorar.
Uma simples captura de tela pode apagar parte da história
Os dados de procedência armazenados por sistemas como o C2PA podem desaparecer quando os metadados do arquivo são eliminados.
Isso pode acontecer deliberadamente por meio de ferramentas específicas, mas também durante ações completamente normais. Fazer uma captura de tela ou enviar determinadas imagens por aplicativos de mensagens pode eliminar informações associadas ao arquivo original.
Por isso, Púa considera difícil encontrar uma solução universal e acredita que provavelmente será necessário algum tipo de consenso entre os principais desenvolvedores de inteligência artificial.
Enquanto esse acordo não chega, usuários terão que combinar diferentes sinais.
Um deles está justamente nos metadados. O especialista recomenda prestar atenção quando uma suposta fotografia chega completamente desprovida dessas informações. Imagens capturadas normalmente por celulares e câmeras costumam incorporar dados técnicos relacionados ao dispositivo ou ao próprio registro.
A ausência desses elementos não comprova automaticamente uma manipulação, já que os metadados podem desaparecer por diversas razões. Ainda assim, pode funcionar como mais um sinal para investigar antes de aceitar uma imagem como verdadeira.
A conclusão é desconfortável: durante décadas, confiamos em nossos olhos para decidir se algo realmente havia acontecido. Com a inteligência artificial generativa, essa certeza começa a desaparecer. A pergunta já não será apenas o que estamos vendo, mas de onde aquela imagem veio, como chegou até nós e o que aconteceu com ela durante o caminho.
[Fonte: Xataka]
