Pular para o conteúdo
Tecnologia

O que acontece quando você remove um artista do treinamento de uma IA? O resultado surpreende

Um novo estudo do MIT revela uma característica inesperada dos grandes modelos de imagem e pode tornar ainda mais difícil descobrir de onde vem aquilo que uma IA cria.
Por

Tempo de leitura: 4 minutos

Quando uma inteligência artificial cria uma imagem, existe uma pergunta que parece simples, mas está no centro de uma enorme disputa: quanto daquele resultado veio de obras específicas usadas durante o treinamento? Artistas e empresas discutem essa questão há anos, especialmente por causa dos direitos autorais. Agora, pesquisadores do MIT encontraram um fenômeno que pode tornar essa relação muito mais difícil de identificar — e talvez obrigue a repensar algumas das premissas desse debate.

Quanto uma única obra realmente pesa para uma IA?

Modelos de geração de imagens aprendem observando enormes quantidades de conteúdo. Fotografias, ilustrações, pinturas e outras imagens são utilizadas para que o sistema consiga identificar padrões e posteriormente produzir novos resultados a partir de comandos.

Isso alimenta uma das principais discussões sobre inteligência artificial generativa: se uma determinada obra esteve no conjunto de treinamento, até que ponto ela contribuiu para aquilo que o modelo posteriormente criou?

A resposta parece intuitiva. Se uma imagem foi retirada do treinamento, seria possível comparar o comportamento da IA antes e depois e descobrir quanto aquela obra fazia diferença.

Na prática, porém, existe um enorme problema. Para realizar esse teste de maneira rigorosa, seria necessário remover o conteúdo, treinar novamente o modelo inteiro e depois comparar os resultados. Em sistemas alimentados por milhões ou bilhões de imagens, repetir esse processo é extremamente caro e demorado.

Pesquisadores do Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL) encontraram uma maneira diferente de investigar a questão.

Eles observaram que, à medida que os conjuntos de treinamento ficam maiores, a contribuição individual de cada imagem tende a se tornar menor. O fenômeno recebeu um nome bastante sugestivo: “decaimento da atribuição”.

A descoberta não significa que uma obra deixa de ter importância. O problema é outro: pode ficar cada vez mais difícil apontar exatamente quanto aquela obra contribuiu para determinado resultado.

Os pesquisadores encontraram uma maneira de testar isso

Para investigar o fenômeno sem precisar reconstruir repetidamente uma IA gigantesca, os pesquisadores criaram uma arquitetura formada por vários componentes menores.

Cada parte do sistema recebe diferentes subconjuntos dos dados de treinamento. Isso permite fazer uma espécie de experimento controlado: os cientistas conseguem desativar os componentes que tiveram acesso a determinada imagem e observar como o resultado muda.

A mesma técnica permite testar grupos maiores de conteúdo. Em vez de retirar apenas uma fotografia, os pesquisadores podem eliminar virtualmente materiais relacionados a um determinado artista e verificar o impacto produzido.

Foi nesse ponto que apareceu o resultado mais interessante.

Em modelos suficientemente grandes, remover uma imagem específica pode provocar uma alteração muito pequena naquilo que a IA produz. Em alguns casos, a diferença pode ser praticamente imperceptível.

E algo semelhante acontece quando são retirados conjuntos maiores associados a um único criador.

Isso sugere que o conhecimento adquirido durante o treinamento não funciona necessariamente como uma coleção de peças facilmente identificáveis. Quanto maior o volume de informações utilizado para treinar o modelo, mais distribuída pode ficar a contribuição de cada elemento.

É uma diferença importante em relação à ideia de que seria possível olhar para uma imagem criada por IA e simplesmente identificar quais obras foram utilizadas como seus “ingredientes”.

A descoberta pode complicar ainda mais os direitos autorais

É justamente aqui que a pesquisa do MIT ganha importância fora do laboratório.

Artistas, fotógrafos e empresas vêm questionando o uso de conteúdos protegidos no treinamento de modelos generativos. Parte dessas disputas depende de estabelecer uma relação entre as obras utilizadas para ensinar a IA e aquilo que o sistema posteriormente produz.

O estudo, entretanto, não afirma que as obras utilizadas no treinamento são irrelevantes. Muito pelo contrário: grandes quantidades de dados continuam sendo fundamentais para que os modelos desenvolvam suas capacidades.

A questão levantada pelos pesquisadores é mais específica e, justamente por isso, bastante incômoda: mesmo sabendo que determinada obra participou do treinamento, pode ser extremamente difícil medir sua influência individual sobre uma imagem gerada.

Isso pode criar um problema adicional para processos envolvendo direitos autorais. Demonstrar que uma obra estava presente no conjunto de treinamento é uma coisa. Demonstrar que ela teve uma influência específica e mensurável sobre determinado resultado pode ser outra completamente diferente.

A pesquisa também desafia uma interpretação simplificada dos geradores de imagens: a ideia de que eles funcionariam como máquinas que recortam pequenos pedaços de imagens existentes e os reorganizam.

Em modelos de grande escala, o aprendizado parece ser muito mais distribuído. Características extraídas de enormes volumes de dados acabam combinadas dentro do sistema, tornando difícil atribuir um resultado a uma única fonte.

E isso não encerra a discussão sobre direitos autorais. Pode fazer exatamente o contrário.

A grande pergunta deixa de ser apenas “essa obra foi usada para treinar a IA?” e passa a incluir outra muito mais difícil: “quanto ela realmente influenciou aquilo que a IA criou?”

Partilhe este artigo

Artigos relacionados