No esforço de promover seu modelo de inteligência artificial, o Gemini, o Google acabou destacando uma das maiores falhas dessas ferramentas: a propensão para gerar informações incorretas. O erro foi notado em um dos comerciais planejados para o Super Bowl, levando a empresa a fazer ajustes antes da transmissão do evento.
O problema com o anúncio do Google
A campanha do Google para o Super Bowl foca no uso da IA Gemini por pequenos negócios nos Estados Unidos, apresentando 50 histórias diferentes, uma para cada estado. No caso de Wisconsin, um vendedor de queijos utilizou o Gemini para gerar textos para o site de sua empresa. O problema surgiu quando a IA afirmou que o queijo gouda representa “50 a 60% do consumo mundial de queijos”, uma informação que não é verdadeira.
O erro foi rapidamente apontado no Twitter pelo blogueiro de viagens Nate Hake, que chamou a estatística de “alucinação” por não ter uma fonte confiável citada. Jerry Dischler, presidente de aplicações em nuvem do Google Cloud, defendeu a IA, afirmando que o Gemini se baseia na web e que usuários sempre podem verificar as referências. No entanto, o texto original do anúncio não trazia nenhuma referência, apenas repetindo uma informação de sites pouco confiáveis.
A correção do Comercial
Apesar da defesa inicial, o Google decidiu modificar o anúncio. A versão revisada remove a estatística equivocada sobre o consumo global de gouda. Não está claro se a alteração foi feita manualmente ou se o Gemini recebeu um novo prompt para evitar o erro, mas a versão corrigida é a que será exibida durante o Super Bowl.
Um reflexo dos problemas das IAs
Este episódio serve como um exemplo claro dos desafios das inteligências artificiais generativas. Apesar de serem ferramentas avançadas, elas frequentemente reproduzem informações incorretas sem um mecanismo confiável para distinguir o que é fato do que é invenção. Embora possam economizar tempo na produção de conteúdo, sua precisão ainda deixa a desejar.
O caso também evidencia como o Google está disposta a confiar nessas tecnologias para campanhas publicitárias de grande impacto, mesmo que os resultados possam gerar controvérsias. Para os consumidores, fica o alerta: sempre verifique as informações fornecidas por inteligências artificiais antes de tomá-las como verdade absoluta.
Fonte: Gizmodo US
