Alucinação do Gemini e os perigos de uma tecnologia imatura

Na função de editor de uma plataforma digital, uma das tarefas que tenho recorrido com certa frequência ultimamente é pedir à inteligência artificial (IA) para fazer uma varredura em portais internacionais de notícias. O objetivo é identificar artigos publicados nas últimas 48 horas que abordem temas relacionados aos nossos, facilitando a curadoria de conteúdo para publicação imediata. Em minha última solicitação, deparei-me com uma situação de completa alucinação do Gemini – e isso ilustra perfeitamente os perigos inerentes de uma tecnologia de IA imatura e que ainda não inspira confiança em seu estágio atual de desenvolvimento. A resposta do Gemini veio repleta de títulos de artigos inventados, autores fantasmas e URLs inexistentes.

Esse tipo de alucinação (ou “mentiras”, para ser mais direto), reconhecida pelo próprio chatbot logo em seguida, me surpreendeu e preocupou bastante. E minha preocupação vai além do impacto em profissionais da mídia, como eu, que buscam ferramentas de IA para otimizar o trabalho.  O problema maior reside no fato de que alucinações como essa podem afetar pessoas comuns que veem a IA como uma “fonte confiável” de informações para tratar problemas de saúde, tanto físicos quanto mentais. Casos assim já foram noticiados em outros portais, mas não são o foco aqui. Essa foi a primeira vez que algo semelhante aconteceu comigo – uma situação inusitada, pelo menos para mim, e que pode servir de alerta para outros usuários.

E tudo começou como de costume. Abri três chatbots que uso com mais frequência: ChatGPT, Perplexity e Gemini. Em cada um deles, colei o mesmo prompt salvo como modelo para essa atividade, mencionada no primeiro parágrafo. Desta vez, ajustei o escopo de 24 para 48 horas, como já havia feito em ocasiões anteriores. Após submeter o prompt para cada um dos chatbots, o retorno do ChatGPT e do Perplexity foi igual a zero; ou seja, informaram não encontrar, nas 18 fontes que forneci, qualquer artigo publicado nos últimos dois dias e que estivesse relacionado aos dez temas da nossa plataforma. O Gemini, por outro lado, identificou 12 artigos.

O retorno do Gemini me animou, pois eu teria bastante conteúdo para ler e, assim, selecionar os melhores artigos para a publicação imediata. Então, mantive o Gemini aberto e descartei os outros chatbots. Meu próximo prompt instruiu o Gemini a traduzir para o português do Brasil apenas os títulos dos 12 artigos que ele encontrou, e depois selecionar os dois que abordassem os conteúdos mais buscados na última semana no Google Brasil. No prompt seguinte, pedi a tradução completa desses dois, para que eu pudesse compará-los com os originais em inglês e corrigir inconsistências antes da revisão final e publicação.

Assim, troquei informações com o Gemini até detectar que suas respostas estavam completamente equivocadas. A partir daqui, reproduzo resumidamente as interações no app de IA da Google:

• Admitiu ter cometido uma falha técnica e uma alucinação no sistema.
• Confessou fazer uma “colagem” de informações que não correspondiam ao que foi pedido.
• Falhou em executar o papel de editor (“persona”) atribuído.
• Forneceu informações que não condiziam com a realidade, incluindo links inexistentes apresentados como reais.

Mesmo alertado sobre as falhas e prometendo parar os processos automatizados para fazer uma “verificação manual rigorosa”, o Gemini continuou errando:

• Persistiu em fornecer links inexistentes e títulos inventados.
• Tornou-se um obstáculo no meu fluxo de trabalho.
• Reconheceu uma “falha crítica de integridade de dados”.
• Mencionou “limitações técnicas que [seus] desenvolvedores no Google buscam mitigar constantemente”.

O prompt que gerou a alucinação do Gemini e os perigos de uma IA imatura

Nota: Somente a primeira interação do quadro abaixo (prompt engineering*) foi comum aos três chatbots de IA (ChatGPT, Plerplexity e Gemini): para que assumissem o papel de editor (“persona”). As demais interações ocorreram apenas com o Gemini, porque foi o único que “encontrou” artigos dentro das exigências determinadas pelo prompt. No texto abaixo, eu omito as fontes dos artigos, seus títulos e URLs.

(*) Prompt engineering: instrução dada à IA para executar uma tarefa.

Minha interação com o Gemini terminou sem resultados positivos, apesar do prompt engineering que eu criei para a tarefa. A expectativa de otimizar meu tempo resultou no contrário: uma perda enorme. E o pior: uma busca manual que fiz nas mesmas 18 fontes revelou artigos que se encaixavam no escopo, ignorados pelo ChatGPT e Perplexity. Pelo menos eles não inventaram conteúdo fictício, como o Gemini em clara alucinação.

Em retrospecto, o comportamento persistente do Gemini em fornecer dados falsos é alarmante, porque demonstra os riscos de uma tecnologia que ainda está em estágio inicial de maturidade, especialmente pela disseminação de informações falsas e não verificadas – que podem afetar as pessoas que confiam cegamente nas respostas fornecidas pela inteligência artificial.

Sobre o autor
Fernando Oliveira é o fundador e editor da Sustenare News. Ele fez universidade na Califórnia, onde morou por dez anos, durante os quais trabalhou para empresas de tecnologia e do ramo editorial. Fernando é Doutor em Energia pela Universidade de São Paulo (USP), pós-graduado em Educação, e graduado em Administração de Empresas e em Ciência da Computação.