A IA é capaz de gerar imagens indistinguíveis de pessoas reais

• A IA é capaz de gerar imagens indistinguíveis de pessoas reais, mesmo para rostos conhecidos.
• A familiaridade com o rosto ou imagens comparativas ajudam pouco na identificação das imagens falsas.
• Ferramentas como o ChatGPT e DALL-E conseguem criar deepfakes realistas de pessoas reais.
• Os participantes do estudo confundiram rostos fictícios gerados por IA com fotos autênticas – o que mostra que as fotos geradas por IA apresentam alta credibilidade visual.
• Os riscos para o uso indevido são muitos, como a criação de imagens falsas de celebridades em apoio a produtos ou causas políticas.

Um novo estudo revelou que agora a inteligência artificial [IA] é capaz de gerar imagens indistinguíveis de pessoas reais, praticamente impossíveis de diferenciar das fotografias autênticas.

Utilizando os modelos de IA ChatGPT e DALL-E, pesquisadores da Universidade Swansea, da Universidade de Lincoln e da Universidade Ariel, em Israel, criaram imagens altamente realistas tanto de rostos fictícios quanto de pessoas famosas, incluindo celebridades.

Eles descobriram que os participantes do estudo não conseguiam, de forma confiável, distinguir essas imagens das fotos reais — mesmo quando estavam familiarizados com a aparência da pessoa retratada.

Ao longo de quatro experimentos distintos, os pesquisadores observaram que adicionar fotos comparativas ou contar com o conhecimento prévio dos participantes sobre os rostos ajudava apenas de forma limitada.

O estudo acaba de ser publicado na revista Cognitive Research: Principles and Implications, e os pesquisadores afirmam que suas descobertas destacam um nível novo de “realismo deepfake”, mostrando que a IA agora pode produzir imagens falsas convincentes de pessoas reais, o que pode abalar a confiança nas mídias visuais.

O professor Jeremy Tree, da Escola de Psicologia, afirmou: “Estudos já mostraram que imagens faciais de pessoas fictícias geradas por IA são indistinguíveis de fotos reais. Mas, nesta pesquisa, fomos além ao gerar imagens sintéticas de pessoas reais”.

“O fato de ferramentas de IA acessíveis ao público conseguirem fazer isso levanta não apenas preocupações urgentes sobre desinformação e confiança nas mídias visuais, mas também a necessidade urgente de métodos confiáveis de detecção”.

Um dos experimentos, que contou com participantes dos EUA, Canadá, Reino Unido, Austrália e Nova Zelândia, mostrou aos voluntários uma série de imagens faciais, tanto reais quanto geradas artificialmente, e eles foram convidados a identificar quais eram quais. Os pesquisadores afirmam que o fato de os participantes confundirem rostos inéditos gerados por IA com fotos reais indica o quão críveis essas imagens são.

Outro experimento pediu aos participantes que identificassem se conseguiam distinguir fotos genuínas de estrelas de Hollywood, como Paul Rudd e Olivia Wilde, de versões geradas por computador. Mais uma vez, os resultados mostraram a dificuldade que as pessoas tiveram para identificar a versão autêntica.

Os pesquisadores afirmam que a capacidade da IA de produzir imagens novas ou sintéticas de pessoas reais abre diversas possibilidades de uso — e abuso. Por exemplo, criadores poderiam gerar imagens de uma celebridade apoiando determinado produto ou posicionamento político, o que poderia influenciar a opinião pública tanto sobre a identidade quanto sobre a marca ou organização retratada como apoiada.

O professor Tree acrescentou: “Este estudo mostra que a IA pode criar imagens sintéticas de rostos novos e conhecidos que a maioria das pessoas não consegue distinguir de fotos reais. Estar familiarizado com um rosto ou ter imagens de referência não ajudou muito a identificar as falsificações. Por isso, precisamos urgentemente encontrar novas formas de detectá-las.

“Embora sistemas automatizados possam eventualmente superar os humanos nessa tarefa, por enquanto, cabe aos espectadores julgar o que é real”.

Mais informação: Robin S. S. Kramer et al., AI-generated images of familiar faces are indistinguishable from real photographs, Cognitive Research: Principles and Implications (2025). DOI: 10.1186/s41235-025-00683-w

Fonte: Universidade Swansea

Artigo original (em inglês) publicado por Kathy Thomas na TechXplore.

© 2024 Science X Network