O que é preciso considerar ao rotular as imagens geradas por IA

Imagens geradas por Inteligência Artificial (IA) estão amplamente presentes nas redes sociais. De acordo com o Ato de IA da União Europeia (UE), a partir de agosto de 2026 as plataformas digitais serão obrigadas a rotular certos conteúdos desse tipo. Um estudo conduzido pela pesquisadora Sandra Höltervennhoff, do Centro Helmholtz para Segurança da Informação (CISPA), investiga como os usuários percebem tais rótulos de IA e como eles influenciam a credibilidade da informação.

O artigo, de título “That’s another doom I haven’t thought about’: A User Study on AI Labels as a Safeguard Against Image-Based Misinformation“, foi apresentado na Conferência sobre Fatores Humanos em Sistemas de Computação (CHI 2026) e recebeu uma Menção Honrosa.

Imagens geradas por IA desempenham um papel cada vez mais importante na disseminação de desinformação nas redes sociais. Consequentemente, reguladores e empresas em todo o mundo vêm introduzindo rótulos de IA destinados a marcar conteúdo como “gerado por IA”.

Um estudo recente, realizado por pesquisadores do CISPA, da Universidade Ruhr Bochum (RUB) e do Instituto Max Planck, na Alemanha, é o primeiro a examinar de forma abrangente como os usuários reagem a esses rótulos. Os pesquisadores combinaram grupos focais qualitativos com uma pesquisa online em grande escala envolvendo mais de 1.300 participantes dos Estados Unidos e da Europa.

Nos grupos focais, os participantes discutiram suas percepções gerais e a utilidade esperada dos rótulos de IA. A pesquisa online, em contrapartida, teve como objetivo medir seu efeito real na avaliação da informação. “Nós simulamos publicações em redes sociais semelhantes a conteúdo jornalístico”, explica Höltervennhoff, coautora principal do estudo junto com Jonas Ricker, da RUB.

“Os participantes viram uma mensagem de texto acompanhada por uma imagem real ou gerada por IA, além de um texto verdadeiro ou falso. As imagens geradas por IA foram rotuladas adequadamente. Isso resultou em quatro condições que nos permitiram examinar como os rótulos de IA influenciam a percepção”.

Rótulos de IA: Expectativa alta, benefício prático limitado

Os resultados dos grupos focais mostram que os participantes, em geral, percebem os rótulos de IA como uma ferramenta útil para identificar imagens geradas por inteligência artificial e evitar enganos. Todavia, também expressam fortes preocupações quanto à implementação. Questões-chave incluem falta de padronização, provável concentração de poder das plataformas e confiabilidade de soluções técnicas.

Uma preocupação particularmente importante diz respeito aos rótulos incorretos ou ausentes, pois são vistos como um grande risco que podem minar a confiança em todo o sistema. Apesar dessas preocupações, a maioria dos participantes apoia o uso de rótulos de IA.

Os resultados da pesquisa pintam um quadro mais ambivalente. Rótulos de IA podem reduzir a crença em conteúdo falso acompanhado por imagens geradas por IA. Entretanto, eles também produzem efeitos colaterais não intencionais. Os participantes tenderam a depender fortemente da presença ou ausência de um rótulo. Dessa forma, um conteúdo sem rótulo era mais frequentemente percebido como verdadeiro — mesmo quando falso.

Por outro lado, um conteúdo verdadeiro acompanhado de um rótulo de IA era mais frequentemente questionado. No geral, isso reduziu a capacidade dos participantes em distinguir de maneira confiável uma informação verdadeira de uma falsa.

Transparência é apenas um componente no combate à desinformação

As descobertas sugerem que rotular não aumenta simplesmente a “veracidade” do conteúdo, mas altera a forma como as pessoas avaliam a informação. Rótulos funcionam como atalhos cognitivos, pois orientam a atenção e moldam a confiança, frequentemente com mais força do que o próprio conteúdo. Isso desloca a avaliação do conteúdo real para seu rótulo.

“Uma explicação possível disso é que os rótulos de IA geralmente desencadeiam ceticismo”, diz Höltervennhoff. “As pessoas se tornam mais cautelosas, mas não necessariamente mais precisas em seus julgamentos. Além disso, há atualmente um foco social forte em alertar sobre IA, o que pode fazer com que outras formas de desinformação sejam negligenciadas. Ainda assim, a desinformação existia muito antes da IA”. A transparência, portanto, fornece orientação, mas não substitui o engajamento crítico com a informação.

Uma abordagem combinada rumo a um projeto mais eficaz

Para as plataformas digitais, isso representa um desafio claro: sistemas de rotulagem não devem ser apenas tecnicamente confiáveis, mas também projetados para evitar interpretações equivocadas. “A transparência por si só não é o suficiente”, enfatiza Höltervennhoff. “O que importa é como os usuários entendem e usam essa informação. Portanto, os rótulos só podem ser um componente no tratamento de conteúdo que for gerado por IA”.

Para serem eficazes, os rótulos devem ser combinados com medidas adicionais, como campanhas educativas, informação contextual e mecanismos complementares de verificação.

À luz das próximas regulamentações do Ato de IA da UE, o estudo fornece percepções práticas importantes, ou seja, rotular conteúdo gerado por IA não afeta apenas a transparência, mas também molda fundamentalmente como as pessoas percebem a verdade.

Mais informações

Sandra Höltervennhoff et al. “That’s another doom I haven’t thought about”: A User Study on AI Labels as a Safeguard Against Image-Based Misinformation. Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (2026). DOI: 10.1145/3772318.3791006

Fonte: Centro Helmholtz para Segurança da Informação (CISPA)

Artigo original (em inglês) publicado por Felix Koltermann na TechXplore.