Você abre o Google Discover esperando uma notícia interessante e, sem saber, cai em um site que simula ser um veículo de imprensa. O texto parece bem escrito, mas o autor não existe. A cena é mais comum do que parece.
Uma investigação inédita, conduzida pelo repórter investigativo Jean-Marc Manach para o site Next.ink, identificou mais de 15 mil sites falsos gerados com inteligência artificial. Em muitos casos, os textos trazem a assinatura de jornalistas que nem existem. O trabalho ajuda a entender um desafio ao ecossistema de informação que se aprofundou com a chegada da IA generativa.
Como os sites falsos com IA funcionam?
O levantamento mostra sites que simulam ser veículos de imprensa para publicar notícias produzidas com IA ou reescritas a partir do conteúdo de terceiros. A maioria, segundo a pesquisa, nem é dedicada a promover desinformação. O principal objetivo é lucrar com publicidade digital e o tráfego que vem do Google Discover, sistema de recomendação de conteúdo da big tech.
Manach chegou a identificar dois casos de editores de sites falsos que lucraram mais de US$ 2 milhões (R$ 10 milhões) em três meses dessa forma.
Quem está por trás desses sites?
A pesquisa aponta que o fenômeno é liderado por profissionais especializados em SEO (otimização de mecanismos de busca). Segundo o levantamento, 75% desses sites são controlados por menos de 300 operadores, em sua maioria empreendedores individuais ou pequenas empresas. Cerca de cem administram redes de páginas falsas com mais de 20 domínios cada, e alguns chegam a controlar centenas ou milhares de sites.
O impacto no jornalismo profissional
O problema se estende também a empresas de mídia tradicionais, que promoveram cortes de pessoal e passaram a recorrer à IA para ampliar a produção de conteúdo. Há o caso de um autor falso que chegou a publicar cerca de 500 textos por dia, muitos versões da mesma notícia, para aumentar as chances de recomendação em plataformas como Google Discover e MSN.
"A concorrência desses sites falsos é profundamente desleal para o jornalismo profissional", diz Samira Castro, presidente da Fenaj (Federação Nacional dos Jornalistas). "Enquanto veículos comprometidos com o interesse público investem em apuração e equipes qualificadas, esses sites se aproveitam da arquitetura das plataformas digitais para capturar audiência com conteúdos enganosos."
A escala do problema: números que impressionam
Em certa fase do levantamento, 20% dos mil sites melhor ranqueados no Google Discover eram fruto de inteligência artificial. No Google News, a participação de páginas do tipo entre os 120 principais sites de tecnologia chegava a um terço.
Os dados da pesquisa de Manach superam em muito os números de um dos principais levantamentos usados como referência, o da NewsGuard, empresa americana fundada por jornalistas. Em um monitoramento global desde 2023, a NewsGuard identificou 3.749 sites do tipo em 16 idiomas.
Como os pesquisadores identificaram esses sites?
A equipe não utilizou detectores automáticos de IA, por considerar tais ferramentas pouco confiáveis. Em vez disso, recorreu a técnicas de investigação digital e ao uso de fontes abertas, cruzando indícios como o volume e a velocidade de publicação atribuídos a um mesmo autor, a existência real ou não dos jornalistas, e os responsáveis legais pelos sites.
O alcance das páginas falsas
Dados da empresa francesa Médiamétrie reunidos em dezembro, quando havia cerca de 250 sites assim identificados, mostraram que as páginas tinham alcançado um quarto da população francesa. Três meses depois, o dado saltou para 40% dos habitantes do país.
Como se proteger: a extensão que alerta
A equipe optou por não tornar pública a lista de sites enganosos, para evitar que a base seja explorada pelos responsáveis. Em vez disso, incorporaram os domínios a uma extensão gratuita disponível no Google Chrome, Edge e Firefox chamada "Alerte sur les sites GenAI" (alerta para sites de IA generativa).
"É fundamental que se estabeleçam regras de transparência para as plataformas e os sistemas de IA, incluindo a identificação de conteúdos gerados artificialmente", afirma Samira Castro, da Fenaj. "Também é necessário responsabilizar economicamente as grandes plataformas e as empresas de IA, que hoje concentram as receitas e utilizam conteúdo jornalístico para treinar seus modelos."
Perguntas Frequentes
O que são sites falsos com IA?
São páginas que simulam ser veículos de imprensa, mas publicam textos gerados por inteligência artificial, muitas vezes com assinatura de jornalistas que não existem.
Qual o principal objetivo desses sites?
A maioria busca lucrar com publicidade digital e o tráfego do Google Discover, não necessariamente promover desinformação.
Como identificar um site falso?
Desconfie de volumes muito altos de publicação por um mesmo autor, ausência de informações sobre a equipe e domínios suspeitos.
Existe uma extensão para me proteger?
Sim, a extensão "Alerte sur les sites GenAI" está disponível para Chrome, Edge e Firefox e alerta ao acessar páginas identificadas na investigação.
A investigação revelou quantos sites?
Foram identificados mais de 15 mil sites falsos gerados com inteligência artificial, principalmente em francês, mas também 1.500 em inglês e 200 em alemão.
Quem conduziu a investigação?
O trabalho foi conduzido pelo repórter investigativo Jean-Marc Manach para o site Next.ink.
