A IA é uma máquina de lavar identidade
Por Tai Nalon — Aos Fatos | Valorize o que é real
A jornalista Renata Vasconcellos está na bancada do Jornal Nacional. Com a voz e a expressão habituais, anuncia que o ministro do Supremo Tribunal Federal André Mendonça pediu a prisão preventiva de seu par, Alexandre de Moraes.
Nada disso aconteceu.
A imagem foi retirada de uma edição real do telejornal, mas a voz foi fabricada por inteligência artificial. O pedido de prisão jamais existiu — e, segundo especialistas ouvidos pelo Aos Fatos, nem poderia ser apresentado daquela maneira por um ministro contra outro integrante do Supremo. Estamos diante de uma mentira fabricada.
No mesmo dia, Aos Fatos encontrou outra falsificação da mesma natureza. Desta vez, Renata Vasconcellos anunciava no JN que Mendonça havia tornado Lula inelegível. Essa decisão, porém, nunca existiu.
Há anos alertamos sobre a banalização do uso da inteligência artificial generativa, de que suas potencialidades não se resumem a experiências episódicas de visualização de deepfakes e de imputação a pessoas de atos nunca executados. Neste caso, o que foi falsificado não foi apenas a voz da âncora de um telejornal, mas todo o sistema de validação social que o jornalismo representa.
Ambas as mentiras diziam que uma instituição jornalística havia apurado certos acontecimentos – que nunca existiram –, que profissionais haviam confirmado a informação – o que nunca ocorreu – e que uma emissora colocava sua reputação a serviço daquela afirmação – o que também é falso. Tudo isso sem prejuízo para ninguém, já que é possível repetir essa fórmula ad infinitum sem que plataformas estabeleçam controles sistêmicos para sua geração e distribuição.
Nos últimos meses, investigações do Aos Fatos mostraram que a IA generativa começou a capturar, um a um, formatos usados pelo jornalismo para representar a realidade.
Em fevereiro, um levantamento dos Aos Fatos encontrou 15 vídeos que simulavam telejornais no TikTok. Juntos, acumulavam cerca de 13 milhões de visualizações. Havia apresentadores de terno e gravata, bancadas, cenários azuis e tarjas de “urgente”.
As “reportagens” anunciavam desde mudanças inexistentes no Bolsa Família até mortes de crianças e crimes sem qualquer registro verificável. A aparência de notícia conferia autoridade à invenção e depois convertia essa autoridade em engajamento.
Há algumas semanas, o Aos Fatos identificou outra modalidade de captura. Em pelo menos 50 vídeos publicados no TikTok, repórteres entrevistavam eleitores nas ruas sobre a disputa presidencial. Jovens explicavam por que votariam em Lula. Idosos defendiam Flávio Bolsonaro. Beneficiários de programas sociais relatavam como determinadas políticas haviam mudado suas vidas.
Nem os repórteres nem os eleitores existiam.
Os vídeos, que acumulavam 7,4 milhões de visualizações, reproduziam o “povo fala”, formato usado pelo jornalismo para recolher opiniões de cidadãos comuns. Em 18% das publicações analisadas, não havia sequer indicação do uso de IA.
Ao serem apresentados como pessoas encontradas na rua, esses personagens fabricam a impressão de que determinado sentimento existe espontaneamente na sociedade.
Um eleitor artificial elogiando Lula ajuda a criar um cenário imaginário sobre os efeitos de uma política pública. Uma moradora sintética do Nordeste, cercada por lixo e dizendo votar no PT porque não quer trabalhar, reforça estereótipos e estigmas ao redor do processo de decisão do voto. Uma idosa inexistente defendendo Flávio Bolsonaro produz a aparência de uma adesão popular que não se replicou no mundo real.
A fraude não está somente no conteúdo dos depoimentos, mas na fabricação de um fato social por meio de um formato que tradicionalmente ajuda as pessoas a entender a realidade.
Sabemos que a captura da autoridade não se restringe ao jornalismo. Falsos médicos gerados ou manipulados por IA vêm há anos prometendo curas milagrosas e recomendando produtos sem eficácia comprovada nas plataformas digitais.
Drauzio Varella é um alvo recorrente. Sua imagem, seu nome e sua voz já foram usados em anúncios de supostos tratamentos para diabetes, dores e obesidade. O médico relata que dificilmente passa uma semana sem receber um novo vídeo fraudulento e que já foi abordado por pessoas perguntando por que o “remédio dele” não funcionou. O próprio portal de Drauzio documentou a recorrência desses golpes.
Nesta semana, a atriz Fernanda Montenegro também denunciou que sua imagem e sua voz haviam sido usadas em um falso anúncio. Na gravação, a atriz aparecia como usuária de um produto que prometia curar Alzheimer e aliviar dores, ao lado de um suposto médico. Fernanda classificou o anúncio como criminoso e perigoso.
A lógica é a mesma: extrair a confiança acumulada por uma pessoa ou profissão e transferi-la para a lata do lixo digital.
Há, porém, uma particularidade na captura do jornalismo. Foram jornalistas que avisaram que há falsos médicos vendendo falsas curas por aí – na falta de qualquer outro mecanismo confiável de segurança da informação. A apropriação recorrente do formato para enganar pessoas pode criar, no longo prazo, um problema impossível.
Embora haja uma estética mais ou menos uniforme no jornalismo tradicional, com bancadas, vinhetas e demais signos que a convenção profissional associou ao ofício, não são eles sozinhos que conferem credibilidade ao formato. Esses elementos são os sinais visíveis de uma estrutura que engloba profissionais identificáveis, procedimentos de apuração, edição, correções públicas e – espanto! – responsabilidade jurídica.
Os conteúdos sintéticos preservam a casca e descartam o processo. Apropriam-se da autoridade produzida pelo jornalismo sem arcar com os custos da apuração nem com a obrigação de responder pelo que publicam.
Desse modo, as ferramentas de IA viram uma lavanderia de identidade: uma alegação sem qualquer evidência entra numa máquina e sai vestida de notícia.
A escala agrava o problema. Produzir um telejornal exige pelo menos um estúdio, câmera, luzes e profissionais de formações diversas. Simular dezenas de entrevistas demandaria deslocar uma equipe e encontrar pessoas dispostas a falar. Hoje, uma única pessoa pode fabricar apresentadores, repórteres e cidadãos em série e desmantelar uma cadeia produtiva inteira com o objetivo de fazer o oposto ao que a profissão se propõe.
A mentira se tornou barata e infinitamente variável, mas sua verificação continua cara.
Para desmentir os vídeos sobre Moraes e Lula, o Aos Fatos precisou consultar documentos em tribunais, ouvir especialistas, localizar gravações originais e analisar os áudios. Também teve que lidar com o fato de que as ferramentas de detecção ainda oferecem respostas imperfeitas e contraditórias. No vídeo sobre a suposta inelegibilidade de Lula, uma delas indicou alta probabilidade de clonagem da voz de Renata Vasconcellos, mas, sozinha, não demonstrou certeza.
A falta de ferramentas confiáveis evidencia a precariedade da tarefa transferida ao público. O usuário recebe um vídeo recomendado pela plataforma, precisa perceber que há algo errado, escolher um detector, interpretar probabilidades e decidir em qual sistema confiar — tudo isso antes que comece o próximo vídeo.
Além disso, detectar IA não é o mesmo que verificar informação. Um conteúdo sintético pode transmitir um fato verdadeiro, enquanto uma gravação real pode conter afirmações inverídicas ou usar imagens fora de contexto. É, ainda, uma forma de enganação bastante frequente. No entanto, um detector negativo não prova autenticidade, assim como um resultado positivo não demonstra, sozinho, que o conteúdo da mídia sintética, a alegação trazida nela, seja falsa.
A solução não pode depender apenas de sistemas que tentam adivinhar, depois da distribuição, se determinados pixels vieram de uma máquina. É preciso tornar visível a procedência: quem publicou, de onde vieram as imagens, o que foi manipulado e onde pode ser encontrada a versão original.
Isso é especialmente urgente nas eleições. Eleitores formam suas opiniões de muitas formas, inclusive a partir da percepção do que outras pessoas pensam. Fabricar adesões e rejeições significa interferir artificialmente naquilo que cada cidadão imagina ser a vontade dos demais.
Não é que a IA generativa tenha superpoderes para suplantar a cognição humana e produzir sozinha uma sociedade fictícia a partir de notícias fictícias sobre fatos fictícios. Só se fala em outra coisa na Central do Brasil. O problema é que, para chegar e sair da Central do Brasil, o usuário de internet tem que tomar várias decisões bem informadas – e eu espero, sinceramente, que sejam boas. É necessário criar condições para isso.
A IA não precisa substituir jornalistas para ameaçar o jornalismo. Basta lavar seu uniforme.
Como se não tivéssemos desafios o suficiente, a Meta anunciou nesta semana o início de um experimento que pretende substituir checadores de fatos profissionais em suas plataformas nos países de língua espanhola da América Latina. Ela quer que seus usuários verifiquem desinformação por conta própria, de graça, como solução para problemas como esses que narrei.
A rede LatamChequea, da qual Aos Fatos faz parte, publicou nesta quinta-feira (10) uma nota sobre o caso, demonstrando preocupação com a adoção desse mecanismo. O Oversight Board da Meta, conselho consultivo independente da empresa, também pediu cautela com a adoção das Notas da Comunidade, além de dados sobre a efetividade da iniciativa em diferentes contextos.
