O Papa Francisco apelou à verdade. A internet respondeu com deepfakes.

O Papa Francisco, que morreu na segunda-feira aos 88 anos, foi um cronista improvável do acerto de contas do mundo com informações falsas online.

Francisco descreveu os danos sociais da desinformação em 2018, rastreando a origem das notícias falsas até às táticas da cobra do Jardim do Éden que levaram ao pecado original.

Não existe desinformação inofensiva; pelo contrário, confiar na falsidade pode ter consequências terríveis, escreveu ele em 24 de janeiro de 2018  para o Dia Mundial das Comunicações . Mesmo uma distorção aparentemente ligeira da verdade pode ter efeitos perigosos.

Francisco aplaudiu a busca jornalística da verdade e apelou a ensinar as pessoas a discernir, avaliar e compreender os nossos desejos e inclinações mais profundos, para não perdermos de vista o que é bom e cedermos a todas as tentações.

lisa thorner

O que não foi dito foi o seu papel de protagonista em conteúdos fabricados e manipulados ao longo da última década, desde a eleição presidencial de 2016, que popularizou o termo notícias falsas, até à imagem do casaco papal que lançou 1 milhão de artigos de reflexão sobre inteligência artificial generativa.

Em 21 de outubro de 2016, menos de três semanas antes da eleição presidencial dos EUA, um site chamado WTOE 5 News  publicou a manchete Papa Francisco choca o mundo endossa Donald Trump para declaração do presidente.

O conto tinha traços que sugeriam jornalismo respeitável – um nome e site que lembrava um veículo de comunicação local uma declaração do Vaticano a assinatura de um jornalista – mas  nada disso era real . O site publicou conteúdo satírico que divulgou em sua página sobre. O contexto falso foi perdido há muito tempo à medida que a história e a manchete viajavam pela web.

A história de endosso falso teve o maior envolvimento de qualquer história eleitoral real ou falsa no Facebook nos últimos três meses da eleição de novembro de 2016  Notícias BuzzFeed relatadas .

Livro do Papa sobre Fake News em frente à Basílica de São Pedro em Roma, quarta-feira, 24 de janeiro de 2018. (AP Photo/Andrew Medichini)

Um ano antes, um site chamado National Report  espalhar uma história falsa  que Francisco apoiou a candidatura democrata do senador Bernie Sanders à presidência. O ciclo de notícias falsas repetiu-se com sites incompletos e publicações virais nas redes sociais que distorceram a mensagem de Francisco.  opiniões sobre armas proclamando que ele disse coma o que quiser na Páscoa e matá-lo com boatos mortais  anos antes  ele morreu.

lou sulola samuel

Em março de 2023  o incitante momento de desinformação papal  foi visual: fotos de Francis saindo com um casaco branco estilo Balenciaga e um boné branco combinando. Somente os espectadores estudiosos notariam o sinal revelador de manipulação da inteligência artificial nas mãos mutiladas da imagem. Foi feito com uma ferramenta generativa de IA Midjourney e  postado no Reddit antes de enganar muitas pessoas.

Muitos dos primeiros a adotar ferramentas de IA generativa visual escolheram Francis como sua musa, colocando o octogenário em situações improváveis, mas reais (andando de motocicleta no Burning Man) The New York Times  relatado . O apelo de Francisco foi o seu reconhecimento generalizado após uma década como papa e a sua acessibilidade combinada com o advento de programas de IA fáceis de usar e prontamente disponíveis.

Os jornalistas esperavam em 2024 cobrir uma eleição de IA dominada por vídeos sofisticados e deepfake que poderiam influenciar os eleitores em uma eleição acirrada. Não foi assim  nós temíamos porque as notícias falsas sobre eleições se basearam principalmente nos mesmos velhos truques. Mas isso não diminui o poder da foto falsa do Papa em abrir os nossos olhos para o que poderia ser.

A chegada de notícias falsas em 2016 marcou uma nova era na integridade da informação na Internet, levando o Facebook (agora Meta) a recorrer à ajuda de verificadores de factos independentes para ajudar a identificar e retardar o alcance de conteúdos falsos. O programa  do qual o PolitiFact participou do começo ao fim  amadureceu à medida que links de sites falsos explodiram em postagens de texto falsas, fotos e vídeos que depois se transformaram em conteúdo manipulado por IA.

Meta encerrou o programa de verificação de fatos de terceiros em 2025, substituindo-o por um sistema de notas da comunidade que depende de envios voluntários de usuários modelados a partir do programa desenvolvido por X. TikTok está fazendo seu  própria versão  embora ainda use verificadores de fatos profissionais.

Na sua mensagem de 2018, Francisco descreveu a responsabilidade dos jornalistas como informadores do mundo para promover reportagens precisas e confiáveis. Ele apelou a todos para promoverem um jornalismo de paz.

Mais do que nunca, o futuro da integridade da informação depende de pessoas comuns que procurem a verdade e forneçam informações correctivas em praça pública.

aaliyah mendes

Veja a mensagem de Francisco:

Os melhores antídotos para as falsidades não são as estratégias, mas as pessoas: pessoas que não são gananciosas, mas dispostas a ouvir, pessoas que se esforçam para travar um diálogo sincero para que a verdade possa emergir; pessoas que são atraídas pela bondade e assumem a responsabilidade pela forma como usam a linguagem.

Esta verificação de fatos foi originalmente publicado por PolitiFact que faz parte do Instituto Poynter.