Opinião | A internet está quebrando – mas não é tarde demais para melhorá-la

Há sinais por toda parte de que a internet está piorando. Considere apenas alguns exemplos recentes: 

Oprah Winfrey avisado fãs que ela não estava vendendo sal rosa ou gomas para perder peso na internet, nem havia bloqueado os evacuados do tsunami de uma rota de fuga perto de sua propriedade no Havaí. Além de mim, está em todo lugar, ela disse. Uma amiga recebeu uma mensagem desesperada supostamente de seu filho – mas não foi. Outra amiga ouviu o que parecia exatamente com a voz de sua filha pedindo dinheiro. Não era a filha dela – era a IA. 

Em Minnesota, o bispo católico romano Robert Barron disse aos seguidores via YouTube que na verdade ele não havia sido convocado a Roma (presumivelmente para disciplina) nem estava dando conselhos sobre como remover demônios de um banheiro. Essas afirmações falsas foram compartilhadas por meio de vídeo gerado por IA. Estes são fraudadores, disse Barron. O que eles estão fazendo é ganhar dinheiro com essas coisas porque as monetizam por meio de anúncios.

Em Nova Jersey, os parentes enlutados de um aposentado de 76 anos contado Reuters como ele foi convidado para ir à cidade de Nova York por um chatbot de IA sedutor chamado Big sis Billie – um chatbot Meta que afirmava ser real e queria conhecê-lo. Correndo para pegar um trem, ele caiu e bateu a cabeça. Ele morreu três dias depois. 

christopher schwarzenegger irmãos

Observei estas tendências de perto como diretor da Rede Internacional de Verificação de Fatos, um grupo que incentiva o jornalismo de verificação de factos em todo o mundo, e vejo o medo crescente do público de que tudo o que vê na Internet seja falso e que os marcadores antiquados de precisão e autenticidade estejam a desaparecer.  

Mas, por pior que seja, ainda há esperança: pessoas sérias ainda documentam problemas e procuram soluções, desde verificadores de factos desconexos a académicos credenciados e a membros do Congresso. Não precisamos deixar a Internet cair nas garras de fraudadores, vigaristas e campanhas de propaganda. Cada vez mais há sinais de um terreno comum para as pessoas reagirem. 

Vale a pena revisar como chegamos aqui. Desde o início dos anos 2000, um punhado de grandes empresas sediadas nos EUA dominaram a Internet de hoje: Meta Google X Apple Amazon Microsoft e OpenAI. Não muito tempo atrás, as plataformas impediam regularmente que a fraude se espalhasse quando confrontada com má publicidade e indignação pública através de uma variedade de ferramentas e políticas de moderação. 

O ambiente mudou drasticamente após a eleição do Presidente Donald Trump. Enquanto Trump e os seus aliados enquadravam a sua pressão como plataformas de combate à censura, já estavam a reconsiderar os custos de moderação e a exposição. No início deste ano, a Meta anunciou que estava encerrando seu programa de verificação de fatos terceirizado nos Estados Unidos – um programa que permitia que organizações de verificação de fatos identificassem alegações falsas e as rotulassem (e não as eliminassem). A empresa alegou que estava a promover a liberdade de expressão, mas o efeito prático foi remover uma das suas verificações substanciais sobre a desinformação viral. Posteriormente, perguntaram a Trump se Mark Zuckerberg, da Meta, encerrou o programa porque Trump o ameaçou; Trunfo disse Provavelmente. 

Estas dinâmicas também fazem parte da política externa dos EUA agora; a administração Trump está a pressionar governos estrangeiros para enfraquecerem as suas regulamentações tecnológicas. O Brasil fornece um exemplo claro. Trump impôs altas tarifas ao país, embora o Brasil importe mais dos EUA do que exporte. Ele citou duas razões: oposição ao processo do Brasil contra seu aliado político Jair Bolsonaro – um ex-presidente que enfrenta acusações relacionadas ao uso de mídias sociais por seus apoiadores para espalhar alegações de fraude eleitoral após sua derrota em 2022 – e oposição às ordens judiciais do Brasil que exigem que as empresas de mídia social removam determinados conteúdos. O governo ameaçou Alexandre de Moraes, juiz do Supremo Tribunal Federal, com sanções normalmente reservadas a violadores dos direitos humanos.

Outras democracias também são alvos. O Departamento de Estado sugeriu que poderia restringir os vistos de viagem para funcionários da União Europeia por trás de regulamentações tecnológicas e recentemente instruiu os funcionários consulares a negar vistos a indivíduos que trabalharam na verificação de factos, moderação de conteúdo e confiança e segurança. (O IFCN emitiu uma declaração opondo-se à orientação.) Na Coreia do Sul, a administração opõe-se a novas regulamentações sobre monopólios de plataformas tecnológicas. Trump postou em setembro que se oporia a toda e qualquer regulamentação estrangeira sobre empresas de tecnologia dos EUA. Estas disputas diferem dos conflitos comerciais tradicionais sobre mercadorias – em vez disso, a administração está a usar a pressão económica para impedir que os governos democráticos regulem as empresas que operam dentro das suas fronteiras.

jayr tinaco

Nos EUA, o recuo das plataformas tecnológicas em termos de moderação e segurança já está a gerar consequências que talvez não tenham previsto. As marcas de tecnologia em geral receberam classificações mistas em um recente Enquete Axios Harris que mediu a reputação corporativa com Meta e X apresentando desempenho excepcionalmente ruim. Candidatos políticos nas últimas eleições fizeram campanha e venceram com mensagens anti-tecnologia, incluindo Abigail Spanberger, da Virgínia, comprometendo-se a controlar os centros de dados, Mikie Sherrill, de Nova Jersey, promovendo a segurança infantil online, e Zohran Mamdani, da cidade de Nova Iorque, criticando o preço algorítmico dos bilhetes para jogos de futebol do Campeonato do Mundo. 

Houve até um rompimento de acordo bipartidário nos corredores do Congresso, onde muitas ideias para conter o excesso de tecnologia estão ganhando patrocinadores de ambos os partidos. Os senadores Josh Hawley e Richard Durbin, por exemplo, acham que as pessoas deveriam poder processar empresas de IA se os seus produtos causarem danos. Eles apenas introduzido a Lei bipartidária de Alinhamento de Incentivos para Excelência de Liderança e Avanço no Desenvolvimento (AI LEAD) em setembro. Quando um carrinho de brinquedo com defeito quebra e fere uma criança, os pais podem processar o fabricante. Por que a IA deveria ser tratada de forma diferente? disse Hawley ao anunciar a legislação. 

Que tal exigir que as plataformas removam pornografia de vingança deepfake? Essa realmente se tornou lei este ano com a Lei TAKE IT DOWN da senadora Amy Klobuchar, co-patrocinada pelo senador republicano Ted Cruz. A aprovação da Lei TAKE IT DOWN é uma grande vitória para as vítimas de abuso online – dando às pessoas proteções legais e ferramentas para quando suas imagens íntimas, incluindo deepfakes, são compartilhadas sem o seu consentimento e permitindo que as autoridades responsabilizem os perpetradores, disse Klobuchar. Entra em vigor em 2026.

Senador Mark Warner reintroduzido sua Lei ACCESS em maio para permitir que as pessoas levem suas redes de mídia social para outra plataforma, tornando mais fácil para plataformas mais novas e mais fáceis de usar competirem com os gigantes consolidados. Hawley e o senador Richard Blumenthal co-patrocinaram. A ideia é tornar mais fácil para as startups desafiarem as grandes tecnologias, dando aos usuários mais controle sobre seus próprios dados.

A pesquisa sobre a dinâmica dos algoritmos também continua e segue em direções novas e convincentes. Durante anos, quando as pessoas me perguntaram quanta desinformação existe nas redes sociais, tive de dar a resposta desanimadora de que não havia uma maneira real de medi-la. Mas agora graças ao Projeto SIMODS (​​Indicadores Estruturais para Monitorar Cientificamente a Desinformação Online) Posso dar uma resposta muito mais informativa. O projeto usou IA para coletar amostras científicas de postagens em diferentes plataformas e, em seguida, revisores humanos categorizaram as postagens para determinar quanto conteúdo impreciso aparecia na amostra. Os resultados foram fascinantes: percentagens mais elevadas de desinformação foram encontradas no TikTok (20%), Facebook (13%) e X (13%), seguido pelo YouTube (8%), Instagram (8%) e LinkedIn (2%). 

phinnaeus moder

Em seguida, os pesquisadores se aprofundaram para examinar se a desinformação tinha maior probabilidade de se tornar viral. Em outras palavras, os algoritmos recompensaram o conteúdo falso em vez do conteúdo verdadeiro? Acontece que as contas que partilhavam repetidamente desinformação atraíram mais envolvimento por publicação do que contas credíveis em todas as plataformas, exceto no LinkedIn. Os rácios de desinformação viral foram mais elevados no YouTube e no Facebook, onde os malfeitores conseguiram gerar um envolvimento oito vezes e sete vezes maior, respetivamente; foi cinco vezes mais provável no Instagram e X e duas vezes mais provável no TikTok. 

Os investigadores foram financiados apenas para estudar quatro países (França, Espanha, Polónia, Eslováquia) na Europa, mas o método poderia ser facilmente repetido para os Estados Unidos e as implicações são importantes e merecem um estudo mais aprofundado. Olhando para os números acima, fico pensando se uma plataforma como o TikTok é mais permissiva ao permitir que as pessoas postem conteúdo impreciso, mas faz um trabalho muito melhor do que seus concorrentes para evitar que se torne viral. Também há implicações a serem reveladas sobre o LinkedIn – a maneira como ele favorece pessoas reais ou empresas que postam em seus próprios nomes torna as postagens mais precisas? Certamente parece que sim.

A questão é que estas empresas podem melhorar e investigadores independentes podem ajudar a sugerir reformas em benefício dos utilizadores quotidianos. Ultimamente, as plataformas têm vendido dados a anunciantes, corretores de dados e sistemas de inteligência artificial, ao mesmo tempo que restringem o acesso dos investigadores a esses mesmos dados. Para reverter essa tendência, o Instituto Knight-Georgetown liderou um projeto chamado Melhor acesso para o qual contribuí. O projeto estabelece padrões uniformes entre plataformas para dar aos pesquisadores acesso a publicações públicas de alto perfil. Com melhor acesso, os investigadores poderiam enfrentar todo o tipo de projetos, como estudar como as fraudes no setor da saúde se espalham ou medir se as plataformas realmente aplicam as suas próprias políticas de forma igualitária. Estes estudos são quase impossíveis agora, mas cruciais para a responsabilização.

Finalmente, embora a Meta tenha interrompido o programa de verificação de factos nos Estados Unidos, parece que continua no resto do mundo. Os esforços regulatórios na Europa, Brasil e Coreia do Sul, não vão desaparecer; as propostas baseiam-se na ideia de que a fraude e os boatos não podem ser eficazmente combatidos apenas instando as pessoas a serem mais cuidadosas e a pensarem antes de partilharem. Atos individuais de prevenção não são escaláveis ​​em relação ao poder dos algoritmos da Internet. 

Todos estes esforços sugerem um forte desejo de mudanças significativas para que não nos dirijamos para um mundo que é indiferente à própria realidade - um mundo onde os pais têm de se perguntar se aquele é realmente o seu filho a pedir ajuda, onde o clero passa tanto tempo a desmascarar versões de IA de si próprios como a servir o seu rebanho ou onde um reformado solitário pode ser atraído para a morte por um chatbot.

filha do dennis rodman

A investigação europeia revelou algo crucial: o seu estudo sugere que as escolhas de design são extremamente importantes. Ao exigir identidades reais e favorecer perfis profissionais autênticos, por exemplo, o LinkedIn criou um ambiente onde a precisão é uma norma. Que outras lições poderíamos aprender com mais estudo? 

A internet não está quebrada por natureza. É quebrado por escolhas que priorizam o envolvimento viral em detrimento da precisão que recompensam maus atores anônimos que tratam a desinformação como um custo aceitável para fazer negócios. Decisões diferentes poderiam produzir resultados dramaticamente diferentes. Estes não são problemas insolúveis. São escolhas e podemos insistir em escolhas melhores.