As pessoas usaram IA para fazer dezenas de homenagens falsas de celebridades a Charlie Kirk. Milhões acreditaram neles

Três dias depois de Charlie Kirk ter sido assassinado publicamente, um vídeo apareceu no YouTube anunciando a estreia do último single da cantora e compositora Adele, um grande tributo ao legado do ativista conservador.

Descanse em paz Charlie Kirk! uma voz que parecia um pouco com a de Adele cantou durante um  vídeo  mostrando Kirk com sua filha. Os anjos cantam seu nome. A tua história está escrita nas estrelas, um fogo que não se apaga.

De acordo com postagens no YouTube, as homenagens às celebridades foram abundantes. Eles vieram de Ed Sheeran Eminem Taylor Swift Celine Dion Lady Gaga Rihanna Post Malone Dax Lil Wayne Jelly Roll Selena Gomez Justin Bieber e Imagine Dragons.

Mas nenhum deles era real. Todos eles foram gerados usando inteligência artificial. E muitas vezes apresentavam imagens falsas em miniatura que mostravam os artistas em lágrimas ou com expressões tristes.

O PolitiFact analisou 24 vídeos do YouTube que alegavam mostrar canções de tributo dedicadas a Kirk. Juntos, esses vídeos obtiveram mais de 4,6 milhões de visualizações e alguns foram compartilhados em outras plataformas.

Duas canções de tributo a Charlie Kirk foram atribuídas a Ed Sheeran. Mas eles foram feitos com IA. (Captura de tela/YouTube)

Um foi carregado no dia do assassinato de Kirk, ilustrando a velocidade com que os criadores podem gerar músicas relacionadas a um grande evento.

Quase todos os vídeos continham isenções de responsabilidade dizendo que continham conteúdo alterado ou sintético, mas muitos espectadores deixaram comentários que mostram que acreditavam que essas músicas eram reais.

Obrigado, Justin escreveu um comentarista que pensou que ela estava respondendo a Bieber.

Não esperava isso de Bieber escreveu outro.

Comentários em um vídeo do YouTube intitulado Justin Bieber – Sentiremos falta de Charlie Kirk (uma homenagem a Charlie Kirk). A música foi feita com IA. (Captura de tela/YouTube)

Os tributos musicais parecem ter levado uma banda completa por semana em um estúdio, disse Bryan Pardo, professor de ciência da computação da Northwestern University e chefe do Laboratório de Áudio Interativo. É por isso que as pessoas acreditam neles.

A maioria das pessoas não percebe o quão longe chegou o conteúdo gerado por IA, disse ele.

Especialistas dizem que as ferramentas de IA podem imitar razoavelmente as vozes dos artistas, especialmente quando o ouvinte não passa muito tempo ouvindo esses artistas. Mas existem maneiras de identificar anormalidades sonoras típicas do uso de IA.

As ferramentas podem gerar músicas rapidamente com base em instruções simples, mesmo aquelas semelhantes ao estilo de um artista

Geradores de música AI, como Suno e Udio, são treinados usando um vasto conjunto de músicas existentes. Com um breve aviso do usuário, eles criam novas músicas de forma rápida e econômica.

PolitiFact testou.

Faça uma música sobre o luto pela morte repentina de uma figura inspiradora na política no estilo de Taylor Swift que escrevemos nas instruções para as contas gratuitas de Suno e Udio. As ferramentas rejeitaram as solicitações alegando que não têm permissão para gerar a imagem de um artista.

Tentamos novamente usar uma linguagem mais genérica: fazer uma música sobre o luto pela morte repentina de uma figura inspiradora na política, no estilo de uma cantora pop de 35 anos com um grupo demográfico jovem principalmente feminino.

Ambas as ferramentas produziram músicas em poucos instantes – duas músicas diferentes por prompt.

(Captura de tela/Áudio)

Isso não deixa os músicos felizes. Grandes empresas musicais, incluindo Sony Music Entertainment Universal Music Group e Warner Records através da Recording Industry Association of America  processado  ambas as plataformas de IA em junho de 2024, acusando-as de usar música protegida por direitos autorais para treinar suas ferramentas de IA.

Suno disse em processo judicial que o modelo foi treinado usando dezenas de milhões de gravações, mas argumentou que o processo constitui uso justo.

Artistas incluindo Imagine Dragons Katy Perry Nicki Minaj e Stevie Wonder  argumentou em uma carta de 2024 que  treinar bots de IA no trabalho dos artistas degradará o valor do nosso trabalho e nos impedirá de sermos compensados ​​de forma justa por isso.

Devemos nos proteger contra o uso predatório de IA para roubar vozes e imagens de artistas profissionais, violar os direitos dos criadores e destruir o ecossistema musical, dizia a carta.

Essas ferramentas usam tecnologia semelhante à usada pelo ChatGPT, disse Tom Collins, professor associado de tecnologia de engenharia musical da Universidade de Miami. Esses modelos são treinados em grandes conjuntos de dados com o objetivo de produzir uma linguagem semelhante à humana.

As letras e a instrumentação dos vocais podem revelar pistas generativas de IA

Alguns  IA   artistas  ganharam seguidores e pelo menos um artista de IA  garantiu um contrato de gravação .

Através de comentários em vídeo como os das músicas de tributo, os fãs às vezes mostram que não percebem que estão ouvindo música criada por IA.

Esses modelos estão definitivamente no estágio em que, se você não conhece as capacidades líricas de um artista ou a qualidade de sua voz, com base no fato de você ter ouvido várias horas no início ou recentemente em sua vida, acho que você pode ser enganado com relativa facilidade, disse Collins.

Então, quais são algumas dicas que as pessoas podem ouvir?

O professor de ciência da computação e engenharia da Universidade Siwei Lyu em Buffalo disse que tocar a música em loop por algumas rodadas pode revelar algumas anormalidades. Os vocais, por exemplo, podem soar excessivamente suaves ou robóticos, conter padrões de respiração incomuns, ter consoantes borradas ou vibrato irregularmente regular, disse ele. Lyu analisou as músicas sem isenções de responsabilidade de IA e encontrou elementos sintéticos no áudio, incluindo mudanças repentinas na qualidade e clareza vocal.

Por exemplo, um tributo a Kirk  canção  falsamente atribuído a Dax e Lil Wayne começa com uma qualidade vocal baixa antes de mudar para um som mais alto e claro, disse Lyu. Ele também detectou mudanças na clareza da voz nos carimbos de data/hora 0:46 e 0:56.

Lyu e Collins disseram que a mixagem vocal e de instrumentação pode não ser tão nítida quanto na versão de estúdio de uma faixa real.

Collins comparou a criação de música de IA com a geração de imagens: se você gerou a imagem de uma pessoa, talvez essa pessoa tenha seis dedos ou dois dedos que estão meio derretidos. Esse tipo de fusão ou turvação, o equivalente em áudio disso, são como notas individuais que não parecem realmente ser uma nota de guitarra ou piano, mas algo intermediário.

As letras geradas por IA costumam ser genéricas e podem ter mudanças abruptas na qualidade, disse Lyu. Os esquemas de rima podem ser muito regulares, a linguagem pode ser clichê e a música também pode não ter a nuance emocional normalmente encontrada em apresentações reais.

Collins disse que as letras geradas por IA são tipicamente estereotipadas e simplistas, pois visam cumprir as instruções do prompt. Uma sugestão sobre luto pode produzir letras que contenham as palavras velas e céu.

A análise do GPTZero encontrou 98% de chance de que a letra de um dueto de tributo supostamente feito por Adele e Ed Sheeran tenha sido gerada por IA. (Captura de tela/GPTZero)

Collins disse que espera que essas ferramentas se tornem mais sofisticadas, produzindo música que seja menos facilmente identificável como IA. Se avançarmos mais alguns anos, posso imaginar que a aproximação do mimetismo seria muito melhor e seria ainda mais difícil para mim contar a Collins, disse.

Política do YouTube a partir de  2023  exige que os criadores divulguem quando criaram conteúdo alterado ou sintético que seja realista, incluindo o uso de ferramentas de IA. Se os criadores não divulgarem essas informações, seu conteúdo poderá ser removido do Programa de Parcerias do YouTube ou enfrentar outras penalidades.

Em muitas das canções de tributo, essa divulgação não é exibida com destaque; ele está oculto na descrição do vídeo e não será visto no desktop, a menos que o espectador clique mais.

Há uma responsabilidade nas plataformas de streaming que elas não estão realmente cumprindo quanto à verificação, disse Collins.

Esta verificação de fatos foi originalmente publicado por PolitiFact que faz parte do Instituto Poynter. Veja as fontes para esta verificação de fatos aqui .

heidi berry