Influenciadores pró-Trump gerados por IA inundam redes sociais

Em um vídeo do TikTok, uma loira se filma com um grupo de mulheres em um autódromo. "Se você apoia Trump, acabou de fazer uma amiga", diz ela. Em outro vídeo, é uma morena, desta vez com um grupo em um estádio. "Se você apoia Trump, acabou de fazer uma amiga", diz ela. Em uma terceira postagem, uma ruiva está com um grupo em uma quadra de basquete. "Se você apoia Trump, acabou de fazer uma amiga", diz ela. Cada vídeo traz uma legenda idêntica e gramaticalmente estranha: "Sou nova aqui e amo Deus, a América e Trump!!" Todos são obra de inteligência artificial. Nos meses que antecedem as eleições de meio de mandato nos EUA, marcadas para novembro e que renovam o Legislativo do país, centenas de contas surgem nas redes sociais apresentando influenciadores pró-Trump gerados por IA, postando em ritmo acelerado sobre a "esquerda radical" e a "América em Primeiro Lugar". Elas tendem a aparecer como homens e mulheres comuns —em geral, muito bonitos—, olhando de forma sedutora para a câmera enquanto discorrem sobre a guerra no Irã, aborto ou Bad Bunny. O presidente Donald Trump repostou conteúdo de pelo menos uma dessas contas —um avatar loiro platinado fazendo acusações infundadas sobre o governador da Califórnia. O The New York Times começou a rastrear postagens pró-Maga (sigla do slogan trumpista "Make America Great Again") geradas por IA no TikTok, em janeiro, e descobriu pelo menos 304 contas compartilhando esse conteúdo, algumas das quais já desapareceram. Pesquisadores do Governance and Responsible AI Lab da Universidade Purdue, conhecido como Grail, encontraram mais uma dúzia de contas no TikTok, Instagram e Facebook. Eric Nelson, analista de investigações especiais da Alethea, uma empresa de mitigação de ameaças digitais, identificou outras nove contas no YouTube. Várias contas já acumularam mais de 35 mil seguidores. Algumas das postagens têm mais de 500 mil visualizações. As contas analisadas pelo New York Times não estavam identificadas como geradas por IA. Não está claro quem criou as contas de IA, e determinar se elas são produto de conteúdo contratado, uma operação de influência estrangeira, um experimento ou outra coisa é difícil, disseram especialistas. Todos concordam, no entanto, que criar tais avatares está se tornando mais fácil, especialmente para prestadores de serviços e empresas de marketing que agora se especializam em desenvolver e distribuir avatares de IA em massa por preços cada vez mais baixos. O surgimento dos avatares políticos gerados por IA, disseram os pesquisadores, indica um esforço amplo para fisgar eleitores conservadores, um público preparado pelo presidente e seu círculo para aceitar memes, influenciadores, deepfakes e outras mensagens empacotadas digitalmente. Nem o New York Times nem os pesquisadores consultados encontraram redes semelhantes de tendência esquerdista. O TikTok escreveu em comunicado que conduziu uma análise cuidadosa das 304 contas e não encontrou "nenhuma indicação de operações de influência oculta". A empresa concluiu, em vez disso, que as contas eram spammers tentando explorar engajamento —o que chamou de "uma ocorrência regular infeliz". A plataforma informou ainda que estava em processo de remoção das contas. Em anos eleitorais, a conversa política sempre aumenta na internet, em grande parte impulsionada por bots automatizados, trolls e outras contas inautênticas. Mas agora a IA está dando a esse submundo obscuro um novo rosto —enxames de novos rostos, na verdade, junto de vozes realistas. Muitas das contas estão conectadas, com vários grupos compartilhando imagens e efeitos sonoros idênticos. Os mesmos personagens aparecem em várias contas: uma loira de tranças e vestido esvoaçante em uma fazenda, uma mulher de blusa roxa sentada em uma cadeira de rodas, uma mulher negra com boné vermelho Maga e óculos aviador. Várias das contas se seguem mutuamente. É difícil dizer exatamente quando ou onde as contas foram criadas. Em quase todas elas, o primeiro vídeo foi postado no último ano. A maioria afirma ser de vários estados americanos, mas usa inglês truncado ou com erros gramaticais. Trump é o "presidonte" favorito delas, escreveram nas legendas, pedindo aos espectadores que sigam a conta. As biografias de pelo menos 13 delas apresentam a mensagem "Republicana&Orgulhosa De você apoia Trump me avisa [emoji de bandeira dos EUA] [emoji de coração preto] [emoji de coração branco] [emoji de coração azul] [emoji de bandeira dos EUA]." O avatar de IA repostado por Trump, que tem mais de 51 mil seguidores no TikTok, falava com um forte sotaque estrangeiro em suas duas primeiras postagens, em 15 de janeiro. No dia seguinte, ela adotou um sotaque americano. Avatares de IA já promovem suplementos de bem-estar não comprovados, apresentam programas de notícias repletos de desinformação e dispensam conselhos médicos duvidosos. Na política, a IA pode mudar de forma significativa a opinião dos eleitores. Um grande volume de postagens pró-Maga, misturadas com conteúdo de criadores humanos em um feed de mídia social, poderia preparar o terreno para que os espectadores pensem de forma mais favorável sobre os republicanos e Trump —pulverização em vez de precisão, como disse um especialista. "Eles estão tentando espalhar mensagens políticas e dar uma ilusão de consenso", disse Andrew Yoon, membro da equipe técnica da CivAI, uma organização sem fins lucrativos que educa as pessoas sobre as capacidades e consequências da IA. "Inundar as redes aqui com toneladas e toneladas de vídeos parece voltado a dar uma falsa sensação de opinião majoritária." Schiff, do Grail, disse que algumas das contas podem estar tentando atingir certos públicos fazendo pequenas mudanças nos avatares. O New York Times começou a rastrear uma conta no início de fevereiro, logo depois que ela começou a postar como um avatar moreno de olhos castanhos em um carro. Desde então, a conta publicou 37 vídeos. O avatar se transformou seis vezes; seu cabelo ficou loiro, seus olhos ficaram azuis e assim por diante. Embora a qualidade de algumas das contas beirasse o desleixo, e o engajamento possa estar inflado por atividade de bots, os pesquisadores disseram que os comentários nas postagens sugerem que muitos usuários acreditam que os avatares são pessoas reais. A Meta informou que exige dos usuários, sob ameaça de penalidades, que divulguem quando postagens com conteúdo fotorrealista são feitas ou editadas usando IA. No entanto, observou que conteúdo gerado por IA pode ser difícil de identificar, especialmente à medida que a tecnologia evolui. O YouTube escreveu em comunicado que estava analisando os canais com avatares políticos de IA e estava encerrando aqueles que violavam as políticas da plataforma sobre spam e práticas enganosas. Cada postagem apresentando os avatares pró-Trump provavelmente custa de US$ 1 a US$ 3, de acordo com Zuhair Lakhani, cofundador de uma startup de publicidade de IA chamada Doublespeed. A empresa, que opera bots alimentados por smartphones, gaba-se de que "uma pessoa agora pode orquestrar o que costumava exigir uma equipe de 30 criadores e US$ 40 mil por 10% do custo". Lakhani disse que a Doublespeed recusou trabalhar com campanhas políticas apesar de ter sido procurada por democratas, republicanos e partidos estrangeiros —uma recusa nascida de "uma questão de bússola moral", explicou ele. No entanto, disse, "há muitas empresas por aí que estão aceitando esses contratos". "E esses contratos são honestamente maiores e muito tentadores". O Comitê Nacional Republicano não está envolvido nas contas, de acordo com Zach Parkinson, diretor de comunicações do grupo. Ele disse que as campanhas republicanas deveriam usar todas as ferramentas possíveis em suas disputas, incluindo inteligência artificial, mas enfatizou que a tecnologia "não é uma bala de prata". "Nada substituirá uma mensagem vencedora ou um grande candidato no lado positivo, ou áudio e vídeo reais", disse ele. "A autenticidade ainda reina."