Table of Contents
A Utilização de Inteligência Artificial por Grupos de Extrema-Direita
Grupos de extrema-direita estão aproveitando a inteligência artificial para disseminar vídeos deepfake de Adolf Hitler e outras imagens pró-nazistas em uma tentativa de gerar simpatia pelo tirano, conforme um relatório recente do Institute for Strategic Dialogue (ISD), uma organização não lucrativa baseada no Reino Unido.
Contexto e Objetivos do ISD
Fundado em 2006, o ISD é uma organização de advocacy político que monitora desinformação e discursos de ódio online. De acordo com seu relatório mais recente, a instituição observou que geradores de voz de IA foram utilizados para criar versões em inglês dos discursos de Hitler, acumulando mais de 50 milhões de visualizações em plataformas como X, YouTube, TikTok e Instagram em 2024.
Desafios das Plataformas de Mídia Social
“As plataformas de mídia social têm lutado há muito com a disseminação de ideologias neonazistas, mas a glorificação direta de Hitler e o revisionismo em torno de seu papel no Holocausto representam uma nova ameaça única,” disse Isabelle Frances-Wright, Diretora de Tecnologia da filial dos EUA do ISD, em declaração ao Decrypt. “A IA amplificou ainda mais essa ameaça, permitindo que atores mal-intencionados disseminassem a retórica de Hitler para um público mais amplo e jovem.”
O ISD relatou que muitos vídeos no TikTok apresentavam clipes de 20 a 30 segundos dos discursos de Hitler em inglês, acompanhados de música de fundo, promovendo mensagens antissemíticas, anti-muçulmanas, anti-imigrantes e de supremacia branca.
A Viralização de Conteúdo Odiador
“Conteúdos odiosos, sejam legais ou não, tendem a se tornar virais na maioria das plataformas de mídia social,” afirmou Ramesh Srinivasan, Professor de Estudos da Informação da UCLA, em uma conversa com o Decrypt.
A partir de agosto, vídeos e publicações sobre Hitler e iconografia nazista acumularam mais de 28,4 milhões de visualizações no X, TikTok e Instagram, informou o relatório.
“Analistas conseguiram detectar facilmente conteúdo no X que provavelmente violava suas políticas, com apenas 11 postagens recebendo mais de 11,2 milhões de visualizações em um período de uma semana,” acrescentou o relatório. “Esse conteúdo estava mais acessível do que em outras plataformas por meio de buscas básicas.”
A Regulação das Redes Sociais e o Papel dos Algoritmos
Em uma atualização de 2023 sobre suas políticas, o X declarou que a plataforma proíbe “conteúdo odioso”, incluindo incitação, insultos, desumanização e imagens odiosas, que abrangem fotos de perfil, nomes de usuário ou biografias de perfil.
“O desafio clássico que tentamos regular é o papel dos algoritmos,” explicou Srinivasan. “Essas regras computacionais se aplicam a todos os dados e postagens, e são treinadas para impulsionar conteúdo que é mais provável de se tornar viral. Como resultado, o conteúdo mais visível é frequentemente o mais prejudicial.”
Consequências e Comportamento de Criação de Conteúdo
Meta, TikTok e Google não responderam imediatamente aos pedidos de comentários do Decrypt.
“Quem está criando o conteúdo provavelmente é uma mistura de provocadores e manipuladores políticos que desejam causar impacto,” disse Srinivasan, referindo-se ao papel da Cambridge Analytica durante a eleição presidencial dos EUA em 2016. “Isso é uma grande parte do que alimenta a internet atualmente.”
“Isso tem efeitos materiais reais, especialmente em lugares sem uma mídia forte,” ele continuou. “Desinformação, discurso de ódio e discursos marginais promovidos por aqueles com seguidores significativos são intencionalmente elaborados para se tornarem virais. Esse tipo de conteúdo capta atenção, mas também está nos dividindo.”
#ExtremaDireitaIA
#DesinformacaoOnline
#IAeIdeologiasNeonazistas
#ConsequenciasdaExtremaDireita
#ConteudoOdiosoOnline
autor original: Jason Nelson
ref:https://decrypt.co/283873/far-right-groups-ai-hitler-deepfakes
