EUA apreendem domínios usados por fazenda de bots russos com tecnologia de IA para desinformação
O Departamento de Justiça dos EUA (DoJ) disse que apreendeu dois domínios de web e vasculhou quase 1.000 contas de mídia social que agentes de ameaças russos supostamente usaram para espalhar secretamente desinformação pró-Kremlin no país e no exterior em grande escala.
“A fazenda de bots de mídia social usou elementos de IA para criar perfis fictícios de mídia social — muitas vezes alegando pertencer a indivíduos nos Estados Unidos — que os operadores então usaram para promover mensagens em apoio aos objetivos do governo russo”, disse o DoJ.
A rede de bots, composta por 968 contas no X, é considerada parte de um esquema elaborado arquitetado por um funcionário do meio de comunicação estatal russo RT (antigo Russia At present), patrocinado pelo Kremlin e auxiliado por um oficial do Serviço Federal de Segurança da Rússia (FSB), que criou e liderou uma organização privada de inteligência não identificada.
Os esforços de desenvolvimento para a fazenda de bots começaram em abril de 2022, quando os indivíduos adquiriram infraestrutura on-line enquanto anonimizavam suas identidades e localizações. O objetivo da organização, segundo o DoJ, period promover os interesses russos espalhando desinformação por meio de personas on-line fictícias representando várias nacionalidades.
As contas falsas de mídia social foram registradas usando servidores de e-mail privados que dependiam de dois domínios – mlrtr(.)com e otanmail(.)com – que foram comprados do registrador de domínio Namecheap. Desde então, o X suspendeu as contas de bot por violar seus termos de serviço.
A operação de informação — que teve como alvo os EUA, Polônia, Alemanha, Holanda, Espanha, Ucrânia e Israel — foi realizada usando um pacote de software program com inteligência synthetic chamado Meliorator, que facilitou a criação e operação “em massa” do referido bot farm de mídia social.
“Usando essa ferramenta, os afiliados da RT disseminaram desinformação para e sobre vários países, incluindo Estados Unidos, Polônia, Alemanha, Holanda, Espanha, Ucrânia e Israel”, disseram agências de segurança do Canadá, Holanda e EUA.
O Meliorator inclui um painel de administrador chamado Brigadir e uma ferramenta de backend chamada Taras, que é usada para controlar as contas que parecem autênticas, cujas fotos de perfil e informações biográficas foram geradas usando um programa de código aberto chamado Faker.
Cada uma dessas contas tinha uma identidade ou “alma” distinta baseada em um dos três arquétipos de bot: aqueles que propagam ideologias políticas favoráveis ao governo russo, como mensagens já compartilhadas por outros bots, e perpetuam desinformação compartilhada por contas de bots e não bots.
Embora o pacote de software program tenha sido identificado apenas no X, análises mais aprofundadas revelaram as intenções dos agentes da ameaça de estender sua funcionalidade para cobrir outras plataformas de mídia social.
Além disso, o sistema passou pelas proteções do X para verificar a autenticidade dos usuários, copiando automaticamente senhas de uso único enviadas aos endereços de e-mail registrados e atribuindo endereços IP proxy a personas geradas por IA com base em sua localização presumida.
“Contas de persona bot fazem tentativas óbvias de evitar banimentos por violações de termos de serviço e evitar serem notadas como bots ao se misturarem ao ambiente maior de mídia social”, disseram as agências. “Muito parecidos com contas autênticas, esses bots seguem contas genuínas que refletem suas inclinações políticas e interesses listados em suas biografias.”
“A agricultura é um passatempo adorado por milhões de russos”, disse a RT à Bloomberg em resposta às alegações, sem refutá-las diretamente.
O desenvolvimento marca a primeira vez que os EUA apontaram publicamente o dedo para um governo estrangeiro por usar IA em uma operação de influência estrangeira. Nenhuma acusação prison foi tornada pública no caso, mas uma investigação sobre a atividade continua em andamento.
O Doppelganger Continua Vivo
Nos últimos meses, Google, Meta e OpenAI alertaram que as operações de desinformação russas, incluindo aquelas orquestradas por uma rede chamada Doppelganger, têm usado repetidamente suas plataformas para disseminar propaganda pró-Rússia.
“A campanha ainda está ativa, assim como a infraestrutura de rede e servidor responsável pela distribuição de conteúdo”, disseram Qurium e EU DisinfoLab em um novo relatório publicado na quinta-feira.
“Surpreendentemente, a Doppelganger não opera de um information middle escondido em uma Fortaleza de Vladivostok ou de uma remota Batcaverna militar, mas de provedores russos recém-criados que operam dentro dos maiores information facilities da Europa. A Doppelganger opera em associação próxima com atividades cibercriminosas e redes de anúncios afiliados.”
No centro da operação está uma rede de provedores de hospedagem à prova de balas que abrange Aeza, Evil Empire, GIR e TNSECURITY, que também abrigam domínios de comando e controle para diferentes famílias de malware, como Stealc, Amadey, Agent Tesla, Glupteba, Raccoon Stealer, RisePro, RedLine Stealer, RevengeRAT, Lumma, Meduza e Mystic.
Além disso, a NewsGuard, que fornece uma série de ferramentas para combater a desinformação, descobriu recentemente que os populares chatbots de IA tendem a repetir “narrativas fabricadas de websites afiliados ao estado, disfarçados de veículos de notícias locais em um terço de suas respostas”.
Operações de influência do Irã e da China
Isso também ocorre quando o Escritório do Diretor de Inteligência Nacional dos EUA (ODNI) disse que o Irã está “se tornando cada vez mais agressivo em seus esforços de influência estrangeira, buscando fomentar a discórdia e minar a confiança em nossas instituições democráticas”.
A agência observou ainda que os atores iranianos continuam a refinar suas atividades cibernéticas e de influência, usando plataformas de mídia social e emitindo ameaças, e que estão amplificando os protestos pró-Gaza nos EUA se passando por ativistas on-line.
O Google, por sua vez, disse que bloqueou no primeiro trimestre de 2024 mais de 10.000 instâncias de atividade do Dragon Bridge (também conhecido como Spamouflage Dragon), que é o nome dado a uma rede de influência persistente e cheia de spam, vinculada à China, no YouTube e no Blogger, que promovia narrativas retratando os EUA de forma negativa, bem como conteúdo relacionado às eleições em Taiwan e à guerra entre Israel e o Hamas, visando falantes de chinês.
Em comparação, a gigante da tecnologia interrompeu nada menos que 50.000 dessas ocorrências em 2022 e mais 65.000 em 2023. No complete, ela evitou mais de 175.000 ocorrências até o momento durante a vida útil da rede.
“Apesar de sua produção contínua e abundante de conteúdo e da escala de suas operações, o DRAGONBRIDGE não obtém praticamente nenhum engajamento orgânico de espectadores reais”, disse o pesquisador do Menace Evaluation Group (TAG), Zak Butler. “Nos casos em que o conteúdo do DRAGONBRIDGE recebeu engajamento, foi quase totalmente inautêntico, vindo de outras contas do DRAGONBRIDGE e não de usuários autênticos.”
