Propaganda na era digital: Como as operações de influência cibernética abalam a confiança
As operações de influência estrangeira de hoje utilizam novos métodos e tecnologias, tornando suas campanhas projetadas para minar a confiança mais eficientes e eficazes.
Nações estão utilizando operações de influência cada vez mais sofisticadas para disseminar propaganda e influenciar a opinião pública, tanto no âmbito interno quanto no internacional. Essas campanhas abalam a confiança, aumentam a polarização e colocam em risco os processos democráticos.
Atores especializados em manipulação persistente e avançada estão usando as mídias tradicionais, junto com a internet e as redes sociais, para ampliar significativamente o alcance, a dimensão e a eficácia de suas campanhas, vem como o impacto desproporcional que exercem no ecossistema global de informações.
As mídias sintéticas estão se tornando mais comuns devido à proliferação de ferramentas que facilitam a criação e disseminação de imagens, vídeos e áudios artificiais altamente realistas. Tecnologias de procedência digital, que certificam a origem dos ativos de mídia, mostram-se promissoras no combate ao uso indevido.
É necessário adotar uma abordagem holística para proteger soluções contra operações de influência cibernética. A Microsoft está aprimorando sua já consolidada infraestrutura de inteligência contra ameaças cibernéticas para combater operações de influência cibernética. Nossa estratégia é detectar, interromper, defender e inibir campanhas de propaganda de agressores estrangeiros.
Aumento de 900% ao ano na proliferação de deepfakes desde 20191
À medida que a tecnologia avança rapidamente, as operações de influência cibernética se tornam cada vez mais sofisticadas. Estamos observando uma sobreposição e expansão das ferramentas usadas em ataques cibernéticos tradicionais aplicadas a operações de influência cibernética. Além disso, notamos um aumento na coordenação e amplificação entre os estados-nação.
Regimes autoritários ao redor do mundo estão trabalhando juntos para contaminar o ecossistema de informações visando benefícios mútuos. Ao se amplificarem mutuamente, veículos de mídia operados pelo estado criam um ecossistema no qual a cobertura negativa das democracias ou a cobertura positiva dos aliados, produzida por um veículo de mídia estatal, é reforçada por outros.
Para complicar mais ainda, entidades de tecnologia do setor privado podem, sem intenção, facilitar essas campanhas. Facilitadores podem incluir empresas que registram domínios na internet, hospedam sites, promovem material em redes sociais e sites de busca, direcionam tráfego e financiam esses exercícios por meio de anúncios digitais.
As organizações devem estar cientes das ferramentas e métodos empregados por regimes autoritários em operações de influência cibernética, para que possam detectar e então prevenir a disseminação dessas campanhas.
Também há uma necessidade maior de ajudar os consumidores a desenvolver habilidades mais apuradas para identificar operações de influência estrangeira e limitar o engajamento dessas narrativas ou conteúdos.
É necessário aumentar a coordenação e compartilhamento de informações entre o governo, o setor privado e a sociedade civil para promover a transparência dessas campanhas de influência e para expor e desmantelar essas campanhas de influência.
- Operações de influência cibernética estrangeira introduzem propaganda, às vezes com narrativas falsas, no domínio público na internet e, ocasionalmente, por meio de eventos ou provocações no mundo real. Narrativas falsas que passam despercebidas na internet podem fazer com que referências futuras pareçam mais críveis.
Exemplo 1
No começo da pandemia, sites de teorias da conspiração ligados à mídia estatal russa e iraniana publicaram uma entrevista com um professor de direito que sugeriu que a COVID-19 é uma arma biológica criada pelos Estados Unidos.
Exemplo 2
No dia 7 de março, a Rússia estabeleceu previamente uma narrativa junto às Nações Unidas (ONU) de que um hospital maternidade em Mariupol, na Ucrânia, havia sido evacuado e estava sendo usado como base militar.
- Uma campanha coordenada é lançada para propagar narrativas através de meios de comunicação e canais de redes sociais apoiados pelo governo e influenciados pelo governo.
Exemplo 1
Em fevereiro de 2020, a PRESSTV, uma emissora patrocinada pelo governo iraniano, publicou uma matéria em inglês sobre a entrevista e, logo após isso, veículos de mídia estatais russos e contas do governo chinês começaram a comentar sobre o assunto.Exemplo 2
No dia 9 de março, a Rússia bombardeou o hospital. Quando a notícia do bombardeio se espalhou, o representante da Rússia na ONU declarou no Twitter que a cobertura do bombardeio era "fake news" e citou as alegações anteriores da Rússia sobre seu suposto uso como uma base militar. - Para concluir, as mídias controladas por governos e seus intermediários amplificam narrativas para públicos-alvo específicos. Frequentemente, facilitadores tecnológicos, sem perceber, expandem o alcance dessas narrativas.
Exemplo 1
A Russia Today (RT), emissora estatal, publicou pelo menos uma matéria promovendo declarações de autoridades iranianos que sugeriam que a COVID-19 poderia ser um "produto de um ataque biológico dos EUA" direcionado ao Irã e à China, e promoveu postagens nas redes sociais sugerindo tal possibilidade.Exemplo 2
A Rússia então disseminou essa narrativa amplamente em sites controlados pelo estado russo nas duas semanas após o ataque ao hospital. A propagação dessas histórias na internet permite que a Rússia desvie a culpa no cenário internacional e fuja da responsabilidade.
Mídia sintética
Estamos entrando em uma fase áurea para a criação e manipulação de mídia com o auxílio da inteligência artificial. Analistas da Microsoft apontam que isso é impulsionado por duas tendências principais: a proliferação de ferramentas e serviços fáceis de usar para criação artificial de imagens, vídeos, áudios e textos sintéticos altamente realistas e a capacidade de disseminar rapidamente conteúdo otimizado para públicos específicos.
O campo do mídias e textos sintéticos está avançando incrivelmente rápido, e estamos muito perto do ponto em que qualquer pessoa poderá criar um vídeo sintético de alguém dizendo ou fazendo qualquer coisa.
Deepfakes: técnicas de mídias e textos sintéticos
Essas técnicas podem ser usadas para tentar chantagear uma pessoa, empresa ou instituição, ou para colocar pessoas em situações ou locais constrangedores. Tais técnicas avançadas baseadas em IA ainda não são amplamente utilizadas em campanhas de influência cibernética atualmente, mas espera-se que o problema cresça à medida que as ferramentas se tornem mais acessíveis e fáceis de usar.
- Substituir um rosto em um vídeo por outro
- Usar um vídeo para animar uma imagem estática ou outro vídeo
- Um conjunto de técnicas para gerar imagens fotorrealistas
- Criar imagens ricas a partir de descrições de texto
O uso de operações de informação para causar danos ou ampliar a influência não é algo novo. No entanto, a rapidez com que as informações podem se disseminar e nossa dificuldade de distinguir rapidamente o que é fato ou ficção significam que o impacto e o dano causados por fake news e outras mídias maliciosas geradas sinteticamente podem ser muito maiores.
Existem várias categorias de dano que consideramos: manipulação de mercado, fraude em pagamentos, vishing, usurpação de identidade, danos à marca, danos à reputação e botnets. Muitas destas categorias têm exemplos reais amplamente divulgados, que poderiam comprometer nossa capacidade de distinguir o real do fictício.
Uma ameaça mais traiçoeira e de longo prazo é a nossa compreensão do que é verdadeiro, se não pudermos mais confiar no que vemos e ouvimos. Por causa disso, qualquer imagem, áudio ou vídeo comprometedor de uma figura pública ou privada pode ser descartado como falso. Um efeito conhecido como O Dividendo do Mentiroso.2
Esforços estão em andamento em toda a indústria, governo e meio acadêmico para desenvolver melhores formas de detectar e mitigar mídias sintéticas e restaurar a confiança. Existem diversos caminhos promissores daqui pra frente, assim como barreiras que merecem atenção.
A estrutura estratégica da Microsoft visa ajudar os stakeholders intersetoriais a detectar, interromper, defender e inibir a propaganda, particularmente campanhas de agressores estrangeiros.
Assim como na defesa cibernética, o primeiro passo para combater operações de influência cibernética estrangeiras é desenvolver a capacidade de detectá-las. Nenhuma empresa ou organização pode esperar progredir sozinha neste aspecto. Uma nova e mais ampla colaboração em todo o setor de tecnologia será crucial, com progressos na análise e relatório de operações de influência cibernética dependendo fortemente do papel da sociedade civil, incluindo instituições acadêmicas e organizações sem fins lucrativos.
O segundo pilar estratégico é fortalecer as defesas democráticas, uma prioridade de longa data que precisa de investimento e inovação. Isso deve levar em conta os desafios que a tecnologia criou para as sociedades democráticas, especialmente a desestruturação do jornalismo e das notícias locais, e as oportunidades que a tecnologia criou para defender sociedades democráticas de forma mais eficaz.
Isso requer investimento e inovação contínuos que devem refletir as necessidades locais de diferentes países e continentes. Essas questões não são fáceis e exigem abordagens multissetoriais, algo que a Microsoft e outras empresas de tecnologia estão cada vez mais apoiando
Nos últimos anos, a Unidade de Crimes Digitais (DCU) da Microsoft aperfeiçoou táticas e desenvolveu ferramentas para interromper ameaças cibernéticas que vão desde ransomware a botnets e ataques de estados-nação. Aprendemos muitas lições importantes, começando com o papel da interrupção ativa no combate a uma ampla gama de ataques cibernéticos.
Quando pensamos em combater operações de influência cibernética, a interrupção pode desempenhar um papel ainda mais importante, e a melhor abordagem para isso está ficando mais clara. O antídoto mais eficaz para as atividade enganosas em grande escala é a transparência. É por isso que a Microsoft ampliou sua capacidade de detectar e interromper operações de influência de estados-nação com a aquisição da Miburo Solutions, uma empresa líder em análise e pesquisa de ameaças cibernéticas especializada na detecção e resposta a operações de influência cibernética estrangeiras. Combinando esses analistas com os analistas de contexto de ameaças da Microsoft, formamos o Centro de Análise de Ameaças Digitais (DTAC). O DTAC analisa e relata ameaças de estados-nação, incluindo ataques cibernéticos e operações de influência, combinando informações e inteligência de ameaças com análises geopolíticas para fornecer insights e embasar respostas e proteções eficazes.
Para terminar, não podemos esperar que as nações mudem suas condutas se não houver responsabilização por violar regras internacionais. A fiscalização dessa responsabilização é de competência exclusivamente governamental. No entanto, ações que envolvem diversos setores estão se tornando cada vez mais importantes para reforçar e ampliar as normas internacionais.
Mais de 30 plataformas online, anunciantes e fornecedores (incluindo a Microsoft) aderiram ao Código de Prática sobre Desinformação da Comissão Europeia (European Commission’s Code of Practice on Disinformation), que foi recentemente atualizado, comprometendo-se a fortalecer os esforços para combater o desafio crescente da desinformação. Iniciativas multilaterais, como o recente Apelo de Paris (Paris Call), o Apelo de Christchurch (Christchurch Call) e a Declaração sobre o Futuro da Internet (Declaration on the Future of the Internet), que envolvem múltiplos setores, têm o potencial de unir governos e o público das nações democráticas. Os governos podem, então, utilizar essas normas e leis como base para promover a responsabilização que as democracias do mundo necessitam e merecem.
Através de uma transparência radical e rápida, governos e sociedades democráticas podem neutralizar campanhas de influência de forma eficaz, identificando a origem dos ataques de estados-nação, informando a população e fortalecendo a confiança nas instituições.
Fonte: Relatório de Defesa Digital da Microsoft, novembro de 2022
- [1]
Deepfakes 2020: The Tipping Point (O ponto crítico, em tradução livre), Johannes Tammekänd, John Thomas e Kristjan Peterson, outubro de 2020 - https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy (Um desafio crescente para a privacidade, em tradução livre) https://go.microsoft.com/fwlink/?linkid=2262673