Propaganda i den digitala tidsåldern: Så här urholkar cyberpåverkansoperationer förtroendet
Dagens utländska åtgärder mot påverkan utnyttjar nya metoder och tekniker, vilket gör deras kampanjer som utformats för att minska förtroendet mer effektiva.
Nationalstater använder alltmer sofistikerade påverkansoperationer när de ska distribuera sin propaganda och påverka den allmänna opinionen såväl nationellt som internationellt. Dessa kampanjer undergräver förtroendet, ökar polariseringen och är ett hot mot demokratiska processer.
Skickliga aktörer när det gäller avancerad långvarig manipulering använder sig av traditionella medier tillsammans med internet och sociala medier för att avsevärt öka sina kampanjers omfattning, skala och effektivitet, och den stora påverkan de har i det globala informationsekosystemet.
Syntetiska medier blir allt vanligare på grund av spridningen av de verktyg med vilka man enkelt kan skapa och sprida mycket realistiska artificiella bilder, videor och ljud. Teknik för digital proveniens som certifierar mediatillgångars ursprung är ett lovande verktyg i kampen mot missbruk.
Det krävs ett holistiskt tillvägagångssätt när man ska skydda lösningar mot cyberpåverkansoperationer. Microsoft bygger vidare på sin redan mogna infrastruktur för cyberhotsinformation i kampen mot cyberpåverkansoperationer. Vår strategi är att identifiera, störa, försvara mot och avskräcka propagandakampanjer från utländska angripare.
900 % ökning på årsbasis i spridning av deepfakes sedan 20191
Cyberpåverkansoperationerna blir allt mer sofistikerade i takt med att tekniken utvecklas allt snabbare. Vi ser en överlappning och expansion av de verktyg som används i traditionella cyberattacker när de nu även används i cyberpåverkansoperationer. Dessutom har vi observerat ökad samordning och utvidgning mellan nationalstater.
Auktoritära regimer runt om i världen har tillsammans försökt förorena informationsekosystemet till ömsesidig fördel. Genom att förstärka varandra skapar dessa statligt styrda medier ett ekosystem där negativ bevakning av demokratier – eller positiv bevakning av sina egna allierade – producerad av statliga medier, förstärks av andra.
Något som gör utmaningen ännu större är att teknikföretag inom den privata sektorn kan aktivera dessa kampanjer utan att veta om det. Sådana aktiverare kan vara företag som registrerar Internetdomäner, är värdar för webbplatser, marknadsför material på sociala medier och söksajter, kanaliserar trafik eller betalar för dessa tjänster genom digital reklam.
Organisationer måste vara medvetna om vilka verktyg och metoder auktoritära regimer använder för sina cyberpåverkansoperationer, så att de kan upptäcka kampanjerna i tid och förhindra spridningen av dem.
Det finns också ett växande behov av att konsumenterna ska kunna få hjälp med att utveckla en mer sofistikerad förmåga att identifiera utländska påverkansoperationer så att de snabbt kan avfärda deras narrativ och innehåll.
Ökad samordning och informationsutbyte mellan statliga myndigheter, den privata sektorn och civilsamhället behövs för att kunna öka transparensen och avslöja och avbryta dessa påverkanskampanjer.
- Utländska cyberpåverkansoperationer sprider propaganda – ibland med falska narrativ – i den offentliga domänen på Internet och ibland i samband med verkliga händelser eller provokationer. Falska narrativ som ligger ute på Internet utan att väcka någon större uppmärksamhet kan få senare falska narrativ att verka mer trovärdiga när dessa refererar till dem.
Exempel 1
Tidigt under pandemin publicerade perifera konspirationswebbplatser anslutna till ryska och iranska statliga medier en intervju med en juridikprofessor som påstod att COVID-19 är ett biologiskt vapen skapat av USA.
Exempel 2
Den 7 mars förplacerade Ryssland ett narrativ genom en anmälan till Förenta Nationerna (FN) där man påstod att ett förlossningssjukhus i Mariupol, Ukraina, hade tömts och användes som militärplats.
- En samordnad kampanj lanseras för att sprida narrativ genom statligt understödda och påverkade medier och sociala mediekanaler.
Exempel 1
I februari 2020 publicerade PRESSTV, som är en kanal sponsrad av den iranska regeringen, ett inslag på engelska, som ryska statliga medier och kinesiska regeringskonton sedan snart började kommentera.Exempel 2
Den 9 mars bombade Ryssland sjukhuset. När nyheten om bombattentatet publicerades, twittrade Rysslands FN-representant att nyhetsbevakningen av bombningen var ”falska nyheter” och citerade Rysslands tidigare påståenden om sjukhusets påstådda användning som militärbas. - Slutligen förstärkte nationalstatligt kontrollerade och med dem närstående medier detta narrativ inom målgruppen. Och ofta kan teknikaktiverare helt oavsiktligt råka utöka dessa narrativs räckvidd.
Exempel 1
Russia Today (RT) – en statsägd nyhetskanal – publicerade också minst en berättelse som lyfte fram uttalanden från iranska officiella källor som hävdade att COVID-19 kan vara ”ett resultat av ’USA:s biologiska attack’ mot Iran och Kina” och publicerade inlägg på sociala medier som gav stöd åt detta.Exempel 2
Ryssland spred sedan denna berättelse brett via ryskkontrollerade webbplatser under två veckors tid efter attacken mot sjukhuset. Genom att förstärka dessa berättelser online kunde Ryssland på den internationella scenen avleda uppmärksamheten från sin egen skuld och undvika ansvarsskyldighet.
Syntetisk media
Vi går nu in i en gyllene era för AI-baserat medieskapande och manipulering. Microsofts analytiker noterar att denna utveckling drivs av två viktiga trender: den ökade spridningen av verktyg och tjänster med vilka man artificiellt kan skapa mycket realistiska syntetiska bilder, videor, ljud och text samt möjligheterna att snabbt kunna sprida innehåll som optimerats för specifika målgrupper.
Utvecklingen vad gäller syntetisk text och media går otroligt snabbt framåt, och vi är mycket nära att nå den punkt där vem som helst kan skapa en syntetisk video av vem som helst som säger eller gör vad som helst.
Deepfakes: Syntetisk text och mediatekniker
Dessa tekniker kan användas för att försöka utpressa en individ, ett företag eller en institution, eller för att placera enskilda personer på pinsamma platser eller i pinsamma situationer. Sådana avancerade AI-baserade tekniker används ännu inte i någon stor utsträckning i dagens cyberpåverkanskampanjer, men vi förväntar oss att problemet kommer att växa i takt med att verktygen blir enklare att använda och mer allmänt tillgängliga.
- Ersätta ett ansikte med ett annat i en video
- Använda en video för att animera en stillbild eller en annan video
- En serie tekniker för att generera fotorealistiska bilder
- Skapa avancerade bilder från textbeskrivningar
Idén att använda av informationskampanjer för att orsaka skada eller skapa inflytande är inte ny. Men den hastighet med vilken information nu kan spridas, och vår oförmåga att snabbt separera fakta från fiktion, innebär att de effekter och skador som falsifikat och andra syntetiskt genererade skadliga medier orsakar riskerar att bli så mycket större.
I det här sammanhanget kan vi nämna flera olika skadekategorier: marknadsmanipulation, betalningsbedrägerier, samtalsfiske, personifiering, varumärkesskada, skadat anseende och botnät. Det finns många rapporterade exempel för flera av dessa kategorier, vilket kan undergräva vår förmåga att skilja fakta från fiktion.
Ett långsiktigt och ännu mer lömskt hot är mot vår förmåga att kunna urskilja vad som är sant om vi inte längre kan lita på det vi ser och hör. Detta leder till att alla komprometterande bilder, ljud eller videor av en offentlig eller privat person kan avfärdas som falska – en konsekvens som kallas The Liar’s Dividend.2
Ansträngningar görs inom industrin, myndigheter och den akademiska världen för att utveckla bättre sätt att upptäcka och mildra effekten av syntetiska medier och återställa förtroendet. Det finns flera lovande vägar framåt, liksom hinder på vägen, vilket allt kräver noga övervägande.
Microsofts strategiramverk syftar till att hjälpa intressenter som jobbar inom flera sektorer att identifiera, störa, försvara sig mot och avskräcka från propaganda – i synnerhet kampanjer från utländska angripare.
Precis som med cyberförsvar är det första steget i att motverka utländska cyberpåverkansoperationer att lära sig identifiera dem. Inget enskilt företag eller enskild organisation kan hoppas på att på egen hand göra de framsteg som krävs. Ett nytt och bredare samarbete inom den tekniska sektorn kommer att bli avgörande, så att vi blir bättre på att analysera och rapportera cyberpåverkansoperationer, där vi i hög grad förlitar sig på det civila samhällets roll, akademiska institutioner och ideella organisationer inräknat.
Den andra strategiska pelaren är att stödja demokratiska försvar, en prioritet sedan långt tillbaka, och som är i behov av investeringar och innovation. Den bör ta hänsyn till de utmaningar som tekniken har skapat för de demokratiska samhällena – särskilt med tanke på hur den har skadat journalistiken och den lokala nyhetsbevakningen – och de möjligheter som tekniken erbjuder när det gäller att försvara de demokratiska samhällena mer effektivt.
Detta kräver kontinuerliga investeringar och innovation som måste passa de lokala behoven i olika länder och kontinenter. Detta är svåra frågor och de måste hanteras med flera intressenter i åtanke, vilket Microsoft och andra teknikföretag i allt högre grad stöder
Under de senaste åren har Microsofts Digital Crimes Unit (DCU) förfinat taktiker och utvecklat verktyg för som ska skada cyberhoten, allt från utpressningstrojaner till botnät och nationalstatsattacker. Vi har dragit många viktiga lärdomar av detta, framförallt vilken roll aktiva störningar har när det gäller motverka ett brett spektrum av cyberattacker.
När vi funderar på hur vi ska motverka cyberpåverkansoperationer, så kan störningar komma att spela en ännu viktigare roll, och den bästa strategin för störningar blir allt tydligare. Det mest effektiva motgiftet mot bedrägerier på bred front är transparens. Det är därför Microsoft ökade sin kapacitet att identifiera och störa nationella statspåverkansoperationer genom att förvärva Miburo Solutions, ett ledande cyberhotsanalys- och forskningsföretag som specialiserat sig på att identifiera och besvara utländska cyberpåverkansoperationer. I och med tillskottet av dessa analytiker till Microsofts hotsammanhangsanalytiker, skapade Microsoft sitt Digital Threat Analysis Center (DTAC). DTAC analyserar och rapporterar om hot från nationalstater, även cyberattacker och påverkansoperationer, kombinerar information och hotanalys med geopolitisk analys för att kunna ge insikter och information om effektiva svar och skydd.
Slutligen kan vi inte förvänta oss att nationer ändrar sitt beteende om ingen ställs till svars för att ha brutit mot internationella regler. Att upprätthålla sådan ansvarsskyldighet ligger på myndigheternas ansvar. Ändå spelar initiativ från olika intressenter en allt viktigare roll för att stärka och utvidga internationella regler.
Mer än 30 onlineplattformar, annonsörer och utgivare – däribland Microsoft – skrev på den nyligen uppdaterade uppförandekoden om desinformation från Europeiska kommissionen, och gick med på stärkta åtaganden för att tackla denna växande utmaning. Som med Paris Call, Christchurch Call och förklaringen om internets framtid kan multilaterala initiativ och initiativ med flera intressenter föra samman regeringar och allmänheten bland demokratiska nationer. Regeringar kan sedan bygga vidare på dessa normer och lagar för att främja den ansvarsskyldighet som världens demokratier behöver och förtjänar.
Genom snabb radikal transparens kan demokratiska regeringar och samhällen effektivt försvaga inflytandekampanjer genom att peka ut källorna till nationalstatsattacker, informera allmänheten och bygga upp förtroende för institutioner.
Källa: Microsofts rapport om digitalt försvar, november 2022
- [1]
Deepfakes 2020: The Tipping Point, Johannes Tammekänd, John Thomas, and Kristjan Peterson, October 2020 – https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deepfakes: En hotfull utmaning mot integriteten https://go.microsoft.com/fwlink/?linkid=2262673