Hantera cyberhot och stärka försvaret i AI-eran

Idag genomgår cybersäkerhetsvärlden en enorm förvandling. Artificiell intelligens (AI), som ligger i framkant av den här förändringen, utgör såväl ett hot som en möjlighet. Även om AI potentiellt kan hjälpa organisationer att besegra cyberattacker i maskinell hastighet och driva både innovation och effektivitet inom hotidentifiering, jakt och incidentrespons, så kan även motståndarna använda AI som en del av sin verksamhet. Det har aldrig varit viktigare än nu för oss att designa, distribuera och använda AI på ett säkert sätt.

På Microsoft undersöker vi vilken potential AI har när det gäller att förbättra våra säkerhetsåtgärder, låsa upp nya och avancerade skydd och skapa bättre programvara. Med AI har vi kraften att anpassa oss i takt med det ständigt utvecklande hoten, upptäcka anomalier omedelbart, neutralisera risker genom att reagera snabbt och skräddarsy försvaren för organisationernas behov.

AI kan också hjälpa oss att övervinna en annan av branschens största utmaningar. Inför den globala brist på arbetskraft inom cybersäkerhetsområdet som vi står inför, där det behövs ungefär 4 miljoner cybersäkerhetsexperter över hela världen, så har AI potentialen att bli ett avgörande verktyg när det gäller att överbrygga kompetensgapet och göra försvarsarbetet mer produktivt.

Vi har redan sett i en studie hur Copilot for Security kan bistå säkerhetsanalytikerna, oavsett vilken kunskapsnivå de besitter. Oavsett vilken typ uppgift det handlade om, så blev resultatet i genomsnitt 44 % mer korrekt och 26 % snabbare.

När vi ska säkra framtiden är det viktigt att vi hittar balansen i hur vi på ett säkert sätt kan utnyttja AI:s fördelar, eftersom AI har kraften att höja den mänskliga potentialen och lösa några av våra allvarligaste utmaningar.

En säkrare framtid med AI kommer att kräva avgörande framsteg inom programvarutekniken. Det kräver att vi vår förståelse för och förmåga att motverka AI-drivna hot blir till grundläggande komponenter i alla våra säkerhetsstrategier. Och vi måste tillsammans skapa djupgående samarbeten och partnerskap mellan offentlig och privat sektor för att kunna bekämpa hotaktörererna.

Som en del av detta arbete och vårt eget Secure Future Initiative publicerar OpenAI och Microsoft idag ny information som beskriver hotaktörers försök att testa och utforska användbarheten av stora språkmodeller (LLM) i sina attacktekniker.

Vi hoppas att denna information ska kunna vara användbar i alla branscher i vårt gemensamma arbete mot en säkrare framtid. För i slutändan måste vi alla försvara oss.

Se Cyber ​​Signals digitala sammanfattning där Vasu Jakkal, Corporate Vice President för Microsoft Security Business intervjuar viktiga hotinformationsexperter om cyberhoten i AI-tidsåldern, hur Microsoft använder AI för att förbättra säkerheten och vad organisationer kan göra för att stärka sina försvar.

Cyberthotslandskapet har blivit allt mer utmanande i takt med att angriparna har blivit mer motiverade och mer sofistikerade och även har bättre resurser. Både hotaktörer och cyberförsvarare vänder sig till AI, och då även stora språkmodeller, för att förbättra sin produktivitet och dra fördel av de tillgängliga plattformar som kan passa deras mål och attacktekniker.

Med tanke på hotlandskapets snabba utveckling, så tillkännager vi idag Microsofts principer, vilka vägleder våra åtgärder som med hjälp av AI-plattformar och API:er ska minska de risker som hotaktörerna utgör, däribland avancerade ihållande hot (APT), avancerade ihållande manipulatorer (APM) och cyberkriminella syndikat. Dessa principer omfattar identifiering och åtgärder mot skadliga hotaktörers användning av AI, meddelande till andra AI-tjänsteleverantörer, samarbete med andra intressenter och transparens.

Även om hotaktörernas motiv och sofistikation kan variera, så delar de gemensamma uppgifter när de distribuerar sina attacker. Detta kan handla om rekognoscering, som att undersöka de potentiella målens industrier, platser och relationer, kodning, bl.a. förbättring av programvaruskript och utvecklande av skadlig programvara, och hjälp med att lära sig att använda både mänskliga och maskinella språk.

I samarbete med OpenAI delar vi hotinformation som visar identifierade kriminella som Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon och Salmon Typhoon, vilka försöker utveckla cyberoperationerna med hjälp av stora språkmodeller.

Målet med Microsofts forskningspartnerskap med OpenAI är att säkerställa säker och ansvarsfull användning av AI-tekniker som ChatGPT, och att upprätthålla de högsta standarderna för etisk tillämpning så att samhället skyddas från potentiellt missbruk.

Emerald Sleets användning av stora språkmodeller omfattade forskning kring tankesmedjor och experter på Nordkorea, såväl som generering av innehåll som sannolikt är avsett att användas i nätfiskekampanjer. Emerald Sleet interagerade också med stora språkmodeller för att förstå allmänt kända sårbarheter, felsöka tekniska problem och få hjälp med att använda olika webbtekniker.

En annan grupp med Kina-uppbackning, Salmon Typhoon, har utvärderat hur effektivt det har varit under 2023 att använda stora språkmodeller för att hämta information om potentiellt känsliga ämnen, högprofilerade individer, regional geopolitik, USA:s inflytande och interna angelägenheter. Dessa preliminära försök med stora språkmodeller skulle kunna indikera såväl en breddning av gruppens verktygslåda för informationsinhämtning som en experimentell fas där man försöker bedöma de framväxande teknologiernas kapacitet.

Vi har vidtagit åtgärder som ska störa tillgångar och konton som förknippas med dessa hotaktörer och fungera som skydd och säkerhetsmekanismer runt våra modeller.

AI-drivna bedrägerier är ett annat allvarligt problem. Ett exempel på detta är röstsyntes, där ett tre sekunders röstsprov kan träna en modell till att låta som vem som helst. Även något så ofarligt som din röstbrevlåda kan användas för att få ett tillräckligt urval.

Mycket av hur vi interagerar med varandra och gör affärer är beroende av identitetssäkring, det vill säga genom att vi känner igen en persons röst, ansikte, e-postadress eller handstil.

Det är av avgörande betydelse att vi förstår hur skadliga aktörer använder AI för att undergräva sedan länge etablerade system för identitetssäkring, så att vi ska kunna hantera komplexa bedrägerifall och andra framväxande hot sociala manipulering som döljer identiteter.

AI kan också användas för att hjälpa företag att avvärja bedrägeriförsök. Även om Microsoft avbröt vårt åtagande med ett företag i Brasilien, så upptäckte våra AI-system hur det försökte rekonstruera sig för att åter komma in i vårt ekosystem.

Gruppen försökte hela tiden skapa förvirring kring sin information, dölja ägarskap och komma in på nytt, men våra AI-identifieringar skickade nästan ett dussin risksignaler som flaggade det bedrägliga företaget och kopplade ihop det med ett misstänkt beteende sedan tidigare, och därför blockerades dess försök.

Microsoft har förbundit sig till ansvarsfull mänskligt ledd AI med integritet och säkerhet, där människor tillhandahåller tillsyn, utvärderar vädjanden och tolkar policyer och förordningar.

De traditionella verktygen håller inte längre jämna steg med hoten från cyberbrottslingarna. Den ökande hastigheten, omfattningen och sofistikationen hos de senaste cyberattackerna kräver en ny säkerhetsstrategi. Dessutom, med tanke på bristen på arbetskraft inom cybersäkerhet och cyberhotens ökande frekvens och allvarlighetsgrad, är vi i akut behov av att överbrygga denna kompetensklyfta.

AI kan få vågskålen att tippa över till cyberbrottsbekämparnas fördel. En nyligen genomförd studie av Microsoft Copilot for Security (som för närvarande förhandstestas av kunder) visade att säkerhetsanalytiker, oavsett kompetensnivå, kunde arbeta både snabbare och med högre precision när det gällde allt från vanliga uppgifter som att identifiera skript som används av angripare till att skapa incidentrapporter och identifiera lämpliga åtgärdssteg^.1