Пропаганда в епоху цифрових технологій: як операції з кібервпливу руйнують довіру
Сьогодні зловмисники використовують нові методи й технології для ефективного здійснення операцій із кібервпливу та дестабілізації ситуації в іноземних країнах.
Іноземні держави все частіше вдаються до таких складних операцій для поширення пропаганди й впливу на громадську думку як на внутрішньому, так і на міжнародному рівні. Ці кампанії підривають довіру, підживлюють полярні настрої в суспільстві й загрожують демократичним процесам.
Спеціально навчені фахівці з удосконалених постійних маніпуляцій використовують традиційні ЗМІ, а також Інтернет і соцмережі, щоб значно збільшити масштаб та ефективність своїх кампаній, а також розширити вплив на глобальну інформаційну екосистему.
Діпфейки стають поширенішими через величезну кількість інструментів штучного інтелекту, за допомогою яких можна легко створювати й розповсюджувати реалістичні зображення, відеокліпи та звукові доріжки. Перспективою в боротьбі з неналежним використанням інформації є технології, які перевіряють походження медіаресурсів.
Необхідно сформувати комплексний підхід щодо рішень для захисту від операцій із кібервпливу. У межах цієї боротьби корпорація Майкрософт використовує свою розвинену інфраструктуру аналізу кіберзагроз. Наша стратегія полягає в тому, щоб виявляти пропагандистські кампанії зовнішніх агресорів, а також протидіяти й запобігати їм і захищатися від них.
З 2019 року застосування технології "діпфейк" щороку зростало на 900%1
Технології розвиваються, а отже операції з кібервпливу стають дедалі складнішими. Інструменти, які використовуються в традиційних атаках, усе частіше можна помітити й в операціях із кібервпливу. Також спостерігається підвищення координації дій між деякими країнами й ескалації таких спільних атак.
Авторитарні режими у всьому світі спільними зусиллями забруднюють інформаційне середовище, переслідуючи власні інтереси. Державні ЗМІ одного режиму створюють екосистему, у якій негативно висвітлюються демократії або позитивно – союзники. Потім ці наративи повторюються в державних ЗМІ іншого режиму.
Ба більше, приватні технологічні підприємства можуть мимоволі збільшувати масштаби таких кампаній. Це, наприклад, компанії, що реєструють домени в Інтернеті, розміщують веб-сайти, просувають матеріали в соцмережах і на пошукових сайтах, спрямовують трафік та допомагають оплачувати заходи кампанії через цифрову рекламу.
Організації мають знати про інструменти й методи, які авторитарні режими використовують для здійснення операцій із кібервпливу, щоб виявляти та попереджати поширення цих кампаній.
Крім того, зростає необхідність допомагати клієнтам розроблювати ефективніші методи виявлення операцій із кібервпливу на іноземні країни й обмежувати взаємодію з пропагандистськими наративами та вмістом.
Координація дій і обмін інформацією між державними, приватними й громадськими організаціями необхідні для того, щоб викривати операції з кібервпливу та запобігати їм.
- Пропаганда (іноді з неправдивими наративами) є складовою операцій із кібервпливу на іноземні країни. Такі матеріали поширюють в Інтернеті, а також під час подій у реальному світі й у межах провокацій. Неправдиві наративи, які залишаються непоміченими в Інтернеті, можуть здатися більш достовірними, якщо на них посилатимуться інші джерела.
Приклад 1
На початку пандемії на маргінальних конспірологічних веб‑сайтах, пов’язаних із російськими й іранськими державними ЗМІ, з’явилося інтерв’ю з професором права, який припустив, що COVID-19 – біологічна зброя, створена США.
Приклад 2
7 березня Росія повідомила ООН про те, що в пологовому будинку в українському місті Маріуполі більше немає цивільних і він використовується як військова база. Це була підготовка до поширення наративу.
- Починається координована кампанія для розповсюдження наративів через підвладні уряду ЗМІ й канали в соцмережах.
Приклад 1
У лютому 2020 року на каналі PRESSTV, спонсорованому іранським урядом, з’явилася стаття англійською мовою на основі інтерв’ю. Пізніше її прокоментували в російських державних ЗМІ й на сторінках урядовців Китаю.Приклад 2
9 березня Росія бомбардувала лікарню. Коли з’явилася новина про цю атаку, представник Росії в ООН опублікував твіт, у якому назвав її неправдивою, посилаючись на попередні заяви Росії про те, що заклад використовується у військових цілях. - Підвладні ЗМІ й пов’язані сторони розповсюджують наративи серед націлених аудиторій. Нерідко технологічні підприємства мимоволі також сприяють їх поширенню.
Приклад 1
Російське державне ЗМІ Russia Today (RT) опублікувало принаймні одну статтю, у якій просуваються наративи іранського уряду про те, що COVID-19 – "результат біологічної атаки США на Іран і Китай", та відповідні дописи у соцмережах.Приклад 2
Протягом двох тижнів після бомбардування лікарні цей наратив широко розповсюджували на різних підвладних Росії веб-сайтах. Розповсюдивши ці наративи в мережі, Росія отримала можливість відвернути вину від себе на міжнародному рівні й уникнути відповідальності за скоєне.
Діпфейки
Розпочинається "золотий вік" створення медіавмісту й маніпулювання за допомогою штучного інтелекту. На думку аналітиків корпорації Майкрософт, цьому сприяють поява простих у використанні технологій штучного інтелекту для створення реалістичних зображень, відеокліпів, звукових доріжок і текстів та здатність швидко поширювати вміст, оптимізований під конкретну аудиторію.
Сфера тексту й медіафайлів, створених за допомогою ШІ, розвивається надзвичайно швидко й дуже скоро кожен зможе створювати діпфейк-відео, що зображає будь-яку людину в будь-якій ситуації.
Діпфейки: техніки створення тексту й медіафайлів за допомогою ШІ
Ці техніки можуть використовувати для шантажування окремих осіб, компаній або закладів чи щоб показати їх у конфузних ситуаціях або місцях. Поки ці техніки на базі ШІ нечасто використовуються в кампаніях із кібервпливу, однак очікується, що проблема загострюватиметься, адже відповідні інструменти стають дедалі доступнішими й простішими у використанні.
- Заміна обличчя людини у відео на інше
- Використання відеозапису, щоб анімувати нерухоме зображення або інше відео
- Низка технік для генерування фотореалістичних зображень
- Створення зображень на основі докладних текстових описів
Уже не вперше інформаційні операції використовують, щоб завдати шкоди або розширити вплив. Однак темп, у якому поширюється інформація, і нездатність швидко відрізняти факти від вигадок означає, що діпфейки й інший штучно згенерований медіавміст можуть стати значно небезпечнішими.
Потенційні зловмисні дії на основі цих технік: маніпуляції на ринку, шахрайство під час платежів, вішинг, імітації, завдання шкоди бренду й репутації компанії, а також бот-мережі. Багато цих дій можна відстежити в інцидентах у всьому світі, що може ускладнити розрізнення фактів від вигадок.
Нас підстерігає підступніша загроза, що матиме тривалі наслідки: нам стане важко відрізняти правду від брехні, якщо ми не зможемо довіряти тому, що бачимо або чуємо. Через це навіть реальні зображення й аудіо- чи відеоматеріали, які демонструють публічних чи приватних осіб можуть вважатися неправдивими (так званий "дивіденд брехуна")2.
Представники галузей, уряд і наукові кола докладають зусиль, щоб розробити кращі способи виявлення й зменшення впливу діпфейків і відновити довіру громадськості. Деякі способи є перспективними, однак слід також ураховувати перешкоди на шляху до цієї мети.
Стратегії корпорації Майкрософт спрямовані на те, щоб допомогти зацікавленим сторонам виявляти пропаганду (особливо кампанії від іноземних агресорів), протидіяти їм, захищатися від них і попереджати їх.
Як і у випадку з кіберзахистом, перший крок у боротьбі з операціями з кібервпливу на іноземні країни – це навчитися виявляти їх. Жодній компанії чи організації не вдасться досягти необхідного результату самотужки. Новий ширший формат співпраці в технологічній галузі матиме вирішальне значення, а ефективність аналізу й звітування про операції з кібервпливу значною мірою залежатиме від позиції громадськості, зокрема академічних установ і неприбуткових організацій.
Другий стратегічний напрямок – це мобілізація демократичних суспільств і пріоритетність інвестицій та інновацій у довгостроковій перспективі. При цьому слід ураховувати виклики, які створюють технології для демократичних суспільств, особливо для журналістів і місцевих новинних видань, а також можливості захисту таких суспільств, які з’являються на базі цих можливостей.
Такі заходи вимагають постійних інвестицій та інновацій відповідно потреб конкретних країн і континентів. Щоб вирішити ці проблеми, необхідно залучати кілька сторін – саме цей підхід невпинно підтримує корпорація Майкрософт та інші технологічні компанії.
За останні роки Підрозділ із боротьби із цифровими злочинами (Digital Crimes Unit, DCU) корпорації Майкрософт удосконалив тактику й інструменти для протидії різним кіберзагрозам: від зловмисних програм із вимогою викупу до бот-мереж і атак державного рівня. Ми багато чому навчилися, зокрема важливості активної протидії в межах боротьби із цілою низкою кібератак.
Протидія відіграє таку саму роль у боротьбі з операціями з кібервпливу, і важливо, щоб заходи в її межах були чітко визначені. Найкращий засіб від обману – прозорість. Саме тому корпорація Майкрософт розширила свої можливості з виявлення й протидії операціям із кібервпливу на держави, придбавши Miburo Solutions, – провідну компанію з аналізу та дослідження кіберзагроз, яка спеціалізується на виявленні операцій із кібервпливу на іноземні країни та реагуванні на них. На базі аналітиків цієї компанії та фахівців корпорації Майкрософт із контекстуального аналізу загроз було створено Центр аналізу цифрових загроз (DTAC). Спеціалісти DTAC звітують про загрози державного рівня (як кібератаки, так і операції з кібервпливу) на основі даних аналізу загроз та геополітичної ситуації. Також вони розробляють рекомендації та способи реагування й захисту.
Зрештою, ми не можемо очікувати, що країни змінять свою поведінку, якщо відсутня відповідальність за порушення міжнародних правил. Застосування такої відповідальності має контролюватися на рівні уряду. Дедалі частіше багатосторонні дії відіграють важливу роль у зміцненні й розширенні міжнародних норм.
Понад 30 онлайн-платформ, рекламодавців і видавців, зокрема корпорація Майкрософт, підписали нещодавно оновлене Зведення правил із боротьби з дезінформацією Європейської комісії, погодившись посилити зобов’язання в боротьбі із цією проблемою. Як і в нещодавніх Паризькому заклику, Крайстчерчському заклику та Декларації про майбутнє Інтернету, багатосторонні дії можуть об’єднувати уряди й суспільство демократичних країн. Уряди можуть потім використовувати ці норми й закони як основу для підвищення відповідальності, якої потребують демократії у всьому світі.
Завдяки швидкому досягненню прозорості демократичні уряди й суспільства можуть ефективно послаблювати кампанії впливу шляхом визначення джерел атак державного рівня, інформування громадськості та формування довіри до установ.
Джерело: Звіт про цифровий захист Microsoft, листопад 2022 р.
- [1]
Deepfakes 2020: The Tipping Point (англійською мовою), Йоганнес Таммекенд, Джон Томас і Крістіан Петерсон, жовтень 2020 р. https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy (англійською мовою) https://go.microsoft.com/fwlink/?linkid=2262673