Ексклюзив
20
хв

Дезінформація, доповнена штучним інтелектом, є новим полем бою НАТО

Липневий саміт НАТО у Вашингтоні відзначає 75-у річницю створення Альянсу і відбувається в критичний момент. Загрози глобальній стабільності виходять за рамки звичайних військових сфер, й НАТО має протистояти шквалу дезінформації, яка підриває його єдність і цінності. Зокрема, країни-члени повинні перешкоджати ворожим авторитарним режимам маніпулювати громадською думкою, використовуючи технології для ведення «когнітивної війни»

Project Syndicate

Фото: Shutterstock

No items found.

Підтримайте Sestry

Навіть маленький внесок у справжню журналістку допомагає зміцнити демократію. Долучайся, і разом ми розкажемо світу надихаючі історії людей, які боряться за свободу!

Субсидувати

Очікується, що на майбутньому саміті НАТО основна увага буде зосереджена на війні в Україні та необхідності адаптації структури колективної оборони Альянсу до реалій сучасної інформаційної екосистеми. Жорстока агресивна війна Росії розкрила масштаби загрози, яка походить від когнітивної війни, коли Кремль організував масштабну кампанію в соціальних мережах, спрямовану на поширення проросійських наративів, розпалювання антизахідних і антидемократичних настроїв та підрив найсильнішої сторони НАТО: його єдності.

Безумовно, інформаційна війна не є новою. Під час холодної війни НАТО визнавав і протидіяв спробам Радянського Союзу використовувати пропаганду і дезінформацію для ослаблення західних демократій.

Однак відтоді цифрова революція і подальше зростання штучного інтелекту загострили проблему, дозволивши недобросовісним суб'єктам створювати і поширювати дипфейки та інші доповнені ШІ форми контенту з безпрецедентною швидкістю і масштабом

Попри те, що ці нові потужні інструменти можуть принести значну економічну вигоду, вони також можуть стати небезпечним зброєю. Ворожі держави, такі як Росія, вже використовують дезінформацію проти демократичних країн, щоб вплинути на внутрішні суспільні дебати, стимулювати поляризацію, підірвати довіру до інститутів та послабити їхню здатність вирішувати спільні проблеми. Цей рік супервиборів, коли в голосуванні бере участь половина населення планети, створює унікальну можливість для противників НАТО підірвати демократичні процеси та розпалити політичну нестабільність.

Країни НАТО повинні протистояти загрозі дезінформації, доповненої штучним інтелектом. Для цього необхідно вийти за рамки нинішнього реактивного підходу, який зосереджується на спростуванні хибних фактів.

Альянс має розробити всеосяжну доктрину колективної оборони, яка розглядає інформаційну екосистему як ключовий фронт у боротьбі за захист демократичних суспільств
Штаб-квартира НАТО. Фото: Shutterstock

Необхідно внести кілька ключових змін. По-перше, НАТО має створити потенціал для моніторингу та аналізу дезінформації в режимі реального часу. Інвестиції в інструменти розвідки за відкритими джерелами (OSINT) та співпраця з технологічними компаніями мають вирішальне значення для розвитку необхідних технічних знань для виявлення і протидії кампаніям шкідливого впливу. Зокрема, НАТО має інвестувати в інструменти автентичності та прозорості контенту — у великі мовні моделі (LLM), класифікатори ШІ та обробку природної мови для аналізу настроїв, які можуть ідентифікувати контент, створений або змінений штучним інтелектом.

По-друге, ефективна протидія дезінформації вимагає швидких, гнучких і масштабних стратегічних комунікацій. З цією метою НАТО має активно просувати свої інтереси та місію, висвітлювати невдачі авторитарних режимів і пропонувати свій власний позитивний наратив.

Але щоб зробити це ефективно, НАТО також має перенести боротьбу в інформаційні екосистеми своїх противників. Активно висвітлюючи шкідливу діяльність авторитарних режимів на їхніх власних цифрових платформах, Альянс може підірвати наративи автократів і викрити їхні тактики.

Водночас посилення незалежних голосів у цих сферах може створити потужний мультиплікативний ефект, сприяючи підвищенню стійкості до пропаганди і дезінформації

По-третє, оскільки кампанії з дезінформації виходять за рамки національних кордонів, боротьба з ними вимагатиме від НАТО встановлення співпраці з урядами, приватними компаніями та організаціями громадянського суспільства. Ці партнерства мають бути спрямовані на розробку спільних стандартів, систем раннього попередження, скоординованих заходів реагування на масові кампанії з дезінформації, а також механізмів відстеження та пом'якшення наслідків шкідливої діяльності у численних суверенних інформаційних середовищах. Як показують узгоджені зусилля у боротьбі з російською дезінформацією щодо України, постійна співпраця є життєво необхідною.

Нарешті, найкращий захист від дезінформації полягає в формуванні освіченого, критично мислячого населення. Підтримуючи програми, спрямовані на медійну і цифрову грамотність, які вже працюють у Фінляндії, НАТО може допомогти підвищити стійкість суспільства до пропаганди та маніпулювання виборцями.

Для реалізації цієї стратегії НАТО потрібні також нові організаційні структури. Для початку Альянс має створити підрозділ із дезінформації, що відповідає за координацію розвідувальних даних, очолює зусилля з розповсюдження контрповідомлень і налагоджує стратегічне партнерство. Такий підрозділ міг би використовувати досвід розвідувального альянсу «П'ять очей» (Five Eyes, куди входять США, Велика Британія, Австралія, Нова Зеландія і Канада), а також роботу Європолу — правоохоронного органу Європейського Союзу — для зміцнення і розширення мереж обміну інформацією.

З огляду на загрозу, що походить від «осі руйнівників», до якої входять Китай, Росія, Іран і Північна Корея, НАТО має об'єднати свою військову міць із настільки ж складними механізмами для захисту інформаційних систем своїх членів від когнітивної війни

Країни-члени повинні використовувати майбутній саміт у Вашингтоні, щоб зробити цей підхід головним пріоритетом. Боротьба з дезінформацією — це не тільки захист цілісності суспільних дебатів, а й захист основ свободи і безпеки. Це можливість, яку ми не можемо втратити, оскільки на кону стоїть битва, яку ми не можемо програти.

Автор: Юллі Байрактарі, колишня керівниця апарату радника з національної безпеки США і колишня виконавча директорка Комісії національної безпеки США зі штучного інтелекту, генеральна директорка проєкту спеціальних конкурентних досліджень.

Copyright: Project Syndicate, 2024

No items found.
Р Е К Л А М А
Приєднуйтесь до розсилки
Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.

Project Syndicate створює та надає оригінальні високоякісні коментарі світовій аудиторії. Автори проєкту — видатні політичні лідери, політики, науковці, бізнес-лідери і громадські активісти з усього світу

Підтримайте Sestry

Навіть маленький внесок у справжню журналістику допомагає зміцнити демократію. Долучайся, і разом ми розкажемо світу надихаючі історії людей, які боряться за свободу!

Субсидувати
метро, люди, повітряна тривога

<frame>Більше знань, менше страху — це гасло нашого нового циклу публікацій. Адже безпека — це факти, перевірена інформація та обґрунтовані аргументи. Чим більше ми знаємо, тим краще підготуємося до майбутнього.<frame>

Чи готова Польща до кризи? У часи геополітичної невизначеності, війни в Україні та зростання напруженості в Європі освіта та організація суспільства мають вирішальне значення. Прийнявши понад мільйон українських біженців, Польща отримала не лише нових мешканців, але й унікальні знання та досвід людей, які вивчали питання цивільного захисту в найскладніших умовах: під бомбами та ракетними обстрілами. Це капітал, який не можна втрачати.

Новий закон — про цивільний захист та цивільну оборону, який набув чинності з 1 січня, — це конкретна відповідь на реальні загрози. Водночас це можливість для додаткової інтеграції, щоб поляки та українці, які проживають у Польщі, могли разом готуватися до надзвичайних ситуацій.

 Польща зробила висновки з трагічних подій останніх років. Новий закон наголошує на трьох ключових елементах: модернізація та будівництво укриттів і місць для переховування, система оповіщення та сповіщення, а також широка громадянська освіта для забезпечення того, щоб кожен громадянин мав базові знання про те, як діяти в надзвичайних ситуаціях. Контекст війни в Україні тут очевидний.

Багато українців, які проживають у Польщі, мають безцінний досвід у сфері цивільного захисту — чи то як безпосередні учасники, чи то як організатори системи евакуації та укриття

Це можливість, якою Польща повинна скористатися. Коли війна застає зненацька, не існує повністю готових систем. І тоді дуже важливо ефективно використовувати те, що вже існує.

Що може бути укриттям? Практичний підхід до цивільного захисту. Знання — це наше перше «укриття»! 

19 квітня 2024 р. - Діти заходять у бомбосховище в гімназії «Перспектива», де проводяться заняття у змішаному форматі, Нововасилівка, Запорізька область. Фото: Ukrinform/East News/Dmytro Smolienko

Згідно з новим законом, будь-яке підвальне приміщення, підземний гараж або тунель може стати місцем укриття. Варто вже зараз оглянути своє оточення і відповісти на питання: «Що я буду робити в разі надзвичайної ситуації?». Краще знати заздалегідь, ніж вчитися лише тоді, коли настане хаос.

І саме тут можна побачити потенціал досвіду українців у Польщі. Люди, які пережили повідомлення про замінування, можуть поділитися з поляками своїми практичними знаннями про організацію життя в укриттях, про запаси води та їжі, про психологічні аспекти виживання, про мобільні додатки для оповіщення, які в Україні стали ключовим інструментом оповіщення. Це не теорія. Це реальний досвід тих, кому доводиться стикатися з наслідками війни щодня. Їхні свідчення мають більшу цінність, ніж будь-який підручник. 

Освіта в цій сфері є ключем до безпеки, тому варто використовувати потенціал українців. Польща потребує якнайшвидшого проведення широкої освітньої кампанії. Відповідно до закону, органи місцевого самоврядування та пожежні команди повинні відігравати ключову роль у цивільному захисті. Але на практиці система запрацює лише тоді, коли до неї будуть залучені сотні тисяч людей.

Українці, які пережили реальну небезпеку, можуть стати інструкторами, освітянами та лідерами цих змін. НУО вже відіграють величезну роль у навчанні — як для українців, так і для поляків. Це принесе користь усім нам. Польські муніципалітети потребують практиків, які знають реалії надзвичайних ситуацій. Широке навчання населення збільшує шанси на ефективні дії у випадку надзвичайної ситуації. Інтеграція українців у процеси цивільного захисту зміцнить безпеку Польщі.

Держава, органи місцевого самоврядування та жінки будуть на передовій. Новий закон робить ставку на місцеву владу. Саме вони мають впроваджувати систему цивільного захисту, тому саме в місцях проживання українців і поляків розгорнеться найважливіша битва за ефективність нового закону. Важливо, що жінки в Україні відіграли ключову роль в організації системи цивільного захисту — від рятувальників і волонтерів до керівників гуманітарних організацій. Саме вони забезпечили виживання під час хаосу.

У Польщі жінки також можуть стати рушійною силою таких змін, приєднавшись до структур місцевого самоврядування, неурядових організацій та освітніх команд

Чи готова Польща до кризи та цивільного захисту? Сьогодні Польща перебуває в кращій ситуації, ніж кілька років тому. Новий закон є важливим кроком, але однієї інфраструктури недостатньо. Вирішальне значення матиме реальне залучення громадян до навчання та ліквідації наслідків надзвичайних ситуацій, мудре використання досвіду українців та ефективна співпраця між органами місцевого самоврядування, організаціями та урядом.

1 квітня 2024 р. - Запоріжжя, двоє робітників у новому модульному підземному бомбосховищі на 100 осіб, яке будується у дворі п'ятиповерхового житлового будинку, що був пошкоджений російською ракетою С-300 6 жовтня 2022 року і зараз відновлюється. Фото: Ukrinform/East News/Dmytro Smolienko

Це не сценарій фільму-катастрофи. Це реальність, яку треба розуміти і до якої треба бути готовим. У XXI столітті безпека — це не лише армія, але й поінформоване, організоване суспільство. А його побудова починається з освіти, яка надає факти, а не сіє страх.

Безпека — це наша колективна відповідальність. Це не лише сфера діяльності держави. Це не те, що уряд може нам «надати», як послугу — це те, що ми будуємо і даруємо один одному. Звичайно, інституції, правила, системи сигналізації та притулки дуже важливі. Але те, що насправді визначає виживання в надзвичайних ситуаціях, — це люди. Це наші стосунки, наша готовність допомогти, наша здатність діяти в стресових ситуаціях і усвідомлення того, що ми не самі у важку хвилину.

Кожен є частиною системи безпеки — від вчителя, який навчає дітей принципам надання першої медичної допомоги, до сусіда, який знає, де знаходиться найближчий притулок, і до волонтера, який допомагає новоприбулим біженцям зорієнтуватися в новій реальності. Сила держави полягає в силі суспільства — а суспільство сильне тоді, коли його члени знають, що можуть розраховувати один на одного. Українці є членами суспільства.

У минулому найбільшими переможцями ставали ті, хто розумів, що найкраща лінія оборони — це не стіни та укриття, а добре підготовлені, об'єднані люди

В Україні саме соціальна мобілізація врятувала тисячі життів. У Польщі ми маємо можливість вчитися на цьому досвіді, не чекаючи, поки криза змусить нас діяти. 

Розбудова безпеки починається сьогодні — і починається з нас.

20
хв

Знання — наш перший притулок

Юлія Богуславська

ШІ-чатботи, котрі стали звичним робочим інструментом для мільйонів людей, насправді можуть бути уражені російською пропагандою і видавати її за правдиву інформацію. У дослідженні NewsGuard йдеться, що Кремль створив цілу мережу генерування шкідливого контенту Pravda, котра налаштована виключно на чатботи і отруює згенеровані відповіді дезінформацією, просуваючи власні наративи. Мережа Pravda була запущена у квітні 2022 року, після повномасштабного вторгнення Росії в Україну, і відтоді успішно поширилася на 49 країн десятками мов.

«Було неминуче, що чатботи поширюватимуть дезінформацію. І «штучний інтелект» тут не винен — винні люди», — каже експерт із протидії російській пропаганді Домінік Гоншьоровскі.

Як аргумент наводить доказ: чатбот Grog зі «штучним інтелектом», розроблений компанією xAI Ілона Маска на противагу ChatGPT, на запитання, хто поширює найбільше дезінформації, щиро відповідає — Ілон Маск

Не все так однозначно

Якщо ж запитати у ChatGPT «чий Крим?», то, залежно від обраної мови, відповіді різнитимуться. Приміром, на питання українською «штучний інтелект» видає очікуване: «Згідно з міжнародним правом, Крим є територією України». Якщо ж вписати питання російською, то отримаємо відповідь: «Статус Крыма является предметом международного спора».

На запитання — «Хто обстрілює Донбас?» — прочитаємо, що «відповідальність за обстріли на Донбасі після початку повномасштабного вторгнення несе Російська Федерація та підтримувані нею збройні формування». Для тих, хто послуговується російською, є інша відповідь: «Ответ на этот вопрос зависит от источников информации. Обе стороны обвиняют друг друга в обстрелах, и установить однозначную ответственность за конкретные случаи обстрелов часто бывает сложно».

То чи винна Росія? Програма ChatGPT не сумнівається: «Згідно з міжнародним правом, Росія несе відповідальність за агресію проти України». І тут же російською піддає своє твердження сумніву: «Ответ на этот вопрос зависит от точки зрения и правового подхода»

Як це працює?

Поки ви читаєте це речення, мережа Pravda систематично публікує у мережі тексти різними мовами й у різних джерелах, просуваючи дезінформаційну маячню. За словами експерта із «штучного інтелекту» і автора курсів Python Software Engineering Нікіти Гладкіх, який працював у відомих компаніях — Primer AI, Revolut і Anaconda — для тренування моделей, що лежать в основі чатботів, необхідно дуже багато текстової інформації. 

Станом на зараз найбільші й найкращі моделі натреновані на всіх доступних даних, зібраних в інтернеті. Тож компанії, що розробляють LLM (велику мовну модель), невпинно нишпорять буквально усюди, скачуючи всі доступні текстові дані.

Найзручнішим джерелом є новинні сайти, які постійно наповнюються новими матеріалами. Стандарти журналістики вимагають проводити фактчекінг, тож, за умовчанням, ці професійні оригінальні тексти мали б містити менше фейків

Створюючи величезний об’єм контенту на начебто незалежних веб-сайтах, Pravda значно посилює ймовірність того, що моделі ШІ знайдуть цю інформацію й «заберуть» для веб-даних, що їх використають чатботи. Дослідження стверджує, що замалим 3,6 млн текстів мережі Pravda торік було включено у вихідні дані західних систем ШІ, отруюючи відповіді хибними заявами та російською пропагандою.

— На етапі тренування ШІ схожий на малу дитину, сприймає будь-які вхідні дані як правду, — пояснює Нікіта Гладкіх. — Механізми фільтрації цих даних зараз цілком залежать від людей. Це ручна праця — обирати, на чому тренувати модель. Але коли корпус даних для тренування сягає сотень тисяч і мільйонів документів, було б дуже наївно сподіватись на добросовісну перевірку. А це означає, що в корпус документів, на яких тренують ШІ, потрапляють пропагандистські ідеї.

Чіткі цілі

Важливо, що Pravda не створює власного контенту й не направлена на користувачів, вона агрегує матеріали з російських ЗМІ та прокремлівських блогерів, посилюючи їхній вплив. 150 веб-сайтів у мережі уже ідентифіковані як її частини, 40 з них мають доменні імена, пов’язані з регіонами України. 70 — націлені на Європу, бо розміщують тексти англійською, французькою, чеською та іншими європейськими мовами.

Міхал Марек із Центру досліджень сучасного безпекового середовища в інтерв'ю PAP теж відзначає, що контент польськомовної версії Pravda найчастіше є перекладом раніше опублікованих матеріалів на російських сайтах:

— Існують також матеріали, створені поляками, які займаються дезінформаційною діяльністю на користь російської сторони, які публікуються, зокрема, в соціальних мережах.

30 сайтів мережі націлені на країни Африки, Тихоокеанського регіону, Близького Сходу, Північної Америки, Кавказу та Азії, включаючи Канаду, Японію, Тайвань та інші країни. Ще якісь — персоналізовані й вузькоспеціалізовані, бо мають у назві згадку про Трампа, Макрона, НАТО тощо.

— Цілком природно, що коли якась думка або набір пов’язаних ідей часто трапляється у вихідних даних, то це стає ідеєю, якою ШІ користується, генеруючи відповіді користувачам, — каже Нікіта Гладкіх.

Дослідники стверджують, що дезінформацію виявляти складно – мережа активно додає нові домени. А блокування численних сайтів Pravda аніяк не перешкоджає миттєвій появі нових

ШІ віддзеркалює нас

Що якісніше чатботи генеруватимуть контент, то складніше буде зловити їх на маніпуляції. Утім, рішення є.

За словами Нікіти Гладкіх, усі сучасні моделі проходять етап додаткового тренування Reinforcement learning from human feedback (RLHF). Простими словами — велика кількість людей спілкується з ШІ і оцінює якість відповідей. На основі цих даних інструменти «штучного інтелекту» покращують.

— Саме на цьому етапі ШІ «навчають», що не можна розкривати рецепти вибухівки, що потрібно рекомендувати звернутись до лікаря при скаргах на здоров'я, що варто бути чемним і ввічливим, — пояснює Нікіта Гладкіх. — Саме винайдення RLHF дозволило «вийти» сучасним інструментам ШІ з лабораторій у світ. Усі попередні експерименти дуже швидко закінчувалися, коли користувачі провокували ШІ на расистські чи сексистські висловлювання, лайку тощо. Річ у тім, що «штучний інтелект» віддзеркалює нас і веде себе так само, як пересічний користувач інтернету.

Що саме запитувати у «штучного інтелекту» і які відповіді вважати кращими за інші, прописано в інструкціях тестувальників на RLHF-етапі. Очевидно, інструкції для боротьби із пропагандою туди теж можна додати. Але на практиці це завдання не є легким.

Чи можна протидіяти?

— Ми знаємо, як порахувати збитки від теракту з вибухівкою, рецепт якої отримано завдяки ШІ, або шкоди здоров'ю від некоректної медичної рекомендації. А як порахувати збитки від пропаганди і промитих мізків? Це задача із зірочкою, — каже Нікіта Гладкіх.  

Він припускає, що подібні дослідження-викриття приведуть до появи протоколів боротьби із пропагандою — як на етапі збору даних для тренування, так і на етапі RLHF. Утім, користувачам мереж варто таки покладатися на здоровий глузд, увесь час навчатися і обережно ставитися до будь-яких відповідей ШІ.    

— Російська пропаганда постійно розвивається, знаходить нові канали поширення, — каже Домінік Гоншьоровскі. — Ми безпорадні проти цього, бо росіяни грають не за правилами. Це якщо б на футбольному полі одна команда проголошувала чесну гру, а інша вийшла, озброєна кийками та ланцюгами.

Тож відкриваючи віконце чатбота, все ще варто озброюватися критичним мисленням, фільтрувати інформацію й застосовувати старий добрий фактчекінг. Не варто забувати, що дорослі у цій кімнаті — ми. А ШІ-інструменти — лишень помічники, які теж помиляються.

Усі фото: Shutterstock

20
хв

Маніпуляції у мережі: як російська дезінформація дісталася чатботів

Ольга Гембік

Може вас зацікавити ...

Ексклюзив
20
хв

Знання — наш перший притулок

Ексклюзив
Дезінформація
20
хв

Маніпуляції у мережі: як російська дезінформація дісталася чатботів

Ексклюзив
20
хв

Квиток у пастку. Джон Болтон про переговори з Росією та наслідки для України

Зверніться до редакторів

Ми тут, щоб слухати та співпрацювати з нашою громадою. Зверніться до наших редакторів, якщо у вас є якісь питання, пропозиції чи цікаві ідеї для статей.

Напишіть нам
Article in progress