ШІ може спровокувати велику війну: у США попередили про нову загрозу
Штучний інтелект уже допомагає військовим швидше збирати та аналізувати розвідувальні дані, координувати операції й отримувати картину поля бою практично в реальному часі. Але разом із цими можливостями з'явилася проблема, яка може виявитися не менш небезпечною за звичайну кібератаку.
ШІ навчився створювати настільки переконливі фейки, що військовим та цивільним керівникам стає дедалі складніше визначити, де справжня інформація, а де маніпуляція.
Про це заявив командувач Командування спеціальних операцій США адмірал Френк Бредлі під час конференції Global SOF Foundation Indo-Pacific Irregular Warfare Symposium, пише Defense One.
ШІ робить обман масштабованим
За словами американського військового керівника, штучний інтелект одночасно дає спецпризначенцям нові можливості та створює серйозні ризики.
Алгоритми дозволяють значно швидше збирати інформацію з різних джерел, аналізувати її та формувати спільну картину ситуації. Завдяки цьому військові можуть приймати рішення швидше, ніж це було можливо ще кілька років тому.
Але противник отримує доступ до тих самих технологій.
ШІ дозволяє створювати синтетичні голоси, клонувати обличчя, генерувати відео та навіть вигадувати цілі цифрові особистості. Причому зробити це тепер можуть не лише великі держави з потужними технологічними ресурсами.
Саме масштабованість такого обману і є однією з головних проблем.
Раніше створення переконливої дезінформаційної кампанії вимагало значних ресурсів, часу та спеціалістів. Тепер частину роботи можуть виконувати алгоритми.
Найнебезпечніше — люди перестають довіряти навіть правді
Проблема не лише в тому, що хтось може створити фейкове відео президента чи підроблений голос військового.
Підписуйтеся на наші соцмережі
Набагато небезпечнішим може стати руйнування самої довіри до інформації.
Якщо людина знає, що відео, аудіо або фотографію можна переконливо підробити за допомогою ШІ, вона починає сумніватися навіть у справжніх матеріалах.
Це особливо критично під час війни.
Уявімо ситуацію: з'являється відео, на якому нібито високопоставлений військовий віддає наказ про відступ або повідомляє про початок масштабної атаки. Якщо противник зможе переконливо підробити таке відео, воно може спричинити паніку або неправильні рішення ще до того, як його встигнуть перевірити.
Ще складніший сценарій — коли одночасно поширюються справжні та фальшиві повідомлення.
Тоді проблема вже не в тому, щоб знайти правду. Проблема в тому, що люди можуть перестати вірити правді взагалі.
Інформаційна перевага стає військовою перевагою
Бредлі наголошує, що в сучасній війні інформація стає критично важливою.
Якщо командування отримує достовірні дані швидше за противника, воно може швидше ухвалити рішення.
Американський військовий назвав раннє та достовірне виявлення ворожих дій критичною перевагою: інформаційна перевага дає перевагу в ухваленні рішень.
Водночас противник намагається зробити протилежне — створити настільки багато перекрученої інформації, щоб у потрібний момент ніхто не міг зрозуміти, що відбувається насправді.
Це фактично новий фронт інформаційної війни.
ШІ вже допомагає військовим працювати швидше
Попри ризики, американські військові активно використовують ШІ для покращення розвідки.
Системи можуть об'єднувати інформацію з величезної кількості джерел і регулярно оновлювати отриману картину ситуації.
За словами представника американської розвідки, якщо ще приблизно десять років тому складні візуальні та розвідувальні дані були переважно інструментом вузьких спеціалістів, то сьогодні десятки, сотні й навіть тисячі джерел можуть об'єднуватися в єдину систему для безпосереднього використання операторами.
Такі дані можуть оновлюватися приблизно кожні 15 хвилин.
Це дозволяє військовим бачити не лише те, що відбувається зараз, а й прогнозувати, як ситуація може змінитися.
ШІ може допомогти врятувати військових
Американські військові наводять і конкретні приклади того, як нові технології вже змінюють операції.
Бредлі згадав операцію з порятунку пілота F-15, який опинився за лінією противника. За його словами, операція стала можливою завдяки синхронізації розвідки, кіберпідтримки та координації між різними підрозділами.
Ключовим фактором стала спільна картина розвідданих, яка могла швидко змінюватися відповідно до ситуації.
Тобто той самий ШІ, який може допомагати противнику створювати фейки, одночасно дозволяє військовим швидше знаходити реальні загрози.
Наступний виклик — захист даних від ШІ
Американські військові вже готуються до нового типу атак — коли ШІ не просто генерує фейковий контент, а намагається проникнути в системи, змінювати дані або впливати на розвідувальні процеси.
Це значно складніше завдання, ніж боротьба з традиційними фішинговими листами чи окремими кібератаками.
У майбутньому військовим доведеться одночасно відповідати на два питання: як отримати якомога більше інформації та як переконатися, що ця інформація не була сфабрикована або змінена противником.