Україна відкрила союзникам доступ до 5 мільйонів відео з фронту для навчання військового ШІ
Україна передає оборонним компаніям із союзних країн доступ до мільйонів відеозаписів бойових дій, які використовуватимуть для навчання систем штучного інтелекту. Платформа Avenger Labs містить понад 5 млн відео з дронів, зокрема записи виявлення та ураження російської техніки й військових. В обмін на доступ до даних іноземні розробники мають надати українським військовим ліцензії на створене програмне забезпечення.
Про це повідомляє The New York Times. Україна вже домовилася про співпрацю з 12 британськими оборонними компаніями та веде переговори з іншими державами.
Навіщо Україні відкривати бойові дані для розробників ШІ
Системи штучного інтелекту для військових потреб потребують великих масивів даних. Так само як мовні моделі навчаються на текстах, військові алгоритми мають аналізувати приклади реальних бойових ситуацій, щоб навчитися розпізнавати цілі та відрізняти їх від навколишнього середовища.
Україна накопичила значний обсяг таких матеріалів за майже п'ять років повномасштабної війни. Йдеться про відео з розвідувальних і ударних дронів, аудіозаписи та текстову інформацію з поля бою.
Ці дані вже використовують близько 30 українських оборонних компаній для розробки систем штучного інтелекту. Тепер доступ до них отримуватимуть і виробники з країн-союзників.
Для України це можливість прискорити розвиток оборонних технологій, залучити іноземні компанії до співпраці та отримати доступ до нових програмних рішень. Водночас партнери отримують те, чого бракує багатьом західним розробникам, – великі масиви даних із реальної війни.
Що містить платформа Avenger Labs
Платформа Avenger Labs зберігає понад 5 млн відеозаписів із дронів. Серед них є як необроблені кадри польотів і бойових завдань, так і відео з розміченими об'єктами.
Розробники можуть знаходити матеріали за типами цілей та умовами спостереження. Наприклад, у базі є записи танків узимку, вантажівок уночі та російських безпілотників, зафіксованих тепловізійними камерами.
Такий поділ важливий для навчання алгоритмів. Система має навчитися розпізнавати один і той самий тип об'єкта за різного освітлення, погоди, кута огляду та якості зображення.
Підписуйтеся на наші соцмережі
За даними The New York Times, платформа працює в зашифрованому середовищі хмарного сервісу за межами України. Іноземні компанії не отримують прямого доступу до відеозаписів. Натомість вони запускають власні алгоритми в ізольованому комп'ютерному середовищі – так званій пісочниці.
У ній моделі поступово навчаються розпізнавати військові об'єкти на основі бойових матеріалів. Після досягнення необхідної точності розробники можуть інтегрувати програмне забезпечення в системи наведення повітряних, наземних або морських безпілотників.
Як ШІ навчають знаходити військові цілі
Процес починається з вибору об'єктів, які система має навчитися розпізнавати. Для цього формують набір із тисяч або десятків тисяч зображень конкретного типу цілі.
Наприклад, якщо алгоритм навчають знаходити танки, йому показують відповідні відео з різних умов спостереження. Поступово модель вчиться відрізняти техніку від дерев, тіней, інших об'єктів і природного ландшафту.
Після навчання її перевіряють на помилкові спрацьовування та пропущені цілі. Лише після оцінювання точності програму можна інтегрувати в систему безпілотника.
В одному з прикладів, наведених виданням, представник компанії, яка вже використовувала Avenger Labs для створення моделі, заявив, що частка хибнопозитивних результатів під час навчання була меншою за 5%. Він говорив анонімно через угоду про конфіденційність із платформою.
Водночас це не означає, що система гарантовано не помилятиметься в реальному бою. Точність моделі залежить від умов застосування, якості даних та особливостей конкретної ситуації.
Україна хоче прискорити розробку автономної зброї
Один із напрямів використання таких технологій – безпілотники, здатні самостійно знаходити й супроводжувати цілі.
Більшість систем із ШІ, які нині застосовують на дронах, усе ще потребують підтвердження цілі людиною перед ударом. Водночас Україна та росія вже використовували обмежену кількість повністю автономних ударних безпілотників.
За інформацією The New York Times, у липні російський автономний дрон однієї з моделей убив трьох людей у місті на півдні України.
Колишній міністр оборони України Михайло Федоров, який керував розвитком платформи Avenger Labs, також створив інвестиційний фонд із метою розгорнути повністю автономну систему озброєння на основі ШІ вже наступного року. Серед провідних інвесторів фонду видання називає генерального директора Palantir Алекса Карпа.
Україна зацікавлена в прискоренні таких розробок, зокрема через дефіцит особового складу для утримання фронту та нестачу традиційних засобів протиповітряної оборони для захисту міст.
Чому бойові дані України не універсальні
Попри значний обсяг матеріалів, українська база має певні обмеження. Один із головних викликів – перенесення навчених моделей на інші театри бойових дій.
Катерина Бондар, старша дослідниця Центру штучного інтелекту Вадгвані при Центрі стратегічних і міжнародних досліджень у Вашингтоні, звертає увагу, що алгоритми, навчені розпізнавати російську техніку, не обов'язково зможуть так само ефективно ідентифікувати озброєння інших армій.
Наприклад, у конфлікті на Близькому Сході системам доведеться працювати з іншими типами військової техніки та ландшафтами. Для цього потрібні додаткові навчальні дані й адаптація моделей.
Крім того, росія також накопичує матеріали війни для навчання власних систем ШІ. Водночас, як зазначає видання, залишається незрозумілим, як саме Москва використовує ці дані та чи передає їх партнерам, зокрема Ірану, Китаю й Північній Кореї.
Автономна зброя створює нові юридичні та етичні ризики
Передача бойових даних іноземним компаніям відбувається на тлі дискусій про міжнародні правила використання автономної зброї. Зокрема, досі немає узгодженого підходу до того, наскільки обов'язковою має бути участь людини в ухваленні рішень про застосування летальної сили.
На переговорах ООН у Женеві представники росії та США виступили проти вимоги щодо «значущого людського контролю» над автономними системами озброєння. Обговорення проєкту міжнародного договору мають продовжитися.
Правозахисники також звертають увагу на проблему відповідальності. Аналітикиня Human Rights Watch Анна Баччареллі наголошує, що внутрішню логіку моделей ШІ часто важко пояснити. Через це у випадку помилкового ураження складніше встановити, на якому етапі системи відбулося порушення.
Ще одне питання стосується умов передачі даних. Угода про доступ до Avenger Labs не містить окремого пункту щодо дотримання прав людини. Українські посадовці пояснюють, що співпраця відбувається на рівні урядів, а відповідальність за дотримання Женевських конвенцій та інших міжнародних договорів несуть держави-партнери.
Лауреатка Нобелівської премії миру та керівниця Центру громадянських свобод Олександра Матвійчук закликає Україну обережно підходити до передачі даних державам, які не визнають окремих принципів міжнародного права, зокрема юрисдикції Міжнародного кримінального суду.