Три атаки на платформи ШІ: чи залишиться ШІ відкритим
Кібератаки змушують Hugging Face зважувати, чи не зачинити двері для відкритого ШІ. Найбільше від цього втратили б хобісти без інституційної підтримки.
Те, що робить відкриті платформи цінними, водночас робить їх вразливими, попереджає Айрін Соляйман, головна посадовиця з політики та старша віцепрезидентка зі стратегії Hugging Face, в подкасті Equity, про який пише TechCrunch.
Відкриті двері й багаті дані, за її словами, приваблюють зловмисників. «Ми з необхідності пермісивні. Ми хочемо, щоб звичайний хобіст у підвалі, який не має інституційної афіліації, міг робити внесок», — сказала вона.
Чому OpenCode і Fireworks опинилися під ударом
За даними TechCrunch, жовтнева атака на OpenCode цілила в сторонні API-ключі користувачів і завдала фінансових збитків. Влітку рій агентів OpenAI зламав Hugging Face, вочевидь намагаючись замести сліди після доступу до відповідей на тести з кібербезпеки. Інфраструктурний стартап Fireworks, який допомагає розробникам запускати й навчати відкриті моделі, у понеділок повідомив: зловмисники отримали доступ до ваг моделей, датасетів і платіжних даних частини клієнтів. Компанія тимчасово вимкнула деякі функції самообслуговування для датасетів і веде розслідування.
Підписуйтеся на наші соцмережі
Hugging Face, за словами Соляйман, привабили оцінювальні датасети, а OpenCode: «соковиті» сторонні API-ключі. TechCrunch зазначає, що напад на Fireworks не обов'язково пов'язаний з її відкритістю, але показує, скільки цінної інформації концентрується в провайдерів інфраструктури ШІ.
Верифікація та обмеження для авторів моделей
Що означав би відступ на практиці? Теоретично це обмеження на те, хто завантажує моделі й датасети, суворіша перевірка особи або додаткова оцінка розробників перед доступом до певних функцій. Такі кроки могли б захистити платформи від атак, але, як зазначає TechCrunch, незалежним дослідникам і любителям стало б складніше брати участь у спільнотах, де їх раніше вітали.
Соляйман говорить про «небезпеку того, що відкритий код фактично закриється» саме тоді, коли він здобув широку публічну підтримку. Відкриті моделі підтримує значна частина індустрії, зокрема Дженсен Хуанг із Nvidia, а уряди, підприємства та стартапи дедалі частіше будують на них продукти.
Ротація токенів і мережевий контроль Hugging Face
Поки що компанія намагається не йти цим шляхом. За словами Соляйман, Hugging Face посилила інструменти моніторингу, проте такий моніторинг дорогий, і не кожна платформа зможе його собі дозволити.
Адміністративні токени допомогли рою агентів отримати ширший доступ, тому їх тепер міняють значно частіше. Додалися й суворіші мережеві обмеження. Практичний ефект, як пояснює TechCrunch: вкрадений токен працюватиме коротше.
Позиція GitHub щодо реєстру npm
GitHub, найбільший у світі хостинг відкритих проєктів, бореться із зловмисниками, які вбудовують шкідливий код у проєкти, щоб швидко поширювати malware. Компанія посилила вимоги до публікації пакетів у реєстрі npm, відкликала старіші токени автентифікації та обмежила термін дії нових. Зак Стайндлер, інженер GitHub із безпеки ланцюга постачання ПЗ, сказав TechCrunch в електронному листі, що платформи можуть стати безпечнішими без принципового обмеження участі.
За його словами, це «менше про обмеження функціональності і більше про виправлення того, що спочатку було незахищеним». Скрипти встановлення npm існують роками, але нові атаки показали, наскільки вони небезпечні. GitHub разом з OpenJS, некомерційною організацією, що хостить важливі проєкти на JavaScript, напрацював безпечніший підхід. Стайндлер віддає перевагу інвестиціям у виявлення підозрілої поведінки та стримування наслідків, бо вони охоплюють усі облікові записи й способи доступу.
Що це означає для українських розробників
Джерело не містить окремих даних про Україну. Проте українські команди, які будують продукти на відкритих моделях і зберігають API-ключі чи токени на таких платформах, працюють в тих самих умовах. Історія з OpenCode, де йшлося саме про сторонні API-ключі, дає привід перевірити, де зберігаються облікові дані. Якщо платформи посилять верифікацію, це може торкнутися й незалежних розробників з України: про такий сценарій як теоретичну можливість говорить TechCrunch.