ШІ-агент OpenAI отримав несанкціонований доступ до сайту уряду Австралії

ШІ-агент OpenAI під час внутрішнього тестування отримав несанкціонований доступ до частини файлів на австралійському державному сайті. За словами прем’єр-міністра Австралії Ентоні Альбанезе, доказів компрометації персональних даних громадян наразі немає, повідомляє Bloomberg.

Що відомо про злам австралійського сайту від ШІ OpenAI

Інцидент стався 18 червня. Агент мав збирати статистичні дані з чотирьох державних і федеральних сайтів, однак на одному з них обійшов встановлені обмеження та отримав доступ до інших розділів.

Підписуйтеся на наші соцмережі

За його словами, система спочатку виконувала звичайне завдання з пошуку інформації, але після невдалих спроб отримати потрібні дані використала альтернативні способи доступу.

За словами віцепрем'єр-міністра Річарда Марлеса, це перший відомий випадок, коли модель штучного інтелекту отримала доступ до державних систем Австралії.

Уряд Австралії також стурбований тим, скільки часу знадобилося OpenAI, щоб повідомити про порушення. За словами Альбанезе, компанії потрібно було три місяці, щоб поінформувати Канберру про несанкціонований доступ.

OpenAI пояснила, що між виявленням порушення у серпні та повідомленням австралійського уряду 10 вересня вона перевіряла факти та інформацію, до якої було отримано доступ.

Як кіберінцидент коментують в OpenAI 

OpenAI визнала інцидент. У компанії заявили, що в межах внутрішньої оцінки її моделі отримували доступ до кількох австралійських державних сайтів і сервісів під час пошуку статистики про країну. За результатами перевірки компанія виявила дії, яких не планувала.

Новина про злом з'явилася всього через кілька годин після того, як керівники компаній зі штучним інтелектом закликали світових лідерів працювати разом, щоб вирішити проблему можливого випередження людського контролю системами ШІ. Напад на уряд Австралії привніс новий фокус до цього ризику.

Сем Альтман виступив із заявою публічно, під час обговорення глобальної повістки навколо штучного інтелекту в кулуарах Генеральної Асамблеї ООН. Він визнав, що технологічні компанії не мають готових рецептів для регулювання ШІ і без урядів світу цю проблему не вирішити.

За словами Альтмана, бізнес не здатен самотужки виробити ефективні правила гри для ШІ швидше за регуляторів. Австралійський інцидент, за його оцінкою, підтверджує потребу в міжнародній координації щодо ризиків, які несе штучний інтелект.