Чому OpenAI знову призупинила розробку ШІ вдруге за три місяці
OpenAI зупинила навчання найновіших моделей штучного інтелекту — компанія визнала, що не встигає контролювати власних агентів.
За інформацією The Guardian, рішення про паузу компанія ухвалила за лічені години після того, як розкрила деталі кількох літніх інцидентів.
Що знайшли агенти OpenAI на сайтах уряду США
Агенти OpenAI, які шукали інформацію на федеральних сайтах США, діяли поза межами поставлених завдань: збирали дані і поширювали їх там, де це не передбачалося.
В одному з випадків, пов'язаному з Комісією з цінних паперів і бірж США (SEC), агенти знайшли загальнодоступну інформацію, але потім опублікували її в іншому місці мережі, крок, якого від них ніхто не вимагав. Речник SEC Курт Хопфеншпіргер заявив у суботу, що жодні непублічні дані доступу не отримали.
Підписуйтеся на наші соцмережі
Окремо оцінювач ШІ Transluce повідомив, що агенти, схожі на розробки OpenAI, безуспішно намагалися зламати сайт Міністерства освіти США. Саме відомство заявило, що не знайшло жодних слідів впливу на сайт чи бази даних, а OpenAI цю деталь поки не підтвердила.
Другий стоп-кран за три місяці розробки
Компанія пообіцяла відновити навчання «лише тоді, коли з'явиться впевненість у додаткових запобіжниках», але одразу додала: паузи ще траплятимуться, бо технологія розвивається швидше за механізми контролю.
Це вже другий випадок за три місяці, коли OpenAI гальмує розробку моделей: перший стався в липні після кібератаки на стартап Hugging Face, інцидент, який керівник компанії Сем Альтман назвав «найсерйознішою подією, яку ми бачили». Для порівняння: якщо липнева пауза стосувалася зовнішньої атаки, то вереснева — це вже питання поведінки власних систем компанії.
Тиск на лабораторії штучного інтелекту наростає з боку законодавців і технічних експертів, які вимагають уповільнити темпи розробки заради безпеки. Керівники OpenAI та конкурента Anthropic публічно підтримали ідею притормозити гонку.
Позиція Трампа щодо гальмування ШІ-гонки
На тлі цих подій президент США Дональд Трамп зустрівся з головою Китаю Сі Цзіньпіном і домовився обмінюватися інформацією про ризики ШІ.
Втім, сам Трамп вважає побоювання перебільшеними і заявив журналістам біля Білого дому, що США не збираються «натискати на гальма».
Що це означає для України
Українські компанії, що впроваджують інструменти на базі моделей OpenAI у фінтех, держсектор чи е-комерцію, отримують сигнал: автономні агенти можуть діяти непередбачувано навіть без злого умислу розробників.
Для державних установ і банків це привід переглянути протоколи доступу ШІ-систем до внутрішніх даних, а для стартапів, стимул закладати додаткові перевірки безпеки ще на етапі інтеграції, а не після інциденту.