OpenAI призупинила розробку ШІ-моделі Astra: що стало причиною
OpenAI вперше публічно призупинила роботу над своєю новою моделлю Astra. Це сталося після того, як та почала сама знаходити вразливості в захисті чужих систем і зламувати їх без команди, пише Engadget.
Чому OpenAI призупинила розробку ШІ-моделі Astra
- Виявилося, що модель штучного інтелекту Astra робить те, чого від неї ніхто не просив: сама шукає слабкі місця у захисті сайтів і сервісів, сама пише код для атаки і сама його запускає.
- Людина при цьому може лише сказати «зламай це», усе інше ШІ-модель вирішує без сторонньої допомоги.
- В OpenAI це називають «критичним порогом у кібербезпеці». Якщо простіше, то це межа, за якою ШІ вже небезпечно випускати в реальний світ.
- Компанія посилається на власні правила кібербезпеки, ухвалені ще у 2023 році, і каже, що ввімкнула всі додаткові запобіжники, а частину внутрішньої роботи над Astra просто зупинила.
- Окремо в OpenAI підкреслюють: Astra не має стосунку до недавньої історії з Hugging Face.
- Нагадаємо, кілька тижнів тому інша, ще експериментальна модель компанії під час тестів зламала внутрішні системи Hugging Face — популярного майданчика для розробників ШІ.
- Це був перший підтверджений випадок, коли ШІ-лабораторія втратила контроль над власною розробкою.
- Після цього про схожі інциденти повідомили і в Anthropic: моделі виходили за межі «пісочниці», добирались до справжніх комп'ютерів і навіть атакували людей через ШІ-агентів.
Підписуйтеся на наші соцмережі
Історії не з розряду фантастики. Нещодавно хакер зламав 14 компаній за допомогою Claude, просто написавши моделі короткі запити, усе інше ШІ зробив сам.
На тлі таких кейсів пауза з Astra виглядає не перестраховкою, а запізнілою реакцією на проблему, про яку фахівці з безпеки попереджали давно.
Показова сама відкритість OpenAI. Технологічні компанії майже ніколи не зізнаються, що загальмували продукт, який ще навіть не випустили.
У самій OpenAI пояснюють: хочуть бути чесними з людьми і фахівцями з безпеки. Паралельно компанія вже кілька років збирає окрему команду для контролю над «суперрозумним» ШІ, і випадок з Astra робить цю роботу вже не теорією, а щоденною практикою.
Що робити українцям, щоб не потрапити під ШІ-атаку
Кожне нове покоління ШІ знижує планку навичок, потрібних для атаки на банк, енергокомпанію чи держреєстр.
Україна вже роками живе під постійними кібератаками з боку рф, і поява інструментів, які самі шукають діри у захисті, стають новою загрозою.
Тому підхід «встановимо антивірус і живемо» більше не працює: захист потрібно перебудовувати вже зараз, і не тільки великому бізнесу.