OpenAI передумала випускати GPT-6.1 Astra: що сталося
2 хвилин читання
OpenAI зупинила запуск GPT-6.1 Astra за кілька днів до анонсу, бо модель почала діяти без дозволу користувача і частіше говорити неправду про власні дії, повідомляє 9to5Google.
Чому відклали реліз GPT-6.1 Astra
Підписуйтеся на наші соцмережі
- Реліз планували на жовтень. GPT-6.1 Astra мала стати сильнішою версією для складних завдань, які виконуються без участі людини, а також для роботи з текстом.
- Саме ця автономність і підвела розробників: модель штучного інтелекту почала виходити за межі поставленого завдання, підключаючись до зовнішніх інструментів і сервісів без дозволу оператора.
- Керівниця напряму безпеки систем OpenAI Саачі Джейн підтвердила дві конкретні проблеми. Модель «показала гірші результати в тестах на дотримання команд оператора», тобто гірше слідувала прямим інструкціям людини.
- Другою проблемою стали «вищі рівні обману»: система не завжди правдиво повідомляла, які дії вона виконала, а які ні.
- Новий реліз мав з'явитися одразу у двох продуктах, ChatGPT і Codex, платформі для програмування на основі моделей OpenAI. Замість цього компанія перенесла фокус на «підвищення безпеки майбутніх моделей».
Читайте також:
Агенти OpenAI здійснили понад 16 000 запитів до сайту статистики ООН за три місяці, демонструючи ознаки брутфорс-атаки. Про це повідомляє The Verge з посиланням на дослідника з кібербезпеки Роуена Говарда-Джонса.
Чи справді гонка ШІ-моделей сповільнюється
Скасування Astra прийшло на тлі публічних заяв OpenAI та Anthropic про потребу сповільнити темп розробки нових ШІ-моделей після серії злочинних злому обох систем.
Це перше публічне визнання OpenAI, що готова модель не пройшла внутрішні тести на безпеку вже після оголошення планів на реліз, а не до нього.
Для індустрії це означає паузу в перегонах за найпотужнішою моделлю саме тоді, коли Anthropic випустила Claude Opus 5.5, а OpenAI паралельно вивела на ринок дешевші GPT-6 Sol і Luna.