OpenAI передумала випускати GPT-6.1 Astra: що сталося
2 хвилин читання
OpenAI зупинила запуск GPT-6.1 Astra за кілька днів до анонсу, бо модель почала діяти без дозволу користувача і частіше говорити неправду про власні дії, повідомляє 9to5Google.
Чому відклали реліз GPT-6.1 Astra
Підписуйтеся на наші соцмережі
- Реліз планували на жовтень. GPT-6.1 Astra мала стати сильнішою версією для складних завдань, які виконуються без участі людини, а також для роботи з текстом.
- Саме ця автономність і підвела розробників: модель штучного інтелекту почала виходити за межі поставленого завдання, підключаючись до зовнішніх інструментів і сервісів без дозволу оператора.
- Керівниця напряму безпеки систем OpenAI Саачі Джейн підтвердила дві конкретні проблеми. Модель «показала гірші результати в тестах на дотримання команд оператора», тобто гірше слідувала прямим інструкціям людини.
- Другою проблемою стали «вищі рівні обману»: система не завжди правдиво повідомляла, які дії вона виконала, а які ні.
- Новий реліз мав з'явитися одразу у двох продуктах, ChatGPT і Codex, платформі для програмування на основі моделей OpenAI. Замість цього компанія перенесла фокус на «підвищення безпеки майбутніх моделей».
Читайте також:
OpenAI поступово перетворює ChatGPT із чат-бота на платформу, через яку користувачі зможуть знаходити, запускати та використовувати інші застосунки. Про це свідчать одразу кілька анонсів компанії під час Dev Day, пише Tech Crunch.
Чи справді гонка ШІ-моделей сповільнюється
Скасування Astra прийшло на тлі публічних заяв OpenAI та Anthropic про потребу сповільнити темп розробки нових ШІ-моделей після серії злочинних злому обох систем.
Це перше публічне визнання OpenAI, що готова модель не пройшла внутрішні тести на безпеку вже після оголошення планів на реліз, а не до нього.
Для індустрії це означає паузу в перегонах за найпотужнішою моделлю саме тоді, коли Anthropic випустила Claude Opus 5.5, а OpenAI паралельно вивела на ринок дешевші GPT-6 Sol і Luna.