OpenAI запустила проєкт Model Spec: що це означає
OpenAI впроваджує перший проєкт Model Spec, який визначає підхід компанії до формування бажаної поведінки своїх моделей.
Про це повідомляє голова Open AI Сем Альтман у своєму блозі в Х.
Сем Альтман
Ми представляємо специфікацію моделі, яка визначає, як повинні поводитися наші моделі. Ми будемо слухати, обговорювати та адаптувати це з часом, але я вважаю, що дуже корисно уточнити, коли щось є помилкою чи правильним рішенням.
Підписуйтеся на наші соцмережі
Модельна поведінка як реакція моделей на вхідні дані користувачів має вирішальне значення для взаємодії людей із штучним інтелектом. Сформувати таку поведінку дуже важко, бо це наука, що тільки розвивається, оскільки моделі не програмуються, а постійно навчаються та оновлюються.
Model Spec об'єднує наявну документацію OpenAI, досвід у розробленні поведінки моделей та поточні дослідження. Він визначає цілі, правила та стандарти, що впливають на формування модельної поведінки, гарантуючи безпеку процесу.
Model Spec буде використовуватися як керівні принципи для дослідників і викладачів ШІ, що працюють над навчанням моделей на основі зворотного зв'язку від людей. Крім того, вивчатиметься можливість навчання моделей безпосередньо.
Model Spec — перший крок у досягненні колективної узгодженості та безпеки моделей.