OpenAI презентувала нове покоління моделей штучного інтелекту o3

OpenAI оголосила про запуск нової лінійки моделей штучного інтелекту o3, які обіцяють стати найбільш просунутими та безпечними в історії компанії, пише TechCrunch. 

o3 відзначається вдосконаленою системою «обдуманого вирівнювання». Ця технологія дозволяє моделям, як-от o1 та o3, враховувати політику безпеки компанії під час генерації відповідей і гарантувати безпечніше використання навіть для запитів на чутливі теми.

Згідно з дослідженням компанії, новий підхід до навчання моделі на базі політик безпеки OpenAI дозволив знизити ймовірність небезпечних відповідей та підвищити точність реакцій на доброякісні запити. Наприклад, за спроби обійти обмеження модель здатна розпізнати потенційно небезпечний намір і відмовитися від відповіді.

Підписуйтеся на наші соцмережі

В o-серії використовують синтетичні дані на етапі постнавчання. Замість створення відповідей вручну OpenAI залучила внутрішні моделі для генерування прикладів, що гарантувало високу точність і безпеку без залучення людських рецензентів.

Під час внутрішніх тестів o1-preview продемонстрував перевагу над такими конкурентами, як Claude 3.5 Sonnet та Gemini 1.5 Flash, зокрема у здатності протидіяти джейлбрейкам та генерувати безпечні відповіді.

Водночас OpenAI наголошує, що робота над удосконаленням моделей триває, оскільки вирішення складних етичних питань та відповідність запитам залишається викликом для всіх розробників штучного інтелекту.

Нові моделі o3 обіцяють не лише підвищену продуктивність у складних завданнях, як-от кодування чи текстова генерація, а й затвердження нових стандартів у сфері безпеки штучного інтелекту.