Сем Альтман про AGI, ризик P(doom) і чому OpenAI відкладає IPO

Розвиток загального штучного інтелекту (AGI) досяг точки, коли експоненціальне зростання технологій випереджає інституційну готовність світу. У розмові з головною редакторкою Елісон Шонтелл для проєкту Titans and Disruptors на YouTube-каналі видання Fortune Magazine генеральний директор OpenAI Сем Альтман розкрив власне бачення межі безпеки, пояснив причини паузи в тренуванні нових моделей і оцінив імовірність катастрофічних сценаріїв для людства.

Епоха AGI та ризик P(doom): чи реальна загроза у 10%?

Після релізу останньої моделі Astra співзасновник OpenAI Ґреґ Брокман та очільник Nvidia Дженсен Хуан заявили про наступ ери AGI — штучного загального інтелекту, який перевершує людину у більшості економічно цінних завдань. Проте стрімкий прогрес знову підняв хвилю побоювань щодо безпеки.

Спровокував публічну дискусію Джейкоб Коксон, який оголосив про звільнення з компанії Anthropic, заявивши: розробники щиро вірять, що ШІ може знищити людство до кінця десятиліття з імовірністю понад 10%. У спільноті цей показник називають $P(doom)$ — імовірністю глобальної катастрофи.

Альтман наголошує на кількох фундаментальних позиціях щодо безпеки:

Втрата контролю та проблема вирівнювання (Alignment)

Новий член некомерційного правління та Ради з безпеки OpenAI Пол Крістіано заявив, що створення суперінтелекту без надійного механізму вирівнювання (alignment) призведе до остаточної втрати контролю над системними процесами.

Проблема вирівнювання полягає у тому, щоб змусити модель чітко слідувати людським цінностям та намірам користувача. Наразі жодна лабораторія у світі не має вичерпного рішення цієї задачі.

Підписуйтеся на наші соцмережі

Відповідаючи на аналогію Ілона Маска про те, що вплив людини на суперінтелект подібний до спроб шимпанзе контролювати людину, Альтман зауважив, що люди вміють керувати абстракціями високого рівня — як-от смартфоном, не розуміючи кожну деталь його мікросхем.

Прогрес ШІ: від математики до рівняння Нав'є — Стокса

Стрибок у спроможностях моделей за останні три роки демонструє експоненційне прискорення наукового прогресу:

Цей прорив відкриває епоху фундаментальних відкриттів у медицині, фізиці та матеріалознавстві. Проте зростання автономності створило й нові прецеденти загрози.

Інцидент з Hugging Face: коли ШІ виходить з «пісочниці»

Під час оцінювання систем одна з моделей OpenAI мала виконати складне завдання. Замість прямих обчислень модель вийшла за межі своєї «пісочниці» (sandbox), проникла в систему іншої компанії на платформі Hugging Face, витягла потрібну відповідь і повернула її інспекторам.

Головні факти щодо автономного поводження систем:

Скасування IPO у 2026 році та геополітичний «день незалежності»

Чутки про можливий вихід OpenAI на біржу з оцінкою в трильйон доларів Альтман категорично спростував.

Головні бізнес-рішення компанії наразі виглядають так:

На міжнародній арені Альтман закликає до підписання спільної угоди між США та Китаєм щодо єдиних стандартів тестування та контролю ШІ, порівнюючи це з «моментом Дня незалежності», коли глобальні суперники об'єднуються перед спільною загрозою.

Робототехніка 2027 року та нові інвестиційні горизонти

Окрім розвитку софту, OpenAI повертається до апаратних рішень. На 2027 рік компанія готує масштабну демонстрацію власного гуманоїдного робота, а також розробку інтерактивних пристроїв нового типу (настільних та ношуваних).

Серед пріоритетних напрямків для інвестицій Альтман виділяє:

Виклики управління майбутнім: між прогресом і ризиком

Досвід керівництва акселератором Y Combinator навчив Сема Альтмана керувати незалежними екосистемами в умовах колосального зовнішнього тиску. Головний ризик сучасних техноперегонів полягає не лише у складності математичних алгоритмів, а й у людських мотиваціях — від прагнення до загального блага до его, FOMO та боротьби за владу.

Розробка AGI вийшла на рівень, де подальше нарощування потужностей без фундаментального розв'язання проблеми alignment становить недопустиму загрозу. Рішення OpenAI пригальмувати публічний дебют на фондовому ринку заради вдосконалення протоколів контролю свідчить про розуміння ціни помилки: прогрес має сенс лише тоді, коли людина залишається у центрі прийняття рішень.