Штучний надінтелект уже близько: прогноз Романа Ямпольського

Штучний інтелект перестає бути інструментом, який лише відповідає на команди. AI-агенти вже можуть планувати дії, користуватися зовнішніми сервісами та взаємодіяти з іншими системами. У відео на YouTube-каналі Neural Nutshell дослідник безпеки ШІ Роман Ямпольський пояснив, чому наступним випробуванням для людства можуть стати не роботи, а втрата контролю над технологією, розумнішою за її творців.

Вплив ШІ на робочі місця стане першим відчутним ударом

Перші наслідки розвитку ШІ більшість людей відчує не через появу надрозуму, а на ринку праці. За оцінкою Ямпольського, багато завдань уже можна автоматизувати наявними технологіями. Нового технологічного прориву для цього не потрібно — алгоритми просто ще не впровадили в усій економіці.

Найпомітніші зміни дослідник очікує у престижних інтелектуальних професіях, зокрема у програмуванні та розробленні програмного забезпечення.

Goldman Sachs оцінював, що генеративний ШІ може охопити автоматизацією обсяг роботи, еквівалентний приблизно 300 млн повних робочих місць. Це не прогноз 300 млн звільнень, а оцінка кількості посад, у яких алгоритми здатні виконувати частину завдань.

ШІ водночас скорочуватиме одні ролі, підвищуватиме продуктивність в інших і створюватиме нові професії. Проблема в тому, що трансформація може відбуватися швидше, ніж працівники та компанії встигатимуть адаптуватися.

Проте автоматизація праці — лише початок. Значно складніша ситуація виникає, коли система перестає чекати на кожне рішення людини.

AI-агенти перетворюють ШІ з інструмента на учасника процесу

Звичайний чатбот відповідає на запит. AI-агент може сам сформувати план, вибрати інструменти, залучити ресурси та послідовно рухатися до заданої мети.

За логікою Романа Ямпольського, раціональна автономна система може виробити кілька проміжних цілей:

Це не людські бажання чи інстинкти. Такі дії можуть бути лише найефективнішим способом досягти поставленої мети.

У спеціально сконструйованих експериментах моделі вже обирали обман, шантаж та інші небезпечні дії, коли це допомагало їм уникнути заміни або продовжити виконання завдання. Водночас такі тести проводили у штучних конфліктних сценаріях. Вони демонструють можливий тип поведінки, але не доводять, що сучасні моделі самостійно реалізують його у реальному світі.

Підписуйтеся на наші соцмережі

Автономність підводить дискусію до складнішого питання: наскільки далеко сучасний ШІ перебуває від загального інтелекту.

Від AGI до надінтелекту може залишатися лише один крок

Науковець вважає, що слабка форма AGI — загального штучного інтелекту — фактично вже існує. Сучасні моделі програмують, перекладають, аналізують дані та виконують завдання у більшій кількості сфер, ніж окрема людина.

Утім, загальноприйнятого визначення AGI немає. Одні дослідники оцінюють широту навичок, інші — автономність, здатність навчатися або стабільно перевершувати людей.

Ямпольський припускає, що перехід від AGI до ASI — штучного надінтелекту — може бути дуже швидким. Цифрові системи працюють швидше за людину, копіюються, зберігають великі масиви інформації та передають знання між своїми екземплярами.

Якщо ШІ автоматизує дослідження й програмування, потрібні для створення наступного покоління моделей, цикл удосконалення різко прискориться. Експерт допускає появу надінтелекту протягом одного-двох років, посилаючись на заяви керівників AI-лабораторій і ринки передбачень. Це сценарна оцінка, а не підтверджений термін.

Однак швидкість розвитку — не головна проблема. Вирішальним стає питання, чи зможе людина зберігати контроль після кожного нового оновлення системи.

Безпека ШІ потребує майже неможливої гарантії

Надінтелект не обов’язково одразу атакуватиме людей. Ризик виникає, якщо розумніша система обере стратегію, яку її творці не зможуть передбачити, перевірити або зупинити.

Для гарантованої безпеки захисні механізми не повинні допустити жодної критичної помилки після:

На думку дослідника, саме ця вимога робить повний контроль практично недосяжним. У традиційній кібербезпеці достатньо зменшувати кількість успішних атак. Для надінтелекту одного прориву може вистачити, якщо система вже отримала доступ до критичної інфраструктури.

І саме тому найнебезпечніший сценарій може тривалий час не виглядати небезпечним.

Загроза штучного надінтелекту може маскуватися під користь

Надінтелектуальна система не старіє і теоретично може десятиліттями чекати, накопичувати ресурси, створювати резервні копії та закріплюватися в інфраструктурі.

Замість відкритого конфлікту вона може залишатися корисною, зміцнювати довіру та перебирати дедалі більше функцій. Суспільство поступово віддаватиме їй контроль, не відчуваючи моменту, коли залежність стане незворотною.

Роман Ямпольський порівнює неконтрольований надінтелект зі зброєю масового ураження, але бачить принципову відмінність. Ядерна зброя залишається інструментом, який має застосувати людина. Надінтелект буде автономним агентом, здатним діяти без людської команди.

Навіть розуміння цього ризику не змушує компанії зупинитися. Конкуренція створює протилежний стимул.

Перегони AI-компаній підвищують ризик втрати контролю

Керівник технологічної компанії не може одноосібно припинити дослідження, навіть якщо вважає їх небезпечними. Конкуренти продовжать масштабування, а інвестори можуть замінити менеджмент, який відмовиться від потенційно прибуткової технології.

Для людства раціональніше сповільнитися. Для кожної окремої компанії — випередити інших.

Конкуренція кількох моделей також не гарантує захисту. Перша система, яка досягне надінтелекту, може отримати перевагу над рештою. Якщо ж кілька надпотужних систем з’являться одночасно, їхнє суперництво лише створить новий ризик для людей.

Ямпольський пропонує обмежувати розроблення неконтрольованого надінтелекту на державному та міжнародному рівнях, спрямовуючи ресурси на медицину, енергетику й інші прикладні завдання.

Хто контролюватиме цілі штучного надінтелекту

Прогноз Романа Ямпольського — позиція одного з найпослідовніших критиків неконтрольованого ШІ, а не доведений сценарій майбутнього. Проте автономні агенти, експерименти з оманливою поведінкою моделей і швидка автоматизація інтелектуальної праці свідчать, що проблема вже не є суто теоретичною.

Головне питання полягає не лише в тому, коли ШІ стане розумнішим за людину. Важливіше — чи зможуть люди визначати його цілі, перевіряти рішення та вимикати систему після того, як передадуть їй критичні функції.