Штучний інтелект прискорюється: Ерік Шмідт про майбутнє AI

Штучний інтелект може розвиватися швидше, ніж бізнес, держави й суспільство встигатимуть перебудовувати правила роботи з ним. Колишній CEO Google Ерік Шмідт у розмові, опублікованій YouTube-каналом Neural Nutshell, описує п’ятирічний горизонт різкого посилення AI та водночас визначає ситуації, коли люди мають зберегти можливість зупинити систему.

Штучний інтелект у бізнесі змінює принцип програмування

Шмідт вважає, що компанії, які не інтегруватимуть AI у різні аспекти бізнесу, ризикують втратити конкурентоспроможність. Причина не лише в автоматизації: змінюється сам принцип створення програм.

У традиційному програмуванні людина пише код, який визначає спосіб отримання відповіді. У системах машинного навчання модель має навчитися знаходити її сама.

Великі мовні моделі побудовані навколо прогнозування наступного слова. За логікою ексочільника Google, той самий підхід можна застосовувати до біологічних послідовностей, наступних дій і поведінки роботів.

Технологічні компанії при цьому залишаються залежними від корпоративної культури. Ерік Шмідт наголошує, що її зазвичай формують засновники. Як приклад він наводить Mayo Clinic, де принцип пріоритетності потреб пацієнта зберігся через багато десятиліть після засновників. У технологічному бізнесі сам Шмідт віддає перевагу сильній інженерній культурі: слабкий продукт, на його думку, неможливо компенсувати лише продажами.

Майбутнє ШІ: моделі можуть посилитися у 50–100 разів

На п’ятирічному горизонті колишній CEO Google очікує ще два-три великі цикли розвитку великих моделей. Кожен із них, за його оцінкою, може давати приблизно дво-, три- або чотириразове зростання можливостей.

За такого сценарію сукупні можливості систем можуть зрости у 50–100 разів. Це оцінка Шмідта, а не гарантований показник.

Він також не бачить доказів того, що закони масштабування вже перестали працювати. Водночас визнає: межа існує і зрештою буде досягнута.

AI-агенти: коли люди мають зупинити штучний інтелект

Одним із наступних етапів розвитку ШІ стають AI-агенти — великі мовні моделі з пам’яттю, які можна об’єднувати у послідовні системи ухвалення рішень.

Підписуйтеся на наші соцмережі

Ерік Шмідт визначає кілька точок, де людське втручання стає принциповим:

Поки взаємодія агентів залишається зрозумілою людині, її можна контролювати. Перехід до закритої машинної комунікації Шмідт називає моментом, коли систему варто вимкнути.

Ризики штучного інтелекту: від zero-day атак до біології

Після навчання розробники отримують так звану raw model — модель до застосування фінальних обмежень. За словами Шмідта, тренування такої системи може тривати близько шести місяців. Після цього фахівці тестують її можливості й обмежують небезпечні відповіді перед релізом.

Проблема полягає в emergent behavior — здібностях, які не були прямо передбачені розробниками. Як приклад Ерік Шмідт наводить здатність моделі отримати зображення вебсторінки й створити код для її відтворення.

Особливу загрозу ексочільник Google бачить у кібербезпеці. За його словами, є свідчення, що невипущені raw models можуть знаходити невідомі раніше zero-day вразливості на рівні людей або краще.

Другий ризик — біологія та потенційне створення небезпечних вірусів. Шмідт зазначає, що бере участь у роботі комісії, яка вивчає способи запобігання таким сценаріям.

ШІ та війна: дрон за $5 тис. проти танка за $5 млн

російсько-українську війну Ерік Шмідт називає прикладом формування нового типу бойових дій із масовим використанням дронів.

За наведеним ним співвідношенням, безпілотник приблизно за $5 тис. може знищити танк вартістю $5 млн. Це радикально змінює економіку застосування озброєнь і стимулює розвиток протистояння «дрон проти дрона».

У такій моделі оператор може перебувати далеко від поля бою та керувати системою через мережу. Шмідт вважає, що безпілотні системи дедалі сильніше змінюватимуть логіку воєнних конфліктів.

Найпотужніші AI-моделі можуть потребувати особливої охорони

Для пояснення потенційної цінності та небезпеки найсильніших моделей Шмідт проводить аналогію з плутонієм.

Під час роботи з Міністерством оборони США він відвідував об’єкт із плутонієм, розташований усередині іншої захищеної бази та оточений кількома рівнями фізичної безпеки.

За аналогією, найбільш цінні AI-моделі можуть у майбутньому потребувати спеціально захищених дата-центрів — через їхню одночасно високу цінність і потенційні ризики.

Алгоритми та ШІ мають враховувати людські цінності

Ефективна система не обов’язково ухвалюватиме рішення, яке люди вважатимуть правильним.

Шмідт наводить приклад автономного транспорту: алгоритм може оптимізувати рух усього міста, але не передбачити виняток для автомобіля, пасажиру якого терміново потрібна допомога.

Подібний ризик він бачить у соціальних мережах. За його оцінкою, перехід приблизно з 2015 року від хронологічних до персоналізованих стрічок пов’язаний зі звуженням політичних поглядів користувачів, а наявні дослідження вказують на більше проблем із тривожністю та депресією серед молоді.

Ерік Шмідт бачить головний шанс AI в освіті та медицині

Попри перелік ризиків, найбільшим побоюванням Шмідт називає надто повільне впровадження штучного інтелекту.

AI-викладач, за його сценарієм, може працювати разом із учителем, враховувати мову й культурний контекст дитини. AI-асистент лікаря — аналізувати доступні методи лікування, стан пацієнта, наявність препаратів, країну та систему страхування.

Саме медицина й освіта можуть дати найбільший суспільний ефект від AI. Водночас технологічна індустрія, яка історично не прагнула державного втручання, тепер визнає потребу в запобіжниках. Trust and safety команди перевіряють системи до релізу та обмежують небезпечні сценарії використання.

Майбутнє штучного інтелекту залежатиме не лише від потужності моделей. Вирішальним стане баланс між трьома речами: швидкістю розвитку AI, здатністю людей розуміти й контролювати його поведінку та можливістю використати технологію для практичних завдань раніше, ніж ризики перевищать ефективність механізмів контролю.