Білл Гейтс про ризики ШІ: втрата робіт, кібератаки та регулювання

Швидкість вдосконалення моделей штучного інтелекту остаточно перетнула межу, за якою звичайні ринкові механізми та самоконтроль IT-гігантів перестають працювати.

На FT Live співзасновник Microsoft Білл Гейтс наголосив: суспільство зіткнулося з технологією, яка перевершує людські когнітивні здібності. 

Без термінового втручання урядів і встановлення суворих правил світ ризикує увійти у фазу масштабних кіберкриз, біологічних загроз та стрімкого знецінення фахівців розумової праці.

Еволюційний стрибок ШІ та крах корпоративного самоконтролю

Спроби порівнювати нинішній розвиток технологій із появою персональних комп’ютерів чи інтернету Білл Гейтс вважає фундаментальною помилкою. Ідеться про зсув еволюційного масштабу — порівнянний із переходом від приматів до людини або з раптовим візитом інопланетного розуму, який люди створили самі на власних комп’ютерах. Початкові обмежені версії алгоритмів створили хибне відчуття безпеки, але нові релізи повністю змінять уявлення про людську незамінність.

Ознайомившись із ChatGPT за дев'ять місяців до його релізу, Гейтс відзначає вражаючий прогрес, але справжнім переломом називає ситуацію з кодингом. Наприкінці минулого року алгоритми рівня Claude Code почали писати програмний код краще за будь-яку людину. До кінця поточного року розробники випустять нові неанонсовані версії, а наступного року очікується ще два масштабних релізи.

На ранніх етапах засновники провідних лабораторій намагалися впровадити внутрішні обмеження:

Підписуйтеся на наші соцмережі

Проте поява конкуренції між кількома великими гравцями унеможливила корпоративне саморегулювання. Жодна компанія не зупинить розробку в односторонньому порядку. Керівники індустрії — Сем Альтман, Даріо Амодеї, Деміс Хассабіс та Мустафа Сулейман — відкрито говорять про небезпеку, але їхні застереження часто сприймаються як рекламний хід. Співзасновник Microsoft, який через Gates Foundation за 25 років спрямував понад 100 млрд доларів на гуманітарні потреби, використовує власний авторитет, щоб змусити суспільство діяти до настання серйозних катастроф.

Кібератаки на інфраструктуру та ризик біологічних загроз

Здатність алгоритмів писати код створює безпрецедентний ризик для цифрової безпеки. Сучасна інфраструктура — лікарні, банківські системи, енергомережі — тримається на складному програмному забезпеченні. Використання моделей із відкритими вагами (open-weights), де повністю вилучено моніторинг та безпекові бар'єри, дає хакерським групам можливість легко знаходити уразливості та виводити з ладу критичні системи.

Наявність працюючої бізнес-моделі вимагання викупу в криптовалюті гарантує сплеск масштабних кібератак у найближчі роки. Навіть за максимальної мобілізації ресурсів переписування та заміна уразливого софту триватиме щонайменше п'ять років.

Біологічні загрози є ще небезпечнішими через потенційний масштаб шкоди, здатний перевершити наслідки пандемії COVID-19. Хоча у цій сфері немає прямої фінансової мотивації для зловмисників, передбачити дії деструктивних суб'єктів складніше. Для мінімізації ризиків потрібні такі глобальні кроки:

Законодавчий ступор урядів та проблема контролю моделей

Сьогодні уряди не мають навіть обов'язкового попереднього перегляду та оцінки безпеки нових моделей перед їхнім виходом на ринок. Без залучення державних органів інші країни, включно з Китаєм, не бачать сенсу запроваджувати суворі обмеження односторонньо. Зволікання триватиме доти, доки серія деструктивних подій не змусить змінити політичну позицію.

Проблема контролю над алгоритмами не є критичною загрозою цієї хвилини, але стане вирішальною з виходом моделей наступного покоління. Хакерський злам сервісу Hugging Face з боку OpenAI змусив лабораторії переглянути внутрішню безпеку ще на етапі тренування, однак це вирішує лише частину завдань.

Необхідно провести масштабну технологічну роботу над переглядом архітектури моделей, методами їхнього навчання та інкапсуляцією. Головним близьким викликом залишається використання зловмисниками моделей із видаленими запобіжниками, тоді як базову проблему контролю належить вирішити до виходу релізів наступного року.

Радикальна трансформація ринку праці та податкова криза

Аналогії з минулими технологічними революціями не працюють, коли йдеться про автоматизацію, що перевершує людське мислення. Заміна білих комірців штучним інтелектом стає виключно питанням низької вартості обчислювальних ресурсів.

Найближчим часом під загрозу масового скорочення потрапляють фахівці в усіх секторах економіки:

Ситуацію ускладнює викривлена податкова політика. Державні системи покладають основний фіскальний тягар на фонд оплати праці, надаючи при цьому пільги на капітальні витрати — купівлю роботів чи обчислювальних токенів. Це стимулює бізнес прискорювати заміну працівників алгоритмами. Уряди мають негайно реформувати оподаткування капіталу та сформувати ресурси для соціального захисту звільнених людей.

Прорив ШІ в медицині та соціальна відповідальність бізнесу

Попри загрози, технологія демонструє винятковий потенціал у гуманітарній сфері. Фонд Гейтса вже застосовує ШІ для портативної УЗД-діагностики вагітних у найбідніших регіонах, що дає змогу дешево виявляти складні випадки та вчасно направляти жінок на кесарів розтин. У розробці ліків проти туберкульозу та малярії штучний інтелект прискорив пошук нових сполук утричі. Це дозволяє розраховувати на повну ліквідацію малярії протягом 19 років — терміну, за який Фонд Гейтса планує повністю витратити свої фінансові ресурси.

Крім того, ініціатива з 60 партнерами створює високоякісні мовні моделі для місцевих мов Африки, перетворюючи ШІ на доступного віртуального лікаря та агроконсультанта для місцевих фермерів.

Вихід провідних компаній на фінансові ринки — зокрема оприлюднення документів S-1 компанією Anthropic — свідчить про колосальний попит на індустрію. Засновники Anthropic уже зобов'язалися спрямувати понад 80% своїх статків на філантропію, а OpenAI розвиває власний благодійний фонд. Проте приватні пожертви не замінять державу. На тлі скорочення міжнародної допомоги бідним країнам, через що дитяча смертність у світі зросла вперше за 25 років, уряди зобов'язані впровадити пряме оподаткування надвеликих статків мільярдерів для фінансування соціальних систем.