Цукерберг вважає, що гальмувати ШІ не треба: усе йде за планом
Марк Цукерберг публічно виступив проти пауз у розвитку штучного інтелекту й запевнив: безпека ШІ вже стала конкурентною перевагою, а не гальмом. Ілон Маск його підтримав. Про це керівник Meta написав в Х.
Чому Цукерберг проти сповільнення ШІ
Цукерберг говорить, що індустрія штучного інтелекту не потребує зовнішнього гальма, бо ринок і юридична відповідальність уже змушують лабораторії тримати планку. Він наводить кілька рівнів стимулів:
- користувачі не купуватимуть агентів, які ігнорують запити або шкодять;
- компанії ризикують мільярдними позовами через реальну шкоду від моделі;
- довіра та alignment швидко стають ключовою конкурентною перевагою ШІ-агентів.
Підписуйтеся на наші соцмережі
Як Meta показує безпеку ШІ
Аргументи Цукерберга ілюструють кроки самої Meta. Компанія відклала реліз моделі Muse на кілька місяців заради додаткових перевірок і зробила це без публічних закликів до конкурентів наслідувати цей крок.
Внутрішня лабораторія MSL уже залучає незалежних оцінювачів та радників, а Meta публічно зобовʼязалася спрямовувати значну більшість обчислювальних потужностей на задачі для користувачів, а не на рекурсивне самовдосконалення моделей.
Раніше ми писали, як Meta ставить на носимий ШІ у форматі кулона і смарт-окулярів, і саме такі продукти найгостріше піднімають питання приватності.
Тобто ставки для компанії предметні: провал з безпекою бʼє напряму по продажах гаджетів і по відкритій екосистемі Llama.
Що думає Маск про сповільнення ШІ
- Найцікавіше в цій історії: реакція Ілона Маска. Він публічно підтримав Цукерберга, хоча ще кілька місяців тому поділяв протилежну позицію Даріо Амодеї з Anthropic, який виступає за жорсткіші правила та сповільнення розробки.
- Anthropic зараз судиться з Пентагоном за право обмежувати військове застосування власних моделей, що є прямим антиподом підходу «ринок усе врегулює».
- Зі пів року Маск підписався під двома взаємовиключними позиціями.
- А єдиної ШІ-філософії у великих гравців немає, союзи формуються під поточну бізнес-задачу.
Чому Даріо Амодеї з Anthropic хоче сповільнити розвиток ШІ
CEO Anthropic Даріо Амодеї сформулював протилежну до Meta логіку в окремому есе. Він говорить, що ШІ-моделі розвиваються швидше, ніж індустрія встигає розуміти їхні ризики, тож ставка на ринкові стимули не спрацює, потрібне зовнішнє гальмо і прозорі правила гри.
Він пропонує уповільнити розробку найпотужніших моделей до появи надійних методів захисту і обмежень, проводити обов'язкові незалежні аудити ще до релізу, а не після інциденту.
Амодеї пропонує заборонити застосовувати загальні ШІ-моделі у зброї без сертифікації, створити державні red team-и і подавати публічну звітність про можливості моделей на кожному новому рівні обчислень.
Для українських команд, які інтегрують сторонні моделі у фінтех, оборонні продукти чи медичні сервіси, «самозаспокоєння» великих лабораторій означає одне: тиск на безпеку доведеться створювати клієнтам, регуляторам і незалежним аудиторам.
Різнобій позицій серед грандів відкриває нішу для локальної експертизи з AI-alignment, red teaming та аудиту моделей. У цій ніші українські команди вже конкурують глобально, і попит на них тепер стане ще виразнішим.