Папа Римський вимагає уповільнити розвиток ШІ: чому
Папа Римський Лев XIV опублікував першу в історії енцикліку, присвячену штучному інтелекту. Документ на майже 43 тис. слів закликає уряди уповільнити розробку ШІ-систем і встановити жорстке міжнародне регулювання. На презентації у Ватикані був присутній навіть Кріс Ола, співзасновник Anthropic, компанії, що створює Claude, пише Reuters.
Чому Папа Римський закликає уряди уповільнити розробку ШІ-систем
- Центральне попередження енцикліки: деякі автономні системи зброї вже "практично вийшли за межі будь-якої людської досяжності для управління ними".
- Папа назвав "неприпустимим" передавати смертельні рішення системам штучного інтелекту і вимагає найсуворіших етичних обмежень для будь-якого використання штучного інтелекту у військових цілях.
- Документ отримав назву Magnifica Humanitas ("Чудова людяність"). Лев XIV свідомо апелює до спадку свого попередника Лева XIII, який у 1891 році видав відому енцикліку про права робітників в епоху промислової революції.
- Нинішній Папа проводить пряму паралель: тоді — фабрики й експлуатація тіла, тепер — алгоритми й "нові форми рабства" для тих, хто видобуває рідкоземельні елементи для серверів і смартфонів.
- В енцикліці йдеться про те, що дані штучного інтелекту не повинні залишатися виключно у приватних руках, Папа закликав до незалежного нагляду, правового регулювання ШІ і захисту прав як працівників, так і дітей.
- Він також висловився за охолодження конкурентної гонки між ШІ-компаніями. Контекст, у якому це звучить, не абстрактний: за різними оцінками, сукупні витрати п'яти найбільших ШІ-лабораторій світу лише у 2025-2026 роках перевищили $300 млрд.
Підписуйтеся на наші соцмережі
Навіщо співзасновник Anthropic приїхав до Ватикану
Кріс Ола публічно подякував Папі за підняття теми і визнав, що ШІ-компанії на кшталт Anthropic перебувають під настільки сильним комерційним тиском, що потребують зовнішнього контролю.
Це зізнання тим більш промовисте на фоні конфлікту Anthropic з Пентагоном, де компанія кілька місяців відмовлялася знімати обмеження на використання Claude в автономних бойових системах.
Суд врешті зупинив спробу США примусово відкрити доступ до технологій компанії, але питання залишилося відкритим.
Як розвивається ШІ в Україні
- Україна — одна з небагатьох країн, де ШІ-технології вже безпосередньо вбудовані у бойові системи: від аналізу розвідданих до таргетування дронів.
- Заклик Ватикану встановити обов'язкову участь людини у смертельних рішеннях стосується рівно тих систем, з якими українські військові і розробники працюють зараз.
- Водночас Claude від Anthropic активно використовують українські ІТ-компанії та держструктури, і питання, наскільки компанія зможе протистояти тиску щодо мілітаризації своїх продуктів, має прямий практичний вимір для місцевих користувачів.
- Хоча регулювання ШІ — це тема, яка обговорюється постійно і досі не має обов'язкового глобального механізму. Тож поки не зрозуміло, чи хтось взагалі буде сповільнювати розробку штучного інтелекту.