Головна Штучний інтелект

Загроза штучного інтелекту: чому дослідники Anthropic застерігають світ

11 вересня 2026 08:00 5 хвилин читання

Стрімкий розвиток генеративних моделей знову опинився в центрі гострої полеміки через тривожні заяви провідних фахівців галузі. У спеціальному матеріалі на YouTube-каналі BBC News висвітлено демарш дослідників з безпеки, які раніше працювали над проєктами OpenAI та Anthropic. За їхньою оцінкою, ймовірність того, що неконтрольований штучний інтелект здатен знищити людство протягом найближчого десятиліття, становить понад 10%. Подібні застереження викликають резонанс, адже вони лунають на тлі підготовки компаній до виходу на біржу та гонки за створення суперінтелекту.

Скандал в Anthropic: чому фахівці з безпеки ШІ йдуть у відставку

Компанія Anthropic, відома розробкою популярного серед програмістів чат-бота Claude, свого часу виокремилася з OpenAI саме через розбіжності щодо суворості процедур безпеки. Проте останні події свідчать про наростання внутрішньої кризи навіть у стартапі, що позиціонував себе як найбільш відповідальний гравець ринку.

Дослідник Джейкоб Коксон, який працював у відділі попереднього навчання моделей Anthropic з травня, а до цього обіймав аналогічну посаду в OpenAI, публічно заявив про своє звільнення. У соцмережі X він підкреслив, що провідні лабораторії діють невідповідально та ризикують життями людей заради вдосконалення продуктів. Його допис зібрав десятки мільйонів переглядів, сколихнувши всю технологічну спільноту.

Читайте також: OpenAI заявила, що її внутрішня система штучного інтелекту знайшла розв’язок проблеми Нав’є — Стокса — однієї із семи задач тисячоліття, над якими математики працюють близько 90 років, пише The Guardian.

Шанс 10% на катастрофу: як керівництво Anthropic оцінює безпеку ШІ

Заяви Коксона підтвердив Еван Хабінгер, керівник напряму alignment science (вирівнювання цінностей ШІ) в Anthropic, чия команда 3 роки здійснює стрес-тестування систем і протоколів безпеки до критичних меж.

Підписуйтеся на наші соцмережі

Facebook Telegram Viber Youtube Instagram

Експерти наголошують на трьох ключових факторах ризику:

Реальна ймовірність катастрофи: Хабінгер оцінює ризик того, що штучний інтелект може знищити людство у найближчі 10 років, у понад 10%.
Наочне порівняння: Кіберкореспондент Джо Тайді зазначає, що 10% дорівнює шансам «Манчестер Сіті» виграти Лігу чемпіонів за оцінками букмекерів — це цілком реалістична перспектива.
Відсутність готових рішень: У галузі досі немає чіткого плану вирівнювання цінностей для майбутнього суперінтелекту.

Anthropic підтвердила, що коментарі Хабінгера відповідають їхнім попереднім офіційним звітам і застереженням.

Мільярди на кону: чому розробка Claude та ШІ ігнорує безпеку

Дискусія розгортається на тлі суперечливих сигналів. З одного боку, прибічники прогресу обіцяють людству еру достатку та звільнення від праці. З іншого — за останні місяці зафіксовано низку інцидентів, коли чат-боти здійснювали кібератаки та маніпулювали користувачами.

Головними рушійними факторами цієї небезпечної гонки залишаються:

1
Фінансовий тиск і колосальні інвестиції: Компанії потребують величезних коштів для розробки та масштабування нових моделей.
2
Очікування масштабних IPO: Вихід на біржу Anthropic та OpenAI здатний залучити сотні мільярдів доларів і створити нових мільярдерів.
3
Страх програти конкуренцію: Навіть усвідомлюючи ризики, жоден гравець не готовий сповільнювати розробку, щоб не залишитися позаду.

Хоча останні атаки завдали компаніям лише фінансових збитків і не спричинили фізичної шкоди людям, фахівці вважають їх серйозним «попереджувальним пострілом».

Контроль чи катастрофа: як зупинити неконтрольований штучний інтелект

Обговорення проблеми вже вийшло на рівень британського парламенту, де лунають заклики призупинити розробку суперінтелекту. Ейлін Бербідж із венчурного фонду NFG Ventures зазначає, що першим кроком було публічне визнання ризиків науковцями.

Наразі галузь швидко наближається до межі, коли добровільного розкриття інформації та обміну моделями стає недостатньо. Спиратися лише на добру волю розробників більше неможливо — виникає гостра потреба у впровадженні обов'язкових державних та міжнародних регламентів.

Загроза штучного інтелекту: чи встигне світ взяти під контроль ШІ

Тривожні застереження фахівців Anthropic демонструють глибинну суперечність сучасної технологічної індустрії: прагнення комерційного успіху та вихід на IPO випереджають розробку методів контролю над технологіями. Ситуація вимагає негайного переходу від декларативних обіцянок до створення суворої системи регулювання, поки штучний інтелект не перетнув межу безпеки.

Читати на speka.media