Anthropic відключила нову модель ШІ після вимог влади США

Компанія Anthropic тимчасово зупинила роботу своїх нових моделей штучного інтелекту Claude Fable 5 та Mythos 5 після вимог американської влади, яка висловила занепокоєння щодо їхніх можливостей у сфері кібербезпеки.

Про це повідомляє BBC.

За даними компанії, розпорядження зобов’язало обмежити доступ іноземних користувачів до Claude Fable 5. Щоб виконати вимоги регуляторів, Anthropic вирішила повністю відключити Fable 5 і Mythos 5 для всіх клієнтів.

У компанії заявили, що не отримали від влади конкретного переліку загроз, однак, за їхнім розумінням, уряд США дізнався про спосіб обходу захисних механізмів моделі, відомий як jailbreaking.

Підписуйтеся на наші соцмережі

Чому влада США занепокоїлася нових моделей ШІ Claude Fable 5 та Mythos 5

Jailbreaking дозволяє обходити програмні обмеження, які встановлюються для запобігання небезпечному використанню штучного інтелекту.

В Anthropic зазначили, що проаналізували демонстрацію цього методу та виявили, що він дозволяв знаходити лише невелику кількість уже відомих незначних вразливостей. За оцінкою компанії, подібні завдання можуть виконувати й інші загальнодоступні моделі ШІ без необхідності обходу захисту.

Перед запуском Claude Fable 5 компанія наголошувала, що модель отримала спеціальні механізми захисту від використання для кібератак.

Ще до публічного релізу доступ до системи мали лише окремі організації, які тестували її можливості та потенційні ризики.

Anthropic судиться з адміністрацією США

Ситуація розгортається на тлі конфлікту між Anthropic та адміністрацією президента Дональда Трампа.

Раніше міністр оборони США Піт Гегсет назвав компанію «ризиком для ланцюгів постачання». Такий статус зазвичай застосовується до іноземних компаній, діяльність яких вважається потенційною загрозою для державних структур.

Після цього Anthropic подала позов проти Пентагону. Федеральний суддя тимчасово заблокував виконання відповідної директиви, що дозволило державним установам і підрядникам Міноборони США продовжити використання продуктів компанії до завершення судового розгляду.

У компанії також наголошують, що Fable 5 стала найпотужнішою моделлю штучного інтелекту, яку Anthropic коли-небудь відкривала для широкого використання. Саме через високий рівень можливостей вона викликала активні дискусії серед урядовців, експертів із кібербезпеки та представників технологічної галузі.