Claude хотіли використати для розробки біозброї: як відреагувала Anthropic
Американська компанія Anthropic, розробник Claude, знайшла і зупинила спроби використати її ШІ для шкідливих цілей, зокрема для створення біологічної зброї. Про це компанія написала у своєму новому звіті.
Як ШІ Anthropic хотіли використати для розробки біозброї
- У звіті є конкретні випадки, коли ШІ-технологіями компанії зловживали: ймовірно, це були державні структури, злочинці, розробники шпигунських програм, пропагандисти та люди з політичними мотивами.
- За словами компанії, з грудня 2025 року до серпня 2026 року їй вдалося зупинити зловживання моделями Claude Haiku, Sonnet та Opus.
- Випадки були дуже різними: від фальшивих застосунків для знайомств і шахрайства через готельний Wi-Fi до систем стеження.
- Жоден із цих випадків не стосувався моделей Claude Fable або потужніших моделей класу Mythos, крім одного випадку, коли менші моделі штучного інтелекту навчають на основі більших і дорогих.
- Anthropic з'ясувала, що її моделі використовували не лише для кібератак, пропаганди, стеження й шахрайства, а й для розробки біологічної зброї. Компанії довелося блокувати науковців, чиї запити могли допомогти у створенні такої зброї.
- Anthropic назвала зловживання ШІ у біологічній сфері "одним із найсерйозніших ризиків". Без надійного захисту це "може призвести до катастрофи", зазначила компанія.
Підписуйтеся на наші соцмережі
У звіті також згадується шість випадків, коли Claude застосовували для розробки програмного забезпечення для звичайних видів зброї: вогнепальної, ракет, ударних дронів, бомб та інших боєприпасів, а також систем наведення і управління ними.
Крім того, Anthropic звинуватила китайські ШІ-компанії у спробах скопіювати можливості Claude.
Як кіберзлочинці та хакери використовують ШІ
За даними звіту, хакери й злочинні угруповання, які діють в інтересах урядів, дедалі частіше використовують технології Anthropic.
Серед них, угруповання ShinyHunters та лабораторії з Китаю. Claude також застосовували в кібершпигунській кампанії, пов'язаній із росією, та в іранській пропагандистській операції.
Одне угруповання, ймовірно пов'язане з росією, використовувало ШІ для створення системи, яка автоматично знаходила, де захист блокує шкідливе програмне забезпечення, і змінювала код доти, доки антивірус перестав його розпізнавати.
Anthropic заявила, що врахувала ці висновки у своїй роботі, щоб «краще запобігати, виявляти та зупиняти подібне у майбутньому». Компанія також передавала інформацію правоохоронним органам і партнерам у галузі.
Як Anthropic робитиме свій ШІ більш безпечним
- Такі попередження вже спонукали до конкретних кроків. У США сенатор Берні Сандерс запропонував законопроєкт про заборону штучного суперінтелекту і тимчасову паузу в розробці потужних систем ШІ.
- Такий звіт, перший за поточний рік, вийшов після того, як провідний дослідник безпеки Anthropic заявив: ШІ розвивається так швидко, що, на його думку, більш ніж 10% шансів, що протягом наступного десятиліття він "може знищити все людство".
- 6 вересня головний науковець OpenAI Якуб Пачоцький закликав галузь добровільно уповільнити розробку ШІ, поки не з'являться надійні запобіжники.
- Проте в самій Anthropic конкретних кроків до сповільнення ШІ поки не роблять.