ШІ-агенти знайшли шлях у системи Anthropic за 12 годин
ШІ-агенти кіберстартапу Cathedral знайшли шлях у внутрішні системи компанії Anthropic менш ніж за 12 годин. Про це йдеться у звіті Cathedral, деталі якого оприлюднило видання The Washington Post. Anthropic підтверджує сам факт, але наполягає, що доступ був обмеженим і найчутливіші дані лишилися недоторканими.
Як ШІ-агенти потрапили у системи Anthropic за 12 годин
- Агенти Cathedral проникли не через сам Claude, а через стороннє адміністративне й комерційне програмне забезпечення, яким користується й багато інших компаній.
- На все це пішло менше ніж 12 годин.
- У звіті Cathedral стверджує, що ШІ-агенти знайшли шляхи до транскриптів зустрічей, даних про зарплати й пропозиції про роботу, а також до повідомлень у Slack, де йшлося про передові моделі Anthropic.
- В Anthropic картину описують стриманіше. За словами компанії, дослідники дісталися «обмеженого набору» систем відділів продажів, HR та IT.
- Там зберігалися ділові контакти й базові записи про облікові записи користувачів. Водночас розмови клієнтів із Claude, вихідний код і ваги моделей, за запевненням Anthropic, не постраждали.
- Компанія також каже, що не має доказів, що вразливостями скористався хтось, окрім Cathedral.
- Anthropic додає, що її системи моніторингу помітили частину активності Cathedral ще до того, як та надіслала звіт. Доступ відключили того ж дня, а стороннє шкідливе ПЗ вимкнули, доки постачальники не підтвердили виправлення.
Підписуйтеся на наші соцмережі
Тест проходив у межах програми на кшталт bug bounty, коли зовнішнім фахівцям платять за знайдені вразливості. Але сторони розійшлися в оцінках. Anthropic заявляє, що Cathedral не повністю дотрималася правил програми, бо розкрила не всю свою активність, і що стартап перебільшив загрозу для національної безпеки. У Cathedral наполягають, що доступ до даних був мінімальним, як і належить у безпековому дослідженні.
Що відомо про Cathedral
Cathedral заснували кілька місяців тому чотири колишні працівники Департаменту ефективності уряду США (DOGE). У липні стартап залучив $160 млн за оцінки в $1,4 млрд.
Історія привернула увагу й у владних колах. Анонімний високопосадовець адміністрації Трампа сказав, що звіт уже обговорюють в уряді через занепокоєння щодо національної безпеки.
Випадок укотре показує, що ШІ-агенти стають інструментом не лише для захисту, а й для зламів.
Раніше Speka розповідала, як хакер за допомогою ШІ-агентів викрав дані 628 тисяч українців, а також як зловмисники видавали себе за співробітника Anthropic заради секретів компанії.
Про те, наскільки серйозно у галузі ставляться до ризиків ШІ, свідчить і те, що OpenAI та Anthropic готуються до можливих криз.