Anthropic звинувачує китайські лабораторії ШІ у видобутку даних з Claude на тлі дебатів щодо експорту чипів ШІ у США
У сучасну епоху штучного інтелекту, де конкуренція сягає глобальних масштабів, нещодавні події підкреслюють напругу між інноваціями та захистом інтелектуальної власності. Компанія Anthropic, один із лідерів у розробці ШІ-моделей, звинуватила три китайські компанії в створенні понад 24 000 фейкових акаунтів для взаємодії з її моделлю Claude. За твердженням Anthropic, метою цих дій, було покращення власних моделей за допомогою техніки «дистиляції». Ці звинувачення з'явилися на фоні гарячих дебатів у США щодо суворості експортного контролю за передовими чипами ШІ, спрямованими на стримування розвитку ШІ в Китаї.
Деталі звинувачень
Згідно з заявою Anthropic, лабораторії DeepSeek, Moonshot AI та MiniMax згенерували понад 16 мільйонів взаємодій з Claude через ці фейкові акаунти. Техніка дистиляції, яка зазвичай використовується для створення менших і дешевших версій власних моделей, тут застосовувалася для «копіювання» можливостей конкурентів. Anthropic зазначає, що атаки були спрямовані на унікальні функції Claude: агентне міркування, використання інструментів та кодування.
- DeepSeek: зафіксовано понад 150 000 взаємодій, спрямованих на покращення базової логіки та вирівнювання, зокрема альтернатив для запитів, чутливих до цензури. DeepSeek здобула популярність рік тому завдяки відкритій моделі R1, яка майже зрівнялася з американськими лідерами за продуктивністю, але коштувала значно дешевше. Очікується швидкий реліз DeepSeek V4, яка, за чутками, перевершить Claude та ChatGPT від OpenAI у кодуванні.
- Moonshot AI: понад 3,4 мільйона взаємодій, фокус на агентному міркуванні, використанні інструментів, кодуванні, аналізі даних, розробці агентів для комп'ютерного використання та комп'ютерному зорі. Минулого місяця компанія випустила нову відкриту модель Kimi K2.5 та агента для кодування.
- MiniMax: близько 13 мільйонів взаємодій, спрямованих на агентне кодування, використання та оркестрацію інструментів. Anthropic стверджує, що спостерігала, як MiniMax перенаправляла майже половину свого трафіку для "видобутку" можливостей з останньої версії Claude одразу після її запуску.
Ці дії не є унікальними: раніше OpenAI надіслала меморандум до Конгресу США, звинувачуючи DeepSeek у подібній дистиляції для імітації їхніх продуктів.
Підписуйтеся на наші соцмережі
Контекст дебатів щодо експорту чипів
Звинувачення з'явилися в критичний момент для політики США щодо Китаю. Минулого місяця адміністрація Трампа офіційно дозволила американським компаніям, таким як Nvidia, експортувати передові чипи ШІ (наприклад, H200) до Китаю. Критики вважають, що таке послаблення контролю збільшує обчислювальні потужності Китаю в глобальній гонці за домінування в ШІ.
Anthropic підкреслює, що масштаб таких атак вимагає доступу до передових чипів. «Атаки дистиляції посилюють обґрунтування експортного контролю: обмежений доступ до чипів обмежує як пряме навчання моделей, так і масштаб незаконної дистиляції», – йдеться в блозі компанії.
Дмитрі Альперович, голова аналітичного центру Silverado Policy Accelerator та співзасновник CrowdStrike, не здивований цими подіями. «Давно було зрозуміло, що швидкий прогрес китайських моделей ШІ частково пояснюється крадіжкою через дистиляцію американських фронтирних моделей. Тепер ми знаємо це напевно», – сказав він TechCrunch. «Це повинно дати нам ще більше переконливих причин відмовитися від продажу будь-яких чипів ШІ цим компаніям, що лише посилить їхню перевагу».
Ризики для національної безпеки
Окрім загрози для американського домінування в ШІ, дистиляція може створювати серйозні ризики для національної безпеки. Anthropic наголошує, що їхні моделі мають вбудовані захисти, які запобігають використанню ШІ для розробки біологічної зброї чи шкідливих кібератак. Моделі, створені через незаконну дистиляцію, ймовірно, втратять ці захисти, дозволяючи поширенню небезпечних можливостей.
Компанія попереджає про ризики використання фронтирного ШІ авторитарними урядами для наступальних кібероперацій, кампаній дезінформації та масового спостереження. Ці ризики множаться, якщо моделі є відкритими.
Висновок та рекомендації
Anthropic планує інвестувати в оборону, щоб ускладнити та полегшити виявлення атак дистиляції, але закликає до скоординованої відповіді від індустрії ШІ, хмарних провайдерів та політиків. Ці події підкреслюють необхідність балансу між відкритими інноваціями та захистом технологій, особливо в контексті геополітичної конкуренції.
Однак однієї компанії недостатньо. Для ефективного захисту фронтирних моделей необхідна скоординована відповідь:
- AI-компаніям слід суттєво збільшити ресурси на моніторинг використання своїх моделей, впровадження watermarking, rate-limiting, поведінкового аналізу трафіку та інших засобів протидії дистилляції. Ігнорування таких загроз може призвести до втрати конкурентної переваги та, що гірше, — до поширення небезпечних можливостей без вбудованих захисних механізмів.
- Урядам (особливо США та союзникам) варто посилити експортний контроль за передовими чипами та обчислювальними потужностями, оскільки саме доступ до них дозволяє масштабувати подібні атаки. Водночас необхідне міжнародне співробітництво для створення норм відповідального розвитку ШІ, щоб уникнути ситуації, коли технології, створені з дотриманням етичних стандартів, стають зброєю проти своїх творців або використовуються для загроз національній безпеці.
- Усій галузі потрібен діалог про спільні стандарти захисту інтелектуальної власності в епоху ШІ — від технічних рішень до правових механізмів.