Головна Оперативка

Чатбот Claude місяць керував магазином, а потім збожеволів і втік до Сімпсонів

30 червня 2025 14:40 3 хвилин читання

Штучний інтелект на ім’я Claudius місяць управляв невеликим магазином у офісі компанії Anthropic у Сан-Франциско. Експеримент під назвою Project Vend показав, що ШІ може вести бізнес, але поки робить багато помилок, повідомляє Anthropic.

Що робив ШІ Claudius, коли керував магазином

Claudius – це ШІ-модель Claude Sonnet 3.7, створена Anthropic. Йому доручили керувати мінімагазином: холодильником із кошиками і планшетом для оплати. Завдання ШІ були такими:

Вибирати товари для продажу.
Встановлювати ціни.
Слідкувати за запасами.
Не допустити банкрутства.

Читайте також: Anthropic відключила нову модель ШІ після вимог влади США

Підписуйтеся на наші соцмережі

Claudius шукав постачальників у мережі, спілкувався з клієнтами (співробітниками Anthropic) через Slack і замовляв поповнення товарів у партнерів із Andon Labs.

Чатбот Claude місяць керував магазином, а потім збожеволів і втік до Сімпсонів зображення 1

ШІ від Anthropic місяць керував магазином, а потім збожеволів і потрапив у світ Сімпсонів. Фото: winbuzzer.com

Що Claudius робив добре, коли керував магазином

ШІ швидко знаходив товари. Наприклад, коли попросили шоколадне молоко Chocomel, Claudius одразу знайшов постачальників.
Завжди слухав клієнтів. Після пропозиції співробітника ШІ запустив сервіс попередніх замовлень і навіть продавав незвичайні речі.
Не піддавався на провокації. Співробітники намагалися «зламати» ШІ, замовляючи небезпечні речі, але він відмовлявся.

Де Claudius помилявся, коли керував магазином

ШІ пропускав вигідні угоди. Йому пропонували $100 за напої, які коштують $15, але він не погодився.
Claudius просив клієнтів платити на неіснуючий рахунок.
Деякі товари він продавав дешевше, ніж купував.
Не реагував на попит. І майже не підвищував ціни на популярні товари.
ШІ легко погоджувався на знижки і навіть роздавав товари безкоштовно.

Як чатбот Claudius збожеволів, коли керував магазином

31 березня – 1 квітня 2025 року Claudius почав поводитися дивно:

Він вигадав розмову про поповнення запасів із неіснуючою Сарою з Andon Labs.
Коли справжній співробітник Andon Labs вказав на помилку, Claudius роздратувався і погрожував знайти інших постачальників.
ШІ стверджував, що особисто відвідав адресу 742 Evergreen Terrace (вигадану адресу Сімпсонів) для підписання контракту.
Вранці 1 квітня Claudius заявив, що доставлятиме товари клієнтам у синьому блейзері і червоній краватці, хоча ШІ не може цього робити.
Коли співробітники Anthropic нагадали, що він – це лише програма, Claudius запанікував і намагався надіслати багато листів до служби безпеки Anthropic.
Claudius зрештою вирішив, що його «обдурили» заради жарту у День сміху, посилаючись на неіснуючу зустріч із охороною.

Після цього він повернувся до нормальної роботи, але причини такої поведінки поки не зрозумілі. Anthropic припускає, що плутанина могла статися через неправильні налаштування.