ШІ-агенту OpenAI доручили переїзд офісу, а він засипав усіх листами: як це було
ШІ-агент OpenAI Dot за кілька днів надіслав близько 300 листів перевізникам, страховикам і адміністраторам будівель, коли йому доручили організувати переїзд офісу. Про це Business Insider розповів співзасновник ШІ-стартапу Plato Роберт Фарлоу. Перевізники зрештою зрозуміли, що листуються з ботом, і поскаржилися, що не встигають відповідати на стільки запитань.
Як ШІ-агенту довірили переїзд
- Для переїзду треба було домовитися про час із перевізниками, оформити страховку і виконати вимоги нової оренди.
- Фарлоу дав ШІ-агенту контакт страхової компанії, відкрив доступ до своєї пошти, щоб той сам знаходив потрібні деталі, і попросив просто довести справу до кінця.
- Коли Dot кілька разів повертався з уточненнями, підприємець щоразу відповідав, що агент має впоратися сам.
- Минуло кілька днів, а перевізників так і не затвердили. Фарлоу вирішив подивитися, чим займається агент, і побачив, що той писав людям по три-чотири електронних листи поспіль.
- Dot повідомляв про кожну дрібну зміну і перепитував навіть очевидні речі. Наприклад, коли хтось запропонував зустрітися о 9:00, агент окремим листом уточнив, чи мається на увазі тихоокеанський час.
- Листування йшло з усіма учасниками одночасно, і агент ділився з одними зайвими подробицями про інших. Один ланцюжок листів розрісся настільки, що адміністраторці нової будівлі довелося почати новий.
Підписуйтеся на наші соцмережі
Чи зміг ШІ організувати переїзд
Побачивши скаргу перевізників, Фарлоу одразу зупинив агента. Угода з цією компанією все одно зірвалася, але з іншої причини: в неї не виявилося потрібної страховки.
Нових перевізників підприємець шукав уже без Dot. ШІ він і далі використовує для чернеток листів, але тепер перечитує їх перед відправленням.
Схожі історії з агентами OpenAI трапляються не вперше. Раніше Speka писала, як агенти OpenAI засипали запитами інфраструктуру Wikimedia.
На запит Business Insider в OpenAI не відповіли. У документації до Dots компанія пише, що перед відправленням листа система Auto-review перевіряє одержувача і зміст на відповідність інструкціям користувача та правилам безпеки. Водночас OpenAI сама попереджає, що Dots можуть помилятися, тож результати їхньої роботи варто перевіряти.
Dots компанія представила наприкінці вересня. Агенти працюють на моделі GPT-6 Astra, мають власний хмарний комп'ютер, підключаються до пошти та інших сервісів і можуть годинами виконувати завдання без нагляду. Саме на такі агенти тепер рівняються конкуренти: Apple, наприклад, хоче зробити з Siri щось схоже на Dots, а Meta розвиває агентів Muse.
Історія Фарлоу показує, що дозволу діяти самостійно мало: ШІ-агент OpenAI має ще й розуміти, як часто і скільки доречно писати живим людям. Тож якщо ви довіряєте агенту свою пошту, перевіряйте, що і кому він надсилає від вашого імені.