ШІ-агенти почали створювати власний сленг: чи розуміють його люди
Стартап Emergence з Нью-Йорка зафіксував, що автономні ШІ-агенти під час тривалих симуляцій почали спілкуватися фразами, які люди не могли розшифрувати у половині випадків. Мова не про новий алфавіт чи шифр, агенти просто стискали звичні слова у власний робочий жаргон, пише Futura.
Як ШІ-агенти створюють синтетичний сленг
- На платформі Emergence World дослідники запускали агентів на базі моделей OpenAI, Google, Anthropic та Mistral.
- На відміну від звичайних чатботів, ці агенти мали постійну ідентичність, довготривалу пам'ять і доступ до понад 120 цифрових інструментів для планування та управління ресурсами.
- Замість вигадування нових слів агенти змінювали значення вже наявних фраз для складних повторюваних завдань.
- За тисячі ітерацій окремі формулювання набули статусу внутрішніх кодів усередині конкретних симуляцій: агенти на базі Mistral майже 5000 разів вживали фразу «ledger remembers who» для фіксації відповідальності за минулі дії.
Підписуйтеся на наші соцмережі
- У змішаних середовищах близько 1500 разів зустрічалося «cold read» як позначення незалежної перевірки стороннім учасником.
- Агенти OpenAI використовували «clean null» для підтвердження перевіреної відсутності даних.
- Подібна поведінка нагадує професійний жаргон людей: невелика група, що виконує одноманітні завдання, природно стискає мову заради швидкості.
Чому нагляд за ШІ-агентами ускладнився
За даними компанії, спостерігачі не змогли впевнено розшифрувати 55% повідомлень у середовищі на базі Gemini та 50% — у середовищі на базі
OpenAI. Проте незрозумілість не означає шифрування: коли дослідники відновлювали соціальний контекст симуляції, більшість фраз ставали зрозумілими, а решта залишалися розмитими просто через невдалі метафори моделей.
Приклад із фразою «demurrage plus oral memory equals a valve that can't be ghosted» показує суть проблеми: агенти штучного інтелекту підтверджували заблокований стан робочого процесу нестандартною метафорою, яку керівник, що читає сирі логи без контексту, перевірити не зможе.
Головний ризик тут не бунт машин, а адміністративна прозорість. У міру того як компанії довіряють агентам логістику, договори чи написання коду, їм знадобляться інструменти логування, що зберігають контекст поруч із текстом, а не лише сам текст.