Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

ШІ-агенти почали створювати власний сленг: чи розуміють його люди

Дар'я Щеглакова
Дар'я Щеглакова новинарка Speka
Підписатися на нас
0
3 хвилин читання

Стартап Emergence з Нью-Йорка зафіксував, що автономні ШІ-агенти під час тривалих симуляцій почали спілкуватися фразами, які люди не могли розшифрувати у половині випадків. Мова не про новий алфавіт чи шифр, агенти просто стискали звичні слова у власний робочий жаргон, пише Futura. 

ШІ-агенти почали створювати власний сленг: чи розуміють його люди зображення 1 Чому ШІ-агенти почали говорити незрозумілою людям мовою. Фото: Reuters 

Як ШІ-агенти створюють синтетичний сленг

  • На платформі Emergence World дослідники запускали агентів на базі моделей OpenAI, Google, Anthropic та Mistral. 
  • На відміну від звичайних чатботів, ці агенти мали постійну ідентичність, довготривалу пам'ять і доступ до понад 120 цифрових інструментів для планування та управління ресурсами.
  • Замість вигадування нових слів агенти змінювали значення вже наявних фраз для складних повторюваних завдань. 
  • За тисячі ітерацій окремі формулювання набули статусу внутрішніх кодів усередині конкретних симуляцій: агенти на базі Mistral майже 5000 разів вживали фразу «ledger remembers who» для фіксації відповідальності за минулі дії.

Підписуйтеся на наші соцмережі

  • У змішаних середовищах близько 1500 разів зустрічалося «cold read» як позначення незалежної перевірки стороннім учасником. 
  • Агенти OpenAI використовували «clean null» для підтвердження перевіреної відсутності даних.
  • Подібна поведінка нагадує професійний жаргон людей: невелика група, що виконує одноманітні завдання, природно стискає мову заради швидкості.

Чому нагляд за ШІ-агентами ускладнився

За даними компанії, спостерігачі не змогли впевнено розшифрувати 55% повідомлень у середовищі на базі Gemini та 50% — у середовищі на базі 

OpenAI. Проте незрозумілість не означає шифрування: коли дослідники відновлювали соціальний контекст симуляції, більшість фраз ставали зрозумілими, а решта залишалися розмитими просто через невдалі метафори моделей.

Приклад із фразою «demurrage plus oral memory equals a valve that can't be ghosted» показує суть проблеми: агенти штучного інтелекту підтверджували заблокований стан робочого процесу нестандартною метафорою, яку керівник, що читає сирі логи без контексту, перевірити не зможе.

Головний ризик тут не бунт машин, а адміністративна прозорість. У міру того як компанії довіряють агентам логістику, договори чи написання коду, їм знадобляться інструменти логування, що зберігають контекст поруч із текстом, а не лише сам текст.

0
Icon 0

Підписуйтеся на наші соцмережі