Новий інструмент OpenAI допоможе ідентифікувати текст, написаний штучним інтелектом

OpenAI випустив інструмент, який допоможе визначити, був текст написаний людиною чи штучним інтелектом. Точність роботи підвищується зі збільшенням довжини тексту.

Компанія OpenAI розповіла, що створила класифікатор, який здатний відрізнити текст, написаний людиною, від тексту, згенерованого нейромережею. Він має допомогти виявляти використання ШІ для поширення дезінформації чи зловживань у сфері освіти.

Класифікатор навчали на текстах, створених людиною і згенерованих ШІ. Для цього запити до нейромереж формулювали відповідно до тем текстів, написаних людьми.

Підписуйтеся на наші соцмережі

OpenAI попереджає, що інструмент не є повністю надійним, і рекомендує використовувати його лише для матеріалів англійською мовою. Під час тестів класифікатор визначав тексти, написані ШІ, з точністю 26%. У 9% випадків він помилявся у розпізнаванні тексту, створеного людиною.

Точність роботи класифікатора підвищується зі збільшенням обсягу тексту, що перевіряється. Його надійність під час перевірки невеликих текстів (менше тисячі знаків) буде низькою. Він також може дати помилковий результат під час перевірки відредагованого людиною тексту.

Нагадаємо, що раніше Google створив ШІ, який генерує музику різних жанрів за текстовим описом. Музика у ШІ MusicLM виходить дивною, а вокал незрозумілим. Користувачі поки що не зможуть створювати мелодію за допомогою цієї технології через порушення авторських прав.