OpenAI почне маркувати тексти ChatGPT прихованими водяними знаками
OpenAI запускає систему водяних знаків textGrain для ChatGPT і Codex у Євросоюзі протягом найближчих тижнів. Про це повідомляє OpenAI у своєму блозі.
Розробники по всьому світу можуть увімкнути функцію вручну через API вже зараз, тоді як користувачам ChatGPT в ЄС включать її автоматично трохи згодом.
Як працює технологія textGrain
Підписуйтеся на наші соцмережі
textGrain не додає до тексту жодного видимого символу. Технологія змінює ймовірність вибору наступного слова за секретним ключем, формуючи приховану послідовність, яку розпізнає лише спеціальний детектор OpenAI.
Мітка залишається в тексті навіть після копіювання в інший документ. За словами компанії, продуктивність моделі при цьому не падає.
За даними OpenAI, textGrain показує результати, що «збігаються або перевищують» показники конкурентів, зокрема SynthID від Google DeepMind.
Чи ідеально працює детектор OpenAI
Серед основних факторів, що впливають на точність виявлення:
- заміна лише 10% слів синонімами знижує точність розпізнавання з 92% до 66%;
- короткі фрагменти тексту детектор розпізнає гірше;
- математичні відповіді та перекладені тексти також знижують точність системи.
Через ці обмеження доступ до інструменту перевірки OpenAI поки відкриває лише перевіреним дослідникам та експертним організаціям, а не всім охочим.
Anthropic раніше запустила подібну функцію маркування глобально та зіткнулася з критикою користувачів Claude.
OpenAI та Anthropic виконують вимоги статті про прозорість Акта про штучний інтелект ЄС, яка набула чинності 2 серпня. Саме цей документ зобов'язує компанії маркувати згенерований ШІ текст у Євросоюзі.