FTC розслідує проблему з «галюцинаціями» в ChatGPT

Федеральна торгова комісія США (FTC) запустила розслідування щодо діяльності OpenAI на предмет можливих порушень закону про захист прав споживачів. Про це повідомляє CNN.

Регулятор попросив компанію відповісти на десятки запитів, починаючи від того, як вона отримує дані для навчання мовних моделей, закінчуючи описом «здатності ChatGPT генерувати неправдиві заяви про реальних людей».

Запит на інформацію вважається різновидом адміністративної повістки. Він також вимагає від OpenAI надати свідчення про будь-які скарги від громадськості, списки поточних судових процесів та деталі витоку даних в березні 2023 року.

Підписуйтеся на наші соцмережі

Крім цього FTC попросила пояснити, які кроки вжила компанія для вирішення випадків «галюцинацій» — галузевий термін, що означає генерування штучним інтелектом неправдивої інформації.

Агенція неодноразово попереджала, що компаніям не слід робити надмірних заяв про ШІ. Однак, схоже, OpenAI дотримувалась цих вимог. Наприклад, у технічному звіті про GPT-4 міститься попередження, що модель може «створювати контент, який є безглуздим або неправдивим щодо певних джерел».

Раніше SPEKA писала, що новий витік розкрив деталі моделі GPT-4.