ChatGPT повідомлятиме близьких, якщо користувач ризикує завдати собі шкоди
OpenAI представила функцію Trusted Contact для ChatGPT. Вона дозволить користувачам призначити довірену особу, з якою сервіс зможе зв’язатися у випадку, якщо система виявить високий ризик самоушкодження, пише Engadget.
Нововведення з’явилося на тлі зростання кількості людей, які використовують ChatGPT як цифрового психолога чи співрозмовника для обговорення психічного здоров’я.
За даними компанії, понад 1 мільйон користувачів із 800 мільйонів щотижневої аудиторії згадують суїцидальні думки у своїх чатах.
Підписуйтеся на наші соцмережі
Як працюватиме Trusted Contact
Функція буде доступна повнолітнім користувачам від 18 років. У налаштуваннях ChatGPT можна буде вказати одного дорослого як «довірений контакт». Після цього обрана людина повинна підтвердити запрошення протягом тижня.
Якщо система виявить серйозний ризик самоушкодження, ChatGPT спершу попередить самого користувача та запропонує звернутися до друга чи близької людини. Також сервіс може запропонувати варіанти, як почати розмову.
У OpenAI наголошують, що процес не є повністю автоматизованим. Кожен випадок перевірятиме спеціально навчена команда людей. Лише після людського перегляду компанія зможе надіслати повідомлення довіреному контакту — через email, SMS або повідомлення в застосунку.
Що отримає довірена особа від ChatGPT
У повідомленні буде вказано, що користувач може переживати складний період, і рекомендовано зв’язатися з ним. Водночас компанія не передаватиме повні тексти переписки для збереження конфіденційності.
Trusted Contact багато в чому нагадує батьківський контроль, але орієнтований саме на підтримку дорослих користувачів у кризових ситуаціях.