Когда нейросеть считывает в диалоге угрозу жизни, она больше не ограничивается ссылками на горячие линии. OpenAI запускает функцию Trusted Contact, позволяющую назначить доверенное лицо, которое получит экстренное уведомление, если алгоритмы ChatGPT зафиксируют признаки депрессии или намерений причинить себе вред.
OpenAI подключает близких к спасению пользователей в кризисе
Когда нейросеть считывает в диалоге угрозу жизни, она больше не ограничивается ссылками на горячие линии. OpenAI запускает функцию Trusted Contact, позволяющую назначить доверенное лицо, которое получит экстренное уведомление, если алгоритмы ChatGPT зафиксируют признаки депрессии или намерений причинить себе вред.
Пользователи могут добровольно выбрать человека старше 18 лет, готового стать их «цифровым опекуном». После отправки приглашения у кандидата есть неделя на подтверждение своей роли. Разработчики исключили автоматические рассылки: каждое срабатывание системы проходит через «человеческий фильтр». Специально обученные модераторы проверяют контекст беседы, чтобы избежать ложных тревог. Если риск подтверждается, контактное лицо получает оповещение через SMS, почту или приложение. При этом конфиденциальность остается приоритетом: близкие не получают доступ к истории переписки, им лишь сообщают о возникновении тревожной ситуации и просят связаться с пользователем.
Команда OpenAI планирует завершать проверку каждого инцидента силами модераторов менее чем за один час. В разработке инструмента участвовали эксперты Американской психологической ассоциации. Ранее похожая система была внедрена для родительского контроля в подростковых аккаунтах, а теперь охватывает и взрослую аудиторию. В компании подчеркивают, что нововведение не заменяет профессиональную психотерапию или службы спасения, а служит дополнительным звеном поддержки в моменты, когда алгоритмам не хватает человеческого участия.
Комментарии (0)
Пока нет комментариев. Будьте первым!