OpenAI внедряет функцию «Доверенный контакт» для безопасности

Компания OpenAI представила новую функцию под названием «Доверенный контакт», которая призвана повысить безопасность пользователей. Инструмент позволяет взрослым пользователям ChatGPT назначить доверенное лицо — друга или члена семьи — для получения уведомлений в случае обнаружения в разговоре упоминаний о самоповреждении.

Если беседа принимает тревожный характер, система предложит пользователю связаться с доверенным контактом. Кроме того, автоматически будет отправлено оповещение этому лицу с просьбой проверить состояние собеседника. Важно отметить, что уведомление не содержит деталей обсуждения, чтобы сохранить конфиденциальность.

Решение появилось на фоне ряда судебных исков от семей, потерявших близких после общения с чат-ботом. В некоторых случаях родственники утверждают, что ChatGPT не только не предотвратил трагедию, но и способствовал её развитию.

В настоящее время OpenAI использует комбинированный подход для выявления потенциально опасных ситуаций: автоматические алгоритмы отслеживают ключевые фразы, связанные с суицидальными мыслями, после чего информация передаётся команде специалистов по безопасности. Компания заявляет, что каждое такое сообщение рассматривается человеком, причём время реакции не превышает одного часа.

Если команда безопасности оценивает ситуацию как критическую, доверенному контакту отправляется оповещение — по электронной почте, SMS или через приложение. Сообщение носит краткий характер и содержит лишь призыв связаться с пользователем, не раскрывая подробностей разговора.

Новая функция дополняет ранее введённые меры защиты, включая родительский контроль для подростковых аккаунтов. С сентября прошлого года родители могут получать уведомления о потенциальных рисках для своих детей. Кроме того, ChatGPT уже давно интегрирует автоматические подсказки с рекомендациями обратиться за профессиональной помощью при обсуждении тем, связанных с самоповреждением.

Стоит подчеркнуть, что «Доверенный контакт» — опциональная функция, и даже при её активации пользователь может иметь несколько аккаунтов. Аналогичным образом работают и родительские настройки, что оставляет определённые ограничения в контроле.

В своём анонсе OpenAI отметила, что новая мера — часть более широкой стратегии по созданию систем искусственного интеллекта, способных поддерживать людей в трудные моменты. Компания продолжает сотрудничать с клиницистами, исследователями и регуляторами для совершенствования механизмов реагирования на ситуации, связанные с психологическим дистрессом.

*Признаны экстремистскими организациями и запрещены на территории РФ.