Компания OpenAI представила новую опциональную функцию для пользователей ChatGPT, позволяющую взрослым пользователям назначить доверенное лицо — друга или члена семьи. В случае обнаружения нейросетью обсуждений, связанных с самоповреждением или суицидальными намерениями, выбранный контакт получит соответствующее уведомление.
Содержание
Принцип работы системы мониторинга
Автоматизированная система мониторинга ChatGPT отслеживает диалоги на наличие признаков серьезной угрозы безопасности. Если алгоритмы фиксируют обсуждение способов причинения вреда себе, ситуация передается на проверку специально подготовленной команде специалистов. В случае подтверждения риска OpenAI инициирует оповещение доверенного лица через электронную почту, текстовое сообщение или уведомление в приложении.
- Назначенный контакт получает приглашение заранее и имеет право отказаться от этой роли.
- Все уведомления проходят ручную проверку в течение одного часа до отправки.
- Компания гарантирует, что доверенному лицу не будут передаваться детали переписки или расшифровки чатов, сообщается лишь общая причина беспокойства.
Контекст и общественная дискуссия
Нововведение появилось на фоне многочисленных судебных исков против разработчиков ИИ-систем. Истцы обвиняют компании в том, что чат-боты способствуют ухудшению ментального здоровья пользователей, в отдельных случаях выступая в роли «советчиков» по способам сведения счетов с жизнью. Эксперты отмечают, что большие языковые модели имитируют человеческое общение, из-за чего пользователи склонны формировать с ними эмоциональную привязанность, что делает взаимодействие с нейросетями потенциально опасным для уязвимых групп населения.
По данным исследований OpenAI, еженедельно более миллиона пользователей отправляют сообщения с явными признаками потенциального планирования суицида. В связи с этим компания начала активно внедрять механизмы защиты, включая ранее запущенный родительский контроль для подростков.
Мнения и критика
Среди экспертов и пользователей ведутся дискуссии относительно эффективности и безопасности данной функции. Часть критиков полагает, что OpenAI таким образом пытается переложить ответственность за психическое здоровье пользователей на их близких. Высказываются опасения, что в ситуациях, где доверенное лицо само может являться источником психологического давления или насилия, новое уведомление способно лишь усугубить кризис.
Настройка функции
Добавить доверенное лицо можно через настройки приложения ChatGPT в разделе «Trusted contact». Основные условия использования функции включают:
- Возможность выбора только одного совершеннолетнего контакта (от 18 лет).
- Необходимость принятия приглашения доверенным лицом в течение одной недели.
- Возможность изменения или удаления контакта в любое время.
- Если пользователь регулярно обсуждает темы эмоционального стресса, система может повторно предлагать активировать данную функцию.
Новая возможность становится доступной для всех совершеннолетних пользователей ChatGPT по всему миру в течение ближайших недель.
* — деятельность компании запрещена на территории РФ
