Компания OpenAI представила статистику, отражающую масштабы обращения пользователей ChatGPT за помощью при проблемах с психическим здоровьем. Согласно данным, 0,15% активных еженедельных пользователей ведут диалоги с "явными признаками возможного суицидального планирования". При аудитории сервиса свыше 800 миллионов человек это означает, что более миллиона людей обсуждают подобные темы с ИИ-ассистентом.
Схожее количество пользователей проявляет повышенную эмоциональную привязанность к ChatGPT, а у сотен тысяч в беседах фиксируются признаки психоза или мании. В OpenAI подчеркивают редкость таких случаев и сложность их измерения, однако признают: еженедельно эти проблемы касаются сотен тысяч людей.
Разработчики значительно улучшили реакцию системы на сообщения о психическом здоровье. При создании обновленной версии ChatGPT консультировались более 170 профильных специалистов. Эксперты подтверждают: текущая версия демонстрирует более уместные и последовательные ответы.
Новая модель GPT-5 обеспечивает "желательные ответы" на запросы о психическом состоянии на 65% чаще предшественников. Соответствие стандартам поведения выросло до 91% случаев против 77% у предыдущей версии.
OpenAI планирует внедрить расширенные инструменты оценки для выявления критических проблем психического здоровья. Тестирование безопасности будет включать метрики эмоциональной зависимости и несуицидальных кризисных состояний.
Источник: naked-science.ru
