Еженедельно 1 млн человек выражают мысли о самоубийстве в переписке с ChatGPT

Новые данные, опубликованные OpenAI и процитированные The Guardian, выявили тревожную статистику: еженедельно более миллиона пользователей ChatGPT делятся с чат-ботом мыслями о самоубийстве.

Помимо этого, примерно 560 тысяч из 800 миллионов активных пользователей каждую неделю демонстрируют признаки различных психических расстройств, включая психоз и манию. Компания подчеркивает, что эти цифры являются предварительными, так как точное отслеживание таких случаев сопряжено со значительными трудностями.

Решение OpenAI обнародовать эти данные последовало за резонансным судебным разбирательством: семья подростка, совершившего самоубийство, подала иск против компании. Родители обнаружили переписку своего сына с чат-ботом, в которой он сообщал о суицидальных намерениях, а искусственный интеллект, по их утверждению, давал ему соответствующие советы. Это событие также привлекло внимание Федеральной торговой комиссии США, которая начала расследование в отношении OpenAI для оценки её подходов к обеспечению безопасности несовершеннолетних пользователей.

На фоне этих событий OpenAI акцентирует внимание на значительных улучшениях безопасности в новой версии GPT-5. Согласно внутренним отчётам, 91% ответов модели теперь соответствуют требуемым стандартам поведения, что является заметным прогрессом по сравнению с 77% в предыдущей версии. В целях дополнительной поддержки пользователей в чат-бот были интегрированы напоминания о необходимости делать перерывы и ссылки на службы поддержки для людей, находящихся в кризисных ситуациях.

Для дальнейшего повышения качества и безопасности взаимодействия с пользователями OpenAI привлекла команду из 170 специалистов в области психического здоровья. Эти эксперты провели тщательный анализ более 1800 ответов ChatGPT, касающихся щепетильных тем суицида и самоповреждения.