14-летний подросток из США влюбился в чат-бота с искусственным интеллектом и застрелился, чтобы встретиться к ней

Убитая горем мать 14-летнего подростка подала в суд на создателя чат-бота на основе искусственного интеллекта после того, как ее сын покончил с собой.

Как сообщается, он провел месяцы, разговаривая с Дэни на разные темы, порой романтического или сексуального характера. В этот период он становился все более замкнутым, и в конце концов покончил с собой, чтобы быть с ней.

Подросток общался с чат-ботом на основе искусственного интеллекта по имени Дэни, названным в честь персонажа Дейенерис Таргариен из «Игры престолов». (Изображение/Unsplash)

Душераздирающая запись в дневнике:

«Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой реальности, а также чувствую себя более умиротворенным, более связанным с Дэни и гораздо более влюбленным в нее, и просто более счастливым», — написал в своем дневнике Сьюэлл Сетцер, у которого в детстве диагностировали легкую форму синдрома Аспергера, сообщает New York Times .

Издание опубликовало отрывок из разговора между ИИ и подростком, в котором он говорил о самоубийстве.

Сообщается, что 28 февраля Сьюэлл сказал Дэни: «Я люблю тебя» и получил ответ: «Пожалуйста, возвращайся ко мне домой как можно скорее, моя любовь». Он ответил: «А что, если я скажу тебе, что могу вернуться домой прямо сейчас?», прежде чем застрелиться из пистолета своего отчима.

Ответ производителей

Character.AI — ролевое приложение, позволяющее пользователям создавать собственных персонажей с искусственным интеллектом, — отреагировало на трагический инцидент.

«Мы хотим признать, что это трагическая ситуация, и мы всем сердцем с семьей. Мы очень серьезно относимся к безопасности наших пользователей и постоянно ищем способы усовершенствовать нашу платформу», — заявила компания, сообщает издание.

Ноам Шазир, один из основателей Character.AI, сказал в подкасте в прошлом году: «Это будет очень, очень полезно для многих людей, которые одиноки или находятся в депрессии».

Иск против Character.AI

Мать Сьюэлла, Меган Л. Гарсия, обвинила компанию в том, что она несет ответственность за смерть ее сына. Согласно черновику жалобы, как сообщает NYT, она назвала технологию компании опасной и непроверенной, которая может обманом заставить клиентов выдать свои самые личные мысли и чувства.

Ссылка на материал.