Приложение на основе искусственного интеллекта, которое «оживляет» мертвых, вызывает споры и сравнения с «Черным зеркалом»

Граница между антиутопической научной фантастикой и технологической реальностью в этом месяце стала немного размытой. 2Wai, новое мобильное приложение на базе искусственного интеллекта, вышло на рынок с обещанием одновременно захватывающим и противоречивым: пользователи смогут создавать интерактивные цифровые копии своих умерших близких.

Инструмент, запущенный в бета-версии для iOS 11 ноября, вызвал мгновенную реакцию в социальных сетях, где тысячи пользователей отметили несомненное сходство с одним из самых известных и душераздирающих эпизодов сериала « Черное зеркало» .

Когда вымысел становится реальностью: эффект «Я скоро вернусь»

Невозможно говорить о 2Wai, не упомянув серию «Be Right Back » («Скоро вернусь») сериала «Чёрное зеркало » 2013 года.

В этой серии вдова, которую играет Хейли Этвелл, использует сервис, собирающий цифровую историю её покойного мужа, чтобы создать искусственный интеллект, с которым она может общаться в чате, а в конечном итоге и по телефону.

2Wai предлагает удивительно похожие функции, но делает это на шаг дальше в плане доступности.

Приложение, созданное Кэлумом Уорти (известным по роли Деза в сериале Disney Channel «Остин и Элли ») и продюсером Расселом Гейзером, использует функцию «HoloAvatar».

По данным компании, используя всего три минуты аудиовизуального материала (видео, аудио и текст), ИИ может создать разговорный аватар, способный взаимодействовать в режиме реального времени на нескольких языках.

Рекламный ролик, опубликованный Уорти на канале X , набрал более 40 миллионов просмотров и включает в себя сцену, которую многие назвали «жуткой»: беременная женщина звонит искусственному интеллекту, воссоздающему её покойную мать, за советом.

Затем видео переносится вперёд во времени, показывая, как аватар читает истории своему внуку, а годы спустя даёт советы тому же ребёнку, теперь уже взрослому (которого играет сам Уорти).

«Что, если близкие, которых мы потеряли, могут стать частью нашего будущего?» — спрашивается в рекламном ролике.

«С 2Wai три минуты могут длиться вечно».

Утешение или «топливо для кошмаров»?

Хотя приложение позиционируется как инструмент для «сохранения наследия», реакция общественности была крайне негативной.

В социальных сетях технологию быстро раскритиковали: её назвали «демонической» и «антиутопической».

Психологи и эксперты по цифровой этике предупреждают, что подобные «технологии скорби» могут нарушить естественный процесс заживления, удерживая пользователей в состоянии искусственного отрицания, симулируя, что утрата не окончательна.

Один из пользователей X, получивший вирусное распространение, назвал приложение «одним из самых злобных и психотических явлений, которые я когда-либо видел», утверждая, что симуляция жизни мешает людям осознать смерть.

Как работает цифровое «бессмертие» и сколько оно стоит

2Wai работает на основе запатентованной технологии FedBrain, которая обрабатывает взаимодействия непосредственно на устройстве пользователя.

По заявлению компании, это обеспечивает конфиденциальность и снижает вероятность появления печально известных «галлюцинаций» ИИ (когда искусственный интеллект фабрикует ложные данные), ограничивая ответы на информацию, одобренную пользователем.

В настоящее время бета-версия приложения бесплатна, но ожидается, что оно будет переведено на многоуровневую модель подписки с ориентировочной стоимостью от 10 до 20 долларов в месяц.

Это вызвало возмущение по поводу монетизации ностальгии и чужой боли.

Правовой и этический вакуум

Появление 2Wai обнажает серую зону в действующем законодательстве.

Эксперты-юристы отмечают, что «боты смерти» могут быть созданы без явного согласия умершего, раскрывая его личные данные.

Хотя в Калифорнии недавно был принят закон AB 1836 , запрещающий несанкционированное использование голоса или образа умерших артистов, для обычных граждан практически не существует никакой защиты.

Это делает семьи уязвимыми к бесконтрольному использованию или коммерциализации образов своих близких, поднимая тревожный вопрос: кому принадлежат наши данные и образы после нашей смерти?

Технологии развиваются быстрее этики, и 2Wai выходит на развивающийся и противоречивый рынок, где уже работают — или пытались работать — такие компании, как HereAfter AI, StoryFile и Replika.

Разница в том, что на этот раз реальность, похоже, окончательно догнала самые мрачные видения « Чёрного зеркала» .

источник