Персонаж, созданный искусственным интеллектом
ЛОНДОН. В одном из видеороликов ведущий новостей с идеально причесанными темными волосами и щетинистой бородой рассказал о том, что он считает позорным бездействием Соединенных Штатов в борьбе с насилием с применением огнестрельного оружия.
В другом видео женщина-ведущая новостей рассказала о роли Китая в геополитических отношениях на международной встрече на высшем уровне.
Но что-то было не так. Их голоса были высокопарными и не синхронизировались с движением их ртов. Их лица были пиксельными, как в видеоиграх, а волосы казались неестественно прилипшими к голове. Подписи были заполнены грамматическими ошибками.
Два телеведущих, предположительно ведущих новостного издания Wolf News, не являются реальными людьми. Это компьютерные аватары, созданные программным обеспечением для искусственного интеллекта. А в конце прошлого года их видеоролики были распространены прокитайскими аккаунтами ботов в Facebook**** и Twitter, что стало первым известным случаем использования видеотехнологии “глубокой подделки” для создания вымышленных людей в рамках информационной кампании, проводимой государством.
“Это первый раз, когда мы видим это в дикой природе”, - сказал Джек Стаббс, вице-президент по разведке в Graphika, исследовательской фирме, которая изучает дезинформацию. Graphika обнаружила прокитайскую кампанию, которая, по-видимому, была направлена на продвижение интересов Коммунистической партии Китая и подрыв Соединенных Штатов для англоязычных зрителей.
Технология “глубокой подделки”, которая неуклонно развивалась на протяжении почти десятилетия, позволяет создавать говорящих цифровых марионеток. Программное обеспечение ИИ иногда используется для искажения общественных деятелей, например, видео, которое в прошлом году распространилось в социальных сетях, ложно показывая, что Владимир Зеленский, президент Украины, объявляет о капитуляции. Но программное обеспечение также может создавать персонажей из цельной ткани, выходя за рамки традиционного программного обеспечения для редактирования и дорогостоящих инструментов для спецэффектов, используемых Голливудом, стирая грань между фактом и вымыслом до необычайной степени.
Поскольку законов, регулирующих распространение технологии, немного, эксперты по дезинформации давно предупреждают, что видео-подделки могут еще больше лишить людей способности отличать реальность от подделок в Интернете, что может быть использовано не по назначению для разжигания беспорядков или разжигания политического скандала. Теперь эти прогнозы стали реальностью.
Хотя использование фейков в недавно обнаруженной кампании прокитайской дезинформации было неуклюжим, это открывает новую главу в информационной войне. В последние недели в Интернете было обнаружено еще одно видео с использованием аналогичной технологии искусственного интеллекта, на котором вымышленные люди, назвавшиеся американцами, пропагандируют поддержку правительства Буркина-Фасо, которое находится под пристальным вниманием из-за связей с Россией.
Программное обеспечение для искусственного интеллекта, которое можно легко приобрести в Интернете, может создавать “видеоролики за считанные минуты, а подписки начинаются всего с нескольких долларов в месяц”, - сказал Стаббс. “Это упрощает создание контента в больших масштабах”.
Graphika связала двух фальшивых ведущих новостей о волках с технологией, созданной Synthesia, компанией с искусственным интеллектом, расположенной над магазином одежды на Оксфорд-серкус в Лондоне.
5-летний стартап создает программное обеспечение для создания фейковых аватаров. Клиенту просто нужно ввести сценарий, который затем читается одним из цифровых исполнителей, созданных с помощью инструментов Synthesia.
По словам Synthesia, аватары ИИ - это “цифровые близнецы”, которые основаны на внешности нанятых актеров и могут быть изменены, чтобы говорить на 120 языках и акцентах. На выбор предлагается более 85 персонажей разного пола, возраста, этнической принадлежности, тембра голоса и стиля одежды.
Один ИИ-персонаж по имени Джордж выглядит как ветеран бизнеса с седыми волосами и носит синий блейзер и рубашку с воротником. Другая, Хелия, носит хиджаб. Карло, еще один аватар, носит каску. Сэмюэль носит белый лабораторный халат, похожий на те, что носят врачи. (Клиенты также могут использовать Synthesia для создания своих собственных аватаров, основанных на них самих или на других лицах, которые дали им разрешение.)
Программное обеспечение компании в основном используется клиентами для управления персоналом и обучающих видеороликов, где достаточно неполированного качества производства. Программное обеспечение, стоимость которого составляет всего 30 долларов в месяц, позволяет создавать видеоролики за считанные минуты, что в противном случае могло бы занять несколько дней и потребовало бы найма съемочной группы и актеров-людей.
Весь процесс “так же прост, как написание электронного письма”, - говорится на сайте Synthesia.
Как обычно появляется персонаж.
Виктор Рипарбелли, соучредитель и генеральный директор Synthesia, заявил, что те, кто использовал его технологию для создания аватаров, обнаруженных Graphika, нарушили условия предоставления услуг. В этих условиях говорится, что технологии компании не должны использоваться для “политического, сексуального, личного, криминального и дискриминационного контента”. Рипарбелли отказался делиться информацией о людях, которые стоят за новостными видеороликами Wolf, но он сказал, что их учетные записи были заблокированы.
Рипарбелли добавил, что в Synthesia работает команда из четырех человек, которая занимается предотвращением использования технологии deepfake для создания незаконного контента, но сказал, что дезинформацию и другие материалы, которые не содержат откровенных высказываний ненависти, оскорблений, откровенных слов и изображений, может быть трудно обнаружить.
“Очень трудно установить, что это дезинформация”, - сказал он после показа одного из видеороликов The Wolf News. Он сказал, что взял на себя “полную ответственность за все, что происходит на нашей платформе”, и призвал политиков установить более четкие правила использования инструментов искусственного интеллекта.
По словам Рипарбелли, выявление дезинформации станет только сложнее. Со временем, добавил он, технология глубокой подделки станет достаточно сложной, чтобы “создавать голливудский фильм на ноутбуке без необходимости в чем-либо еще”.
Graphika связала Synthesia с прокитайской кампанией по дезинформации, отследив два аватара Wolf News от других безобидных обучающих видеороликов в Интернете с участием тех же персонажей. На своем веб-сайте Synthesia назвала два аватара “Анна” и “Джейсон”.
Как один и тот же созданный ИИ аватар появился в маркетинговых и дезинформационных кампаниях.
Аватары читают сценарий, который был введен в программное обеспечение Synthesia. Благодаря пикселизированным лицам персонажей и голосам роботов не займет много времени, чтобы заметить, что что-то не так.
В видеоролике в поддержку нового правительства Буркина-Фасо также появилась Анна. “Давайте все будем мобилизованы на поддержку народа Буркинабе в этой общей борьбе”, - сказала она монотонным голосом робота. “Родина или смерть, мы победим”.
Фейковые видео распространялись годами. Кендрик Ламар использовал технологию в музыкальном видео в прошлом году, чтобы превратиться в Канье Уэста, Уилла Смита и Коби Брайанта. Порнографические сайты подверглись критике за демонстрацию видеороликов, в которых технология использовалась для незаконного копирования изображений известных актрис.
В Китае компании, занимающиеся искусственным интеллектом, разрабатывают инструменты для глубокой подделки уже более пяти лет. В рекламном трюке 2017 года на конференции китайская фирма iFlytek сняла поддельное видео с тогдашним президентом США Дональдом Трампом, говорящим на китайском языке. С тех пор iFlytek был добавлен в черный список США, который ограничивает продажу технологий американского производства по соображениям национальной безопасности.
Meta**, владелец Facebook****, Instagram**** и WhatsApp, заявила, что удалила по крайней мере одну учетную запись, связанную с прокитайскими видеороликами deepfake, после того, как с ней связалась New York Times. Компания, которая отказалась от дальнейших комментариев, не разрешает использование видео и других средств массовой информации, которыми манипулируют с целью введения в заблуждение. Twitter не ответил на запросы о комментариях.
Graphika заявила, что обнаружила фальшивые видео, когда следила за аккаунтами в социальных сетях, связанными с прокитайской кампанией дезинформации, известной как “маскировка спама”. В ходе этих кампаний аккаунты с политическим спамом размещают контент в Интернете, а затем используют другие аккаунты, входящие в сеть, для распространения материала на разных платформах.
Исследователи заявили, что использование технологии глубокой подделки было более заметным, чем фактическое воздействие видеороликов, которые не видели многие люди. По данным Graphika, два видеоролика с участием так называемых ведущих Wolf News были опубликованы как минимум пять раз в период с 22 по 30 ноября пятью аккаунтами. Затем сообщения были повторно опубликованы по крайней мере еще двумя аккаунтами, которые, по-видимому, были частью прокитайской сети.
Стаббс сказал, что торговцы дезинформацией продолжат экспериментировать с программным обеспечением ИИ, чтобы создавать все более убедительные медиа, которые трудно обнаружить и проверить.
“То, что мы видим сегодня, является еще одним признаком грядущих событий”, - сказал он.
84.2к
