Экономика дипфейков без согласия осталась в основном вне поля зрения, но она легко доступна, и некоторые создатели могут принимать основные кредитные карты.
В последние месяцы резко выросла экономика дипфейков, когда люди могут оплачивать видео кредитной картой.
Отредактированные в цифровом виде порнографические видеоролики с лицами сотен несогласных женщин привлекают десятки миллионов посетителей на веб-сайты, один из которых находится в верхней части результатов поиска Google.
Люди, которые создают видео, берут всего 5 долларов за загрузку тысяч клипов с лицами знаменитостей, и они принимают оплату через Visa, Mastercard и криптовалюту.
Хотя такие видео, часто называемые дипфейками, существовали в Интернете в течение многих лет, достижения в области искусственного интеллекта и растущая доступность технологий упростили и сделали более прибыльным создание материалов откровенно сексуального характера без согласия.
Обзор NBC News двух крупнейших веб-сайтов, на которых размещены дипфейковые видео откровенно сексуального характера, показал, что они были легко доступны через Google и что создатели на веб-сайтах также использовали платформу онлайн-чата Discord для рекламы видео для продажи и создания пользовательских видео.
Дипфейки создаются с помощью программного обеспечения искусственного интеллекта, которое может взять существующее видео и легко заменить лицо одного человека на другое, даже отражая выражения лица. Некоторые беззаботные дипфейковые видеоролики со знаменитостями стали вирусными, но чаще всего они используются для видео откровенно сексуального характера. По данным Sensity, амстердамской компании, которая обнаруживает и отслеживает созданные искусственным интеллектом синтетические медиа для таких отраслей, как банковское дело и финтех, 96% дипфейков носят откровенно сексуальный характер и содержат женщин, которые не давали согласия на создание контента.
Большинство дипфейковых видео снято с женщин-знаменитостей, но теперь создатели также предлагают снимать кого угодно. Создатель предложил на Discord сделать 5-минутный дипфейк «личной девушки», то есть любой, у кого меньше 2 миллионов подписчиков в Instagram****, за 65 долларов.
Экономика дипфейков без согласия оставалась в основном вне поля зрения, но недавно она вызвала всплеск интереса после того, как в этом году популярный стример признался, что просматривал сексуально откровенные дипфейковые видео других стримеров. Примерно в то же время поисковый трафик Google резко увеличился по запросу «дипфейковое порно».
Всплеск также совпал с увеличением количества видео, загруженных на MrDeepFakes, один из самых известных сайтов в мире дипфейкового порно. На веб-сайте размещены тысячи откровенно сексуальных дипфейковых видеороликов, которые можно просматривать бесплатно. По данным аналитической компании SimilarWeb, ежемесячно его посещают 17 миллионов человек. Поиск в Google по запросу «deepfake porn» выдал MrDeepFakes в качестве первого результата.
В заявлении для NBC News представитель Google заявил, что люди, ставшие жертвами дипфейков, могут запросить удаление из поиска Google страниц, содержащих «невольно поддельную порнографию».
«Кроме того, мы принципиально разрабатываем наши системы ранжирования для отображения высококачественной информации и для того, чтобы не шокировать людей неожиданным вредоносным или откровенным контентом, когда они его не ищут», — говорится в заявлении.
Женевьева О, независимый интернет-исследователь, отслеживающая рост популярности MrDeepFakes, говорит, что количество загрузок видео на веб-сайт неуклонно растет. В феврале на сайте было больше всего загрузок — более 1400.
Ноэль Мартин, юрист и адвокат из Западной Австралии, работающая над повышением осведомленности о сексуальных домогательствах с использованием технологий, сказала, что, судя по ее беседам с другими жертвами сексуальных домогательств, не знаменитости все чаще становятся жертвами таких несогласованных действий. Видео.
«Все больше и больше людей становятся мишенью», — сказала Мартин, которая сама стала жертвой дипфейкового сексуального насилия. «На самом деле мы услышим гораздо больше жертв этого, которые являются обычными людьми, обычными людьми, которые становятся мишенью».
Видео на MrDeepFakes обычно длятся всего несколько минут и действуют как тизеры для гораздо более длинных дипфейковых видео, которые обычно доступны для покупки на другом веб-сайте: Fan-Topia. Веб-сайт позиционирует себя в Instagram**** как «самую высокооплачиваемую платформу для создания контента для взрослых».
Когда потребители дипфейков находят видео, которые им нравятся, на MrDeepFakes, нажатие на профили создателей часто приводит их к ссылкам Fan-Topia, где они могут оплатить доступ к библиотекам дипфейковых видео своей кредитной картой. На платежной странице Fan-Topia логотипы Visa и Mastercard отображаются рядом с полями, в которые пользователи могут вводить информацию о кредитной карте. Покупки осуществляются через поставщика услуг интернет-платежей под названием Verotel, который базируется в Нидерландах и рекламирует так называемых веб-мастеров «высокого риска», предоставляющих услуги для взрослых.
Verotel не ответил на запрос о комментариях. Некоторые создатели дипфейков принимают запросы через Discord, платформу чата. Создатель самого просматриваемого видео MrDeepFake, согласно счетчику просмотров веб-сайта, имел профиль и чат на Discord, где подписчики могли напрямую отправлять сообщения, чтобы делать индивидуальные запросы с участием «личной девушки». Discord удалил сервер за нарушение его правил в отношении «контента или поведения, которые сексуализируют или сексуально унижают других без их явного согласия» после того, как NBC News попросили комментарий.
Создатель не ответил на сообщение, отправленное через Discord.
Правила сообщества Discord запрещают «координацию, участие или поощрение сексуальных домогательств», включая «нежелательную сексуализацию». NBC News проанализировала другие сообщества Discord, занимающиеся созданием дипфейковых изображений сексуального характера с помощью метода разработки ИИ, известного как Stable Diffusion, одно из которых содержало изображения знаменитостей без согласия и было закрыто после того, как NBC News попросили комментариев.
В заявлении Discord говорится, что он прямо запрещает «продвижение или распространение дипфейков без согласия».
«Наша команда безопасности принимает меры, когда нам становится известно об этом контенте, включая удаление контента, блокировку пользователей и отключение серверов», — говорится в заявлении.
Помимо создания видео, создатели Deepfake также продают доступ к библиотекам с тысячами видео по подписке всего за 5 долларов в месяц. Другие бесплатные.
«Подпишитесь сегодня и заполните свой жесткий диск завтра!» Описание Fan-Topia создателя дипфейка гласит.
Хотя Fan-Topia явно не позиционирует себя как пространство для создателей дипфейков, она стала одним из самых популярных мест для них и их контента. Поиск «дипфейков» и терминов, связанных с жанром, на Fan-Topia дал более 100 учетных записей создателей дипфейков.
«Наша команда безопасности принимает меры, когда нам становится известно об этом контенте, включая удаление контента, блокировку пользователей и отключение серверов», — говорится в заявлении.
Помимо создания видео, создатели Deepfake также продают доступ к библиотекам с тысячами видео по подписке всего за 5 долларов в месяц. Другие бесплатные.
«Подпишитесь сегодня и заполните свой жесткий диск завтра!» Описание Fan-Topia создателя дипфейка гласит.
Хотя Fan-Topia явно не позиционирует себя как пространство для создателей дипфейков, она стала одним из самых популярных мест для них и их контента. Поиск «дипфейков» и терминов, связанных с жанром, на Fan-Topia дал более 100 учетных записей создателей дипфейков.
Скриншоты платежных страниц Fan-Topia.
Некоторые из этих создателей нанимают. На форумах MrDeepFake, доске объявлений, где создатели и потребители могут отправлять запросы, задавать технические вопросы и обсуждать технологию искусственного интеллекта, два популярных создателя дипфейков размещают объявления о платных должностях, которые помогают им создавать контент. Оба листинга были опубликованы на прошлой неделе и предлагают криптовалюту в качестве оплаты.
Люди, от создателей YouTube и Twitch до женщин, которые снимаются в высокобюджетных франшизах, часто фигурируют в дипфейковых видео на Fan-Topia и MrDeepFakes. Две женщины, фигурирующие в наибольшем количестве контента на MrDeepFakes, согласно рейтингу веб-сайта, — это актрисы Эмма Уотсон и Скарлетт Йоханссон. Они также были показаны в рекламной кампании Facebook**** с сексуальным подтекстом для дипфейкового приложения для обмена лицами, которая работала в течение двух дней, прежде чем NBC News сообщил об этом (после публикации статьи Meta** закрыла рекламные кампании, и приложение, показанное в них, было удалены из Apple App Store и Google Play).
«Это не порносайт. Это хищнический веб-сайт, который не зависит от согласия людей на реальном веб-сайте», — сказал Мартин о MrDeepFakes. «Тот факт, что ему даже разрешено работать и о нем известно, является полным обвинением каждого регулятора в космосе, всех правоохранительных органов, всей системы в том, что ему даже разрешено существовать».
Visa и Mastercard ранее пресекали их использование в качестве платежных систем для видео сексуального характера, но они по-прежнему доступны для использования на Fan-Topia. В декабре 2020 года, после того как в статье New York Times говорилось, что на Pornhub размещались материалы о сексуальном насилии над детьми, компании, выпускающие кредитные карты, прекратили разрешать транзакции на веб-сайте. Pornhub заявил, что утверждение о разрешении таких материалов было «безответственным и вопиюще ложным». В августе компании также приостановили оплату рекламы на Pornhub. Pornhub запрещает любые дипфейки.
После этого решения генеральный директор и председатель Visa Эл Келли заявил в своем заявлении, что правила Visa «явно и недвусмысленно запрещают использование наших продуктов для оплаты контента, изображающего сексуальное поведение без согласия».
Visa и Mastercard не ответили на запросы о комментариях.
Другие дипфейковые сайты нашли другие модели получения прибыли.
В отличие от Fan-Topia и его модели с платным доступом, MrDeepFakes, похоже, получает доход за счет рекламы и опирается на большую аудиторию, которая была увеличена за счет его позиции в результатах поиска Google.
Созданный в 2018 году, MrDeepFakes столкнулся с некоторыми попытками остановить свою работу. Петиция Change.org об ее удалении, созданная некоммерческой кампанией #MyImageMyChoice, собрала более 52 000 подписей, что делает ее одной из самых популярных петиций на платформе, и ею поделились влиятельные лица, нацеленные на платформу.
С 2018 года, когда на рынок вышла потребительская технология замены лица, приложения и программы, используемые для создания дипфейков сексуального характера, стали более изощренными и широко распространенными. Десятки приложений и программ бесплатны или предлагают бесплатные пробные версии.
«В прошлом, даже пару лет назад, преобладающим способом, которым люди подвергались такому насилию, был несогласованный обмен интимными изображениями», — сказал Мартин. «Это даже не были подделанные изображения».
Теперь, по словам Мартина, жертвы сексуального насилия, как в сети, так и за ее пределами, стали жертвами дипфейков. В Западной Австралии Мартин успешно провела кампанию за запрет дипфейков без согласия и сексуального насилия на основе изображений, но, по ее словам, правоохранительные и регулирующие органы ограничены юрисдикцией, потому что дипфейки можно создавать и публиковать в Интернете из любой точки мира.
В США только четыре штата приняли законы, касающиеся дипфейков. Жертвы также находятся в неблагоприятном положении из-за юрисдикции и потому, что некоторые законы относятся только к выборам или материалам о сексуальном насилии над детьми.
«Согласно мнению, нам нужен глобальный совместный ответ на эти вопросы», — сказал Мартин.
https://goo.su/MQDP
