Брэндон Юинг, известный своим подписчикам на стриминговой платформе Twitch как “Атриок”, поделился своим экраном во время прямого эфира. Видео. На одной из видимых открытых вкладок был показан порносайт с платным доступом, специализирующийся на сгенерированных ИИ сексуальных изображениях, иначе известных как “подделки”. Зрители стрима сделали скриншот утечки, а затем широко распространили сайт, изображения с него и имена женщин, которые были подделаны. Юинг случайно рассказал, что просматривал фейковую порнографию двух других популярных стримеров Twitch, Майи Хиги и Покимане. Ни одна из них не давала согласия на то, чтобы их изображения использовались для материалов откровенного сексуального содержания.
“Мне стало безумно любопытно, и я кое-что нажал”, - сказал Юинг в своем видео с извинениями. Он настаивал, что перешел на поддельный сайт из рекламы на Pornhub, которая привела его на другой сайт, предназначенный только для подписчиков. Там он заплатил за просмотр подделанных изображений женщин’стримеров. “На каждом чертовом видео есть реклама, поэтому я знаю, что другие люди должны нажимать на нее”, ’ сказал он. Он также отрицал’ что просмотр порно без согласия был “образцом поведения”. Тем не менее, несмотря на явную попытку списать инцидент на глупую ошибку новичка, которую легко совершить любому, он также назвал свое поведение “постыдным” и “отвратительным”.
Прошло более пяти лет с тех пор, как пользователи социальной сети Reddit начали использовать ИИ для замены лиц – цифровое сшивание головы одного человека с телом другого, заставляя их двигаться и даже говорить так, как никогда не говорил реальный человек. Еще в 2018 году реакция СМИ на эти новые “подделки”, казалось, вращалась вокруг их потенциала для политических мистификаций. Главная проблема заключалась в том, что эта быстро развивающаяся технология, которая могла буквально вложить слова в уста любого общественного деятеля на планете, погрузит нас еще глубже в существование постправды и новую эру искусственного интеллекта. Тем не менее, с самого начала подавляющее большинство подделок, созданных и распространенных в Интернете, не имели политических мотивов. Большинство из них были и остаются порнографией. Действительно, сам термин “подделки” исходит от одного пользователя Reddit, который получил это прозвище на порнофоруме двойников знаменитостей, где он разместил созданные искусственным интеллектом изображения лиц знаменитостей на телах порноактеров. Результат: реалистично выглядящие видео людей, занимающихся сексом, которого на самом деле никогда не было
Сегодня то, что начиналось как извращенное хобби одного мужчины, захватило Интернет. Согласно правительственной статистике, веб-сайт, который практически раздевает фотографии женщин, получил 38 миллионов просмотров за первые восемь месяцев 2021 года. Как выразился сам Юинг, “в каждом чертовом видео есть реклама” на Pornhub. Мишенями становятся не только знаменитости или даже широко известные стримеры в сообществе Twitch. Большая часть рынка фальшивого порно– где люди платят за созданные ИИ сексуальные изображения конкретных людей, - это обычные люди. Коллеги. Друзья. Девушка, за которой кто-то следит в Instagram****. Член чьей-то семьи. Всего за несколько кликов можно создавать, публиковать и получать прибыль от порнографических видеороликов, в которых снимаются люди без согласия, используя только их лицевую фотографию. В то время как мотивацией создания, заказа или потребления поддельной порнографии может быть сексуальное удовлетворение, или для смеха, или извращенное желание контроля и власти над женскими телами, часто изображения также используются для запугивания и преследования женщин, чьи сходства были присвоены. По сути, подделки - это секс–видео постправды - искусственные интимные изображения, используемые для того, чтобы запятнать репутацию женщин, заставить их замолчать или вымогать деньги. Они могут быть “поддельными”, но они наносят очень реальный вред.
После скандала с Twitch на прошлой неделе высказался ряд создателей контента, многие из которых не знали, что они также были представлены на сайтах с фальшивым порно. Pokimane, один из стримеров, показанных на вкладке Юинга deepfake porn, написал в твиттере: “прекратите сексуализировать людей без их согласия”. Другой стример, известный как BrookeAB, спросил: “Как долго мы будем мириться с тем, что нас преследуют, преследуют, сексуализируют... это просто "часть того, чтобы быть женщиной в Интернете’ и ‘на что мы подписались’? Когда мы собираемся предпринять шаги, чтобы изменить это? Почему это стало нормой? ” В широко распространенном видео стример QTCinderella – партнер друга и делового партнера Юинга Людвига Агрена - также утверждала, что ей не нужно бороться и платить за то, чтобы контент deepfake был удален в автономном режиме. “Это не должно быть частью моей работы - подвергаться преследованиям, видеть, как мои фотографии ‘обнаженной’ распространяются повсюду”, ’ настаивала она сквозь слезы. Тот факт, что это так, добавила она, “утомляет”.
QTCinderella также напрямую поговорила с людьми, которые в настоящее время потребляют поддельное порно. “Если вы сможете посмотреть на женщин’ которые не продают себя или не извлекают выгоду из того, что их видят сексуально... [или] сами создают ее... проблема в тебе ”, - сказала она. “Вы рассматриваете женщин как объекты. Вы не должны быть в порядке, делая это ”.
Тем не менее, вместо того, чтобы признать боль этих женщин от того, что их изображения манипулируют и распространяют, или признать центральную проблему согласия, во многих ответах проявилось тревожное отсутствие сочувствия. Больше, похоже, не понимали реалий сексуальных домогательств. Ответы на Pokimane часто, казалось, обвиняли ее в лицемерии, а один из них спрашивал: “Разве сексуализация не является причиной вашей популярности?” Другой потребовал, чтобы она “перестала указывать людям, как им жить”, и утверждал, что “весь ваш успех - в сексуализации”. Один пользователь Twitter опубликовал скриншот из видео QTCinderella, где она плачет, и написал: “Реакция интернет-стримера-миллионера на собственное порно с искусственным интеллектом. Вы не найдете более хрупких людей, чем популярные интернет-личности (особенно женщины) ”. Возможно, еще более тревожно, что комментарии к видео с извинениями Юинга, похоже, отвергают все это с позиции “мальчики будут мальчиками”. “Меня, смотрящего стримеры, отменили за то, что я делаю каждый день”, - написал один, в то время как другие ответили: “Он такой же, как я”, и “один из нас, один из нас, один из нас”.
Женоненавистничество в этих ответах совершенно очевидно. Говорят, что женщины - это честная игра, потому что они богаты, популярны, красивы или просто онлайн. Если они расстраиваются, это потому, что они “хрупкие”, слабые или чрезмерно чувствительные. Подразумевается, что они “принимают это слишком близко к сердцу”, несмотря на тот факт, что то, что продается и продается, буквально является их личностью. Несанкционированное использование и совместное использование интимных изображений является злоупотреблением. Тем не менее, кажется, что многие люди по-прежнему отказываются рассматривать поддельную порнографию как “реальное” насилие с реальными последствиями.
Часть проблемы заключается в том, что законы в настоящее время отстают как от технологий, так и от реальности. Часто создателей и распространителей фальшивого порно можно преследовать только в том случае, если их распространение фальшивых изображений идет рука об руку с шантажом или другими формами преследования. Это может оставить тех, на кого нацелены, с небольшим выбором, кроме как попытаться удалить контент самостоятельно.
Однако есть признаки того, что поддельная порнография, наконец, начинает восприниматься законодателями всерьез. Прошлой осенью британское правительство объявило, что оно будет криминализировать неконсенсусную поддельную порнографию в рамках противоречивого законопроекта о безопасности в Интернете, который вернулся в парламент в декабре после нескольких лет задержек. Тем не менее, все еще существует ряд потенциальных камней преткновения. Когда законопроект вернулся в парламент, журналистка Брит Доусон написала для Dazed, что “задержки могут означать, что законы даже не будут соответствовать цели, когда или если они в конечном итоге будут приняты”. Как также указала Доусон, “законодательство о злоупотреблении интимными изображениями ранее становилось жертвой лазеек, в том числе с упором на "намерение причинить страдания или унижение", а не на согласие, что привело к отсутствию судебного преследования”.
Два месяца спустя горстка политиков и коллег высказывает именно эту озабоченность. Излагая план внесения поправок в законопроект, группа коллег предположила, что планы правительства в отношении новых преступлений, таких как кибер-преследование и обмен интимными изображениями, не заходят достаточно далеко и не смогут остановить онлайн’женоненавистнические злоупотребления. Ранее в этом месяце теневой министр культуры Люси Пауэлл аналогичным образом заявила The DailyТелеграф, что законопроект был “серьезно ослаблен” решением консервативного правительства отказаться от планов запретить онлайн–материалы, которые считаются “законными, но вредными” - например, контент, связанный с членовредительством или расстройствами пищевого поведения, а также женоненавистнические посты. Пауэлл сказал, что это изменение в законопроекте оставило “вирусное женоненавистничество свободным для распространения”.
Поддельная порнография часто может показаться неразрешимой проблемой, поскольку технологии развиваются гораздо быстрее, чем можно протолкнуть законодательство. Тем не менее, поскольку законы пытаются играть в догонялки, еще более важно, чтобы культура в целом претерпевала изменения. Потому что, на самом деле, речь идет вовсе не об ИИ или технологиях, а о согласии и о том, что женские тела считаются честной игрой.
Примерно в то же время, когда Юинг выпускал свое видео с извинениями, на Netflix вышел документальный фильм Памелы Андерсон "Памела: история любви". В нем Андерсон обсуждала секс-видео 1995 года, снятое ею и ее тогдашним мужем Томми Ли, которое было украдено из дома пары, отредактировано и продано онлайн против их воли. Она рассказала о разрушительных последствиях, которые это нанесло ей, и о том, как это лишило ее сексуальности, которую она только что вернула себе после сексуального насилия в детстве. Андерсон была создана для того, чтобы быть предметом шуток; карикатура и кульминационный момент. Сейчас, десятилетия спустя, возможно, нам хотелось бы думать, что культура изменилась – что она стала менее сексистской и жестокой, и что с женщинами обращаются лучше. К сожалению, распространенность фейкового порно и небрежное отношение к нему многих людей, похоже, наводят на мысль, что мы вообще ничему не научились.
