Фальшивое порно без согласия ставит ИИ в центр внимания

В своей ежегодной “всемирной оценке угроз” высшие должностные лица разведки США в последние годы предупреждали об угрозе, которую представляют так называемые глубокие подделки - убедительные поддельные видеоролики, сделанные с использованием искусственного интеллекта.

“Противники и стратегические конкуренты, — предупреждали они в 2019 году, - могут использовать эту технологию “для создания убедительных, но ложных изображений, аудио— и видеофайлов для усиления кампаний влияния, направленных против Соединенных Штатов, наших союзников и партнеров”.

Сценарии нетрудно представить; фальшивое видео, показывающее политика в компрометирующей позиции; фальшивое аудио мирового лидера, обсуждающего конфиденциальную информацию.

ЗАПАС пользователей смартфонов 01

Сейчас фейки пытаются изменить ход войны

Угроза не кажется слишком отдаленной. Недавний вирусный успех ChatGPT, чат-бота A.I., который может отвечать на вопросы и писать прозу, является напоминанием о том, насколько мощной может быть такая технология.

Но, несмотря на предупреждения, мы не видели много известных нам примеров, когда глубокие фейки успешно использовались в геополитике.

Но есть одна группа, против которой технология постоянно и в течение нескольких лет использовалась в качестве оружия: женщины.

Фальшивки использовались для того, чтобы без их согласия помещать лица женщин в часто агрессивные порнографические видеоролики. Это развращенный ИИ, основанный на унизительной практике порномести, при этом фальшивые видео кажутся настолько реальными, что женщинам-жертвам может быть трудно отрицать, что на самом деле это не они.

Давно назревшая проблема стала достоянием общественности на прошлой неделе, когда выяснилось, что Atrioc, известный мужской стример видеоигр на чрезвычайно популярной платформе Twitch, получил доступ к видео deepfake некоторых из его коллег-женщин, транслирующих Twitch. Позже он извинился.

На фоне последствий стример Twitch “Милая Анита” поняла, что в Интернете существуют фальшивые изображения ее в порнографических видеороликах.

“Очень, очень сюрреалистично наблюдать за тем, как ты делаешь то, чего никогда не делал”, - сказала CNN стримерша Twitch “Милая Анита”, осознав, что на прошлой неделе ее лицо было вставлено в порнографические видеоролики без ее согласия.

“Это похоже на то, как если бы вы наблюдали, как с вами происходит что-то шокирующее. Например, если вы смотрели видео о том, как вас убивают, или видео о том, как вы прыгаете со скалы ”, - сказала она.

Но глубоко тревожное использование технологии таким образом не является чем-то новым.

Действительно, сам термин “подделка” происходит от имени пользователя анонимного участника Reddit, который начал публиковать подделанные видео знаменитостей женского пола в порнографических сценах в 2017 году.

“С самого начала человек, создавший deepfakes, использовал его для создания порнографии женщин без их согласия”, - рассказала CNN Саманта Коул, репортер материнской платы Vice, которая отслеживала deepfakes с момента их создания.

Стример Twitch "Милая Анита" во время ее интервью CNN.

Стример Twitch "Милая Анита" во время ее интервью CNN.

CNN

Сообщество онлайн–игр, как известно, является трудным местом для женщин - кампания преследования “Геймергейт” 2014 года является наиболее ярким примером.

Но опасения по поводу использования порнографических изображений без согласия не являются исключительными для этого сообщества и грозят стать более распространенными, поскольку технологии искусственного интеллекта развиваются с головокружительной скоростью, а простота создания фальшивых видеороликов продолжает улучшаться.

“Я сбит с толку тем, как ужасно люди относятся друг к другу в Интернете, и я не думаю, что они будут лицом к лицу”, - сказал CNN Хани Фарид, профессор Калифорнийского университета в Беркли и эксперт по цифровой криминалистике.

“Я думаю, мы должны начать пытаться понять, почему эта технология, эта среда позволяет и выявляет, казалось бы, худшее в человеческой природе? И если мы хотим, чтобы эти технологии укоренились в нашей жизни так, как они кажутся, я думаю, нам нужно начать думать о том, как мы можем стать лучше с помощью таких устройств ”, - сказал он.

Это часть гораздо более масштабной системной проблемы.

“Это все культура изнасилования, - сказал Коул, - я не знаю, каково реальное решение, кроме как решить эту фундаментальную проблему неуважения и несогласия и смириться с нарушением согласия женщин”.

Со стороны законодателей предпринимались попытки пресечь создание изображений без согласия, независимо от того, созданы они искусственным интеллектом или нет. В Калифорнии были приняты законы, направленные на противодействие использованию фальшивок в предвыборной кампании и в порнографии по обоюдному согласию.

Но есть скептицизм. “Мы даже не решили проблемы технологического сектора 10-20-летней давности”, - сказал Фарид, указав, что развитие искусственного интеллекта “движется намного, намного быстрее, чем первоначальная технологическая революция”.

“Действуй быстро и ломай вещи”, - таков был девиз основателя Facebook**** Марка Цукерберга еще в первые дни существования компании. Когда сила и, действительно, опасность его платформы оказались в центре внимания, он позже сменил девиз на “Двигаться быстро со стабильной инфраструктурой”.

Будь то умышленная халатность или невежество, Силиконовая долина не была готова к натиску ненависти и дезинформации, которые распространились на ее платформах. Те же инструменты, которые он создал для объединения людей, также были использованы для разделения.

И хотя было много дискуссий об “этичном ИИ”, поскольку Google и Microsoft, похоже, настроены на гонку вооружений ИИ, есть опасения, что все может развиваться слишком быстро.

“Люди, которые разрабатывают эти технологии – ученые, сотрудники исследовательских лабораторий Google и Facebook****, – вы должны начать спрашивать себя:” Почему вы разрабатываете эту технологию?", - предложил Фарид.

“Если вред перевешивает преимущества, не следует ли вам устроить ковровую бомбардировку Интернета своими технологиями и опубликовать ее там, а затем сидеть сложа руки и говорить:”Что ж, посмотрим, что будет дальше?"