Deepfake — синтетические медиа, в том числе изображения, видео и аудио, созданные с помощью технологии искусственного интеллекта (ИИ)

Термин deepfake объединяет deep , взятый из технологии глубокого обучения ИИ (тип машинного обучения, который включает в себя несколько уровней обработки), и fake, указывающий на то, что контент не является реальным. Термин стал использоваться для синтетических медиа в 2017 году, когда модератор Reddit создал сабреддит под названием «deepfakes» и начал публиковать видео, в которых использовалась технология замены лиц для вставки образов знаменитостей в существующие порнографические видео.

Помимо порнографии, широко распространенными примерами deepfake являются изображение Папы Франциска в пуховике, изображение бывшего президента США Дональда Трампа в драке с полицией, видео генерального директора Facebook**** Марка Цукерберга, произносящего речь о гнусной власти своей компании, и видео королевы Елизаветы, танцующей и произносящей речь о силе технологий. Ни одно из этих событий не произошло в реальной жизни.

Глубокие фейки производятся с использованием двух различных алгоритмов глубокого обучения ИИ: один создает наилучшую возможную копию реального изображения или видео, а другой определяет, является ли копия поддельной, и, если это так, сообщает о различиях между ней и оригиналом. Первый алгоритм создает синтетическое изображение и получает обратную связь по нему от второго алгоритма, а затем корректирует его, чтобы оно выглядело более реальным; процесс повторяется столько раз, сколько потребуется, пока второй алгоритм не обнаружит ни одного ложного изображения.

В видео с дипфейком голос конкретного человека может быть воспроизведен путем подачи модели ИИ реальных аудиоданных от человека, тем самым обучая ее имитировать их. Часто видео с дипфейком производятся путем наложения существующих кадров говорящего человека на новый сгенерированный ИИ звук, имитирующий голос этого человека.

Дипфейки чаще всего связаны с гнусными мотивами, включая создание дезинформации и создание путаницы в политически важных вопросах. Они использовались для унижения, запугивания и преследования и были нацелены не только на знаменитостей, политиков и генеральных директоров, но и на обычных граждан.