Как распознать сгенерированное искусственным интеллектом изображение, подобное "Папе Баленсиага"

В течение многих лет общественность предупреждали об опасности, которую представляют собой изображения, сгенерированные искусственным интеллектом, также известные как глубокие подделки. Но до недавнего времени отличить сгенерированное ИИ изображение от фотографии было относительно легко.

Теперь это не так. В выходные сгенерированное ИИ изображение Папы Римского в куртке-пуховике Balenciaga стало вирусным в сети, одурачив многих пользователей Интернета.

Всего за несколько месяцев общедоступные инструменты генерации изображений ИИ стали достаточно мощными, чтобы создавать фотореалистичные изображения. Хотя изображение Папы Римского содержало некоторые признаки подделки, оно было достаточно убедительным, чтобы одурачить многих пользователей Интернета, в том числе знаменитость Крисси Тейген:

"Я подумала, что пуховик Папы Римского настоящий, и не придала этому значения", - написала она. "Я ни за что не переживу будущее технологий".

Хотя изображения, сгенерированные искусственным интеллектом, и раньше становились вирусными, ни одно из них не одурачило так быстро столько людей, как изображение Папы Римского. Картинка была причудливой, и, конечно, большая часть ее вирусности была вызвана тем, что люди сознательно поделились ею ради смеха. Но история может рассматривать "Папу от Balenciaga" как первое по-настоящему вирусное событие дезинформации, вызванное технологией глубоких подделок, и как признак того, что в будущем будет еще хуже.

По мере быстрого развития искусственного интеллекта будет все труднее определить, является ли изображение или видео настоящим или поддельным. Это может оказать значительное влияние на восприимчивость общества к операциям иностранного влияния, целенаправленному преследованию отдельных лиц и доверие к новостям.

Вот несколько советов, которые помогут распознать изображения, созданные ИИ, сегодня и избежать одурачивания еще более убедительными поколениями этой технологии в будущем.

Если внимательно присмотреться к образу Папы от Balenciaga, то можно заметить несколько признаков его искусственного интеллекта. Распятие, висящее у него на груди, держится необъяснимо высоко, а на месте второй половины цепи находится лишь белый пуховик. В его правой руке то, что кажется размытой кофейной чашкой, но его пальцы сомкнуты вокруг тонкого воздуха, а не самой чашки. Его веко каким-то образом сливается с очками, которые, в свою очередь, растворяются в собственной тени.

Сегодня, чтобы распознать изображение, сгенерированное ИИ, часто бывает достаточно взглянуть на эти сложные детали изображения. ИИ-генераторы изображений - это, по сути, репликаторы шаблонов: они узнали, как выглядит Папа Римский и как может выглядеть пуховик Balenciaga, и чудесным образом способны соединить эти два понятия вместе. Но они (пока) не понимают законов физики. Они не понимают, почему распятие не может парить в воздухе без поддерживающей его цепи, или что очки и тень за ними - это не один и тот же объект. Именно в этих зачастую периферийных частях изображения люди интуитивно способны заметить несоответствия, чего не может сделать ИИ.

Но пройдет не так много времени, прежде чем технологии ИИ будут усовершенствованы для исправления такого рода ошибок. Всего несколько недель назад Midjourney - инструмент ИИ, использованный для создания изображения Папы Римского - оказался неспособен создать реалистичные изображения человеческих рук. Чтобы проверить, было ли изображение человека создано ИИ, можно было посмотреть, есть ли у него семь размытых пальцев или какой-нибудь другой инопланетный придаток. Теперь это не так. Новейшая версия Midjourney может генерировать реалистично выглядящие человеческие руки, устраняя, пожалуй, самый простой способ идентификации изображения ИИ. Поскольку генераторы изображений ИИ развиваются так быстро, логично предположить, что приведенный выше совет может быстро устареть.