ИИ использует Rising в онлайн-кампаниях влияния, но воздействие ограничено

Американская компания по кибербезопасности Mandiant, принадлежащая Google, заявила в четверг, что в последние годы наблюдается рост использования искусственного интеллекта (ИИ) для проведения манипулятивных информационных кампаний в Интернете, хотя использование этой технологии в других цифровых вторжениях пока ограничено. .

Исследователи из компании из Вирджинии обнаружили «многочисленные случаи» с 2019 года, когда контент, созданный ИИ, такой как сфабрикованные изображения профиля, использовался в политически мотивированных онлайн-кампаниях влияния.

В отчете говорится, что к ним относятся кампании групп, связанных с правительствами России, Китая, Ирана, Эфиопии, Индонезии, Кубы, Аргентины, Мексики, Эквадора и Сальвадора.

Это происходит на фоне недавнего бума генеративных моделей искусственного интеллекта, таких как ChatGPT, которые значительно упрощают создание убедительных поддельных видео, изображений, текста и компьютерного кода. Сотрудники службы безопасности предупреждают о том, что такие модели используются киберпреступниками.

По словам исследователей Mandiant, генеративный ИИ позволит группам с ограниченными ресурсами производить более качественный контент в больших масштабах.

Китайская государственная информационная кампания под названием Dragonbridge, например, расширилась «в геометрической прогрессии» на 30 социальных платформах и на 10 разных языках с момента своего начала, нацелившись на протестующих за демократию в Гонконге в 2019 году, сказала Сандра Джойс, вице-президент Mandiant. Интеллект.

Тем не менее, влияние таких кампаний было ограниченным. «С точки зрения эффективности здесь не так много побед», — сказала она. «Они действительно пока не изменили направление ландшафта угроз».

В прошлом Китай отверг обвинения США в причастности к таким кампаниям влияния.

Mandiant, которая помогает государственным и частным организациям реагировать на цифровые нарушения, заявила, что еще не видела, чтобы ИИ играл ключевую роль в угрозах из России, Ирана, Китая или Северной Кореи.

«До сих пор мы не видели ни одного ответа на инцидент, в котором ИИ сыграл бы свою роль», — сказал Джойс. «На самом деле они не были использованы в каком-либо практическом использовании, которое перевешивало бы то, что можно было бы сделать с помощью обычных инструментов, которые мы видели».

Но она добавила: «Мы можем быть уверены, что со временем эта проблема станет еще больше».