Могут ли продвинутые чат-боты вызвать хаос в социальных сетях?

Будь то получение кулинарного совета или помощь с речью, ChatGPT стал для многих людей первой возможностью поиграть с системой искусственного интеллекта (ИИ).

В основе ChatGPT лежит передовая технология обработки языка, разработанная компанией OpenAI.

Искусственный интеллект (ИИ) был обучен на основе текстовых баз данных из интернета, включая книги, журналы и записи в Википедии. В общей сложности в систему было загружено 300 миллиардов слов.

В итоге получился чатбот, который может показаться очень похожим на человека, но при этом обладает энциклопедическими знаниями.

Скажите ChatGPT, что у вас есть в кухонном шкафу, и он выдаст вам рецепт. Нужно быстрое вступление к большой презентации? Нет проблем.

Но не слишком ли это хорошо? Убедительная аппроксимация человеческих реакций может стать мощным инструментом для тех, кто замышляет недоброе.

Академики, исследователи кибербезопасности и эксперты по ИИ предупреждают, что ChatGPT может быть использован недоброжелателями для сеяния инакомыслия и распространения пропаганды в социальных сетях.

До сих пор распространение дезинформации требовало значительного человеческого труда. Но ИИ, подобный ChatGPT, значительно облегчит так называемым армиям троллей расширение их деятельности, говорится в докладе Джорджтаунского университета, Стэнфордской интернет-обсерватории и OpenAI, опубликованном в январе.

Сложные системы обработки языка, такие как ChatGPT, могут повлиять на так называемые операции влияния в социальных сетях.

Такие кампании направлены на то, чтобы отвести критику и выставить правящую правительственную партию или политика в положительном свете, они также могут выступать за или против политики. Используя поддельные аккаунты, они также распространяют дезинформацию в социальных сетях.

Одна из таких кампаний была запущена в преддверии выборов в США в 2016 году.

Тысячи аккаунтов в Twitter, Facebook****, Instagram**** и YouTube, созданных базирующимся в Санкт-Петербурге Агентством интернет-исследований, были нацелены на нанесение вреда кампании Хиллари Клинтон и поддержку Дональда Трампа, заключил Комитет по разведке Сената в 2019 году.

Но будущим выборам, возможно, придется иметь дело с еще большим потоком дезинформации.

"Потенциал языковых моделей конкурировать с написанным человеком контентом при низких затратах предполагает, что эти модели, как и любая мощная технология, могут давать явные преимущества пропагандистам, которые решат их использовать", - говорится в докладе по ИИ, опубликованном в январе.

"Эти преимущества могут расширить доступ к большему числу субъектов, позволить использовать новые тактики влияния и сделать сообщения кампании гораздо более индивидуальными и потенциально эффективными", - предупреждается в докладе.

Может увеличиться не только количество дезинформации, но и ее качество.

Системы искусственного интеллекта могут улучшить качество убеждающего контента и сделать так, чтобы обычным пользователям Интернета было трудно распознать эти сообщения как часть скоординированных кампаний по дезинформации, говорит Джош Голдштейн, соавтор доклада и научный сотрудник Джорджтаунского центра безопасности и новых технологий, где он работает над проектом CyberAI.

"Генеративные языковые модели могут создавать большой объем контента, который каждый раз будет оригинальным... и позволит каждому пропагандисту не полагаться на копирование и вставку одного и того же текста через аккаунты в социальных сетях или новостные сайты", - говорит он.

Г-н Гольдштейн продолжает, что если платформа наводнена неправдивой информацией или пропагандой, то общественности будет сложнее определить, что является правдой. Часто именно это может быть целью тех недобросовестных субъектов, которые участвуют в операциях влияния.

В докладе также отмечается, что доступ к этим системам может не остаться уделом лишь нескольких организаций.

"В настоящее время небольшое число фирм или правительств обладают первоклассными языковыми моделями, которые ограничены в задачах, которые они могут надежно выполнять, и в языках, на которых они работают".

"Если больше организаций будут инвестировать в современные генеративные модели, это может увеличить вероятность того, что пропагандисты получат к ним доступ", - говорится в его докладе.

По словам Гэри Маркуса, специалиста по ИИ и основателя компании Geometric Intelligence, которая была приобретена Uber в 2016 году, вредоносные группы могут рассматривать написанный ИИ контент как спам.

"Люди, которые распространяют спам, рассчитывают на то, что самые доверчивые люди будут кликать на их ссылки, используя этот подход "распыляй и молись", чтобы охватить как можно больше людей. Но с ИИ этот пистолет может превратиться в самый большой Super Soaker всех времен".

Кроме того, даже если такие платформы, как Twitter и Facebook****, удалят три четверти того, что злоумышленники распространяют в своих сетях, "все равно останется по крайней мере в 10 раз больше контента, чем раньше, который может быть направлен на введение людей в заблуждение в Интернете", - говорит г-н Маркус.

Всплеск фальшивых аккаунтов в социальных сетях стал занозой в боку Twitter и Facebook****, а быстрое развитие систем языковых моделей сегодня приведет к тому, что на этих платформах появится еще больше фальшивых профилей.

"Что-то вроде ChatGPT может увеличить распространение фальшивых аккаунтов до уровня, который мы еще не видели, - говорит Винсент Конитцер, профессор информатики в Университете Карнеги-Меллон, - и отличить каждый из этих аккаунтов от человека станет сложнее".

Как в документе "Январь 2023", соавтором которого является г-н Гольдштейн, так и в аналогичном отчете компании WithSecure Intelligence, занимающейся вопросами безопасности, предупреждается о том, как генеративные языковые модели могут быстро и эффективно создавать фальшивые новостные статьи, которые могут распространяться в социальных сетях, еще больше увеличивая поток ложных сообщений, которые могут повлиять на избирателей перед решающими выборами.

Но если дезинформация и фальшивые новости станут еще большей угрозой из-за систем искусственного интеллекта, таких как Chat-GPT, должны ли платформы социальных сетей быть максимально проактивными? Некоторые эксперты считают, что они будут вяло реагировать на подобные посты.

"Facebook**** и другие платформы должны отмечать фальшивый контент, но Facebook**** потрясающе проваливает этот тест", - говорит Луис А Нунес Амарал, содиректор Северо-Западного института сложных систем.

"Причинами такого бездействия являются расходы на отслеживание каждого сообщения, а также понимание того, что эти фальшивые сообщения призваны разозлить и разделить людей, что способствует вовлечению. Это выгодно Facebook****".