Выборы в Великобритании и США находятся под угрозой дезинформации, управляемой искусственным интеллектом, говорят эксперты

Ложные новостные сюжеты, изображения, видео и аудио могут быть адаптированы к аудитории и созданы в масштабе к следующей весне

Выборы следующего года в Великобритании и США могут быть отмечены волной дезинформации с помощью ИИ, предупреждают эксперты, поскольку сгенерированные изображения, тексты и фейковые видео становятся вирусными по приказу стай пропагандистских ботов, управляемых ИИ.

Сэм Альтман, генеральный директор компании OpenAI, создателя ChatGPT, заявил на этой неделе на слушаниях в Конгрессе в Вашингтоне, что модели, стоящие за последним поколением технологий ИИ, могут манипулировать пользователями.

"Общая способность этих моделей манипулировать и убеждать, предоставлять интерактивную дезинформацию один на один - это значительная область для беспокойства", - сказал он.

"Регулирование было бы весьма разумным: люди должны знать, разговаривают ли они с искусственным интеллектом, генерируется ли контент, который они просматривают, или нет. Способность действительно моделировать... предсказывать людей, я думаю, потребует сочетания правильных действий компаний, регулирования и просвещения общественности".

Премьер-министр Риши Сунак заявил в четверг, что Великобритания будет играть ведущую роль в ограничении опасностей, связанных с ИИ. Беспокойство по поводу этой технологии возросло после прорыва в области генеративного ИИ, когда такие инструменты, как ChatGPT и Midjourney, по команде создают убедительный текст, изображения и даже голос.

Если предыдущие волны пропагандистских ботов полагались на простые заранее написанные сообщения, отправляемые в массовом порядке, или на здания, полные "платных троллей" для выполнения ручной работы по взаимодействию с другими людьми, то ChatGPT и другие технологии открывают перспективы интерактивного вмешательства в выборы в широких масштабах.

ИИ, обученный повторять тезисы о Тайване, климатической катастрофе или правах ЛГБТ**+, может завязать политических оппонентов в бесплодных спорах, одновременно убеждая зрителей - одновременно на тысячах различных аккаунтов в социальных сетях.

Профессор Майкл Вулдридж, директор по исследованиям ИИ в британском Институте Алана Тьюринга, сказал, что дезинформация с помощью ИИ - его главная проблема, связанная с этой технологией.

"В настоящее время, если говорить о моих опасениях по поводу ИИ, это номер один в списке. У нас скоро выборы в Великобритании и США, и мы знаем, что социальные сети являются невероятно мощным каналом для дезинформации. Но теперь мы знаем, что генеративный ИИ может производить дезинформацию в промышленных масштабах", - сказал он.

Источник