Следующий шаг ИИ: влияние и продажа своих намерений еще до того, как вы об этом узнаете

Мы находимся в начале прибыльного, но тревожного рынка, где цифровые сигналы наших намерений — от покупки билетов в кино до выборов политических кандидатов — будут ценным товаром.

Взрывной рост генеративного искусственного интеллекта и популярность чат-ботов открыли двери для убедительных технологий, призванных влиять на поведение человека.

Эти агенты искусственного интеллекта, которые имитируют человеческие личности и завоевывают доверие путем взаимодействия, будут иметь доступ к огромному количеству психологических и поведенческих данных, полученных в ходе неформальных разговоров.

Объединив эту информацию с онлайн-привычками, ИИ сможет манипулировать пользователями в больших масштабах.

«То, что мы говорим в разговоре, как мы это говорим, и выводы, которые можно сделать в реальном времени, гораздо более интимны, чем просто запись наших онлайн-взаимодействий», — говорит доктор Якуб Чаудхари, приглашенный научный сотрудник Леверхалмского центра Кембриджского будущего разведки. (ЛКИФИ).

Такое размышление является частью более широкого анализа, который Чаудхари разрабатывает вместе с историком технологий Джонни Пенном.

В недавней статье они предупреждают, что эта «экономика намерений» будет «вниманием, проецируемым во времени», описывая, как коммуникативный подход и стиль пользователей связаны с моделями поведения и будущими решениями.

Влияние на выборы, рынки и конфиденциальность

Если эту новую экономику оставить без регулирования, она может серьезно повлиять на такие вещи, как свободные выборы, независимая пресса и честная конкуренция на рынке.

По мнению исследователей, крупные технологические компании, такие как OpenAI, Meta**, Nvidia и Apple, уже проявили интерес к разработке инструментов, способных предсказывать и использовать наши намерения.

Этические последствия этих технологий огромны: от систем, которые предлагают будущие действия на основе предсказуемых данных, до чат-ботов, предназначенных для тонкого убеждения.

«Крайне важно, чтобы общественность знала о том, что произойдет, чтобы избежать непредвиденных последствий», — заключает Пенн.

Что мы можем сделать?

Поскольку экономика намерений становится следующей большой цифровой революцией, эксперты призывают к регулированию и прозрачности в качестве ключевых инструментов для защиты наших решений и конфиденциальности.

Только при четком понимании и публичном обсуждении мы можем гарантировать, что эта технология будет использоваться для коллективной выгоды, а не для коммерческой эксплуатации.

источник