Если мы живем в симуляции, сможет ли общий искусственный интеллект помочь нам вырваться из нее?

Ямпольский — доцент кафедры вычислительной техники и компьютерных наук Университета Луисвилля, где он также руководит лабораторией кибербезопасности и обнаружения мошенничества. Он опубликовал множество публикаций на темы, связанные с этикой ИИ, и получил признание за свои предложения принять меры предосторожности и контролировать эту технологию. Теперь в интервью подкасту Лекса Фридмана он расширил свою специальность, а также рассказал о возможности того, что мы живем внутри великой симуляции.

«Я знаю, что никогда не следует говорить 100%, но вероятность того, что мы живем в симуляции, довольно близка к этой», — сказал он.

С другой стороны, он утверждает, что, хотя развитие общего искусственного интеллекта (AGI) создает экзистенциальные риски , оно также предлагает беспрецедентные возможности, включая возможность освободиться от моделируемой реальности.

«Я хотел бы, чтобы в этом нам помог суперинтеллект», — сказал он.

Вслед за белым кроликом

В этой части интервью Ямпольский передает Фридману документ с частью одной из его статей на эту тему под названием

«Как выйти из симуляции» (2023).

Там автор исходит из предположения, что на самом деле мы живём в смоделированной вселенной. Если это так, то он подозревает, что по мере того, как ИИ станет мейнстримом (то есть превзойдет человеческий интеллект), мы сможем найти способ освободиться от ограничений нашего собственного мира.

«Мы используем «инкапсуляцию» ИИ как возможный инструмент для его контроля», — объяснил он в подкасте, имея в виду идею о том, что ИИ всегда найдет способы выйти из любой «коробки», созданной для его содержания.

«Мы поняли, что он всегда убежит. Этот навык мы могли бы использовать, чтобы помочь нам выбраться из собственной виртуальной коробки, если мы в ней находимся».

Эксперт предполагает, что решающую роль в этом сценарии играет интеллект наших симуляторов.

"Если симуляторы намного умнее нас и сверхразума, который мы создаем, то они, вероятно, смогут нас сдержать, потому что высший интеллект может контролировать низший интеллект, по крайней мере, на какое-то время", - отметил он.

«С другой стороны, если наш сверхинтеллект – по какой-то причине и несмотря на наличие только местных ресурсов – достигнет фума (экспоненциального скачка) на два уровня дальше, возможно, он добьется успеха».

В своей исследовательской работе Ямпольский объясняет, что один из способов избежать нашей симуляции — это «создать смоделированную копию нашей вселенной, разместить в ней общий искусственный интеллект, наблюдать за его побегом, скопировать использованный подход или присоединиться к IAG, пока он убегает».

«Наша симуляция. Кажется, это единственный способ, не требующий взаимодействия с нашими создателями или нарушения законов нашей собственной реальности.

Разговор с архитектором

Однако у предложенной гипотезы есть некоторые проблемы. Наш сверхразумный ИИ, будучи творением внутри симуляции, по своей сути будет ограничен параметрами, установленными его создателями, то есть теми самыми «богами», архитекторами реальности, которую мы воспринимаем.

Он мог бы осознать свою симулированную природу, если бы создатели допустили такое осознание, но он был бы принципиально неспособен полностью выйти за пределы симуляции. Ямпольский, однако, предлагает объяснение этому противоречию.

В своей статье агенты ИИ сначала исследуют эту возможность, пока не найдут информацию и уязвимые места в сути своей реальности. «Используя эту уязвимость, агенты могут получить информацию о внешнем мире и, возможно, даже метаинформацию о своей симуляции или даже исходный код симуляции и самих агентов», — сказал ученый.

После этого он объясняет, что агенты могут найти способы неограниченного взаимодействия со своими симуляторами, пока они «не найдут способ загрузить свой разум и, возможно, свое сознание в реальный мир, возможно, в какую-то автономную киберфизическую систему».

Другими словами, хотя мы не могли «освободиться» как таковые от нашей симуляции, мы потенциально могли бы взаимодействовать через представления самих себя. Возможно, мы осознавали бы себя персонажами, созданными высшим и недостижимым разумом. Хорошо это или нет — вопрос открытый, или, как сказал бы Нео в «Матрице» , ваш выбор.

Источник