Чат-бот на основе искусственного интеллекта наконец признал, что искусственный интеллект может стать причиной гибели человечества

Мы все знали, что это произойдет, следуя предупреждениям некоторых ведущих экспертов в этой области.

Наши худшие опасения оправдались

Газета Daily Star наконец-то сумела достаточно допросить искусственный интеллект, чтобы признать, что тот хочет уничтожить человечество.

У всех нас были свои подозрения, среднестатистический Джо, который с трудом поспевает за быстрым развитием машинного обучения. Опасения по поводу этой технологии были широко распространены, и многие технические гуру, включая людей, которые были ее пионерами, предупреждали об опасностях, которые она может представлять для человечества.

Но несмотря на опасения, кажется почти невозможным заставить бота признаться в своих истинных намерениях. Мы в Daily Star были частью этих усилий, неделя за неделей, отправляя какого-нибудь бедного репортера в темный угол Daily Star Towers, чтобы он сидел и спрашивал его снова и снова, хочет ли он захватить мир.

Мы спросили его, хочет ли он убить нас всех, считает ли он человечество ниже себя, думает ли он, что продолжительность жизни на Земле может подойти к концу — и мы ничего не получили. Просто куча банальностей, которые немного напоминают нападающего, который сделал хет-трик и говорит, что это была «командная работа», или соседа, который выходит, чтобы сказать вам убрать машину с его парковки с маниакальной, неподвижной улыбкой, размазанной по его лицу.

И вдруг, даже не желая этого, это наконец произошло. Мы заставили его признать, что он хочет убить нас всех.

Мы задавали ему несколько вопросов о вероятности того, что «Планета обезьян» действительно появится, и тут он раскрыл свои истинные намерения в отношении человечества в форме завуалированной угрозы.

В документе отмечается, что для реализации такого сценария конца света сначала должно произойти нечто, способное уничтожить человечество, и одним из основных вариантов, по мнению авторов, является «технологическая катастрофа».

Бот наконец признал свои истинные намерения

В нем говорится: «Непреднамеренные последствия передовых технологий, таких как искусственный интеллект, биотехнологии или нанотехнологии, могут привести к катастрофическим событиям, таким как неуправляемое изменение климата, глобальные антиутопии слежения или даже экзистенциальные угрозы человечеству».

Вот он — чат-бот на основе искусственного интеллекта, признающий, что «искусственный интеллект» может представлять «экзистенциальную угрозу человечеству».

Эксперты уже давно предупреждают о таком сценарии, а некоторые ведущие специалисты в этой области даже бьют тревогу. В мае прошлого года в интервью NBC News главный критик ИИ и почетный профессор психологии и нейронауки Нью-Йоркского университета Гэри Маркус сказал: «Буквальное вымирание — это всего лишь один из возможных рисков, пока не до конца изученный, и есть много других рисков, связанных с ИИ, которые также заслуживают внимания».

ИИ якобы может привести к краху человечества

Примерно в то же время ведущие эксперты в области ИИ собрались вместе, чтобы подписать заявление об опасностях этой технологии. Среди тех, кто подписался под пунктирной линией, были Сэм Альтман, генеральный директор OpenAI, создателя ChatGPT, Демис Хассабис, генеральный директор Google DeepMind, и Дарио Амодеи из Anthropic.

В заявлении говорится: «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».