На протяжении многих лет я освещал широкий спектр потенциальных кризисов.
Это и стихийные бедствия, и пандемии, и социальные волнения, и финансовый крах. Список получился внушительным.
Но я еще не освещал величайшее из всех возможных бедствий - ядерную войну. По причинам, описанным ниже, сейчас самое время подумать об этом.
Боевые действия с применением ядерного оружия снова на слуху. Сегодня этой теме уделяется больше внимания, чем когда-либо со времен Кубинского кризиса 1962 года и его последствий. Этому есть три причины.
Первая - это американские обвинения в том, что Россия может пойти на эскалацию и применить ядерное оружие, поскольку она становится все более отчаянной в своем ведении войны на Украине. Эти обвинения всегда были ложными, а сейчас, когда Россия явно выигрывает войну с помощью обычных вооружений, они и вовсе смехотворны.
Тем не менее, угроз и контругроз было достаточно, чтобы эта тема стала актуальной.
Вторая причина - война между Израилем и ХАМАС. Опять же, опасения вызывает эскалация. Согласно одному из неправдоподобных сценариев, "Хезболла" в южном Ливане открывает второй фронт на северной границе Израиля, подвергая ее интенсивным ракетным обстрелам.
К атаке присоединятся повстанцы Хуситы в Йемене. Поскольку и "Хезболла", и хуситы - мусульмане-шииты и иранские прокси, Израиль может атаковать Иран как источник эскалации.
Израиль - ядерная страна. С учетом того, что в регионе находятся авианосная боевая группа США и атомная ударная подводная лодка, а ядерные державы Россия и Пакистан готовы оказать помощь Ирану, перспектива эскалации вплоть до обмена ядерными ударами вполне реальна.
Эскалация напряженности между Ираном и Пакистаном, произошедшая на этой неделе, еще больше подливает масла в огонь.
Третья причина - искусственный интеллект и выход GPT. Хотя искусственный интеллект может предоставить выгодные возможности для инвесторов во многих секторах рынка, ИИ может также стать самой большой угрозой ядерной эскалации, поскольку обладает внутренней логикой, несовместимой с человеческой логикой, которая поддерживала ядерный мир на протяжении последних 80 лет.
Я много рассказывал об Украине и Израиле, и они широко освещаются в новостях. Но сегодня я рассматриваю риск ядерной войны со стороны ИИ. Это угроза, о которой вы ничего не слышите, но на нее необходимо обратить внимание.
Давайте начнем с вымышленного фильма. Парадигматическим изображением случайной ядерной войны является фильм 1964 года Fail Safe. В фильме американские радары фиксируют вторжение в воздушное пространство США неопознанного, но потенциально враждебного самолета.
Вскоре ВВС США определяют, что это гражданский авиалайнер, сбившийся с курса. Тем временем компьютер, отреагировавший на вторжение, ошибочно приказывает группе американских стратегических бомбардировщиков под командованием полковника Джека Грейди начать ядерную атаку на Москву.
Попытки США отменить приказ и отозвать бомбардировщики проваливаются из-за советского глушения радиоканалов. Президент приказывает военным сбить бомбардировщики, и для этой цели поднимаются в воздух истребители.
Истребители используют форсаж, чтобы догнать бомбардировщики, но им это не удается, и из-за повышенного расхода топлива они падают в Арктическое море.
Далее президент общается с советским премьером, который соглашается прекратить глушение. Президент обращается к командиру группы бомбардировщиков с просьбой отменить атаку, но экипаж был обучен игнорировать такие просьбы, считая их советской уловкой.
Тогда США предлагают Советскому Союзу техническую помощь в сбивании бомбардировщиков. Самолеты почти все сбиты, но одному удается прорваться. Президент вызывает по радио жену полковника Грейди; тот колеблется, но вскоре оказывается занят уклонением от советских ракет. Тогда он решает, что голос жены - очередной обман.
Предвидя худшее и стремясь избежать полномасштабной ядерной войны, президент приказывает американскому ядерному бомбардировщику пролететь над Нью-Йорком, зная, что первая леди находится в Нью-Йорке.
В итоге Москва уничтожается американским ядерным оружием, и президент приказывает сбросить ядерную бомбу на Нью-Йорк, используя Эмпайр-стейт-билдинг в качестве нулевого уровня. Ожидается, что жертва Нью-Йорка в обмен на Москву положит конец эскалации, но в фильме это не показано.
Следующий шаг остается под вопросом.
Несмотря на то что фильму Fail Safe уже 60 лет, вопросы, которые он поднимает, и некоторые сюжетные повороты поразительно современны. Компьютерная ошибка, вызвавшая атаку, в фильме так и не объяснена с технической точки зрения, но это не так уж и важно.
Компьютерные ошибки постоянно происходят в критической инфраструктуре и могут причинить реальный ущерб, включая отключение электричества и крушение поездов. Именно такие компьютерные ошибки являются сутью сегодняшних дебатов об искусственном интеллекте в стратегических системах.
Читайте далее, чтобы понять, почему...
Может ли ИИ начать ядерную войну?
ИИ в командно-контрольном контексте может либо дать сбой и отдать ошибочный приказ, как в Fail Safe, либо, что более вероятно, функционировать так, как задумано, но при этом выдавать смертельно опасные предписания, основанные на инженерных ошибках, искаженных наборах обучающих программ или странных эмерджентных свойствах корреляций, которые человек едва может воспринять.
Возможно, современному зрителю наиболее знакомы неудачные попытки президента и жены полковника Грейди убедить командира бомбардировщика отменить атаку. Грейди был обучен ожидать подобных попыток и рассматривать их как обман.
Сегодня такие обманы осуществлялись бы с помощью глубоко подделанных видео- и аудиопередач. Предположительно, подготовка командира и отказ от мольбы будут такими же, несмотря на более совершенные технологии, стоящие за ними. Технологии развиваются, а аспекты человеческого поведения остаются неизменными.
Еще одним недоразумением, реальным, а не вымышленным, которое едва не привело к ядерной войне, стал инцидент 1983 года под кодовым названием "Эйбл Арчер".
Корни "Able Archer" уходят в май 1981 года, когда тогдашний генеральный секретарь Коммунистической партии Советского Союза Леонид Брежнев и глава КГБ Юрий Андропов раскрыли высшим советским руководителям свое мнение о том, что США тайно готовятся нанести ядерный удар по Советскому Союзу.
Затем Андропов объявил о начале масштабной работы по сбору разведывательной информации, чтобы отследить людей, ответственных за запуск и осуществление такой атаки, а также их объекты и каналы связи.
В то же время администрация Рейгана начала серию секретных военных операций, в ходе которых советские воды агрессивно прощупывались военно-морскими средствами, а советское воздушное пространство напрямую облетали стратегические бомбардировщики, которые отступали лишь в последний момент.
Эти действия якобы были направлены на проверку советской обороны, но в результате сыграли на советских представлениях о том, что США планируют ядерную атаку.
Аналитики сходятся во мнении, что наибольший риск эскалации и реальной ядерной войны возникает, когда восприятие двух сторон расходится настолько, что рациональная оценка динамики эскалации становится невозможной. Обе стороны идут разными путями, делая разные расчеты.
Напряженность еще больше возросла в 1983 году, когда ВМС США провели полеты истребителей F-14 Tomcat над советской военной базой на Курильских островах, а Советы ответили на это полетами над Алеутскими островами на Аляске. 1 сентября 1983 года советские истребители сбили над Японским морем самолет Korean Air Lines Flight 007. На борту самолета находился конгрессмен США.
4 ноября 1983 года США и союзники по НАТО начали масштабную военную игру под кодовым названием "Able Archer". Она должна была смоделировать ядерную атаку на Советский Союз после серии эскалаций.
Проблема заключалась в том, что эскалации были прописаны в брифингах военной игры, но не были смоделированы. Был смоделирован переход от обычных военных действий к ядерным.
Это произошло в то время, когда Советы и КГБ активно искали признаки ядерной атаки. Моделирование протоколов командования, управления и связи НАТО было очень реалистичным, включая участие канцлера Германии Гельмута Коля и премьер-министра Великобритании Маргарет Тэтчер. Советы правдоподобно полагали, что военная игра была прикрытием для реальной атаки.
Полагая, что США планируют нанести первый ядерный удар, Советы решили, что единственным способом выжить для них является нанесение упреждающего первого удара. Они приказали разместить ядерные боеголовки на стратегических бомбардировщиках ВВС СССР и привели в состояние повышенной готовности самолеты ядерного нападения в Польше и Восточной Германии.
У этой реальной почти ядерной войны была предыстория, которая еще больше пугает. Советы ранее создали радарную систему раннего предупреждения с компьютерными связями, использующую примитивный вид искусственного интеллекта под кодовым названием "Око".
26 сентября 1983 года, всего за два месяца до начала операции "Эйбл Арчер", система дала сбой и сообщила о пяти приближающихся МБР из США. Зазвучали сигналы тревоги Oko, и на экране компьютера вспыхнула надпись "LAUNCH". Согласно протоколам, сообщение "LAUNCH" было не предупреждением, а сгенерированным компьютером приказом нанести ответный удар.
Подполковник Станислов Петров из советских войск ПВО увидел компьютерный приказ и должен был немедленно сделать выбор: считать его неисправностью компьютера или предупредить своих старших офицеров, которые, скорее всего, начнут ядерную контратаку.
Петров был одним из разработчиков "Око" и знал, что система допускает ошибки. Он также предполагал, что если бы атака была реальной, США использовали бы гораздо больше, чем пять ракет. Петров оказался прав. Компьютер ошибочно принял отражение солнца от некоторых облаков за приближающиеся ракеты.
Учитывая напряженность того времени и убежденность КГБ в том, что ядерная атака может произойти в любой момент, Петров рискнул будущим Советского Союза, чтобы обойти систему Oko. Он полагался на сочетание умозаключений, опыта и инстинкта, чтобы отключить цепь поражения.
Этот инцидент оставался секретным до самого конца холодной войны. Со временем Петрова стали называть "человеком, спасшим мир".
Угроза ядерной войны из-за ИИ исходит не только от держав, обладающих ядерным оружием, но и от третьих сторон и негосударственных субъектов, использующих ИИ для создания так называемых каталитических ядерных катастроф. Термин "каталитический" относится к химическим агентам, которые вызывают летучие реакции между другими соединениями, сами не участвуя в реакции.
Применительно к международным отношениям он относится к агентам, которые могут спровоцировать ядерную войну между великими державами, не будучи сами в ней вовлеченными. Это может оставить слабого агента в относительно сильном положении, когда великие державы уничтожат сами себя.
Системы ИИ уже нашли свой путь в процесс ведения ядерной войны. Человеку предстоит сохранить свою роль на второстепенном уровне и ориентироваться на данные, а не на принятие решений. Учитывая историю развития технологий в войне от бронзовых копий до гиперзвуковых ракет, трудно предположить, что ИИ удастся сдержать. В противном случае мы все заплатим за это цену.
Украина, Газа и ИИ - все это значительно повышает вероятность ядерной войны. Финансовые последствия этого для инвесторов просты. В случае ядерной войны акции, облигации, наличные и другие финансовые активы потеряют ценность. Биржи и банки будут закрыты. Единственными ценными активами станут земля, золото и серебро.
Хорошо бы иметь все три - на всякий случай.
Джеймс Рикардс
По материалам зарубежной прессы.
Спасибо что дочитали статью, ставьте лайки и комментируйте! Подписывайтесь.
