ChatGPT подлил масла в огонь опасений по поводу гонки вооружений между США и Китаем в области искусственного интеллекта

В прошлом месяце, когда технологическая индустрия шумела о ChatGPT, исследовательское подразделение Министерства обороны опубликовало собственное заявление об искусственном интеллекте: ИИ-бот успешно управлял истребителем F-16 в небе над Южной Калифорнией.

Эта новость привлекла относительно мало внимания, но она раскрыла упущенную истину: гонка за разработку следующего поколения ИИ идет не только между технологическими компаниями, такими как Microsoft и Google, но и между странами, которые яростно работают над созданием и развитием своих собственных технологий.

Международное соревнование за технологии ИИ разворачивается в период напряженных отношений между США и Китаем, и некоторые эксперты говорят, что они опасаются, насколько высокими стали ставки.

"Если демократическая сторона не будет лидировать в области технологий, а авторитаристы вырвутся вперед, мы поставим под угрозу всю демократию и права человека", - сказала Эйлин Донахо, бывший посол США в Совете по правам человека ООН, а ныне исполнительный директор Инкубатора глобальной цифровой политики Стэнфордского университета.

ИИ все теснее вплетается в геополитическую стратегию США, даже когда чат-боты, цифровые произведения искусства и другие виды потребительского использования захватывают заголовки газет. По словам нынешних и бывших правительственных чиновников США и сторонних аналитиков, на карту поставлен целый ряд инструментов, которыми страны надеются воспользоваться в борьбе за мировое господство.

И речь идет не только о военном оружии, таком как автономные истребители. Некоторые из тех же достижений, которые используются в ChatGPT, могут быть полезны для таких разнообразных геополитических инструментов, как крупномасштабные пропагандистские машины, новые виды кибератак и "синтетическая биология", которая может быть важна для экономического роста.

"В техническом сообществе и некоторых частях политического сообщества эта гонка продолжается уже довольно давно", - сказал Джейсон Мэтини, генеральный директор Rand Corp., некоммерческой организации, оказывающей исследовательскую помощь правительству США.

"Но сейчас все изменилось, - добавил он, - это то, что это тема для разговора среди широкой общественности. Сейчас миллионы людей взаимодействовали с большой языковой моделью" - в частности, с ChatGPT и ее родственником в поисковой системе Bing от Microsoft.

"В техническом сообществе и некоторых частях политического сообщества эта гонка продолжается уже довольно давно", - сказал Джейсон Мэтини, генеральный директор Rand Corp., некоммерческой организации, оказывающей исследовательскую помощь правительству США.

"Но сейчас все изменилось, - добавил он, - это то, что это тема для разговора среди широкой общественности. Сейчас миллионы людей взаимодействовали с большой языковой моделью" - в частности, с ChatGPT и ее родственником в поисковой системе Bing от Microsoft.

И США, и Китай выделяют огромные ресурсы на развитие ИИ. Министерство обороны выделяет 1,5 миллиарда долларов в течение пяти лет на ИИ, а в прошлом году Конгресс добавил еще 200 миллионов долларов. Агентство передовых оборонных исследовательских проектов (DARPA), которое проводило испытания самолета F-16, отдельно заявило, что тратит миллиарды долларов. Расходы Китая менее ясны, но, по оценкам, исчисляются миллиардами долларов.

"Дело не только в том, какой ИИ будет изобретен. Дело в том, кто первым применит его", - сказал в своем электронном письме Кристофер Кирххофф, бывший директор по стратегическому планированию Совета национальной безопасности, который возглавлял офис Пентагона в Силиконовой долине.

Джейк Салливан, советник по национальной безопасности администрации Байдена, подчеркнул, насколько важны возможности ИИ в глазах Белого дома. В своем выступлении в прошлом году, которое он назвал стратегическим сдвигом, Салливан заявил, что США уже недостаточно опережать другие страны в области ИИ, а вместо этого "необходимо сохранять как можно большее преимущество".

По словам аналитиков, это соревнование имеет большинство элементов новой гонки вооружений, со всеми ужасающими сценариями, большими бюджетами и международным маневрированием, которые подразумевает эта фраза.

Призывы к деэскалации - и даже к заключению договора - звучат все громче.

"Это снова логика холодной войны", - сказал Венделл Уоллах, содиректор программы по ИИ в Совете Карнеги по этике в международных делах.

"Неужели мы нагнетаем напряженность между нами и Китаем до такой степени, что загоняем себя в ловушку?" - спросил он.

В прошлом месяце правительства Нидерландов и Южной Кореи совместно организовали, по их словам, первый глобальный саммит по "ответственному" применению ИИ в военных действиях, и более 50 стран-участниц, включая США и Китай, одобрили необязательное заявление о "необходимости включить ответственное использование ИИ в политическую повестку дня".

Также на саммите администрация Байдена предложила ряд идей по контролю над оружием ИИ, например, предложение о том, что смертоносное оружие должно быть "способно быть деактивировано, если оно демонстрирует непреднамеренное поведение".

Неделю спустя в Коста-Рике прошла региональная конференция на ту же тему, демонстрируя, насколько широко распространены опасения.

В настоящее время искусственный интеллект настолько увяз в международных делах, что в последнее время он стал предметом пристального внимания Генри Киссинджера, 99-летнего бывшего госсекретаря. На одном из мероприятий в прошлом году он призвал США и Китай начать переговоры о каких-то ограничениях, потому что без них, по его словам, "это просто безумная гонка к какой-то катастрофе".

Другие страны, помимо США и Китая, похоже, считают, что если они не будут конкурентоспособны в области ИИ, то их безопасность окажется под угрозой.

"Тот, кто станет лидером в этой сфере, будет правителем мира", - сказал президент России Владимир Путин группе студентов в 2017 году. В следующем году Россия заявила, что испытывает полуавтономный танк в Сирии, хотя он получил плохие отзывы, а в Украине как украинцы, так и россияне занимаются разработкой автономных беспилотников, сообщает журнал Wired.

ChatGPT показал, как легко страна может создавать убедительную пропаганду в больших масштабах и отправлять ее за границу, потенциально ускоряя конфликт, сказал Джо Ванг, старший директор по внешней политике в Проекте специальных конкурентных исследований, некоммерческой организации, созданной бывшим генеральным директором Google Эриком Шмидтом для "укрепления долгосрочной конкурентоспособности Америки".

А потенциал для других применений пока не имеет четкого потолка.

"Мы находимся в самом начале новой эры не только стратегической конкуренции, но и того, как новая технология меняет ландшафт буквально всего", - сказал Ванг, бывший сотрудник Государственного департамента и Совета национальной безопасности.