Роботы-убийцы - это не научная фантастика. Стремление запретить их растет.

На этой неделе конференция ООН практически не продвинулась вперед в вопросе ограничения разработки и использования роботов-убийц, что вызвало активизацию призывов объявить такое оружие вне закона новым договором.

Возможно, это могло показаться неясным конклавом Организации Объединенных Наций, но за встречей на этой неделе в Женеве пристально следили эксперты в области искусственного интеллекта, военной стратегии, разоружения и гуманитарного права.

Причина интереса? Роботы—убийцы — беспилотные летательные аппараты, оружие и бомбы, которые самостоятельно, с помощью искусственного мозга, решают, нападать ли и убивать - и что следует делать, если что-либо, чтобы регулировать или запрещать их.

Когда-то ставшие достоянием научно-фантастических фильмов, таких как “Терминатор” и “Робокоп”, роботы-убийцы, более технически известные как Смертоносные автономные системы вооружения, были изобретены и испытаны ускоренными темпами без особого контроля. Некоторые прототипы даже использовались в реальных конфликтах.

Эволюция этих машин считается потенциально сейсмическим событием в войне, сродни изобретению пороха и ядерных бомб.

В этом году впервые большинство из 125 стран, присоединившихся к соглашению под названием Конвенция о конкретных видах обычного оружия, заявили, что хотят ограничить использование роботов-убийц. Но им противостояли государства-члены, которые разрабатывают это оружие, в первую очередь Соединенные Штаты и Россия.

Конференция группы завершилась в пятницу лишь расплывчатым заявлением о рассмотрении возможных мер, приемлемых для всех. Организация по разоружению “Кампания за остановку роботов-убийц” заявила, что результат оказался "катастрофически низким".

Что такое Конвенция о конкретных видах обычного оружия?

C.C.W., иногда известная как Конвенция о негуманном оружии, представляет собой свод правил, запрещающих или ограничивающих оружие, которое, как считается, причиняет ненужные, неоправданные и неизбирательные страдания, такие как зажигательные взрывчатые вещества, ослепляющие лазеры и мины-ловушки, которые не делают различий между боевиками и гражданскими лицами. В конвенции нет положений о роботах-убийцах.

Что такое роботы-убийцы?

Мнения расходятся в точном определении, но широко распространено мнение, что они являются оружием, которое принимает решения практически без участия человека. Быстрые улучшения в робототехнике, искусственном интеллекте и распознавании изображений делают возможным такое оружие.

Беспилотники, которые Соединенные Штаты широко используют в Афганистане, Ираке и других местах, не считаются роботами, потому что ими управляют дистанционно люди, которые выбирают цели и решают, стрелять или нет.

Почему они считаются привлекательными?

Для военных планировщиков оружие обещает уберечь солдат от опасности и принимать решения быстрее, чем это сделал бы человек, предоставляя больше обязанностей на поле боя автономным системам, таким как беспилотные летательные аппараты и беспилотные танки, которые самостоятельно решают, когда нанести удар.

Каковы возражения?

Критики утверждают, что с моральной точки зрения отвратительно возлагать принятие смертоносных решений на машины, независимо от технологической сложности. Как машина отличает взрослого от ребенка, бойца с базукой от гражданского с метлой, враждебного комбатанта от раненого или сдающегося солдата?

“По сути, автономные системы вооружения вызывают у общества этические опасения по поводу замены человеческих решений о жизни и смерти сенсорными, программными и машинными процессами”, - заявил на женевской конференции Петер Маурер, президент Международного комитета Красного Креста и ярый противник роботов-убийц.

В преддверии конференции Хьюман Райтс Вотч и Международная правозащитная клиника Гарвардской школы права призвали предпринять шаги к заключению юридически обязывающего соглашения, которое требует постоянного контроля со стороны человека.

“Роботам не хватает сострадания, сочувствия, милосердия и рассудительности, необходимых для гуманного обращения с людьми, и они не могут понять неотъемлемую ценность человеческой жизни”, - утверждают группы в информационном документе в поддержку своих рекомендаций.

Другие говорили, что автономное оружие, вместо того, чтобы снижать риск войны, может сделать обратное - предоставляя противникам способы причинения вреда, которые сводят к минимуму риски для их собственных солдат.

“Массово производимые роботы-убийцы могут снизить порог войны, исключив людей из цепочки убийств и выпустив на волю машины, которые могут поражать людей без участия человека за рулем”, - сказал Фил Твайфорд, министр разоружения Новой Зеландии.

Почему Женевская конференция была важна?

Эксперты по разоружению широко сочли конференцию лучшей возможностью на сегодняшний день разработать способы регулирования, если не запрета, использования роботов-убийц в рамках CC W.

Это стало кульминацией многолетних дискуссий группы экспертов, которым было предложено определить проблемы и возможные подходы к снижению угроз, исходящих от роботов-убийц. Но эксперты не смогли прийти к согласию даже по основным вопросам.

Что говорят противники нового договора?

Некоторые, например, Россия, настаивают на том, что любые решения об ограничениях должны приниматься единогласно, что фактически дает оппонентам право вето.

Соединенные Штаты утверждают, что существующих международных законов достаточно и что запрещение технологий автономного оружия было бы преждевременным. Главный делегат США на конференции Джошуа Доросин предложил необязательный “кодекс поведения” для использования роботов—убийц - идею, которую сторонники разоружения отвергли как тактику затягивания.

Американские военные вложили значительные средства в искусственный интеллект, работая с крупнейшими оборонными подрядчиками, включая Lockheed Martin, Boeing, Raytheon и Northrop Grumman. Согласно исследованиям противников систем вооружений, работа включала проекты по разработке ракет дальнего радиуса действия, которые обнаруживают движущиеся цели на основе радиочастот, роевых дронов, которые могут идентифицировать и атаковать цель, и автоматизированных систем противоракетной обороны.

Сложность и разнообразие видов использования искусственного интеллекта делают его более сложным для регулирования, чем ядерное оружие или наземные мины, сказал Маайке Вербругген, эксперт по новым технологиям военной безопасности в Центре безопасности, дипломатии и стратегии в Брюсселе. Она сказала, что отсутствие прозрачности в отношении того, что строят разные страны, вызвало “страх и беспокойство” среди военных лидеров, которые они должны поддерживать.

“Очень трудно понять, что делает другая страна”, - сказала г-жа Вербругген, которая работает над докторской диссертацией по этой теме. “Существует большая неопределенность, и это стимулирует военные инновации”.

Франц-Стефан Гади, научный сотрудник Международного института стратегических исследований, сказал, что “гонка вооружений для автономных систем вооружения уже идет и не будет прекращена в ближайшее время”.

Есть ли конфликт в оборонном ведомстве по поводу роботов-убийц?

ДА. По словам г-на Гэди, несмотря на то, что технология становится все более продвинутой, было нежелание использовать автономное оружие в бою из-за боязни ошибок.

“Могут ли военные командиры доверять суждениям автономных систем оружия? Здесь ответ на данный момент однозначно ”нет " и останется таким в ближайшем будущем ", - сказал он.

Дебаты по поводу автономного оружия распространились на Силиконовую долину. В 2018 году Google заявила, что не будет продлевать контракт с Пентагоном после того, как тысячи ее сотрудников подписали письмо с протестом против работы компании над программой, использующей искусственный интеллект для интерпретации изображений, которые могут быть использованы для выбора целей для беспилотников. Компания также разработала новые этические принципы, запрещающие использование ее технологий для оружия и наблюдения.

Другие считают, что Соединенные Штаты не заходят достаточно далеко, чтобы конкурировать с конкурентами.

В октябре бывший главный специалист по программному обеспечению Военно-воздушных сил Николас Шайан заявил Financial Times, что он ушел в отставку из-за того, что он считает слабым технологическим прогрессом в американских вооруженных силах, в частности, в использовании искусственного интеллекта. Он сказал, что политиков тормозят вопросы этики, в то время как такие страны, как Китай, продвигаются вперед.

Где использовалось автономное оружие?

Существует не так много проверенных примеров battlefield, но критики указывают на несколько инцидентов, которые показывают потенциал технологии.

В марте следователи Организации Объединенных Наций заявили, что поддерживаемые правительством силы в Ливии использовали “смертоносную автономную систему вооружения” против боевиков ополчения. Согласно отчету, беспилотник под названием Kargu-2, изготовленный турецким оборонным подрядчиком, выследил и атаковал боевиков, когда они спасались от ракетного обстрела, что оставило неясным, управлял ли дронами какой-либо человек.

В войне 2020 года в Нагорном Карабахе Азербайджан сражался с Арменией с помощью ударных беспилотников и ракет, которые зависают в воздухе, пока не обнаружат сигнал назначенной цели.

Что происходит сейчас?

Многие сторонники разоружения заявили, что итоги конференции укрепили то, что они назвали решимостью добиваться заключения нового договора в ближайшие несколько лет, подобного тем, которые запрещают наземные мины и кассетные боеприпасы.

Даан Кайзер, автономный эксперт по вооружениям в PAX, базирующейся в Нидерландах организации по защите мира, сказал, что неспособность конференции согласиться даже на переговоры по роботам-убийцам была “действительно явным сигналом о том, что C.C.W. не справляется с этой работой”.

Ноэль Шарки, эксперт по искусственному интеллекту и председатель Международного комитета по контролю за роботизированным вооружением, сказал, что встреча продемонстрировала, что новый договор предпочтительнее дальнейших обсуждений в CCW.

“В комнате было ощущение срочности, - сказал он, - если нет движения, мы не готовы оставаться на этой беговой дорожке”.

источник-

Подробнее ➤