Искусственный интеллект вышел на войну...

Первые ласточки

Как повелось в истории человечества со времен Первой мировой войны, все самые передовые технические новинки ведущие мировые державы в первую очередь внедряют в военную сферу, а затем еще и стремительно развивают, пользуясь огромным военным бюджетом. Искусственный интеллект не исключение.

Правовые аспекты применения искусственного интеллекта вообще и в военной сфере практически не разработаны и их разработка находится пока в дискуссионном формате. Право обычно юридически закрепляет и начинает регулировать уже сложившиеся общественные отношения, поэтому соответствующее «запаздывание» права за жизнью наблюдается почти всегда. Но в сфере правового регулирования деятельности на основе искусственного интеллекта и особенно военного блока этой деятельности сейчас наблюдается почти вакуум.

При этом именно военное применение технологий искусственного интеллекта в настоящее время развивается сверхстремительно. У всех на слуху такие боевые системы, как дроны (беспилотные летательные аппараты-БПЛ), достигшие большого уровня автономности. Уже давно широко применяются и известны боевые системы так называемого телеприсутствия (управляемые оператором, с меньшей долей автономности).

Само перечисление существующих и выполняющих различные типы боевых задач как ударных боевых систем, так и условно «защитных» (поскольку почти все они обладают возможностью перехода в ударный режим) займет не одну страницу. Описание их тактико-технических характеристик и вовсе составит целую книгу. При всем при этом в настоящее время нет ни одной правовой дефиниции самого этого культурно-технологического феномена — искусственный интеллект (ИИ). Ни в российском праве, ни в зарубежном. Есть дискуссионные научные определения ИИ, в основном сводящиеся к перечислению основных свойств, которыми его наделяют.

Определение искусственного интеллекта (ИИ).

Так в зарубежной литературе по вопросу ИИ встречаются даже такие:

«Искусственный интеллект отличается от обычных компьютерных алгоритмов тем, что он способен обучать себя на основе накопленного опыта. Эта уникальная функция позволяет искусственному интеллекту действовать по-разному в аналогичных ситуациях, в зависимости от ранее выполненных действий. Поэтому в большинстве случаев эффективность и потенциал искусственного интеллекта довольно неясны».

Российское определение ИИ

У российских авторов встречаются более подробные определения ИИ, но также неправового характера, а опирающиеся на функционал ИИ, который в принципе перечислить полностью невозможно. Например, согласно Понкину И.В. и Редькиной А.И., искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе виртуальная, электронно-механическая, био-электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия, обладающая набором свойств и функций, зависящих от целей и задач создания этого интеллекта, которые могут изменяться как в сторону усложнения, так и упрощения.

Специалисты сходятся лишь в одном, что основными свойствами ИИ являются способность к самообучению, возникающая на этой основе достаточная автономность в принятии решений, что и приводит как к положительным эффектам применения ИИ, так и к возможности возникновения проблем в будущем (порой уже и в настоящем: аварии с участием беспилотных автомобилей в США ввиду принятия неверных решений роботом).

Понятно, что при таком разбросе мнений даже относительно технического определения ИИ и полного отсутствия правового его определения масштабное правовое регулирование применения ИИ, пределов его применения вообще и военного в частности, невозможно. Нет и единого подхода даже среди ученых в отношении того, каким вообще должно быть такое регулирование принципиально: тотально-предупреждающим, при котором будет сделана попытка предусмотреть все риски всех существующих и перспективных систем ИИ, либо ответным, на возникающие проблемы. Все эти дискуссионные вопросы касаются в полной мере и технологий ИИ в военной сфере.

Правовые аспекты использования ИИ

Некоторые страны (особенно европейские) начинают заполнять правовой вакуум в сфере ИИ, но пока это касается гражданского и бытового его применения. В этой связи можно сказать о проекте, запущенном в 2012 году Европейской комиссией — “RoboLaw”, целью которого было исследование вопроса корреляции национальных и общеевропейской правовых систем с технологиями ИИ.

Завершением этого проекта явилось принятие в 2017 году Европарламентом резолюции «Нормы гражданского права о робототехнике», своеобразных Основ гражданского права в этой области, носящих больше рекомендательный характер.

В России довольно длительное время обсуждается так называемый ФЗ «О робототехнике», который пока так и не прошел стадию проекта.

Но все вышеперечисленное — это попытки создания правового регулирования применения ИИ в гражданской сфере. Относительно военного применения ИИ, границ его применения, ответственности за его неправомерное применение, ограничение применения и т.д. никаких международных правовых актов, к сожалению, нет.

В настоящий момент не быстрыми темпами идет международно-правовая дискуссия по поводу выработки единой международно-правовой концепции в области военного применения ИИ.

Российский подход

В частности, один из соавторов российской концепции Глебов Игорь Николаевич (доктор юридических наук, профессор, заслуженный юрист Российской Федерации), называя боевые системы, созданные на основе ИИ, автономными роботизированными системами (далее – АРС), указывает, что при отсутствии конкретных международно-правовых актов в области военного применения АРС необходимо исходить из существующих международных соглашений и конвенций в области ограничения применения различного рода и вида вооружений. А также конвенций в области гуманного отношения к мирному населению, военнопленным, детям.

Поскольку ими уже создана определенная правовая платформа, как ограничивающая применение целого спектра вооружений, так и создавшая гуманистические правовые основы, применяемые при ведении боевых действий (отношение к военнопленным, к мирному населению, детям), к этим международно-правовым актам относятся:

• Декларация об отмене употребления взрывчатых и зажигательных пуль, принятая в г. Санкт-Петербурге 29 ноября 1868 г.;
• IV Гаагская конвенция о законах и обычаях сухопутной войны от 18 октября 1907 г.;
• IX Гаагская конвенция о бомбардировании морскими силами во время войны от 18 октября 1907 г.;
• Женевская конвенция от 12 августа 1949 г. "О защите гражданского населения во время войны" и Дополнительный протокол I от 8 июня 1977 г. к ней:
• резолюция Генеральной ассамблеей ООН от 19 декабря 1968 г. № 2444 "Основные принципы защиты гражданского населения в период вооруженных конфликтов";
• Конвенция о запрещении или ограничении применения конкретных видов обычного оружия, принятая резолюцией 3093 Генеральной ассамблеи ООН от 10 октября 1980 года в Женеве;
• Конвенция по кассетным боеприпасам, принятая на Дипломатической конференции для принятия конвенции по кассетным боеприпасам (Дублин, 19–30 мая 2008 год) и целый ряд других.

При этом базовым положением указанной концепции является необходимость применения уже сейчас вышеупомянутых международных актов комплексно к самим существующим системам вооружений с использованием ИИ (оснащение их только не запрещенными видами оружия, при этом с попыткой учета возможности применения АРС сразу нескольких систем вооружения) и их практического применения с учетом отношения к мирным жителям и военнопленным.

Также предлагается создание комплекса новых международных правовых актов, которые бы базировались на упомянутых выше, но детально бы разработали совокупность правовых норм, регулирующих как создание АРС боевого назначения (с учетом внесения в программное обеспечение всех положений конвенций об отношении к мирному населению, детям и военнопленным, военнослужащим, методов распознавания этих лиц), так и порядок применения этих систем (сфера применения, ограничения при применении, международный контроль применения систем, регламентация непосредственно человеческого контроля над АРС).

Таким образом, предлагается международными правовыми актами прямо запретить оснащение АРС всеми видами вооружений и боеприпасов, которые уже запрещены различными конвенциями и международными (межгосударственными) договорами. Это относится к бактериологическому, химическому вооружению, разрывным пулям, кассетным боеприпасам и т. д.

Предлагается сформулировать требования к максимальной (суммарной) поражающей мощи АРС (поскольку комплексное применение некоторых видов вооружения может привести к такому поражению живой силы, которое уже сейчас воспринимается как запрещенные способы войны).

Помимо этого предлагается сформулировать такие требования к программному обеспечению АРС, которые бы просто не позволили роботу уничтожать мирное население и военнопленных. Определить хотя бы общие правовые параметры возможности применения АРС (в каком состоянии межгосударственных отношений это возможно: в состоянии войны, мирное время и т.д.), параметры контроля над АРС со стороны командования вооруженными силами, применяемыми АРС и международного контроля при их применении. Также по мысли авторов концепции необходимо определить порядок возложения ответственности на государство при применении им АРС. Пока этого нет.

А ведь бесконтрольное развитие ИИ в военной области может привести к гораздо большим бедам, чем вспышки любых заболеваний. Апокалипсис на пороге.