Глава 3. Летальное автономное оружие в системе уголовно-правовых отношений

Летальное автономное оружие как потенциальная угроза для мира и безопасности человечества

Сегодня большинство развитых стран стараются иметь в своем арсенале автономные средства ведения боевых действий. Это различные автономные робототехнические устройства, комплексы и системы военного назначения (далее — автономные военные роботы). Несмотря на то, что предназначение у данных видов служебных роботов различно, общим для них выступает следующее: они способны принимать решения и выполнять боевые задачи в условиях вооруженных конфликтов без какого-либо вмешательства человека, т. е. действовать самостоятельно и независимо. Автономные военные роботы могут быть запрограммированы таким образом, что с помощью компьютерной программы и без контроля человека смогут идентифицировать цели и успешно их атаковать. Хотя указанные цифровые технологии находятся в процессе развития и официально не стоят на вооружении зарубежных военных ведомств, но уже сейчас держат все мировое сообщество в напряжении, поскольку могут радикально поменять характер боевых действий.

Военными экспертами^[1] нашей страны было предложено обозначить три поколения военных роботов:

• 1- го поколения — с программным и дистанционным управлением, способные функционировать только в организованной среде;
• 2- го поколения — адаптивные, имеющие своего рода «органы чувств» и способные функционировать в заранее неизвестных условиях, т. е. приспосабливаться к изменениям обстановки;

3-го поколения — интеллектуальные, имеющие систему управления с элементами искусственного интеллекта (созданы пока лишь в виде лабораторных макетов).

Согласно этой классификации, можно сказать, что российские военные эксперты относят к военным роботам не только полностью автономные системы вооружений, но и летальное оружие, которое управляется человеком дистанционно. Однако если военные роботы первого и второго поколения по вышеназванной классификации могут контролироваться человеком, что позволяет установить некоторые правовые рамки применения их во время ведения боевых действий, в отличие от военных роботов третьего поколения, которые автономны и у которых утрачена обратная связь с человеком, контролю не подлежат.

Однако темпы развития цифровых технологий настолько высоки, что осуществлять тщательный и повсеместный контроль возможностей искусственного интеллекта в военной сфере практически невозможно. По этой причине необходимость разработки и принятия нового международного правового акта, на который можно было бы опираться в указанном случае, налицо.

Таким образом, можно отметить, что, несмотря на отсутствие на сегодняшний день нормативных актов, регулирующих производство и применение военных роботов как на международном, так и на межгосударственном уровне, существуют параметры, в соответствии с которыми производство и применение и, как следствие, оборот военных роботов можно признать противоречащими уже действующим нормам международного права.

Необходимо отметить, что специалисты в военно-технической области приводят ряд аргументов в пользу обеспечения контроля за действиями автономных военных роботов. Они утверждают следующее:

«1) оснащение роботов огневой мощью может быть и должно строго подчиняться международно-правовым стандартам, то есть военные роботы не должны использовать запрещенные международными документами виды оружия;

• 2) в программном обеспечении роботов будут учтены все категории защищаемых во время войны лиц, это позволит избежать потерь среди защищаемых объектов;
• 3) возможность военных роботов к самообучению позволит реализовать последним алгоритмы гуманитарного применения — соразмерности и избирательности нанесения вреда неприятелю»
• 1 ^{Глебов И. Н.} Правовое регулирование автономных роботизированных средств ведения войны // Российское государствоведение. 2018. № 3. С. 104—116.

Однако все вышесказанное вызывает ряд сомнений.

• 1. Так, отсутствуют гарантии возможности совокупного использования автономными военными роботами различных систем огня, что будет идти в разрез с принципами гуманизма в отношении вражеской стороны. В частности, существует международный запрет на избирательное и соразмерное применение военной силы, который будет нарушен, если автономный военный робот применит одновременно залповый огонь и объемный взрыв.
• 2. Есть сомнения относительно прекращения автономным военным роботом применения ядерного или другого оружия в том случае, если выяснится, что после отдачи приказа необходимость применять такое оружие отпала, сам приказ был дан ошибочно или же противник поднял белый флаг.
• 3. Также существует опасность технических сбоев у автономного военного робота, которому был отдан боевой приказ, в результате чего боевой удар будет нанесен не по противнику, а по территории, на которой находится мирное население.
• 4. Неясен механизм идентификации автономным военным роботом комбатантов. Известно, что в состав войск сторон, находящихся в состоянии военного конфликта, входят комбатанты и некомбатанты. Если первые, в соответствии с международными нормами, законами и обычаями войны, имеют право вести военные действия или непосредственно в них участвовать, то вторые (медицинский персонал, духовный персонал, раненые и пр.) участия в боевых действиях не принимают, и их неприкосновенность регулируется нормами международного гуманитарного права. Очень маловероятно, что автономный боевой робот сможет отличить между собой женщину-комбатанта, например командира подразделения, и женщину — медицинскую сестру, оказывающую помощь раненым в районе ведения боевых действий.

Кроме того, достаточно часто комбатанты пытаются найти убежища в поселениях мирных жителей, и задача уничтожения первых может быть решена автономным военным роботом, запрограммированным на нападение на комбатантов за счет уничтожения последних.

А. Кришнан^[2] предлагает следующие принципы регулирования использования автономных интеллектуальных систем вооружений:

«1) запрет создания систем автономных вооружений, способных вносить изменения в свой собственный программный код, что исключает использование эволюционирующего или самообучающегося искусственного интеллекта для управления оружием;

• 2) запрет на использование сверхразумных компьютеров в военных целях, поскольку могут возникнуть сложности с принудительным ограничением их действия;
• 3) обеспечение слабой связи с внешним миром сверхразумных военных компьютерных систем, а также установление запрета на разработку самовоспроизводящегося оружия»'.

Однако данные предложенные меры представляются чрезмерно избыточными и противоречащими развитию цифровых технологий, поскольку высокотехнологичные разработки в рассматриваемой области повернуть вспять и запретить на законодательном уровне не представляется возможным по причине отсутствия правового обоснования ряда аспектов, существующих на стыке права и 1Т-сферы.

Обратимся к понятию незаконного оборота автономных военных роботов в разрезе права отдельно взятой страны на примере Российской Федерации.

Основным объектом уголовно-правовой охраны в разрезе оборота автономных военных роботов являются общественные отношения, охраняющие мир и безопасность человечества. Поэтому весьма логично было бы рассмотреть возможности применения к порядку обращения автономных военных роботов норм Уголовного кодекса Российской Федерации (далее — УК РФ), предусмотренных главой 34, в частности, ст. 355—356 УК РФ. Данный подход видится весьма логичным, учитывая предложение закрепить в действующих международных договорах, ограничивающих некоторые виды вооружения, использование, а также методы ведения войны, выпуск и применение автономных военных роботов.

Обратимся к анализу диспозиции ст. 355 УК РФ «Разработка, производство, накопление, приобретение или сбыт оружия массового поражения». Диспозиция данной статьи предусматривает ответственность за разработку, производство, накопление, приобретение или сбыт химического, биологического, токсинного, а также другого вида оружия массового поражения, запрещенного международным договором Российской Федерации.

В национальном законодательстве понятие «оружие массового поражения» содержится в Федеральном законе от 18 июля 1999 г. № 183-ФЗ «Об экспортном контроле» (ст. 1) и Перечне сведений, от-

¹ Морхат П. М. К вопросу о соответствии автономных интеллектуальных систем вооружений принципам международного гуманитарного права // Вестник военного права. 2018. № 2. С. 58—65.

несенных к государственной тайне, утвержденном Указом Президента Российской Федерации от 30 ноября 1995 г. № 1203 (п. 2). Под ним понимается «ядерное, химическое, биологическое или иное оружие большой поражающей способности, применение которого вызывает массовые потери и (или) разрушения»'.

Исследование специфики рассматриваемого вида оружия позволяет заключить, что с учетом его особенностей поражающая сила данного вооружения может быть сравнима с химическим или ядерным оружием. Учитывая характеристики автономных военных роботов, приведенные выше, вполне можно заключить, что отдельные виды автономных военных роботов охватываются понятием оружия массового поражения в том контексте, в котором они могут быть изложены в международном документе.

Одновременно стоит отметить, что уголовная ответственность по данной норме возможна только за разработку, производство, накопление, приобретение или сбыт только тех видов оружия массового поражения, которые запрещены международным договором Российской Федерации^{[3] [4]}.

На международном уровне принят ряд основополагающих документов, регулирующих и запрещающих их оборот, в которых прямо указано, что применение оружия массового уничтожения, причиняющего людям ненужные страдания, в прошлом запрещалось как противоречащее законам человечности и принципам международного права.

В Конвенции о запрещении разработки, производства, накопления и применения химического оружия и о его уничтожении, принятой в Париже 13 января 1993 г., содержится прямое запрещение на разработку, производство, применение, продажу или передачу кому-либо химического оружия. Каждому государству предписывается уничтожить все имеющееся у него на вооружении химическое оружие, в том числе размещенное на территориях других стран, а также любые производственные мощности, такое оружие производящие.

В соответствии с разъяснениями, данными в постановлении Пленума Верховного Суда Российской Федерации от 10 октября 2003 г. № 5 «О применении судами общей юрисдикции общепризнанных принципов и норм международного права и международных договоров Российской Федерации», «международно-правовые нормы, предусматривающие признаки составов преступлений, должны при3.1. Летальное автономное оружие как потенциальная угроза... | 63 меняться судами Российской Федерации в тех случаях, когда норма Уголовного кодекса Российской Федерации прямо устанавливает необходимость применения международного договора Российской Федерации (например, статьи 355 и 356 УК РФ)». Таким образом, в случае дополнения упомянутых конвенций понятием автономный военный робот либо принятия отдельного международно-правового документа, регламентирующего использование автономных военных роботов, при обязательной ратификации такого документа Российской Федерации, ст. 355 УК РФ вполне может обеспечить надлежащий уровень уголовно-правовой охраны от подобных посягательств.

Определенная коллизия возникает при моделировании уголовной ответственности за применение автономных военных роботов. Уголовное законодательство предусматривает ответственность за применение оружия массового поражения, запрещенного международным договором Российской Федерации, в качестве средств ведения войны, по ч. 2 ст. 356 УК РФ.

Под средствами ведения войны принято понимать «оружие и другую военную технику, применяемую вооруженными силами воюющих для уничтожения либо подавления живой силы и материальных средств противника, а также подавления его сил и способности к сопротивлению. Под методами ведения войны понимается порядок и применяемые способы использования средств ведения войны в указанных целях» ’.

Согласно Дополнительному протоколу к Женевским конвенциям от 12 августа 1949 г., касающемуся защиты жертв международных вооруженных конфликтов, от 8 июня 1977 г., запрещается применять методы или средства ведения военных действий, которые имеют своей целью причинить или, как можно ожидать, причинят обширный, долговременный и серьезный ущерб природной среде.

В Декларации о запрещении применения ядерного и термоядерного оружия (принята резолюцией 1653 Генеральной Ассамблеи ООН от 24 ноября 1961 г.) указано, что «применение ядерного и термоядерного оружия является войной, направленной не только против того или иного противника или против тех или иных противников, но и против всего человечества в целом, так как народы мира, не участвующие в такой войне, подвергнутся всем бедствиям, вызванным применением такого оружия».

Проблема на сегодняшний день заключена в том, что если указанные виды оружия уже применялись при ведении боевых действий

¹ Комментарий к Уголовному кодексу Российской Федерации (постатейный) / К. А. Барышева, Ю. В. Грачева и др. М.: Проспект, 2019. 752 с.

в различные периоды, то автономные военные роботы массового применения пока, к счастью, не нашли. Именно по этой причине оценить последствия их разрушительной силы на практике в полном объеме не представляется возможным.

Однако вполне логично заключить, что именно автономные военные роботы могут быть использованы для организации химической или ядерной атаки на противника, при этом, с учетом отсутствия запрещения на их применение, сам факт использования конкретно химического иди ядерного оружия как такового может быть оспорен , поскольку человеческий фактор в случае применения автономных военных роботов будет как бы исключен, и первичным здесь будет считаться факт применения рассматриваемого вида оружия, а подвид применяемого оружия (химическое бактериологическое, ядерное и пр.) будет уже вторичным.

Соответственно, автономные военные роботы, начиненные химическим, ядерным и термоядерным зарядом, могут быть признаны оружием массового поражения, которое влечет за собой уничтожение не только боевой силы противника, но и мирных жителей.

В указанном аспекте, чтобы избежать подмены понятий и бланкетного характера соответствующих норм УК РФ, на межгосударственном уровне необходимо принять правовые акты, прямо запрещающие оборот и применение автономных военных роботов, поскольку отсутствие подобных документов предоставляет свободу действий субъектам, желающим использовать в собственных агрессивных, коммерческих или политических целях автономных военных роботов.

Данный вопрос в современных условиях, в связи с обострением ряда международных конфликтов и повышением уровня военного потенциала ряда стран, является крайне актуальным, поскольку позволяет заинтересованным лицам действовать по принципу «что не запрещено, то разрешено».

Развитие цифровых технологий в военной отрасли уже в ближайшее время может позволить той или иной стране перевести из пассивного в активный арсенал автономных военных роботов и публично обозначить собственные военные приоритеты. Данный фактор выступит толчком для других стран, которые для установления военного равновесия также возьмут на вооружение указанных роботов.

Как только автономные военные роботы будут официально поставлены на вооружение в тех или иных странах, они сразу же станут предметом купли-продажи на черном рынке оружия, что увеличит их оборот и распространение во всем мире и значительно приблизит перспективы применения таких роботов той или иной страной. Все вышесказанное свидетельствует о необходимости в ближайшее времяобратить внимание на отсутствие в международном законодательстве нормы, прямо запрещающей оборот автономных военных роботов, и устранить данный пробел, чтобы не подвергать уничтожению человечество в целом.

Такие изменения в нормах международного права позволят эффективно применять действующие нормы УК РФ, предусматривающие ответственность за разработку, производство, накопление, приобретение или сбыт оружия массового поражения и применение запрещенных средств и методов ведения войны.

Учитывая темпы внедрения цифровых технологий в военную сферу, не исключено, что в ближайшем будущем автономные военные роботы станут реальностью. Это, в свою очередь, диктует необходимость для поддержания мира и сохранения безопасности человечества в достаточно короткие сроки осуществить закрепление правового регулирования отношений в военной сфере с использованием автономных военных роботов как на международном, так и на внутригосударственном уровнях. Важнейшим решением в этой сфере могут стать создание и принятие Конвенции о запрещении разработки, производства и применения автономных военных роботов, их составных частей (модулей).

• [1] Козюлин В. Б., Ефимов А. Р. Новый Бонд — машина с лицензией на убийство // Индекс безопасности. 2016. № 1. С. 37—60.
• [2] Krishnan A. Automating War: The need for Regulation // Contemporary Security Policy. 2009. Vol. 30. No 1. P. 172-193.
• [3] Научно-практический комментарий к Уголовному кодексу Российской Федерации от 13 июня 1996 г. № 63-ФЗ / Н. А. Агешкина, М. А. Беляев и др. Саратов: Ай Пи Эр Медиа, 2013. 848 с.
• [4] - Там же.