Криминологические риски применения летального автономного оружия

Наращивание боевой мощи стран выступает непреложным фактором развития современного этапа политических отношений. С одной стороны, это вызвано необходимостью демонстрации силы перед возможным противником, с другой — представляет собой формирование определенного военного потенциала, который может быть использован в локальных и международных военных конфликтах

Применение автономного летального оружия, без сомнения, значительно повышает боевой потенциал любой армии мира, так как его возможности шире, нежели у обычных видов вооружения. Однако опасность применения такого вида оружия также достаточно высока, поскольку площадь поражения, сила удара и скорость нападения войск с использованием подобного вида оружия возрастает в несколько раз^{[1] [2]}.

На международном уровне сегодня отсутствуют специальные нормативные акты, которые запрещают или ограничивают использование данного вида оружия. Однако с учетом того, что многие исследователи приравнивают его к оружию массового поражения, все чаще и чаще встает вопрос о необходимости закрепления на международном уровне требований о запрещении ведения войны с применением подобного вида вооружений.

Наряду с общепризнанной опасностью разработки и производства летального автономного оружия следует выделить и конкретизировать также определенные криминологические риски его применения.

Не претендуя на формирование полного списка подобных рисков, сформулируем, на наш взгляд, самые значимые из них.

Риск распределения ответственности за использование летального автономного оружия

На сегодняшний день существует проблема распределения ответственности за применение летального автономного оружия. По мнению некоторых ученых, ответственность за действия автономных роботов может быть возложена на их разработчиков, производителей или эксплуатантов (военных командиров). Однако в литературе предлагается решить данную проблему в контексте военной цепочки командования войсками, применяющими подобный вид оружия

В той мере, в какой их действия разрешены или ограничены военными должностными лицами в их цепочке командования, эти должностные лица должны разделить ответственность за действия автономного оружия^{[3] [4]}.

Если рассматривать, например, неавтономное оружие, вопрос об ответственности за действия, совершенные с неавтономным оружием, относительно легко решить, поскольку неавтономное роботизированное оружие управляется во многом так же, как и традиционное оружие. Так, боевые дроны управляются непосредственно людьми-операторами точно так же, как винтовки, гранаты и ракеты, поэтому вина может быть возложена на оператора оружия.

Автономные роботы представляют собой гораздо более серьезную проблему для определения ответственности за противоправные действия, поскольку эти роботы могли бы выбирать и поражать цели без человеческого контроля. Их автономия — это критическое различие, которое делает их непохожими на любое оружие, находящееся под прямым контролем человека.

Некоторые проблемы могут иметь место с учетом того, что оружие именуется автономным. Определение автономии, предложенное Р. Спарроу из центра биоэтики Университета Монаша, требует, чтобы субъект нес единоличную ответственность за свои действия, и поэтому ответственность может быть возложена на одного субъекта^[5]. Соответственно, когда агент действует автономно, невозможно возложить ответственность за его действия на кого-либо другого. Поскольку действия агента были его собственными, другие не могут нести за них ответственность

Р. Спарроу предлагает три способа возложения вины за несправедливые или аморальные действия, совершенные автономным летальным оружием, и показывает, что каждый из них имеет ряд проблем. Первый способ предусматривает возложение вины на автономного робота. Однако его перепрограммирование или частичное уничтожение не достигнет цели осознания им своей вины^{[6] [7]}.

Второй и третий способы — это возложение ответственности на разработчиков такого робота или на военных, которые отправляют робота в бой. Р. Спарроу утверждает, что ни одно из этих потенциальных решений не является приемлемым, учитывая природу автономии робота. Он рассуждает, что если бы действия рассматриваемой системы контролировались кем-то другим, то робот не был бы по-настоящему автономным. Его действия были бы предопределены конструктором или оператором и, следовательно, не находились бы под контролем самого робота. Если бы робот был полностью автономным, то было бы неправильно обвинять контрагентов, которые не смогли повлиять на решения робота^[8].

Люди, которые разрабатывают и программируют роботизированное оружие, могут оказаться главными кандидатами на то, чтобы нести ответственность за поведение результатов своих разработок, однако, автономность робота снимает с них ответственность за то, как робот будет действовать в будущем^[9]. По той же причине Р. Спарроу считает, что нельзя возлагать виновность на командиров, поскольку автономность рассматриваемого оружия предполагает принятие им самостоятельного решения в различных случаях ^[5].

Соответственно в данном случае имеет место так называемый разрыв ответственности, когда ни на одну из сторон ответственность за действия автономного летального оружия возложить нельзя. Однако при определении субъекта, ответственного за действия автономного летального оружия, можно руководствоваться следующим: выражение автономии данного вида оружия не является самостоятельным, оно представляет собой следствие решений программиста или же военного командира. И тот и другой определяют направления деятельности автономного летального оружия посредством своих полномочий: если один создает программное обеспечение, способное к автономному принятию решений, и понимает, с какой целью оно будет применено, то другой задает цель такому оружию посредством отдачи приказа в форме компьютерного кода^[11]. Соответственно, существующий риск может быть преодолен посредством нормативного закрепления ответственности создателей (программистов) и руководителей (военных командиров), выступающих акторами, за причинение вреда, возникшего в результате выражения автономии летальным автономным оружием.

• [1] Lin P., Bekey G., Abney K. Autonomous Military Robotics: Risk, Ethics, and Design. California Polytechnic State University, 2008. 112 p.
• [2] - Chopra S., White L. F. A Legal Theory for Autonomous Artificial Agents. The University of Michigan Press, 2011. 252 p.
• [3] Schulzke M. Autonomous Weapons and Distributed Responsibility // Philosophy and Technology. 2013. Vol. 26. No 2. P. 203-219.
• [4] Benedict H. The Lonely Soldier: The Private War of Women Serving in Iraq. Boston: Beacon Press, 2010. 280 p.
• [5] Sparrow R. Killer Robots // Journal of Applied Philosophy. 2007. Vol. 24. No 1. P. 62-77.
• [6] Johansson L. Is It Morally Right to Use Unmanned Aerial Vehicles (UAVs) in War? // Philosophy & Technology. 2011. Vol. 24. No 3. P. 279—291.
• [7] - Sparrow R. Killer Robots // Journal of Applied Philosophy. 2007. Vol. 24. No 1. P. 62-77.
• [8] Там же.
• [9] McDermott D. What Matters to a Machine? // In: Anderson M., Anderson S. L. (eds.). Machine Ethics. New York: Cambridge University Press, 2011. P. 88—114.
• [10] Sparrow R. Killer Robots // Journal of Applied Philosophy. 2007. Vol. 24. No 1. P. 62-77.
• [11] Amoroso D., Tamburrini G. Autonomous Weapons Systems and Meaningful Human Control: Ethical and Legal Issues // Current Robotics Reports. 2020. Vol. 1. No 7. P. 187—194.