Недостатки системы, заложенной при конструировании роботов
Данный фактор имеет, на наш взгляд, степень влияния ниже средней, поскольку предполагает фатальную ошибку IT-инженеров, которая может привести к преступным последствиям. В данной ситуации преступления могут позиционироваться как совершенные по неосторожности — т. е. деяния, совершенные по легкомыслию или небрежности (например, несчастный случай на производстве по причине отказа или сбоя в работе промышленного робота из-за конструктивных нарушений последнего при проектировании)
Дефекты (отклонения) функционирования системы робота в ходе эксплуатации
Данный фактор имеет высокую степень влияния, поскольку указанные дефекты могут иметь место на любом из этапов эксплуатации роботов, и предсказать или ограничить это не всегда возможно. На наш взгляд, речь здесь тоже может идти о деяниях, совершенных по легкомыслию или небрежности:
— наезд на пешехода беспилотным транспортным средством. В данном контексте можно привести яркий пример, демонстрирующий фатальные последствия рассматриваемого фактора. Так, в 2018 г. автономный кроссовер Volvo ХС90 компании Uber на скорости около 60 км/ч сбил 49-летнюю Илейн Херзберг, которая пересекала проезжую часть, ведя рядом с собой велосипед. Полученные травмы стали фатальными для женщины, она скончалась в больнице.
Местом трагедии стал город Темпи, штат Аризона. Годом раньше там также произошло подобное ДТП. Однако тогда обошлось без жертв, виновным же признали водителя другого автомобиля, поскольку он не уступил дорогу беспилотному транспортному средству. Однако в случае с аварией, исход которой повлек за собой смерть потерпевшей, на водительском месте кроссовера находился оператор, который должен был в экстренном случае переключить управление на себя. Причины, по которым он не произвел необходимых манипуляций, не ясны. Кроме того, полиция штата Аризона также не пришла к единому заключению относительно нарушения правил дорожного движения потерпевшей: одни свидетельствовали, что женщина резко вышла на проезжую часть рядом с пешеходным переходом, вторые отмечали, что переход дороги потерпевшей был осуществлен непосредственно по пешеходному переходу. Однако непреложным фактом в данной ситуации остается гибель человека[1];
— столкновение с беспилотным летательным аппаратом. Так, 22 марта 2014 г., примерно в 22:00 по восточному летнему времени, вертолет Bell 412, зарегистрированный VH-WSR, поднялся из больницы Джона Хантера в Ньюкасле для полета около 2 км на вертолетную площадку Newcastle Westpac, Новый Южный Уэльс, с пятью членами экипажа на борту.
Пилот передал свои намерения на общую консультативную частоту движения (далее — CTAF) и не получил ответа. Направляясь на северо-восток и набирая высоту до 1200 футов над уровнем земли, пилот наблюдал устойчивый белый свет, который первоначально казался самолетом в окрестностях аэропорта Уильямтаун, примерно в 10 км от него. Достигнув высоты 1200 футов, пилот начал спуск к вертолетной площадке.
Движения неопознанного летательного аппарата были достаточно хаотичными. Опасаясь столкновения, пилот вертолета вновь передал информацию о данном аппарате по CTAF, но ответа от оператора не получил.
Примерно через 10—15 секунд после отправки сообщения пилот заметил, что неопознанный объект сделал резкий правый поворот и направился к вертолету. Скорость и радиус разворота указывали пилоту, что это не самолет, а скорее небольшой беспилотный летательный аппарат.
Пилоту вертолета пришлось выполнить ряд оперативных маневров, чтобы избежать столкновения с неизвестным объектом, и только благодаря его мастерству столкновения с беспилотником удалось избежать. При этом, как выяснилось в процессе разбора полета, операторам CTAF не было известно ничего о данном летательном объекте
— сбой в работе промышленного робота по причине несвоевременного выхода из строя той или иной детали (микросхемы), повлекший за собой несчастный случай. Так, первая смерть человека от робота на заводе зафиксирована в 1979 г. 25-летний рабочий сборочного цеха Ford в Мичигане погиб от удара робота-манипулятора по голове. Семья рабочего получила десять миллионов долларов компенсации. Причиной трагедии стало несоблюдение техники безопасности.
Сотрудник ремонтной компании на заводе Volkswagen находился внутри специальной клетки и настраивал робота. 21-летний мужчина получил удар в грудь и был прижат к стальной плите. Мужчину
1 Near collision involving an unmanned aerial vehicle and a Bell 412, VH-WSR, near Newcastle Westpac Base (HLS), NSW on 22 March 2014 // URL: http://www.atsb.gov. au/publications/investigation_reports/2014/aair/ao-2014-056. aspx (дата обращения: 10.07.2021).
госпитализировали, но врачи не смогли его спасти — он скончался в больнице
- — отказ в работе той или иной системы медицинского робота, повлекший за собой смерть пациента или серьезное нарушение функционирования организма человека. Здесь возможны следующие ситуации:
- 1) ведущий мировой кардиохирург, хирург, ответственный за операцию, и ассистент ведущего хирурга дистанционно оперируют пациента в другой стране с помощью телехирургической системы. Во время операции вскрывается крупный кровеносный сосуд. Ответственный за операцию хирург не может остановить кровотечение с помощью робота. Ассистирующий хирург вмешивается и контролирует кровотечение. Несмотря на это, пациент теряет кровь и погибает;
- 2) хирург использует роботизированный телескоп во время операции на пациенте. Назначение данного прибора — информировать ведущего операцию хирурга о расположении важного кровеносного сосуда. Хирург планирует использовать эту информацию для безопасного выполнения операции. Во время операции робот выходит из строя. Это дает хирургу неточную информацию. Кровеносный сосуд перерезан, а пациенту причинен вред;
- 3) пациенту делают операцию, при которой робот вставляет винты ему в позвоночник. Хирург заранее программирует робота с указанием направления для установки винтов. Затем робот выполняет операцию самостоятельно под наблюдением хирурга. После операции пациент просыпается и не может пошевелить ногами. Последующее сканирование показывает, что винт установлен не в указанном хирургом месте, что привело к травме позвоночника. Расследование показало, что хирург правильно запрограммировал робота, направив винты в сторону от спинного мозга, однако сбой в работе робота привел к фатальной ошибке;
- 4) хирург рекомендует пациенту операцию по замене тазобедренного сустава. Робот выполняет операцию самостоятельно, и хирург, который наблюдает, не вмешивается. Операция технически прошла успешно, и последующее сканирование показало, что бедро было восстановлено в соответствии с планом. Однако сильная боль в бедре пациента остается, что негативно сказывается на качестве его жизни;
- 5) интеллектуальный робот разрабатывает новую хирургическую технику для лечения рака поджелудочной железы. Исследования, проведенные в ходе клинических испытаний, показывают, что новая методика лучше существующих методов лечения. Хирург направляет
- 1 Робот на заводе Volkswagen убил человека // Ы<1_: https://habr.com/ni/ ро51,/ЗХ 1305 (дата обращения: 10.07.2021).
пациента с недавно диагностированным раком поджелудочной железы на процедуру. Во время операции робот не может справиться с непредвиденными осложнениями, и пациент получает травму[2].
Таким образом, описанные выше факторы, влияющие на робопреступность, необходимо тщательно изучать с целью снижения их воздействия на те или иные противоправные действия роботов. Учет указанных факторов будет способствовать повышению уровня контроля за безопасной эксплуатацией роботов и практическим использованием достижений в области цифровых технологий.
Подводя итог вышесказанному, необходимо заключить следующее. По мере развития робототехники возникнут новые правовые проблемы. Технологический прогресс будет ускоряться за счет инноваций, которые дополняют или превосходят человеческие возможности. Поэтому необходимо разрабатывать универсальные подходы к преодолению коллизий в области правового регулирования робототехники, которые будут учитывать динамику развития указанной цифровой технологии.
В современном мире роботы все больше и больше внедряются в человеческую жизнь. Люди сознательно привлекают роботов к различным видам деятельности в ряде областей с целью снизить нагрузку на себе подобных, повысить производительность труда, увеличить скорость обработки информации, а также для того, чтобы машины выполняли различные операции, необходимость которых очевидна, но выполнение или не под силу человеку, или же достаточно сложно для него. Однако, как показывает практика применения роботов в различных областях, могут иметь место различные проблемы криминального характера.
- [1] Меньшиков О. Беспилотный автомобиль впервые насмерть сбил пешехода // 1Л<1_: https://autoreview.ru/news/bespilotnyy-avtomobil-vpervye-nasmert-sbil-ре511е1к>с1а (дата обращения: 10.07.2021).
- [2] Jamjoom A. A. B., Jamjoom A. M. A., Marcus H. J. Exploring public opinion about liability and responsibility in surgical robotics // Nature Machine Intelligence. 2020. Vol. 2. P. 194-196.
