fmpВестник Московского Университета. Серия XXV. Международные отношения и мировая политикаLomonosov World Politics Journal2076-7404Московский государственный университет имени М.В.Ломоносова10.48015/2076-7404-2021-13-4-182-204fmp-122Research ArticleМЕЖДУНАРОДНАЯ БЕЗОПАСНОСТЬINTERNATIONAL SECURITYМашина против человека: дискуссии в экспертном сообществе вокруг смертоносных автономных системMan against machine: Debates in the expert community on the lethal autonomous systemsЛиповаА. Ю.LipovaA. Yu.

Липова Анастасия Юрьевна — соискатель кафедры международной безопасности факультета мировой политики

119991, Москва, Ленинские горы, 1

Anastasiya Yu. Lipova — PhD Candidate at the Chair of International Security, School of World Politics

1 Leninskie Gory, Moscow, Russia, 119991

stasiawaris@gmail.comФедеральное государственное бюджетное образовательное учреждение высшего образования «Московский государственный университет имени М.В. Ломоносова»Lomonosov Moscow State University202113012022134182204Copyright © Липова А.Ю., 20222022Липова А.Ю.Lipova A.Y.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://fmp.elpub.ru/jour/article/view/122

В последнее время проблематика регулирования автономных систем вооружений приобрела качественно новое значение. Несмотря на то что разработка данного типа оружия началась еще в ХХ в., технологический прогресс открывает возможности полностью роботизировать боевые системы, исключив участие человека при их эксплуатации. В данном контексте возникает целый ряд этико-правовых и нормативных коллизий, которые мировому сообществу еще предстоит разрешить. В рамках настоящей статьи предпринята попытка проанализировать дискуссии в западном и отечественном экспертных сообществах вокруг проблем и перспектив использования смертоносных автономных систем (САС). Автор отмечает, что в ключевых вопросах взгляды российских и зарубежных исследователей совпадают, разница заключается скорее в степени интенсивности соответствующего дискурса — на Западе он значительно более активен. В настоящий момент наиболее интенсивная полемика среди как отечественных, так и западных экспертов ведется по двум направлениям: вокруг проблемы реальной и возможной автономности смертоносных систем и связанной с ней проблемы подотчетности, а также вокруг перспектив правового регламентирования использования САС на международном уровне. При этом и российские, и зарубежные эксперты сходятся во мнении, что современное международное гуманитарное  право (МГП) не способно адекватно решить вопросы, которые возникают в связи со всё более активной разработкой и внедрением САС. Всё это указывает на необходимость скорейшей адаптации МГП к реалиям современной эпохи, что в свою очередь требует принятия согласованных мер со стороны ведущих государств и международных организаций.

In the recent years debates surrounding the autonomous weapons systems development and regulation have gained a new momentum. Despite the fact that the development of such type of weapons continues since the twentieth century, recent technological advances open up new possibilities for development of completely autonomous combat systems that will operate without human in-tervention. In this context, international community faces a number of ethical, legal, and regulatory issues. This paper examines the ongoing debates in both the Western and the Russian expert community on the challenges and prospects for using lethal autonomous systems. The author notes that Russian and Western discourses on most of the issues have very much in common and diff erences are found mainly in the intensity of debates — in the West they are much more ac-tive. In both cases the most active debates focus around two issues: the potential implications of fully autonomous weapons systems including the unclear line of accountability, and the prospects for international legal regulation of the use of lethal autonomous weapons. Both the Russian and the Western experts agree that the contemporary international humanitarian law is unable to handle the challenges posed by aggressive development of the lethal autonomous weapons. All this points to the need to adapt the international humanitarian law to the new realities, which, in turn, requires concerted actions from leading states and international organizations.

смертоносные автономные системымеждународное гуманитарное правопроблема подотчетностиситуационная осведомленностьискусственный интеллектмеждународная безопасностьстратегическая стабильностьlethal autonomous weaponsinternational humanitarian lawac-countabilitysituational awarenessartifi cial intelligenceinternational securitystrategic stabilityReferencesАрхипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6 (55). С. 46‒62. DOI: 10.15622/ sp.55.2.Arkhipov V.V., Naumov V.B. 2017. Iskusstvennyi intellekt i avtonomnye ustroistva v kontekste prava: o razrabotke pervogo v Rossii zakona o robototekhnike [Artifi cial intelligence and autonomous devices in legal context: On development of the fi rst Russian law on robotics]. Trudy SPIIRAN, no. 6 (55), pp. 46‒62. DOI: 10.15622/sp.55.2. (In Russ.)Голубенко Е.А. Автономные системы вооружения и международное гуманитарное право // Вестник академии военных наук. 2017. № 2 (59). С. 101‒106.Golubenko E.A. 2017. Avtonomnye sistemy vooruzheniya i mezhdunarodnoe gumanitarnoe pravo [Autonomous weapon systems and international humanitarian law]. Vestnik Akademii voennykh nauk, no. 2 (59), pp. 101‒106. (In Russ.)Дерешко Б.Ю. Ограничение смертоносных автономных систем вооружений: инициатива дополнить Конвенцию ООН о «негуманном» оружии // Вестник военного права. 2018. № 1. С. 86‒87.Dereshko B.Yu. 2018. Ogranichenie smertonosnykh avtonomnykh sistem vooruzhenii: initsiativa dopolnit’ konventsiyu OON o ‘negumannom’ oruzhii [Limitation of deadly autonomous weapons systems: Initiative to extend the UN convention on ‘inhuman’ weapons]. Vestnik voennogo prava, no. 1, pp. 86‒87. (In Russ.)Козюлин В.Б. Смертоносные автономные системы вооружений: проблемы современного международно-правового регулирования и перспективы их решения // Международная жизнь. 2019. № 2. C. 82‒Kozyulin V.B. 2019. Smertonosnye avtonomnye sistemy vooruzhenii: problemy sovremennogo mezhdunarodno-pravovogo regulirovaniya i perspektivy ikh resheniya [Lethal autonomous weapons systems: Problems of current international legal regulation and prospects for resolving them]. International aff airs, no. 2, pp. 82‒94. (In Russ.)Овчаров А.В., Козлов А.В. Применение смертоносных автономных систем вооружения требует уголовно-правовой регламентации // Военное право. 2019. № 5 (57). С. 179‒186.Ovcharov A.V., Kozlov A.V. 2019. Primenenie smertonosnykh avtonomnykh sistem vooruzheniya trebuet ugolovno-pravovoi reglamentatsii [The use of lethal autonomous systems weapons require criminal law regulations]. Military law, no. 5 (57), pp. 179‒186. (In Russ.)Плакса В.Н. Правовая защита гражданского населения и гражданской инфраструктуры при ведении военных действий с использованием автономных систем вооружений // Вестник военного права. 2020. № 2. С. 72‒81.Plaksa V.N. 2020. Pravovaya zashchita grazhdanskogo naseleniya i grazhdanskoi infrastruktury pri vedenii voennykh deistvii s ispol’zovaniem avtonomnykh sistem vooruzhenii [Legal protection of the civilian population and civil infrastructure in the conduct of hostilities using autonomous weapons systems]. Vestnik voennogo prava, no. 2, pp. 72‒81. (In Russ.)Синяева Н.А. Автономная военная робототехника: историко-правовые аспекты // Военное право. 2021. № 3 (67). С. 265‒270.Sinyaeva N.A. 2021. Avtonomnaya voennaya robototekhnika: istorikopravovye aspekty [The self-powered military robotics: Historical and legal aspects]. Voennoe parvo, no. 3 (67), pp. 265‒270. (In Russ.)Синяева Н.А. Проблемы применения международного гуманитарного права к автономным системам вооружения // Право в вооруженных силах. 2020. № 12 (281). С. 66‒75.Sinyaeva N.A. 2020. Problemy primeneniya mezhdunarodnogo gumanitarnogo prava k avtonomnym sistemam vooruzheniya [Challenges for the application of international humanitarian law to autonomous weapons systems]. Pravo v vooruzhennykh silakh — voenno-pravovoe obozrenie, no. 12 (281), pp. 66‒75. (In Russ.)Скуратова А.Ю., Королькова Е.Е. Смертоносные автономные системы вооружений: проблемы международно-правового регулирования // Российский юридический журнал. 2019. № 1 (124). С. 22‒30.Skuratova A.Yu., Korol’kova E.E. 2019. Smertonosnye avtonomnye sistemy vooruzhenii: problemy mezhdunarodno-pravovogo regulirovaniya [Lethal autonomous weapons systems: Problems of international legal regulation]. Rossiiskii yuridicheskii zhurnal, no. 1 (124), pp. 22‒30. (In Russ.)Сорочкин А.С. Автономные системы вооружения в контексте норм международного гуманитарного права // Вестник военного права. 2018. № 4. С. 25‒33.Sorochkin A.S. 2018. Avtonomnye sistemy vooruzheniya v kontekste norm mezhdunarodnogo gumanitarnogo prava [Autonomous weapons systems in the context of international humanitarian law]. Vestnik voennogo prava, no. 4, pp. 25‒33. (In Russ.)Altmann J., Sauer F. Autonomous weapon systems and strategic stability // Survival. 2017. Vol. 59. No. 5. P. 117‒142. DOI: 10.1080/00396338.2017.1375263.Altmann J., Sauer F. 2017. Autonomous weapon systems and strategic stability. Survival, vol. 59, no. 5, pp. 117‒142. DOI: 10.1080/00396338.2017.1375263.Anderson K., Waxman M. Law and ethics for autonomous weapon systems. Why a ban won’t work and how the laws of war can // Stanford University Law Essay Series. 2013. No. 11. P. 13‒351.Anderson K., Waxman M. 2013. Law and ethics for autonomous weapon systems. Why a ban won’t work and how the laws of war can. Stanford University Law Essay Series, no. 11, pp. 13‒351.Arkin R.C. The case for ethical autonomy in unmanned systems // Journal of Military Ethics. 2010. Vol. 9. No. 4. P. 332‒341. DOI: 10.1080/15027570.2010.536402.Arkin R.C. 2010. The case for ethical autonomy in unmanned systems. Journal of Military Ethics, vol. 9, no. 4, pp. 332‒341. DOI: 10.1080/15027570.2010.536402.Asaro P. On banning autonomous lethal systems: Human rights, automation, and the dehumanization of lethal decision-making // International Review of the Red Cross. 2012. Vol. 94. No. 886. P. 687‒709. DOI: 10.1017/ S1816383112000768.Asaro P. 2012. On banning autonomous lethal systems: Human rights, automation, and the dehumanization of lethal decision-making. International review of the Red Cross, vol. 94, no. 886, pp. 687‒709. DOI: 10.1017/S1816383112000768.Benjamin M. Drone warfare: Killing by remote control. London: Verso, 2013.Benjamin M. 2013. Drone warfare: Killing by remote control. London, Verso.Bergen L., Rothenberg D. Drone wars: Transforming confl ict, law, and policy. Cambridge: Cambridge University Press, 2014. DOI: 10.1017/ CBO9781139198325.Bergen L., Rothenberg D. 2014. Drone wars: Transforming confl ict, law, and policy. Cambridge, Cambridge University Press. DOI: 10.1017/ CBO9781139198325.Crootof R. Autonomous weapon systems and the limits of analogy // Harvard National Security Journal. 2016. Vol. 9. No. 51. P. 51‒83.Crootof R. 2016. Autonomous weapon systems and the limits of analogy. Harvard National Security Journal, vol. 9, no. 51, pp. 51‒83.Galliott J. Military robots: Mapping the moral landscape. London: Routledge, 2016. DOI: 10.4324/9781315595443.Galliott J. 2016. Military robots: Mapping the moral landscape. London, Routledge. DOI: 10.4324/9781315595443.Galliott J., MacIntosh D., Ohlin J.D. Lethal autonomous weapons: Reexamining the law and ethics of robotic warfare. Oxford: Oxford University Press, 2021. DOI: 10.1093/oso/9780197546048.001.0001.Galliott J., MacIntosh D., Ohlin J.D. 2021. Lethal autonomous weapons: Re-examining the law and ethics of robotic warfare. Oxford, Oxford University Press. DOI: 10.1093/oso/9780197546048.001.0001.Galliott J., Scholz J. AI in weapons: The moral imperative for minimally — just autonomy // Journal of Indo-Pacific Affairs. 2018. Vol. 1. No. 2. P. 57‒67.Galliott J., Scholz J. 2018. AI in weapons: The moral imperative for minimally — just autonomy. Journal of Indo-Pacifi c Aff airs, vol. 1, no. 2, pp. 57‒67.Heyns C. Autonomous weapons in armed confl ict and the right to a dignifi ed life: An African perspective // South African Journal on Human Rights. 2017. Vol. 33. No. 1. P. 46‒71. DOI: 10.1080/02587203.2017.1303903.Heyns C. 2017. Autonomous weapons in armed confl ict and the right to a dignifi ed life: An African perspective. South African Journal on Human Rights, vol. 33, no. 1, pp. 46‒71. DOI: 10.1080/02587203.2017.1303903.Kaag J., Kreps S. Drone warfare. New York: John Wiley & Sons Publ., 2014.Kaag J., Kreps S. 2014. Drone warfare. New York, John Wiley & Sons Publ.Krishnan A. Killer robots. Legality and ethicality of autonomous weapons. London: Routledge, 2009. DOI: 10.4324/9781315591070.Krishnan A. 2009. Killer robots. Legality and ethicality of autonomous weapons. London, Routledge. DOI: 10.4324/9781315591070.Leveringhaus A. Ethics and autonomous weapons. London: Palgrave Pivot, 2016. DOI: 10.1057/978-1-137-52361-7_2.Leveringhaus A. 2016. Ethics and autonomous weapons. London, Palgrave Pivot. DOI: 10.1057/978-1-137-52361-7_2.Margulies P. The other side of autonomous weapons: Using artifi cial intelligence to enhance IHL compliance // Legal Studies Paper. 2018. No. 182.Margulies P. 2018. The other side of autonomous weapons: Using artifi cial intelligence to enhance IHL compliance. Legal Studies Paper, no. 182.Perritt H., Sprague E. Domesticating drones: The technology, law, and economics of unmanned aircraft. London: Routledge, 2016. DOI: 10.4324/9781315577999.Perritt H., Sprague E. 2016. Domesticating drones: The technology, law, and economics of unmanned aircraft. London, Routledge. DOI: 10.4324/9781315577999.Sparrow R. Killer robots // Journal of Applied Philosophy. 2007. Vol. 24. No. 1. P. 62‒77. DOI: 10.1111/j.1468-5930.2007.00346.x.Sparrow R. 2007. Killer robots. Journal of Applied Philosophy, vol. 24, no. 1, pp. 62‒77. DOI: 10.1111/j.1468-5930.2007.00346.x.Suchman L.A. Situational awareness and adherence to the principle of distinction as a necessary condition for lawful autonomy // Lethal autonomous weapons systems: Technology, defi nition, ethics, law & security / Ed. by R. Geiss, H. Lahmann. Berlin: German Federal Foreign Offi ce, 2016. P. 273‒283.Suchman L.A. 2016. Situational awareness and adherence to the principle of distinction as a necessary condition for lawful autonomy. In: Geiss R., Lahmann H. (eds.). Lethal autonomous weapons systems: Technology, defi nition, ethics, law & security. Berlin, German Federal Foreign Offi ce, pp. 273‒283.Tamburrini G. On banning autonomous weapons systems: From deontological to wide consequentialist reasons // Autonomous weapons systems: Law, ethics, policy / Ed. by N. Bhuta, S. Beck. Cambridge: Cambridge University Press, 2016. P. 122–142. DOI: 10.1017/CBO9781316597873.Tamburrini G. 2016. On banning autonomous weapons systems: From deontological to wide consequentialist reasons. In: Bhuta N., Beck S. (eds.). Autonomous weapons systems: Law, ethics, policy. Cambridge, Cambridge University Press, рр. 122–142. DOI: 10.1017/CBO9781316597873.

The authors declare that there are no conflicts of interest present.