Машина против человека: дискуссии в экспертном сообществе вокруг смертоносных автономных систем

В последнее время проблематика регулирования автономных систем вооружений приобрела качественно новое значение. Несмотря на то что разработка данного типа оружия началась еще в ХХ в., технологический прогресс открывает возможности полностью роботизировать боевые системы, исключив участие человека при их эксплуатации. В данном контексте возникает целый ряд этико-правовых и нормативных коллизий, которые мировому сообществу еще предстоит разрешить. В рамках настоящей статьи предпринята попытка проанализировать дискуссии в западном и отечественном экспертных сообществах вокруг проблем и перспектив использования смертоносных автономных систем (САС). Автор отмечает, что в ключевых вопросах взгляды российских и зарубежных исследователей совпадают, разница заключается скорее в степени интенсивности соответствующего дискурса — на Западе он значительно более активен. 
В настоящий момент наиболее интенсивная полемика среди как отечественных, так и западных экспертов ведется по двум направлениям: вокруг проблемы реальной и возможной автономности смертоносных систем и связанной с ней проблемы подотчетности, а также вокруг перспектив правового регламентирования использования САС на международном уровне. При этом и российские, и зарубежные эксперты сходятся во мнении, что современное международное гуманитарное  право (МГП) не способно адекватно решить вопросы, которые возникают в связи со всё более активной разработкой и внедрением САС. Всё это указывает на необходимость скорейшей адаптации МГП к реалиям современной эпохи, что в свою очередь требует принятия согласованных мер со стороны ведущих государств и международных организаций.

1. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6 (55). С. 46‒62. DOI: 10.15622/ sp.55.2.

2. Голубенко Е.А. Автономные системы вооружения и международное гуманитарное право // Вестник академии военных наук. 2017. № 2 (59). С. 101‒106.

3. Дерешко Б.Ю. Ограничение смертоносных автономных систем вооружений: инициатива дополнить Конвенцию ООН о «негуманном» оружии // Вестник военного права. 2018. № 1. С. 86‒87.

4. Козюлин В.Б. Смертоносные автономные системы вооружений: проблемы современного международно-правового регулирования и перспективы их решения // Международная жизнь. 2019. № 2. C. 82‒

5. Овчаров А.В., Козлов А.В. Применение смертоносных автономных систем вооружения требует уголовно-правовой регламентации // Военное право. 2019. № 5 (57). С. 179‒186.

6. Плакса В.Н. Правовая защита гражданского населения и гражданской инфраструктуры при ведении военных действий с использованием автономных систем вооружений // Вестник военного права. 2020. № 2. С. 72‒81.

7. Синяева Н.А. Автономная военная робототехника: историко-правовые аспекты // Военное право. 2021. № 3 (67). С. 265‒270.

8. Синяева Н.А. Проблемы применения международного гуманитарного права к автономным системам вооружения // Право в вооруженных силах. 2020. № 12 (281). С. 66‒75.

9. Скуратова А.Ю., Королькова Е.Е. Смертоносные автономные системы вооружений: проблемы международно-правового регулирования // Российский юридический журнал. 2019. № 1 (124). С. 22‒30.

10. Сорочкин А.С. Автономные системы вооружения в контексте норм международного гуманитарного права // Вестник военного права. 2018. № 4. С. 25‒33.

11. Altmann J., Sauer F. Autonomous weapon systems and strategic stability // Survival. 2017. Vol. 59. No. 5. P. 117‒142. DOI: 10.1080/00396338.2017.1375263.

12. Anderson K., Waxman M. Law and ethics for autonomous weapon systems. Why a ban won’t work and how the laws of war can // Stanford University Law Essay Series. 2013. No. 11. P. 13‒351.

13. Arkin R.C. The case for ethical autonomy in unmanned systems // Journal of Military Ethics. 2010. Vol. 9. No. 4. P. 332‒341. DOI: 10.1080/15027570.2010.536402.

14. Asaro P. On banning autonomous lethal systems: Human rights, automation, and the dehumanization of lethal decision-making // International Review of the Red Cross. 2012. Vol. 94. No. 886. P. 687‒709. DOI: 10.1017/ S1816383112000768.

15. Benjamin M. Drone warfare: Killing by remote control. London: Verso, 2013.

16. Bergen L., Rothenberg D. Drone wars: Transforming confl ict, law, and policy. Cambridge: Cambridge University Press, 2014. DOI: 10.1017/ CBO9781139198325.

17. Crootof R. Autonomous weapon systems and the limits of analogy // Harvard National Security Journal. 2016. Vol. 9. No. 51. P. 51‒83.

18. Galliott J. Military robots: Mapping the moral landscape. London: Routledge, 2016. DOI: 10.4324/9781315595443.

19. Galliott J., MacIntosh D., Ohlin J.D. Lethal autonomous weapons: Reexamining the law and ethics of robotic warfare. Oxford: Oxford University Press, 2021. DOI: 10.1093/oso/9780197546048.001.0001.

20. Galliott J., Scholz J. AI in weapons: The moral imperative for minimally — just autonomy // Journal of Indo-Pacific Affairs. 2018. Vol. 1. No. 2. P. 57‒67.

21. Heyns C. Autonomous weapons in armed confl ict and the right to a dignifi ed life: An African perspective // South African Journal on Human Rights. 2017. Vol. 33. No. 1. P. 46‒71. DOI: 10.1080/02587203.2017.1303903.

22. Kaag J., Kreps S. Drone warfare. New York: John Wiley & Sons Publ., 2014.

23. Krishnan A. Killer robots. Legality and ethicality of autonomous weapons. London: Routledge, 2009. DOI: 10.4324/9781315591070.

24. Leveringhaus A. Ethics and autonomous weapons. London: Palgrave Pivot, 2016. DOI: 10.1057/978-1-137-52361-7_2.

25. Margulies P. The other side of autonomous weapons: Using artifi cial intelligence to enhance IHL compliance // Legal Studies Paper. 2018. No. 182.

26. Perritt H., Sprague E. Domesticating drones: The technology, law, and economics of unmanned aircraft. London: Routledge, 2016. DOI: 10.4324/9781315577999.

27. Sparrow R. Killer robots // Journal of Applied Philosophy. 2007. Vol. 24. No. 1. P. 62‒77. DOI: 10.1111/j.1468-5930.2007.00346.x.

28. Suchman L.A. Situational awareness and adherence to the principle of distinction as a necessary condition for lawful autonomy // Lethal autonomous weapons systems: Technology, defi nition, ethics, law & security / Ed. by R. Geiss, H. Lahmann. Berlin: German Federal Foreign Offi ce, 2016. P. 273‒283.

29. Tamburrini G. On banning autonomous weapons systems: From deontological to wide consequentialist reasons // Autonomous weapons systems: Law, ethics, policy / Ed. by N. Bhuta, S. Beck. Cambridge: Cambridge University Press, 2016. P. 122–142. DOI: 10.1017/CBO9781316597873.