Образец для цитирования:
Амелин Р. В., Бессонов Л. В., Комкова Г. Н., Чаннов С. Е. Концептуальный подход к классификации и сертификации роботов и сложных автоматизированных информационных систем // Изв. Сарат. ун-та. Нов. сер. Сер. Экономика. Управление. Право. 2022. Т. 22, вып. 4. С. 413-423. DOI: https://doi.org/10.18500/1994-2540-2022-22-4-413-423
Концептуальный подход к классификации и сертификации роботов и сложных автоматизированных информационных систем
Введение. С развитием и распространением роботов, систем искусственного интеллекта и сложных автоматизированных информационных систем связана проблема причинения вреда их решениями и действиями, а также проблема юридической ответственности за этот вред. Теоретический анализ. Одной из основных функций юридической ответственности является общая и частная превенция. В применении к роботам она требует их перепрограммирования, переобучения или ликвидации. Таким образом, с проблемой юридической ответственности автономных и временами непредсказуемых программно-технических механизмов напрямую связан экзистенциальный вопрос о возможности, формах и условиях их существования. Системная правовая конструкция, направленная на обеспечение безопасности и предсказуемости при создании и эксплуатации роботов может быть построена на основе классифицирующего стандарта, причем с каждым классом будут связаны определенные формы и модели ответственности. Эмпирический анализ. Основой правовой классификации роботов и сложных автоматизированных информационных систем будут являться угрозы, связанные с причинением вреда в результате их самопроизвольных действий и решений, соотнесенные с формами юридической ответственности. Могут быть выделены угрозы: причинения смерти человека; неправомерного изменения правового статуса субъекта; причинения материального вреда; нарушения личных неимущественных прав лица; информации или иному имуществу владельца (пользователя), не связанная с причинением вреда третьим лицам; угроза противоправного поведения роботов. Результаты. Предложена классификация роботов и сложных автоматизированных систем, а также подходы к юридической ответственности и обеспечению безопасности для каждого класса, указаны направления перспективной разработки правовых и технических стандартов, необходимых для обеспечения данной классификации и сертификации.
- Yeung K. Responsibility and AI, Council of Europe Study DGI, 2019. URL: https://rm.coe.int/responsability-andai-en/168097d9c5 (дата обращения: 15.08.2022).
- Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 69–89.
- Михалева Е. С., Шубина Е. А. Проблемы и перспективы правового регулирования робототехники // Актуальные проблемы российского права. 2019. № 12. С. 26–35. https://doi.org/10.17803/1994-1471.2019.109.12.026-035
- Russell S. J., Norvig P. Artifi cial Intelligence: A Modern Approach. Malaysia : Pearson Education Limited, 2016. 1152 p.
- Scherer M. U. Regulating Artifi cial Intelligence Systems: Risks Challenges Competencies and Strategies // Harvard Journal of Law & Technology. 2016. Vol. 29, № 2. P. 354–400. http://dx.doi.org/10.2139/ssrn.2609777
- Бегишев И. Р. Пределы уголовно-правового регулирования робототехники // Вестник СанктПетербургского университета. Право. 2021. № 3. С. 529–530. https://doi.org/10.21638/spbu14.2021.303
- Шубинский И. Б. Функциональная надежность информационных систем. Методы анализа. М. : Журнал «Надежность», 2012. 296 с.
- Mitchell C. Bad software sent postal workers to jail, because no one wanted to admit it could be wrong // The Verge, 2021. URL: https://www.theverge.com/2021/4/23/22399721/uk-post-office-software-bug-criminalconvictions-overturned (дата обращения: 15.08.2022).
- Алиева Ф. Студентов СПбГУ отчислили за «отвод глаз от монитора» во время онлайл-экзамена. «Списывание» зафиксировала программа // Сноб, 2021. URL: https://snob.ru/news/studentov-spbgu-otchisliliza-otvod-glaz-ot-monitora-vo-vremya-onlajl-ekzamenaspisyvanie-zafiksirovala-programma/ (дата обращения: 15.08.2022).
- Проблемы и вызовы цифрового общества: тенденции развития правового регулирования цифровых трансформаций : в 2 т. / под ред. Н. Н. Ковалёвой. Т. 2. Саратов : Изд-во Саратовской гос. юрид. акад., 2020. 202 с.
- European Commission, Directorate-General for Justice and Consumers, Liability for artifi cial intelligence and other emerging digital technologies, Publications Offi ce, 2019. https://data.europa.eu/doi/10.2838/573689
- Чиркин В. Е. Юридическое лицо публичного права. М. : Норма, 2007. 352 с.
- Грачева Ю. В., Арямов А. А. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности // Актуальные проблемы российского права. 2020. Т. 15, № 6. С. 169–178. https://doi.org/10.17803/1994-1471.2020.115.6.169-178
- Карлаш Д. С. Право роботов: метафизические и социально-экономические аспекты // Предпринимательское право. Приложение «Право и Бизнес». 2018. № 4. С. 9–15.
- Пономарева Е. В. Субъекты и квазисубъекты права: теоретико-правовые проблемы разграничения : дис. … канд. юрид. наук. Екатеринбург, 2019. 208 с.
- Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А. В. Незнамова. М. : Инфотропик Медиа, 2018. 232 с.
- Головизнин А. В. Деликтная ответственность в случаях применения роботов // Вестник Уральского юридического института МВД России. 2022. № 2. С. 82–88.
- Луценко С. Имплементация института искусственного интеллекта в российское законодательство // Цифровая экономика, 2002. URL: http://digital-economy.ru/images/easyblog_articles/802/impl24324.pdf (дата обращения: 15.08.2022).
- Дэгерг М. Ответственность без вины и социализация рисков во французском праве // Lex Russica. 2016. № 1. С. 51–58.
- P8_TA(2017)0051 Civil Law Rules on Robotics, European Parliament (2014–2019). URL: https://www.eu-roparl.europa.eu/doceo/document/TA-8-2017-0051_EN.pdf (дата обращения: 15.08.2022).
- Алексеев С. С. Проблемы теории права: курс лекций : в 2 т. Т. 1. М. : Юридическая литература, 1982. 359 с.
- Васильев А. А., Васильева О. В., Ибрагимов Ж. И. «Закон Гришина» и право ЕС о робототехнике и искусственном интеллекте: сравнительный анализ // Проблемы правовой и технической защиты информации. 2019. № 7. С. 64–70.
- Авдашева С. В., Крючкова П. В. Система технического регулирования в Российской Федерации: формирование, возможное и ожидаемое воздействие на конкуренцию и конкурентоспособность. М. : Гос. ун-т «ВШЭ», 2009. 68 с. (Препринт / НИУ ВШЭ WP1/2009/04) (Серия WP1. Институциональные проблемы российской экономики).
- О техническом регулировании : федер. закон от 27.12.2002 № 184-ФЗ (ред. от 02.07.2021) // Собр. законодательства Рос. Федерации. 2002. № 52 (ч. 1), ст. 5140.
- Сухостат В. В., Васильева И. Н. Основы информационной безопасности : учеб. пособие. СПб. : Изд-во СПбГЭУ, 2019. 104 с.
- M.A. Mortenson Company, Inc. (Petitioner), v. Timberline software corporation and Softworks Data Systems, Inc., Respondents // FindLaw. URL: https://caselaw.findlaw.com/wa-supreme-court/1409490.html (дата обращения: 15.08.2022).
- Бегишев И. Р. Размышления о проекте Федерального закона «Об обороте роботов, их составных частей (модулей)» // Право и цифровая экономика. 2021. № 2. С. 379–390.