Обзор панельной дискуссии "беспилотные автомобили: моральные вызовы и правовое регулирование" (3 декабря 2018 года)

Комаров С.В., Столбова Н.В., Незнамов А.В., Чудинов О.Р., Файнбург Г.З. Обзор панельной дискуссии «Беспилотные автомобили: моральные вызовы и правовое регулирование» (3 декабря 2018 года) // Технологос. - 2019. - № 2. -С. 52-67. DOI: 10.15593/perm.kipf/2019.2.05

Komarov S.V., Stolbova N.V., Neznamov A.V., Chudinov O.R., Faynburg G.Z. Review of the Panel Discussion "Self-driving Cars: Moral Challenges and Legal Regulation" (December 3, 2018). Technologos, 2019, no. 2, pp. 52-67. DOI: 10.15593/perm.kipf/2019.2.05

Б01: 10.15593/регш.к1рГ/2019.2.05 УДК 656.13-519

ОБЗОР ПАНЕЛЬНОЙ ДИСКУССИИ «БЕСПИЛОТНЫЕ АВТОМОБИЛИ: МОРАЛЬНЫЕ ВЫЗОВЫ И ПРАВОВОЕ РЕГУЛИРОВАНИЕ» (3 ДЕКАБРЯ 2018 ГОДА)*

С.В. Комаров1, Н.В. Столбова1, А.В. Незнамов2, О.Р. Чудинов1, Г.З. Файнбург1

О СТАТЬЕ

АННОТАЦИЯ

Получена: 11 января 2019 г. Принята: 13 мая 2019 г. Опубликована: 28 июня 2019 г.

беспилотный автомобиль, высокоавтоматизированный автомобиль, «проблема вагонетки», системы искусственного интеллекта, «пронизывающие» технологии, социальный контекст техники, правовое регулирование, ответственность, опасности и риски, безопасность.

Данная статья представляет собой обзор панельной дискуссии «Беспилотные автомобили: моральные вызовы и правовое регулирование», которая проходила в Пермском национальном исследовательском политехническом университете 3 декабря 2018 года. В дискуссии участвовали специалисты (философы, юристы, инженеры и др.) из Германии и России. Также в обсуждении участвовали и студенты ПНИПУ. В ходе дискуссии обсуждались проблемы формирования социальных практик, позволяющих внедрить в жизнь (социум) беспилотные автомобили. Изначально был представлен опыт Германии: в контексте социальной оценки техники об этом опыте рассказал А. Грунвальд. Речь шла об общественных дебатах в Германии 2014-2015 годов (в центре которых стояла знаменитая «проблема вагонетки»), работе Этической комиссии, выработанных комиссией рекомендаций, начале дебатов уже на уровне политической системы. После выступления развернулась дискуссия, которая фактически являлась реакцией на позицию А. Грунвальда. Философы рассмотрели ряд вопросов: современный технологический пессимизм в контексте социальной оценки техники, современное состояние технологий, характеризующееся слитностью технологий с социальными практиками; метафизика искусственного интеллекта; необходимость перехода от спекулятивных рисков к практикам работы с технологиями. Юристы говорили о становлении правового регулирования ответственности за создание новой техники на примере правовой системы Германии, а также современном состоянии правового регулирования сферы высокоавтоматизированного вождения в мире и в России в частности. Специалист по безопасности продемонстрировал современные подходы к безопасности эксплуатации техники и показал значимость того факта, что любые социальные практики, как бы детально ни разрабатывались, во многом детерминированы экономическим базисом. Фактически реальные риски от спекулятивных отличаются тем, что принятие реальных рисков - есть результат понимания превышения пользы беспилотного автомобиля над причиненным этим использованием вредом (и соответствующими суммами страховых выплат).

© ПНИПУ

Комаров Сергей Викторович - доктор философских наук, профессор кафедры философии и права, ORCID: https://orcid.org/0000-0001-7358-6151, e-mail: philos.perm@gmail.com.

Столбова Наталья Викторовна - кандидат философских наук, доцент кафедры философии и права, ORCID: https://orcid.org/0000-0002-6103-367X, e-mail: pilthekid@mail.ru.

Незнамов Андрей Владимирович - кандидат юридических наук, руководитель, старший научный сотрудник, ORCID: https://orcid.org/0000-0003-2880-7394, e-mail: alegista@mail.ru.

Чудинов Олег Ревокатович - доцент кафедры философии и права, ORCID: https://orcid.org/0000-0002-2738-2358, e-mail: oleg.chudinow@yandex.ru. Файнбург Григорий Захарович - доктор технических наук, профессор, заслуженный работник высшей школы Российской Федерации, директор Института безопасности труда, производства и человека, ORCID: https://orcid.org/0000-0001-8004-1969, e-mail: faynburg@mail.ru.

Sergey V. Komarov - PhD, Full Professor, Department of Philosophy and Law, ORCID: https://orcid.org/0000-0001-7358-6151. e-mail: philos.perm@gmail.com. Natalya V. Stolbova - PhD, Associate Professor, Department of Philosophy and Law, ORCID: https://orcid.org/0000-0002-6103-367X, e-mail: pilthekid@mail.ru. Andrey V. Neznamov - PhD, Head of Robolaw Project, Senior Researcher, ORCID: https://orcid.org/0000-0003-2880-7394, e-mail: alegista@mail.ru.

Oleg R. Chudinov - Associate Professor, Department of Philosophy and Law, ORCID: https://orcid.org/0000-0002-2738-2358, e-mail: oleg.chudinow@yandex.ru.

Grigoriy Z. Faynburg - PhD, Full Professor, Director of Institute for Safety Health, Honored Worker of the Higher Education of the Russian Federation, ORCID: https://orcid.org/0000-0001-8004-1969, e-mail: faynburg@mail.ru.

•Работа выполнена в рамках гранта РФФИ № 18-29-16015, выделенного для проведения комплексного исследования правовых и этических аспектов разработки и применения систем искусственного интеллекта и робототехники.

л. Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International

(ccj w CS? License (CC BY-NC 4.0)

^^^HI^HH^H This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)

REVIEW OF THE PANEL DISCUSSION "SELF-DRIVING CARS: MORAL CHALLENGES AND LEGAL REGULATION" (DECEMBER 3, 2018)

Sergey V. Komarov1, Natalya V. Stolbova1, Andrey V. Neznamov2, Oleg R. Chudinov1, Grigoriy Z. Faynburg1

ARTICLE INFO

ABSTRACT

Received: 11 January 2019 Accepted: 13 May 2019 Published: 28 June 2019

Self-driving car, highlyautomated motor car, trolley problem, system of artificial intelligence, "penetrating" technologies, social context of technology, legal regulation, responsibility, dangers and risks, security

This article represents there view of the panel discussion "Self-driving Cars: Moral Challenges and Legal Regulation" which was held in Perm National Research Polytechnic University on the 3d of December, 2018. Such professionals as philosophers, legal experts, engineers, etc., as well as students of PNRPU took part in that discussion. The problems of forming social practices which makes possible to introduce unpiloted motor cars in social community were discussed. Initially the experience of Germany was presented: A. Grunvald told about this experience in the context of technology assessment (description of social German debates in 2014/2015 in the center of which it was the well-known trolley problem, the work of the Ethic commission, recommendations drawn by commission, the beginning of debates was at the level of political system). After his speech the discussion which was in fact the reaction to A. Grunvald position developed. Philosophers presented: the sense of technological pessimism in the context of technology assessment (TA), the modern condition of technology characterized by the unity of technologies and social practices; metaphysics of artificial intelligence; the necessity of speculative risks transfer to the practices of the work with technologies. Legal experts described formation of the legal regulation of responsibility for the creation of the new technologies by the example of the German legal system as well as the modern condition of the legal regulation in the sphere of highly automated driving in the world and in Russia in particular. Expert in security demonstrated the modern approaches to the operational safety and showed the importance of financial base of any social practice. Actually, real risks differ from speculative ones by the fact that the adoption of real risks is the result of understanding the exceeded advantage of unpiloted motor car compared with the damage of its use (and the amount of the insurance pay out).

© PNRPU

После основного доклада состоялась дискуссия, участниками которой стали философы, юристы, инженеры и студенты ПНИПУ и представители других организаций Москвы и Перми. В ходе дискуссии были выделены несколько проблемных узлов, которые, собственно, мы и рассмотрим в данном обзоре. Их можно разделить на три группы:

автомобиль в свете социальной оценки техники // Технологос. - 2019. - № 2. - С. 41-51.

С.В. Комаров. 1. Смысл технического пессимизма. Первое положение, из которого исходит А. Грунвальд, - это положение о безальтернативности техники для человечества. Это положение является первым не только для данного доклада, но и для доминирующего умонастроения. Мы настолько зависим от развития современных технических устройств, а наши города от технической инфраструктуры, наш образ жизни настолько связан с использованием различных технических устройств и гаджетов, что сегодня помыслить мир без техники совершенно невозможно. Можно сказать: не столько мы владеем техникой, сколько она нами, не столько люди создают и используют ее, сколько она создает и формирует людей под свои стандарты. Не техника «вручена» нам, а мы «вручены» технике. Достаточно вспомнить известные технические катастрофы, связанные с энергетическими локаутами в Москве и Нью-Йорке в конце нулевых годов. Разом были обесточены огромные районы города, прекратил движение электротранспорт, была нарушена мобильная связь, дали сбои системы жизнеобеспечения города и т.п. Жизнь людей в огромном мегаполисе была парализована и отброшена на две или три ступеньки цивилизационного развития. Последний пример показывает, что при всем критическом отношении к техническому прогрессу, техническом пессимизме и техническом алармизме отказаться от техники невозможно. Рассуждения о войне машин и людей, о контроле машин над людьми - свидетельство необратимости технического развития. Техника -это судьба современного человечества.

Создание искусственного интеллекта (беспилотные автомобили, обучающиеся машины, дополнительная реальность и т.п.) подтверждает этот, в общем-то, тривиальный вывод. Однако безальтернативность технического развития отнюдь не означает его автоматизма; весь вопрос в том, как осуществляется это развитие, кто и что остается под контролем. Вопрос именно в том, чтобы понять, что технологии существуют для людей, а не люди для технологий. Это значит, что основной вопрос технического развития заключается отнюдь не в возможностях технологий, а в возможности людей понимать самих себя, понимать, что им нужно, в чем их благо. Собственно, из этого исходит А. Грунвальд в своем докладе, когда сосредотачивается именно на философии и этике искусственного интеллекта, на ценностях, которые определяют развитие техники.

Здесь открывается нам смысл технического пессимизма. Его суть не в истерической реакции, связанной со страхом перед неуправляемым развитием техники, войной машин, контролем искусственного интеллекта над людьми, вытеснением разумного начала перед машинным Молохом и т.д. Можно видеть в техническом пессимизме романтическую ностальгию по утраченному миру теплых человеческих чувств и непосредственных личных отношений между людьми. Утраченное гармоничное отношение к пасторальной Природе. Отсутствие отчуждения в механизированном мире производства и рынка. Отрицание репрессивного или авторитарного характера. Можно видеть в нем неприкрытость бытия, а техне понимать как нераскрывшуюся форму пойэ-сиса. Все это неоднократно обсуждалось в различных философиях техники. Но все эти версии означают непонимание сути технического пессимизма. Мы можем продолжать модернизацию наших технических систем с помощью искусственного интеллекта (здесь и далее - ИИ) и приведем их в автоматическое состояние, когда действительно могут наступить фатальные последствия для человека, но изначально негативное отношение к этому не спасет нас.

Суть и смысл технического пессимизма в том, что он задает позицию бдительности. Это не алармистская, негативная и отрицательная установка к развитию техники и ИИ. Запретить создание техники нельзя, отменить ее развитие невозможно, ностальгировать и предаваться негативной критике вообще бесполезно. Если мы не можем отказаться от техники, то мы должны понять, что опасность не в негативных сторонах технологий, а в самодовольстве и попустительстве со стороны человека, который не замечает их или - вот обратная сторона романтизма - не хочет замечать. Конструктивная и позитивная роль технического пессимизма в том, чтобы участвовать в создании техники в качестве внутренней критической и этической функции ее развития. Трезвая позиция технического пессимизма заключается в выполнении этой функции: участвуя в создании, разработке и развитии технологии, выделять критические точки этого развития не с точки зрения «технической разрешимости», а с точки зрения социальной и этической разрешимости технологии. Надо исходить из того, что мы ожидаем от технологий, а не что технологии ожидают от нас (А. Грунвальд).

Однако отличие современной интеллектуальной техники заключается в ее системном характере. Можно заменить человеческую руку механическим протезом-инструментом, некоторые функции человеческого мозга - компьютером, работу мозга и глаза заменить оптико-механической системой, подключенной к компьютеру. Но функционирование ИИ требует не замены некоторых функций или органов, а глобальной трансформации всей инфраструктуры жизни человека.

Так, создание и эксплуатация беспилотных автомобилей решается не созданием таких устройств как таковых, но требует трансформации городской транспортной сети, системы заправок и парковок, «разведения» дорог для автомобилей с водителями и беспилотных автомобилей, изменения системы дорожных знаков и дорожной разметки, что связано с изменением режима работы службы дорожного контроля и полиции. Мнение, что это должно быть включено в единую систему контроля дорожного движения, управляемого общим искусственным суперинтеллектом, предполагает, что каждый автомобиль должен быть подключен к этой системе, а также системе навигации GPS. Работа такой системы должна быть согласована с другой инфраструктурой, связанной с поддержанием нормального функционирования городского хозяйства, поскольку любые ремонтные работы городского водопровода, перекладка электрических сетей, строительные и ремонтные работы зданий и сооружений будут важным фактором, влияющим на характер, ритм и маршруты движения беспилотников. Использование беспилотных автомобилей требует также создания системы сервисных пунктов по обслуживанию и ремонту беспилотников, что включает в себя не только собственно создание этих пунктов, но и подготовку персонала, его обучение, создание логистических цепочек по доставке запчастей и т.д. Наконец, все эти трансформации должны быть демократически одобрены обществом, приняты потребителями и бизнес-сообществом. Все эти изменения включают в себя трансформацию отношений власти и управления городским хозяйством.

Можно дальше перечислять изменения в инфраструктуре эксплуатации беспилотных автомобилей (или других интеллектуальных систем). Основным выводом будет следующий: системный характер ИИ заключается в том, что его функционирование требует создания инфраструктуры, которая обладает следующими характеристиками. Во-первых, системы ИИ не работают без соответствующей инфраструктуры, элементом которой они являются (самолеты пятого поколения управляются не столько летчиком, сколько всей системой навигации, диспетчирования, наземного контроля за работой бортовых систем, и т. п.). Во-вторых, эта инфраструктура ИИ отнюдь не является сама искусственным интеллектом. В-третьих, функционирование этой инфраструктуры зависит от совсем других систем деятельности, связанных с ее обеспечением: обучением персонала, развитием команд, созданием экспертных сообществ, изучением общественного мнения, выстраиванием связей между властью и обществом, властью и бизнесом и т.д. В-пятых, создание и эксплуатация ИИ и его инфраструктуры связано с решением множества не технических, не технологических, не градостроительных и подобных инженерных проблем, но с решением множества этических и правовых проблем. Кто ответит за аварию, совершенную беспилотным автомобилем? Как относиться к потере множеством людей своих рабочих мест в связи с применением ИИ? Как относиться к новому «луддизму» или угрозе демократии? Все эти проблемы должны быть осмыслены еще на стадии проектирования. Наконец, в-шестых, это цена решения данной проблемы, то есть экономические, инвестиционные вопросы, которые возникают в связи с созданием систем с ИИ.

Таким образом, дело не в последствиях применения ИИ для социума, а в том, что его создание не является сугубо инженерной задачей. В отличие от техники предыдущего поколения его создание уже на первом этапе включает в себя решение не технических, а социальных и этических проблем, которые и определяют требования к собственно инженерному решению. Создание систем ИИ - это не инженерная, а междисциплинарная задача. Она требует конфигурации технических, этических, градостроительных, логистических, экономических, градостроительных, социологических знаний, знаний в области менеджмента и этики и др. Она требует иных форм проектной работы, отличных от привычных форм инженерной деятельности. Но самое главное - она требует иных форм мышления.

Рассуждая о правах роботов и проблеме ответственности, А. Грунвальд говорит, что германское законодательство в этом вопросе опирается на этику Канта. Именно Кант разделил легальные и моральные поступки, именно он придал окончательно рациональный характер этике. Очень сомнительно, что немецкое законодательство действительно в вопросе

о правах роботов опирается на кантовскую этику (скорее для этого больше подходит операциональная этика Дж. Мура). Но в речи А. Грунвальда более важно замечание, что рациональная этика - это этика человека. Вот здесь и возникает отнюдь не праздный вопрос: а как при этом понимается сам разум?

Кант, определяя свою этику, исходил из допущения, что она имеет всеобщий характер для «всякого разумного существа». Однако для него признаком разумности обладает не только человек, признаком человека является скорее воображение. Это общее место для всей новоевропейской традиции мышления: разумность понимается не как антропологическая характеристика, а как характеристика самосознания. Иначе говоря, неявно допускается, что существуют и другие разумные существа (например, ангелы и Бог), а разум в человеке проявляет себя в самосознании и мотивированной им воле. Иначе говоря, когда мы отдаем отчет в своих мыслях и поступках, мы становимся субъектами разума. Понятие «субъекта» в классической метафизике напрямую связано с состоянием самосознания и ответственности.

Вот тут и возникает ключевой вопрос, который в современных технологических дискуссиях об искусственном интеллекте только воспроизводится. Это вопрос о «субъективности» машин. Опасения, что машины путем развития интеллекта установят власть над людьми, подчинив их себе, опираются именно на это важнейшее допущение классической метафизики, что разум, создающий другой разум, должен быть всеохватывающим: Бог не может создать существо «умнее» его самого. Однако Декарт в своей философии формулирует доказательство бытия Бога следующим образом: временность сознания предполагает интеллект бесконечно больший наличного. Иначе говоря, может существовать разум, который больше разума того, кто проектирует и создает ИИ. Все предпосылки создания самообучающегося искусственного интеллекта как раз и опираются на такое неявное допущение. Тем не менее Декарт говорит, что если нечто ясно и отчетливо продумано, то тем самым мыслится само существующее, и это положение таково, что даже Бог теперь не может его изменить (не будем углубляться в сугубо философские аргументы этого положения). Это значит, что хотя эмпирически человеческий интеллект и меньше божественного по своей интенсивности, он является также интеллектом, только конечным. И другого интеллекта быть не может. Это подтверждает Лейбниц: мы мыслим, когда действительно мыслим, так, как мыслит сам Бог (верховный интеллект). Это же утверждает и Кант: разум есть свойство всякого интеллектуального существа. Но таковыми мы, люди, являемся только тогда, когда ясно и отчетливо мыслим и подчиняем такому мышлению волю.

Вот в этом вся и проблема: мы не можем быть полностью сознательными существами. Дело не в том, что скорость наших мыслительных операций меньше, чем скорость ИИ - это не так; в этом направлении и движется создание биологического компьютера. Дело не в том, что проектировщик при создании ИИ должен знать все его будущие виртуальные состояния -это просто невозможно и бессмысленно, поскольку подрывает саму идею самообучения ИИ. Дело в том, что наш разум не может быть всеохватывающим. Поэтому А. Грунвальд и выдвигает этическое требование, согласно которому искусственный интеллект должен быть по крайней мере таким же хорошим, как люди.

Это означает с философской точки зрения, что если мы проектируем ИИ так, как мы понимаем себя, то искусственный интеллект и будет таким, каковы мы сами. Если мы ответственные, сознательные и бдительные существа, он будет таким же, если мы безответственны и самодовольны, то и искусственный интеллект будет вести себя аналогичным образом. ИИ обладает большей интенсивностью работы и большей мощностью, чем наше мышление, но он той же природы.

Н.В. Столбова. Возьмем обычную шариковую ручку. Это - технический объект. Мы можем ее представить в любой точке пространства, подбросить вверх, поймать, делать при ее помощи какие-либо записи или же использовать в качестве указки и т.д. Или возьмем шапку Мономаха. Это тоже технический объект. Он уникальный, в отличие от ручки, но такой же автономный. Автономные технические объекты представляют собой первый уровень организации техники. Для их описания хорошо подходит концепция органопроекции, предложенная Э. Каппом. Следующий уровень организации технических объектов - системы. Например, конвейер Г. Форда. Где он расположен? На заводе Форда. Он находится внутри заводского помещения. Но речь идет уже не об уникальных автономных объектах, а об их взаимосвязи, об их системной организации. Именно взаимосвязь (а не сам объект) становится ключевой для интерпретации техники. Современные же технические объекты недостаточно понимать и в качестве систем. Интернет, спутниковая связь, электроэнергия - назовем их «пронизывающими» технологиями - невозможно рассматривать, как говорит А. Грунвальд (и на чем сделал акцент Сергей Владимирович Комаров), в отрыве от общества, они вплетены в нашу жизнь. Не будем останавливаться на описании социального контекста техники (об этом говорил предыдущий докладчик), а сконцентрируемся на двух интересных последствиях такого подхода. Во-первых, внедрение таких технологий - это эксперимент2, который проводится в реальном времени над всем обществом и всегда недостаточно нормирован. Выработать приемлемые практики сосуществования с новыми технологиями - одна из первостепенных задач человека, живущего в условиях современной техногенной цивилизации. Создание технологий одновременно и становится созданием социальных практик приемлемого вплетения технологий в жизнь. Второе последствие тесно связано с первым. С позиции А. Грунвальда, чем многообразнее привлеченное к дебатам о технологиях экспертное сообщество, чем большее количество разнообразных социальных групп участвует, тем полнее оценка техники, тем эффективнее можно поставить научно-технический прогресс в рамочные условия и тем корректнее сформированы социальные практики внедрения технологий. Соответственно, в наибольшей степени значимы те дебаты о технологиях, которые привлекают как можно больше заинтересованных сторон. Дебаты вокруг беспилотных автомобилей, бесспорно, относятся именно к таким, ведь в отличие от специализированных машин (например, роботов-манипуляторов, использующихся на заводах) беспилотный автомобиль встраивается на уровне повседневной жизни, его присутствие и соседство актуально для каждого человека вне зависимости от профессии или принадлежности к какой-либо социальной группе. Назовем такие дебаты, охватывающие фактически все общество, «дебаты-маркеры». Это обосновывает актуальность обсуждения именно беспилотных автомобилей. Поэтому закономерным является созданная MIT платформа Moral Machine, позволяющая каждому желающему пройти тест, включающий 13 ситуаций с неизбежными авариями (варианты «дилеммы вагонетки»), и сделать свой моральный выбор. Охват респондентов со всего мира оказался просто огромным - 492 921 пользователь. Что позволило исследователям провести тщательный анализ ожиданий общества относительно беспилотных автомобилей3. Однако опираться на мнение общественности недостаточно. С общественностью необходимо постоянно работать, учитывать ее мнения, открыто обсуждать не спекулятивные, а реальные риски внедрения технологии (ведь реальные риски может оценить только специалист) и тем самым превращать технологии в «нормальные» [3]. Тем более сама по себе обсуждаемая «проблема вагонетки» носит спекулятивный характер. Какова вероят2 В контексте социальной оценки техники описание внедрения технологий как эксперимента см. в [1].

ность, что в реальности машине придется решать именно такую дилемму? Она ничтожно мала. С другой же стороны, путь от спекуляции к реальности достаточно труден, беспилотным автомобилям еще предстоит его пройти. И «проблему вагонетки» в разнообразных ее вариантах обойти невозможно. Как нормируется моральная «дилемма вагонетки» сегодня, когда автомобилем управляет человек? Фактически, никак. Это вопрос случайности, удачи, даже божественной милости, если в момент решения конкретный водитель сможет среагировать оптимально. Эта сфера человеческих действий подобна черному ящику. Еще Норберт Винер в работе «Творец и робот» писал, что содержание религии напоминает «запертую гостиную фермерского дома Новой Англии, с опущенными шторами» или «моральный эквивалент неаполитанского катафалка - той великолепной черной кареты» [4]. То, что происходит внутри, скрыто от взора, виден только результат, желанный или не желанный. «Проблема вагонетки» указывает на эту пустоту, которую немыслимо оставить таковой при внедрении беспилотных автомобилей. Сегодня задача, которая стоит перед обществом, заключается во всесторонней выработке практик использования беспилотников.

А.В. Незнамов. Технологии автоматизации вождения автомобильного транспорта активно развиваются уже давно. Как следствие постепенно стало формироваться и первое регулирование [5]. Это прежде всего касается тех стран, где традиционно сильна автомобильная промышленность. В Германии в середине 2017 года изменили ПДД [6] для того, чтобы открыть путь на дороги общего пользования для высокоавтоматизированных машин. Они должны быть оснащены специальным черным ящиком, а ответственность за причинение вреда для таких авто удвоена. Однако водителю официально разрешено отвлекаться от управления машиной - он лишь должен сохранять «достаточную внимательность», чтобы взять управление на себя, если этого потребует система (или если того потребует дорожная обстановка).

К 2017 году законодательство, разрешающее тестирование беспилотного транспорта, было принято и в тех странах, где своя автопромышленность отсутствует. В Норвегии Закон «Об испытаниях высокоавтоматизированных автотранспортных средств» вступил в силу с 1 января 2018 года [7]. Закон позволяет проводить испытание машин с любой степенью автоматизации на дорогах общего пользования. Это распространяется даже на те случаи, когда водителя в машине вообще нет.

Обсуждения идут и на международном уровне. Уже на протяжении нескольких лет в ООН ведутся работы по созданию руководства для государства о порядке регулирования высокоавтоматизированного транспорта [8].

В России первый акт регулирования инновационного колесного транспорта появился с большим опозданием. Лишь 26 ноября 2018 года было подписано Постановление Правительства РФ «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств» [9].

Основные положения данного нормативного акта заключаются в следующем:

• С 1 декабря 2018 по 1 марта 2022 года будет проходить правовой эксперимент, когда высокоавтоматизированные автомобили смогут двигаться по дорогам общего пользования наравне с другими участниками движения.

• Эксперимент будет проходить на территории г. Москвы и Республики Татарстан.

• На дороги общего пользования смогут быть допущены автомобили, в которые внесены конструктивные изменения, связанные с их оснащением автоматизированной системой вождения.

• Для получения разрешения на тестирование автомобиля заявитель должен обратиться в специальный научный центр «НАМИ».

• Если заключение «НАМИ» положительное, МВД зарегистрирует внесенные в машину конструктивные изменения и сделает об этом специальную отметку в свидетельстве о регистрации ТС. В дальнейшем такую машину нельзя будет продавать, а эксплуатироваться она сможет только на территории проведения эксперимента.

• Разрешение сможет получить только юридическое лицо, а ответственность за причинение вреда каждым автомобилем должна быть застрахована на 10 миллионов рублей.

• Водители таких автомобилей должны иметь стаж три года, а в их биографии не должно быть факта лишения прав.

• Для получения разрешения нужно предоставить видеозаписи испытаний автомобиля с полигона, а также программу эксперимента, руководство для водителя и специальную декларацию о безопасности ТС.

• Сам автомобиль должен быть серьезно дооснащен. Помимо собственно систем автоматического вождения в нем должны быть системы видеозаписи действий водителя и дорожной обстановки; кнопка активации / деактивации системы автоматического вождения и «черный ящик», а также знак «автономное управление»

• Полная ответственность за все происшествия (кроме тех, что произошли по вине других участников) возложена на собственника автомобиля.

Таким образом, первый акт регулирования в России появился. Стал ли он своевременным? К сожалению, нет.

В 2018 году компанией КРМО был составлен своеобразный рейтинг стран по готовности к внедрению технологий беспилотного транспорта [10]. В нем были ранжированы 20 государств. За основу были взяты такие критерии, как наличие специального регулирования, степень развития технологий, наличие инфраструктуры и восприятие высокоавтоматизированного транспорта потребителями. Победили Нидерланды, на втором месте Сингапур, на третьем - США. Лидер рейтинга разрешил тестирование в 2015 году, а в 2017-м эксперимент был расширен даже на те машины, где водителя нет внутри [11]. Россия в этом рейтинге занимает 18-е место, опередив лишь Мексику и Индию. По критерию развитости технологий наша страна заняла последнее место.

Рейтинг был составлен без учета принятого Постановления. Однако оно, как кажется, не откроет дорогу беспилотникам. Следует выделить два наиболее критических недостатка. Первый - это необоснованное сужение тестируемых типов высокоавтоматизированных автомобилей. Согласно Постановлению, тестируемые ТС должны управляться водителем, который находится во время проведения эксперимента на месте водителя. А сам смысл получения разрешения заключается в согласовании с НАМИ и МВД внесения изменений в конструкцию, по сути, обычного серийного автомобиля. Между тем в сферу действия Постановления не попали машины, изначально создаваемыми как беспилотные. Такие автомобили уже создают некоторые производители ^аушо, КАМАЗ, ТеБ1а, Аврора Роботикс). По сути, Постановление исключает возможность тестирования подавляющего большинство видов ТС, которые объективно в наибольшей степени нуждаются в особенном экспериментальном регулировании. В частности, беспилотные шаттлы и другие автомобили, изначально создаваемые как беспилотные. Второй недостаток - территория и срок эксперимента. Для тестирования выбраны регионы с самым, пожалуй, лучшим качеством дорожного покрытия в стране. Более того, Москва и Татарстан не имеют серьезных отличий с точки зрения климата или рельефа. Представляется, что невозможно уверенно полагаться на результаты такого тестирования, выпуская потом машины на дороги общего пользования в других городах России.

Как следствие в 2022 году, когда первый отечественный эксперимент закончится, будет юбилей: пять лет, как в ведущих странах действует законодательство о широком тестировании любых видов беспилотных колесных ТС. Более того, почти наверняка в мире к этому моменту будет не менее десятка стран с полноценными законодательством о беспилотных автомобилях. Поэтому, хотя задача минимум выполнена, проблема технологического отставания правовыми средствами отнюдь не решена.

Чудинов О.Р. Хотелось бы обратиться к вопросу об ответственности инженеров, творцов технических чудес за созданные ими новинки, который уже не первый раз ставится на встречах, посвященных обсуждению социальной оценки техники в нашем вузе. Общий тренд предыдущих встреч был задан, на наш взгляд, одной из фраз постоянного участника профессора А. Грунвальда о том, что «усиливающаяся техническая мощь человека, растущая глубина технической интервенции в природу и общество... неразрывно связаны с возрастающей ролью человеческой ответственности» [12, с.13]. Однако, как ни странно, впервые была затронута проблема правовой регламентации ответственности за создание новых объектов техники, осуществляющих эту интервенцию. Излишне напоминать о важности определения именно правовой ответственности, конечно, не только автора открытия, изобретателя, коллектива разработчиков, но особенно и в первую очередь тех, кто будет создавать, производить эти технические новинки для массового использования человеком. Немаловажен вопрос и об ответственности пользователя этих технических новинок. Соглашаясь в целом с важностью морально-этических ограничений творчества человека, отметим, что только право в его позитивном значении, и исключительно право, позволит привлечь к реальной ответственности за искалеченные жизни и утраченное здоровье, за утрату физических и имущественных возможностей, за гибель или повреждение имущества.

Обращение к опыту немецкого права в связи с этим не случайно. В праве ФРГ, на наш взгляд, разработана и действует лучшая модель юридической ответственности за вред,