Развитие законодательства о робототехнике и киберфизических системах
←
→
Транскрипция содержимого страницы
Если ваш браузер не отображает страницу правильно, пожалуйста, читайте содержимое страницы ниже
Развитие законодательства о робототехнике и киберфизических системах Презентация отчета по результатам исследования* 25/09/2018 * Исследование проведено ООО «Дентонс Юроп» в соответствии с пунктом 01.02.001.004.001 Плана мероприятий по направлению «Нормативное регулирование» программы «Цифровая экономика Российской Федерации». Исследование выполнено авторским коллективом в мае – июле 2018 года.
Общая информация по отчету
01 03 05
БОЛЕЕ 300 СТРАНИЦ
8 АВТОРОВ И
ОТЧЕТА
3 ЭКСПЕРТА
3 МЕСЯЦА
ИССЛЕДОВАНИЙ 264 ИСТОЧНИКА
50 ЮРИСДИКЦИЙ
02 04
25/09/2018 2
Структура отчета РАЗДЕЛ I. Основные подходы к регулированию в иностранных юрисдикциях РАЗДЕЛ II. Правовые аспекты развития КФС Эксперт-консультант Сергей Сарбаш, д.ю.н., профессор, Исследовательский центр Частного права им. С.С. Алексеева при Президенте РФ РАЗДЕЛ III. Развитие КФС в контексте государственного регулирования Эксперт-консультант Эксперт-консультант Альберт Ефимов Алиса Конюховская руководитель Лаборатории вице-президент Национальной робототехники Сбербанка, Ассоциации участников основатель Skolkovo Robotics рынка робототехники 25/09/2018 3
Аналоги
В то время как в некоторых зарубежных странах уже были проведены исследования правовой проблематики развития КФС,
в России подобное исследование было проведено впервые
Европейское исследование Анализ применения
«Руководство по регулированию автотранспортных средств 4 и 5
робототехники» (2014) уровня автоматизации (2017)
Самое фундаментальное правовое исследование. Несмотря на узкую формулировку названия, в отчете
Исследование рассматривает вопросы регулирования широко исследованы вопросы робототехники и ИИ в
отдельных видов роботов и КФС (от транспортных целом. Отчет является базой для создания
средств до хирургических роботов и роботизированных специального закона о робототехнике и внесения
протезов). изменений в законодательство Эстонии.
Исследование проводилось с марта 2012 года Исследование проводилось с ноября 2016 года по
по сентябрь 2014 в рамках проекта «Робоправо» октябрь 2017 по инициативе Министерства экономики и
Связи и Управления Правительства
20 10
2,5 года 1 год
юристов экспертов
25/09/2018 4
Раздел I. Основные подходы к регулированию в иностранных юрисдикциях 25/09/2018 5
Регулирование робототехники в целом
В ряде зарубежных стран* уже разработано либо активно обсуждается регулирование сферы робототехники и ИИ.
*
Южная Корея 2008 Франция 2013
Великобритания 2014 Эстония 2017
Япония 2013 ОАЭ 2017
Германия 2014 Тайвань 2018
США 2009 Сингапур 2017
Нидерланды 2012 Китай 2015
Новая Зеландия 2018 Канада 2017
25/09/2018 6
Регулирование отдельных разновидностей КФС
Беспилотный транспорт
США (в т.ч. 33 штата)
Канада
Великобритания
Германия
Дания
Норвегия
Швеция
Финляндия
Китай
Япония
Сингапур
Австралия
Нидерланды
25/09/2018 7
Цели регулирования робототехники
РАЗВИТИЕ РОБОТОТЕХНИКИ И ИИ В ЦЕЛОМ
Принимаются разнообразные концепции, стратегии, дорожные
карты направленные
РАЗВИТИЕ ПРЕДМЕТНЫХ ОТРАСЛЕЙ
Определяются ключевые сферы промышленности, являющиеся
наиболее перспективными с точки зрения развития
робототехники. Например, медицина, беспилотный транспорт.
СОЗДАНИЕ МАКСИМАЛЬНО БЛАГОПРИЯТНЫХ
УСЛОВИЙ ДЛЯ ИННОВАЦИЙ И ИССЛЕДОВАНИЙ
Определяются планы финансирования проектов в сфере
робототехники. Интенсифицируется разработка технических
стандартов, в том числе, международных. Учреждаются
государственные институты, деятельность которых
ориентирована на развитие сферы робототехники.
ВНЕДРЕНИЕ ПРОГРАММ ГОСУДАРСТВЕННОЙ
ПОДДЕРЖКИ
Финансирование отрасли промышленного производства
робототехники, например, предоставление субсидий. Снижение
налоговой нагрузки. Создание особых зон тестирования.
25/09/2018 8
Характерные подходы к регулированию робототехники
Европейский Союз Южная Корея
ОСНОВЫ ПОЛИТИКИ КОМПЛЕКСНЫЙ ЗАКОН
Дорожная карта развития робототехники в Европе Закон о развитии и распространении умных роботов
01 01 - ключевой источник правового регулирования, и
«Robotics 2020» (без детализированной
регламентации) базовой концепция. В Законе, в том числе,
определены специальные условия для робототех-
нических компаний, создание специализированных
КОМПЛЕКСНЫЙ ПОДХОД К РЕГУЛИРОВАНИЮ институтов и мер гос поддержки производителей.
02 Определены, в том числе, принципы
робототехники, подходы к проблеме ответствен-
ности, предложения о системе регистрации «умных ЭТИЧЕСКИЕ СТАНДАРТЫ
роботов», этический кодекс и т.д. 02 В Корейском уставе этических норм для роботов
закреплены, в том числе, следующие принципы:
Основа этики робота – стремление к совместному
УКРЕПЛЕНИЕ МЕЖГОСУДАРСТВЕННОГО процветанию человека и машины
03 СОТРУДНИЧЕСТВА Робот не должен наносить ущерб человеку
Подписана Декларация о сотрудничестве в области Не допускается незаконный оборот роботов
ИИ, цель которой заключается в повышении потен- Должен быть обеспечен контроль за
циала Европы в области ИИ, решение социально- соблюдением правил этики по отношению к
экономических проблем. роботам со стороны Правительства
25/09/2018 9
Характерные подходы к регулированию робототехники
Китай
КОНЦЕПЦИЯ РЕГУЛИРОВАНИЯ СКЛАДЫВАЕТСЯ ИЗ ЦЕЛОГО РЯДА ДОКУМЕНТОВ
1 Глобальная гос программа развития «Сделано в Китае 2025».
2 13-й пятилетний план развития на 2016-2020 гг.
ОБЩЕГОСУДАРСТВЕННЫЙ
Руководство о содействии производству УРОВЕНЬ
3 промышленных роботов 2014 г.
4 План развития робототехнической отрасли 2016 г.
5 План развития технологий ИИ нового поколения.
6 Местные программы развития, принятые в Шанхае и Гуанчжоу ЛОКАЛЬНЫЙ УРОВЕНЬ
25/09/2018 10Подход отдельных штатов США к регулированию беспилотных ТС
Не требуется получать лицензий, разрешений
Исключено требование о том, что управление
беспилотными ТС возможно только в целях
тестирования
Допускается управление беспилотными ТС на
дорогах общего пользования при наличии
действительных водительских прав
КАЛИФОРНИЯ Иные требования схожи с регулированием
Калифорнии (например, в части системы
оповещения)
Необходимо разрешение для тестирования. Для его
получения необходимо доказать следующее:
возможность переключиться на ручное управление
визуальный индикатор автономного режима
ФЛОРИДА
управления
система оповещения водителя об отказе
автономного режима управления (должна либо
потребовать взять управление под свой контроль,
либо ТС должно само полностью остановиться)
соответствие федеральным стандартам
безопасности ТС
наличие «черного ящика»
25/09/2018 11Раздел II. Правовые аспекты развития КФС 25/09/2018 12
Стратегия регулирования робототехники и ИИ
Четыре уровня внутригосударственного регуляторного воздействия
Государственная программа (концепция) развития ПРИМЕРЫ КОНЦЕПЦИЙ
01 технологий робототехники и ИИ Multi-Annual Roadmap (ЕС)
Индустрия 4.0. (Германия)
Инициативы Франции в
Основы законодательства о киберфизических сфере робототехники
02 системах Новая стратегия развития
робототехники (Япония)
03 Пакетные изменения законов
04 Пакетные изменения подзаконных актов
25/09/2018 13Этика и искусственный интеллект
Позиции по вопросам этики и ИИ отражены КЛЮЧЕВЫЕ ЭТИЧЕСКИЕ ПРИНЦИПЫ
в рекомендациях, хартиях, сводах норм, стандартах,
разрабатываемых, преимущественно, по инициативе
ученых, разработчиков, предпринимателей, экспертов. Соблюдение роботами общепринятой
этики и принципов морали
Базовые документы:
1. Азиломарские принципы ИИ (2017)
Защита от причинения роботами вреда
2. Стандарты Института инженеров электротехники людям и окружающей среде
и электроники (IEEE) (2017)
3. Свод этических норм для робомобилей в Германии
(2017) Учет влияния ИИ на благосостояние
людей (с т.з. производительности труда
4. Корейский устав этических норм для роботов (2007) и экономического роста)
Любая дифференциация людей по
личным характеристикам (возраст, пол,
физическое, психическое состояние)
недопустима
25/09/2018 14Основные понятия, используемые в сфере робототехники
КФС Робот ИИ
Система Механизм Программа / Алгоритм
Наличие информационной Имеет физическое начало Способность анализировать
(вычислительной, окружающую среду
коммуникационной) Искусственность
(не является жизнью Есть некоторая степень
составляющей
с биологической точки зрения) автономности в реализации
Интегрированность алгоритма
в физический компонент Минимальная степень
автономности действий Способность к самообучению
Наличие «интеллектуальности»,
то есть способности «мыслить
или действовать как человек»
25/09/2018 15Направления правовой дискуссии о правовом положении КФС
Основные подходы
КФС
ОБЪЕКТ ПРАВА СУБЪЕКТ /
КВАЗИ-СУБЪЕКТ ПРАВА
Специальный вид Робот
1 вещей как животное 1
Агент,
Робот как
действующий от
юридическое лицо
2 своего имени или
или электронное 2
от имени
лицо (агент)
владельца
Единственное
имущество ЮЛ,
Робот как
3 созданное
человек 3
владельцем
робота
25/09/2018 16Базовые принципы, требующие первоочередной регламентации
ПРИНЦИП БЕЗОПАСНОСТИ И ПРИОРИТЕТА РОБОТ КАК ПОМОЩНИК ЧЕЛОВЕКА,
БЕЗОПАСНОСТИ РОБОТОВ А НЕ ЕГО ЗАМЕНА
При создании роботов цель обеспечения безопасности Технологии должны разрабатываться для целей
человека всегда должна превалировать над всеми иными дополнения возможностей человека, а не его замены
целями и задачами
ПРАВИЛО ПРЕДОСТОРОЖНОСТИ ВОЗМОЖНОСТЬ ОСУЩЕСТВЛЕНИЯ КОНТРОЛЯ
Прогнозирование влияния разработок на уровень РОБОТА ЧЕЛОВЕКОМ
безопасности.
ЗАПРЕТ НА ПРИЧИНЕНИЕ ВРЕДА ПО ИНИЦИАТИВЕ ВОЗМОЖНОСТЬ ОТМЕНЫ ДЕЙСТВИЯ
РОБОТОВ Возможность отменить последнее совершенное
По общему правилу не допускается создание роботов, действие или последовательность действий для целей
способных по собственной инициативе целенаправленно восстановления нормального хода работы
причинять вред человеку
ПРАВИЛО МИНИМАЛЬНОГО ВРЕДА ПРОЕКТИРУЕМАЯ КОНФИДЕНЦИАЛЬНОСТЬ
И МАКСИМАЛЬНОЙ ПОЛЬЗЫ (PRIVACY BY DESIGN)
Достижение максимальной пользы на всех стадиях Необходимо для предотвращения нарушения
работы исследователей – от момента проведения неприкосновенности частной жизни и раскрытия
исследований, до этапа распространения персональных данных
25/09/2018 17Направления правовой дискуссии об ответственности за действия роботов
ОСВОБОЖДЕНИЕ ОТ ОТВЕТСТВЕННОСТИ ЗА ДЕЙСТВИЯ РОБОТА
01 Например, со ссылкой на обстоятельства непреодолимой силы (в случае полностью автономных роботов); либо
При выплате пострадавшим компенсации через институты страхования или компенсационные резервные фонды
БЕЗВИНОВНАЯ ОТВЕТСТВЕННОСТЬ
Полноценная – определенное лицо (например, производитель) по общему правилу несет ответственность
02 Ограниченная – условием ограничения ответственности может быть страхование рисков, пополнение
компенсационного резервного фонда и т.д.
ОТВЕТСТВЕННОСТЬ В ЗАВИСИМОСТИ ОТ ВИНЫ СУБЪЕКТА
Например, если ущерб вызван дефектом конструкции робота – ответственности несет производитель;
03 ПО – разработчик
СМЕШАННЫЙ РЕЖИМ
04 Разные режимы ответственности для разных роботов
ОТВЕТСТВЕННОСТЬ НЕСЕТ РОБОТ
05 Применимо в случае наделения робота правосубъектностью
25/09/2018 18Характерные подходы к системе страхования
Мо=
Обязательное страхование
Страхование ущерба
рисков
ЕС Швеция
Предусмотрено страхование рисков Страхование ущерба, а не
потенциального причинения вреда ответственности. Потерпевший гаран-
роботами. тированно получает компенсацию от
страховщика.
Отчисления производятся в
специальный компенсационный Стоимость страхования оплачивает
фонд (общий или специализирован- потерпевший. Оплата происходит за
ный для каждой категории роботов). счет системы социального
страхования.
Средства фонда используются, когда
страховка не может покрыть Нет необходимости определять, кто
нанесенный вред. несет ответственность за несчастный
случай. Однако страховщик может
Возможно частичное освобождение
попытаться вернуть расходы путем
от ответственности, при условии
регрессного требования.
внесения средств в фонд.
25/09/2018 19Рекомендации
Комплексная регламентация сферы Модернизация системы страхования рисков
1 робототехники и КФС, включая: 4 использования КФС. В том числе, уточнение
наднациональное регулирование положений действующего законодательства,
стратегию развития отрасли создание компенсационного фонда.
основы законодательства отрасли
отраслевые законы и подзаконные Разработка системы обязательного
акты
5 страхования ответственности за действия /
Формулирование базовых принципов бездействие определенных категорий
2 создания, ввода в эксплуатацию, роботов.
использованию и обороту роботов и КФС:
(по сфере использования, силе и степени
Ответственность может возлагаться на
риска, этапу «жизненного цикла»). 6 продавца или изготовителя КФС в рамках
солидарной ответственности
Гармонизация построения КФС с
3 законодательством о персональных
данных и оборотом конфиденциальной Квалификация КФС как субъекта права
информации. Распространение 7 возможна по аналогии с юридическим
принципов обработки персональных лицом. Иные обоснования правосубъект-
данных на обработку и сбор ности КФС возможны лишь на объективно
персональных данных роботами и КФС. высоких уровнях развития ИИ.
25/09/2018 20Раздел III. Регуляторные аспекты развития КФС 25/09/2018 21
Инструменты регулирования
Основные подходы
Механизмы государственного регулирования в сфере робототехники и КФС только формируются во всем мире. С
одной стороны это позволяет беспрепятственно разрабатывать и использовать КФС. С другой стороны остаются
открытыми вопросы безопасности, ответственности, охраны общественного порядка, защиты прав потребителей.
СТАНДАРТИЗАЦИЯ ЛИЦЕНЗИРОВАНИЕ И СЕРТИФИКАЦИЯ
Целый ряд стандартов уже разработаны Применяется для отдельных категорий
ISO. Европейская программа Robotics 2020 КФС (в т.ч. беспилотных автомобилей).
основывается на стандартах ISO, В отдельных странах требуется для
директивах. эксплуатации и тестирования.
РЕГИСТРАЦИЯ И УЧЕТ КОНТРОЛЬ / НАДЗОР
Система регистрации и учета не разрабо- Разработаны нормы, разграничивающие
тана. На сегодня предложена на уровне компетенцию гос органов по вопросам
Резолюции ЕС 2015/2103 (INL) контроля сферы робототехники (Южная
Корея). В ОАЭ и Китае созданы специальные
надзорные органы.
25/09/2018 22Рекомендации
Рекомендовано предпринять следующие меры:
Разработка дорожной карты
(стратегии)
Создание Центра робототехники Создание специализированного
федерального органа
Создание территорий развития Налоговые льготы
робототехники
Финансирование исследований Разработка этических норм
Разделение роботов и ИИ Внедрение в госуправление
Мониторинг состояния Поддержка специалистов в сфере
робототехнической отрасли робототехники
Популяризация робототехники
25/09/2018 23Авторский коллектив
Андрей Незнамов Виктор Наумов
Руководитель и соавтор Куратор и соавтор исследования
исследования
Управляющий партнер санкт-
Cоветник Dentons, Руководитель петербургского офиса Dentons,
Исследовательского центра руководитель российской практики
проблем регулирования в области ИС, ИТ и
робототехники и ИИ (АНО телекоммуникаций, к.ю.н.
«Робоправо»), к.ю.н.
victor.naumov@dentons.com
andrey.neznamov@dentons.com
Dentons – крупнейшая в мире юридическая фирма*, предоставляющая полный спектр юридических услуг. Dentons входит в
число лидеров рейтинга ведущих юридических брендов мира, составленный Acritas, получила награду BTI Client Service 30
Award, а также – высокую оценку деловых и юридических изданий за инновации, включая создание Nextlaw Labs и Nextlaw
Global Referral Network. Dentons предоставляет юридические услуги российским и иностранным компаниям, банкам и другим
финансовым институтам, фондам прямых инвестиций, государственным предприятиям и некоммерческим организациям.
www.dentons.com
* 2016 The American Lawyer – Рейтинг 100 международных юридических фирм по количеству юристов (Global 100).
© 2018 Dentons. Dentons – международная юридическая фирма, предоставляющая услуги клиентам по всему миру через свои и аффилированные офисы. Содержание данной публикации не является
юридической консультацией и не может служить основанием для осуществления каких-либо действий или отказа от действий. Более подробная информация представлена в разделе «Правовая
информация» на сайте dentons.com
25/09/2018 24Авторский коллектив
Владислав Архипов Василий Бакуменко Александр Волынец
К.ю.н., советник, юрист, Dentons помощник юриста,
Dentons Dentons
Екатерина Тытюк Ксения Смирнова Екатерина
Побрызгаева
помощник юриста, помощник юриста,
Dentons Dentons помощник юриста,
Dentons
© 2018 Dentons. Dentons – международная юридическая фирма, предоставляющая услуги клиентам по всему миру через свои и аффилированные офисы. Содержание данной публикации не является
юридической консультацией и не может служить основанием для осуществления каких-либо действий или отказа от действий. Более подробная информация представлена в разделе «Правовая
информация» на сайте dentons.com
25/09/2018 25Вы также можете почитать
