Регулирование искусственного интеллекта - Исследовательский центр проблем регулирования робототехники и искусственного интеллекта (АНО "Робоправо")

Исследовательский центр проблем регулирования робототехники и
         искусственного интеллекта (АНО «Робоправо»)

  Регулирование искусственного
          интеллекта
        или самый серьезный вызов в истории права

Регулирование искусственного интеллекта?!

                    Три вопроса ИИ
1. Что: объект регулирования - что такое ИИ?
2. Зачем: причины для принятия мер регулирования - нужно ли это
   регулировать?
3. Как: направления, методы и формы регулирования - как это регулировать?

Что регулировать

Что регулировать
ИИ – мультифункциональное междисциплинарное понятие,
содержание которого зависит от контекста и области
применения технологии.

 «Сильный» ИИ             «Слабый» ИИ
 («общий» =               («узкий» = «прикладной»):
 «голливудский» =         - Робототехника
 «полный»=                - Транспорт
 «универсальный»)         - Финтех
                          - Лигалтех
                          - Голосовые помощники
                          и т.д.

                          ГОСТ Р ИСО 8373-2014
                          П.2.28 разумный робот; робот с элементами
                          искусственного интеллекта
                          (intelligent robot): Робот (2.6), выполняющий
                          работу путем считывания данных из
                          окружающей среды, взаимодействия с
                          внешними источниками и адаптации своего
                          поведения.

Зачем регулировать
                   Регулирование «сильного ИИ»:
                      - экзистенциальные риски
 - социальные, экономические, политические и культурные последствия

                  Регулирование «прикладного ИИ»:
                       практические проблемы

-наличие отраслевых правовых проблем в действующем регулировании в
связи с применением технологий ИИ;
-принципиальное отсутствие регулирования общественных отношений;
-стремление целенаправленно воздействовать на процесс развития
технологий.

Как регулировать
                    Регулирование «сильного ИИ»
Азиломарские принципы искусственного интеллекта, 2017
Этические законы робототехники

                 Регулирование «прикладного ИИ»
Реактивное: высокочастотный трейдинг, высокоавтоматизированные ТС
Проактивное: предложение о регулировании разумных роботов
Парламентом ЕС («Нормы гражданского права о робототехнике»),
управляемые медицинские импланты.

                Поддержка развития технологии ИИ
План развития технологий искусственного интеллекта нового
поколения , Китай, 2017
Закон о содействии развитию и распространению умных роботов, Корея,
2008

                 Создание препятствий развитию ИИ
Опыт прошлого: автомобили; ГМО; криптовалюты; клонирование человека,
ядерная энергетика. В сфере ИИ: агрегаторы такси.

Четыре уровня регулирования
(1) Частная инициатива и исследовательские институты

(2) Саморегулирование в отрасли:

(3) Национальное регулирование, примеры

(4) Наднациональное регулирование

Частная инициатива
 The Future of Life Institute: биотехнологии, климат, ядерное оружие и ИИ
 как фундаментальные угрозы человечеству.
 Результат – Азиломарские принципы ИИ 2017 (3500 подписантов)

Machine Intelligence Research
Institute (MIRI), ex. Singularity Institute

Future of Humanity Institute (Ник Бостром)

Эксперты отрасли: Райан Кало,
Элиезер Юдковски, Рэй Курцвейл,
Себастьян Трун, Стив Омохундро и
т.д.

Саморегулирование

 + Этические правила и принципы

Национальное регулирование
   Китай «План развития технологий искусственного интеллекта нового
                       поколения» (июль 2017)
                                             2020
- Китайские разработки ИИ - конкурентоспособные в международной среде
- Создана базовая инфраструктура развития, цепочки поставок и т.д.
- Объем рынка не менее 150 миллиардов юаней ($ 22 миллиарда), смежные рынки не менее 1
триллиона юаней ($ 150 миллиардов).
- В некоторые отраслях ИИ приняты законы и этические нормы
                                            2025
- Большой прорыв в технологиях ИИ.
- ИИ является основной движущей силой экономики Китая.
- Повсеместное использование технологий: умные города, cельское хозяйство, оборона,
медицина.
- Индустрия – 400 миллиардов ($ 61 миллиард). Смежные – 5 триллионов ($ 760 миллиардов).
- Первоначальное создание законов, регулирующих сферу ИИ, а также правил, этических норм и
системной политики в данной области. Формирование системы безопасности искусственного
интеллекта, оценка рисков и управления ими
                                            2030
-Технологии ИИ являются ведущими в мире.
- Китай – крупнейший инновационный центр, крупнейшая умная экономика, крупнейшая
площадка для подготовки кадров.
- Индустрия – 1 триллион ($ 150 миллиардов), смежные рынки – 10 триллионов ($ 1,5
триллиона).
- Формирование ряда ведущих центров разработки искусственного интеллекта.
- Совершенствование политики и законодательства в этой сфере.

Национальное регулирование
-   Проведение исследований по правовым вопросам: ответственность,
    конфиденциальность, информационная безопасность, интеллектуальная
    собственность и т.д.

-   Фокус на автопилотируемых ТС, сервисных роботах, стандартах безопасности.

-   Создание этического кодекса.

-   Международное сотрудничество в области создания нормативных актов.

-   Система мониторинга безопасности ИИ.

-   Динамическая система оценки рисков и последствий внедрения ИИ.

-   Создание отдельного ведомства в структуре министерства науки, которое будет
    заниматься ИИ.

Национальное регулирование
           All-Party Parliamentary Group on AI (январь 2017).

Цель – изучить влияние и последствия внедрения технологий ИИ, а также
способствовать регулированию.

Некоторые задачи по итогам обсуждений:
- внимательно проанализировать существую правовую базу и изменить
   ее
- разработать «Хартию об информации», определить этические границы
   использования информации компаниями
- создать информационную платформу о данных, используемых ИИ
- определить основные направления регулирования: отраслевое
   регулирование (медицина, образование, общественная безопасность,
   промышленность); справедливое распределение блага; переобучение
   работников; информация

Основная рекомендация по итогам 15 мероприятий: создать должность
министра по ИИ в Правительстве.
Вместе с ним: дорожную карту развития ИИ; аппарат; совет по ИИ.

Наднациональное регулирование
            Европейское агентство по робототехнике и ИИ
(Резолюция Европарламент «Нормы гражданского права о робототехнике»)

                       Орган под эгидой ООН

Модельная конвенция о
                робототехнике и ИИ
           ПРАВИЛА РАЗРАБОТКИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Статья 30. Ответственное отношение
Разработчики, исследователи и лица, финансирующие исследования в сфере
искусственного интеллекта, а также в смежных областях, обязаны учитывать
общественные настроения и не вправе пренебрегать тем мнением, что
технологии искусственного интеллекта могут иметь необратимые для
человечества последствия и нести в себе экзистенциальные риски.

Статья 31. Презумпция опасности искусственного интеллекта
Разработчики, исследователи и лица, финансирующие исследования в сфере
искусственного интеллекта, а также в смежных областях, должны исходить из
презумпции опасности искусственного интеллекта, подразумевая, что созданная
или создаваемая технология искусственного интеллекта является опасной для
человека, пока не доказано иного.

Статья 32. Осознанное взаимодействие
Любое взаимодействие человека с искусственным интеллектом не должно
осуществляться без информирования и согласия человека.

Исследовательский центр проблем регулирования робототехники и искусственного
                              интеллекта (АНО)

                     Подробнее о нас: www.robopravo.ru

                  Спасибо за внимание!

О центре

Что делает Центр:

-   подготовка проектов нормативных актов
-   привлечение экспертов
-   изучение зарубежного опыта
-   переводы и издательская деятельность
-   популяризация робототехники

АНО «Робоправо» и его эксперты:

•   Участники Рабочей группы Государственной Думы РФ по регулированию
    робототехники и технологий ИИ
•   Члены Экспертного совета Государственной Думы РФ по цифровой экономике и
    блокчейн технологии
•   Участники ТРГ «Киберфизические системы» , «Антимонопольное регулирование»,
    «Интеллектуальная собственность» программы «Цифровая экономика»
•   АНО Робоправо – соисполнитель по мероприятиям плана «Нормативное
    регулирование» Цифровой экономики
•   Участники соглашений о партнерстве с Национальной ассоциацией участников
    рынка робототехники, с крупнейшей мировой юридической фирмой Dentons.

О центре
Созданы:

•   проект закона о разумных роботах (2016)
•   проект модельной конвенции о робототехнике и ИИ (2017)
•   концепции регулирования робототехники, ИИ и киберфизических систем (2017 - )
•   проекты законодательства о регулировании беспилотного транспорта (2017-)
•   отчет по результатам исследования о подходах к регулированию роботов, ИИ и КФС в
    рамках программы «Цифровая экономика»

Переведены и опубликованы:

•   Резолюция Европарламента «Нормы гражданского права о робототехнике», 2017
•   Закон Южной Кореи »О содействии развитию и распространению умных роботов», 2008
•   «Азиломарские принципы искусственного интеллекта», 2017
•   Обзор «Плана развития технологий искусственного интеллекта нового поколения»,
    Китай
•   Закон Эстонии «О роботах-курьерах», 2017
•   Закон Германии «О высокоавтоматизированном транспорте», 2017

Подготовлены: научные работы, несколько десятков статей
и комментариев по теме регулирования робототехники и ИИ.

Выпускается дайджест новостей регулирования
робототехники и искусственного интеллекта