Доклады Российской академии наук. Математика, информатика, процессы управления, 2022, T. 508, № 1, стр. 73-78

1. ВВЕДЕНИЕ

Эффективное и динамичное развитие новых технологий, искусственного интеллекта – одна из первостепенных задач отдельно взятых стран и всего мирового сообщества. Кто сегодня займет лидерские позиции в сфере искусственного интеллекта и новых технологий в целом, тот получит глобальное лидерство на мировой арене.

Вместе с тем безопасное развитие искусственного интеллекта и новых технологий в целом просто невозможно представить без грамотно выстроенной системы регулирования. Современное регулирование как национальное, так и наднациональное значительно отстает от темпов развития искусственного интеллекта. На первом месте стоит выработка подхода, который поможет технологии продолжать развиваться, не сбавляя темпов, а с другой стороны, сможет защитить человека. Практически в каждой национальной стратегии развития искусственного интеллекта отмечаются важность и необходимость построения взвешенной системы регулирования, которая помогла бы ликвидировать или же минимизировать существующие регуляторные барьеры без вреда и с учетом прав человека.

В настоящей статье предлагаем рассмотреть основные и самые интересные подходы к регулированию международных организаций на основании материала, представленного в книге “Глобальный атлас регулирования искусственного интеллекта. Восточный вектор” [1].

В данной работе были рассмотрены опыт 31 юрисдикции и 16 международных организаций в сфере искусственного интеллекта. В процессе подготовки было изучено более 500 нормативных документов разных стран и рассмотрено более 1200 источников в совокупности.

2. ОСОБЕННОСТИ МЕЖДУНАРОДНОГО РЕГУЛИРОВАНИЯ (ОПЫТ МЕЖДУНАРОДНЫХ ОРГАНИЗАЦИЙ)

При рассмотрении вопроса регулирования искусственного интеллекта следует в первую очередь обратиться к деятельности, проводимой Советом Европы в отношении выработки единого подхода к регулированию. Формирование подходов к регулированию в Совете Европы занимается Специальный комитет Совета Европы по ИИ (CAHAI). Именно в полномочия CAHAI входит создание юридически обязывающего документа. Такой юридически обязывающий документ должен по итогу включать в себя общие принципы и конкретные правовые нормы, которые могли бы далее сопровождаться дополнительными отраслевыми документами [2 ] . Создаваемый документ должен быть направлен на предотвращение и/или снижение рисков, связанных с применением систем ИИ, которые потенциально могут помешать соблюдению прав человека, функционированию демократии и соблюдению верховенства закона, одновременно продвигая социально полезные приложения ИИ. Аналогичный подход к регулированию искусственного интеллекта отражен в подходе Европейского Союза, который будет рассмотрен далее. В 2022 г. Специальный (т.е. временный) комитет по ИИ (CAHAI) был трансформирован в постоянный комитет по ИИ (CAI). Его дальнейшая работа будет во многом основана на материалах, которые были подготовлены Специальным комитетом.

В 2019 г. 22 мая ОЭСР, объединяющая 36 стран, и шесть стран-партнеров (Аргентина, Бразилия, Колумбия, Коста-Рика, Перу и Румыния) договорились при разработке ИИ придерживаться общих стандартов, гарантирующих надежность, безопасность ИИ-систем. В этом же году страны утвердили первые принципы работы с технологиями ИИ на межправительственном уровне “Руководящие принципы ИИ ОЭСР” (OECD AI Principles) [3]. Принципы ИИ были представлены в составе документа “Рекомендации Совета ОЭСР по правовым инструментам ИИ” (Recommendation of the Council on OECD Legal Instruments Artificial Intelligence) [4]. Главная цель Руководящих принципов – способствовать эффективному развитию технологий ИИ, содействовать правительствам государств, разработчикам и частным лицам в этичной разработке и применении технологий ИИ. Руководящие принципы ИИ впервые закрепили 5 главных рекомендаций в отношении создания этичного и недискриминационного ИИ:

• ИИ должен служить людям и планете, повышать недискриминационный рост, устойчивое социально-экономическое развитие;

• технологии ИИ должны разрабатываться с учетом требований применимого законодательства, обеспечения и защиты прав человека, демократических ценностей и многообразия;

• работа ИИ должна быть прозрачной и понятной для людей;

• технологии ИИ должны работать надежно и безопасно в течение всего жизненного цикла; такие технологии должны постоянно оцениваться на предмет потенциального риска причинения вреда человеку;

• организации и люди, которые разрабатывают, внедряют, управляют технологии ИИ, должны нести ответственность за адекватное и точное функционирование таких технологий.

Данными принципами в своей деятельности руководствуются многие страны и международные организации. Например, Глобальное партнерство по ИИ (GPAI) (The Global Partnership on Artificial Intelligence (GPAI)) [5], которое является инициативой разработанной в рамках G7, свою деятельность основывают на “Руководящих принципах ИИ ОЭСР”.

В 2021 г. в рамках 41-й сессии Генеральной конференции Организации Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) 193 страны пришли к консенсусу относительно общих принципов этики ИИ и приняли исторический документ – первое глобальное соглашение по этике ИИ. Текст Рекомендаций по этике ИИ получился достаточно объемным и включает в себя 141 пункт. Стоит отметить, что в среднем корпоративные этические документы в сфере ИИ сформулированы в виде 5–7 конкретных принципов, а например, один из первых международных документов – Рекомендации Совета ОЭСР по ИИ [6] – имеет чуть больше 20 пунктов. Одна из главных целей Рекомендации – предоставить универсальную базу принципов, которыми государства могли бы руководствоваться при формулировании своего законодательства. Можно выделить следующие принципы: соразмерность и непричинение вреда; безопасность и защищенность; справедливость и недискриминация; устойчивость; неприкосновенность частной жизни и защита данных; подконтрольность и подчиненность человеку; прозрачность и объяснимость; ответственность и подотчетность; осведомленность и грамотность; многостороннее и адаптивное управление и взаимодействие.

Россия была одной из активных участниц процесса разработки Рекомендации по этике ИИ (Recommendation on the Ethics of Artificial Intelligence) [7] и инициировала обсуждения целого ряда вопросов в этой сфере.

Рассмотренные документы Совета Европы, ОЭСР, ЮНЕСКО не являются исчерпывающими. БРИКС, СНГ, ШОС, АТЭС, G7, G20, B20 сегодня находятся на пути к созданию унифицированного подхода к модельному регулированию ИИ. Так, ШОС и СНГ уже активно обсуждают проекты документов по регулированию ИИ в соответствующих регионах. Отраслевые международные организации, такие как ОБСЕ, ВОИС, ВОЗ, МОТ, также подсвечивают вопросы регулирования ИИ в своих стратегических документах.

3. ОСОБЕННОСТИ РЕГУЛИРОВАНИЯ ОТДЕЛЬНЫХ ЮРИСДИКЦИЙ

В исследовательской работе были предложены унифицированные критерии анализа юрисдикций.

Стратегическое планирование – то, к чему стремятся все страны без исключений. Согласно информации представленной на OECD.AI (платформа посвящена инновациям в сфере ИИ и опирается на Рекомендации Совета ОЭСР по правовым инструментам ИИ, как на международный стандарт в области ИИ) более 80% стран мира сегодня разработали/разрабатывают стратегические инициативы в сфере ИИ или цифровизации. Такие документы покрывают стратегический подход к разработке и внедрению ИИ во всех отраслях экономики, определяют план влияния ИИ на повышения ВВП страны и т.д. Например, в России в 2019 г. была принята Национальная стратегия развития ИИ на период до 2030 г., утвержденная Указом Президента РФ от 10 октября 2019 г. № 490 “О развитии ИИ в Российской Федерации” [8], а ориентиры для нормотворчества закреплены в Концепции развития регулирования отношений в сфере технологий ИИ и робототехники на период до 2024 г. [9], утвержденной Распоряжением Правительства РФ от 19 августа 2020 г. № 2129-р “Об утверждении Концепции развития регулирования отношений в сфере технологий ИИ и робототехники на период до 2024 г.”, которая выстраивает определенное видение дальнейшей правовой судьбы технологии. В Китае (КНР) же еще в 2017 г. был опубликован План по развитию ИИ нового поколения (New Generation Artificial Intelligence Development Plan) [10]. С тех пор руководство КНР стало рассматривать ИИ как приоритетную и “стратегическую технологию, которая станет локомотивом новой научно-промышленной революции”. План по развитию ИИ нового поколения излагает руководящие принципы развития ИИ в Китае до 2030 г. Кроме того, такие провинции КНР, как Гонконг, Тайвань также имеют свои стратегические инициативы по развитию ИИ в регионе.

Для реализации стратегических задач в сфере ИИ создаются национальные и наднациональные ассоциации/альянсы в сфере ИИ. Так, например, в России существует Альянс в сфере ИИ, а в Нидерландах Альянс ИИ (Alliance for Artificial Intelligence) и Голландская ассоциация ИИ и правам роботов (Dutch Association for AI and Robot Rights, NVAIR) и т.д. Самые крупные наднациональные партнерства являются участниками Глобального Партнерства по ИИ (Global Partnership on AI) и The Partnership on AI.

С позиции общего регулирования наиболее интересным представляется опыт Канады и Европейского Союза. Так, в ЕС 21 апреля 2021 г. Европейская комиссия представила проект Закона об ИИ (AI ACT) [11]. Проект Закона фокусируется на риск-ориентированном подходе к ИИ и на устранении рисков, связанных с конкретным использованием ИИ, с разделением их на 4 различных уровня: неприемлемый риск, высокий риск, ограниченный риск и минимальный риск [12].

Канада, в свою очередь, стала одной из первых стран мира, которая предложила принять универсальный закон, посвященный ИИ: Закон об искусственном интеллекте и данных “the Artificial Intelligence and Data Act, AIDA” [13]. Данный закон является частью сборника законопроектов о реализации цифровой хартии 2022 (the Digital Charter Implementation Act 2022 (Bill C-27) [14]. Помимо AIDA в сборник законопроектов вошли: Закон о защите конфиденциальности потребителей (Consumer Privacy Protection Act), который вносит реформу в сферу защиты персональных данных, Закон о трибунале по защите личной информации и данных (Personal Information and Data Protection Tribunal). AIDA устанавливает общеканадские требования к проектированию, разработке, использованию и интеграции систем ИИ. AIDA может иметь экстерриториальное распространение, в случае если компоненты глобальных систем ИИ используются, разрабатываются, проектируются или управляются в Канаде.

Учитывая тот факт, что максимально эффективное обучение моделей зависит от доступа к данным у разработчиков ИИ-решений, то очень важно обеспечить безопасное регулирование доступа к данным.

Каждая страна сегодня стремится создать эффективные, актуальные открытые порталы данных, так называемые единые государственные датасеты для разработчиков ИИ-решений. Некоторые страны даже определяют уровни доступа к государственным датасетам: открытые, с ограниченным доступом (которые включают в себя критичные данные), закрытые. Такой подход, например, определен в ЕС. Регулирование данных ЕС самое обширное и состоит из следующих документов, помимо GDPR: Стратегия по данным 2020 (A European strategy for data) [15], Директива об открытых данных (Directive on open data and the re-use of public sector information) [16], проект Закона об управлении данными (Data Governance Act) [17].

Однако данные, которые имеют ценность сегодня для разработчиков, имеет ограниченный уровень доступа. Это персональные данные. Для предоставления доступа к таким данным очень важно выстроить институт анонимизации данных (необратимого обезличивания). Грамотный и эффективный подход выстроен в азиатских странах: Китай, Южная Корея, Япония, Сингапур и т.д. – в каждой стране есть методологии анонимизации данных, которые позволяют обеспечить анонимизацию данных таким образом, что их ценность для разработчиков ИИ-решений не теряется. Анонимизированные данные уже выходят из-под действия законов о персональных данных. Такой же подход и выработан в ЕС: анонимизированные данные перестают быть персональными данными в понимании Единого регламента по защите персональных данных (GDPR).

Если говорить об отраслевом использовании ИИ, то первое что приходит на ум современному человеку – беспилотный транспорт, а именно беспилотные автомобили. Лидером в сфере беспилотных автомобилей, согласно международному индексу KPMG 2020 Autonomous Vehicles Readiness Index, является Сингапур.

Сингапур как азиатский технологический лидер одним из первых принял правовые акты, направленные на регулирование беспилотного автотранспорта – Правила дорожного движения (автономные автомобили) стал применяться с августа 2017 г. (Road Traffic (Autonomous Motor Vehicles) Rules 2017) [18]. Еще одним критическим требованием является присутствие в беспилотном автомобиле квалифицированного оператора безопасности. Предполагается, что в случае необходимости он возьмет управление автомобилем на себя. В исключительных случаях автономный автотранспорт может работать без оператора, но только в том случае, если доказана безопасность подобного использования.

В США регулирование беспилотного транспорта осуществляется как на федеральном уровне, так и на уровне штатов. На федеральном уровне действует Федеральная политика в области автономных транспортных средств от 2016 г. (Federal Automated Vehicles Policy), которая ежегодно дополняется новыми положениями [19, 20]. На региональном же уровне действует Типовая модель управления (The Model Policy State), которая регламентирует полномочия в регулировании автономных автомобилей, которыми обладают штаты.

Еще одна отрасль, в которой важно оценить регулирование технологий ИИ – здравоохранение. По мнению многих экспертов, именно данная отрасль является одной из самых перспективных с точки зрения интеграции ИИ-технологий. Повсеместно разрабатываются модели ИИ для компьютерной томографии легких, головного мозга, а также сиптомчекеры и многое другое, что способно вывести современную медицину на новый уровень.

Когда мы говорим о регулировании ИИ-технологий в здравоохранении, принимаем во внимание следующие аспекты: а) наличие правил ввода систем ИИ для использования в медицинской практике по правилам регистрации медицинских изделий, если ИИ прямо выделено как медицинское изделие, наличие специальных правил регистрации систем ИИ, в т.ч. стандартов безопасности, правил проведения клинических испытаний, правил проведения технических испытаний, правил регистрации; б) нормативная скорость регистрации систем ИИ для ввода в оборот (независимо от того, специальные или общие правила); в) наличие регуляторных условий для создания медицинских дата сетов (включая правила и методики обезличивания и анонимизации).

Хотелось бы рассмотреть уникальный пример Королевства Саудовской Аравии. Именно эта страна первая в мире выпустила Руководство по медицинским устройствам на основе ИИ и больших данных (Guidance on AI and Big Data-based medical devices) [21]. В Руководстве изложены требования для получения разрешения на медицинские изделия на основе ИИ. Кроме того, в Руководстве отмечено, что такие медицинские изделия относятся к автономному программному обеспечению медицинских изделий, которые используют технологию ИИ на основе машинного обучения для диагностики, управления или прогнозировать заболевания, анализируя медицинские большие данные [22]. Кроме того, Министерство здравоохранения Саудовской Аравии активно работает в направлении создания медицинских датасетов. Сегодня создано более 800 датасетов с медицинскими данными для исследований. Получить такие данные может любой разработчик ИИ [23].

ИИ в здравоохранении, беспилотный транспорт – самые крупные и известные сферы, но не единственные. Сегодня ИИ-технологии внедряются повсеместно: государственное управление, сельское хозяйство, нефтяная промышленность, электронная коммерция, смарт-контракты, умный дом и многое другое. Поскольку ИИ-технологии вокруг нас и интегрировались во все сферы нашей с вами жизни, просто необходимо, чтобы разработка и применение таких технологий были максимально этичны.

Этика – самый обсуждаемый и важнейший элемент развития ИИ-технологий. Этические аспекты появляются на всех стадиях жизненного цикла модели ИИ: от идеи создания модели до ее применения и использования человеком. Сегодня вопросы этики отнесены к “мягкому регулированию”: добровольное принятие на себя этических принципов применения ИИ.

В каждой стране, в каждой компании принципы этики ИИ формируются абсолютно по-разному, но везде соблюдаются базовые аспекты: контролируемость и управляемость систем ИИ; прозрачность и предсказуемость функционирования; стабильность и надежность систем ИИ; ответственное применение ИИ; непредвзятый и недискриминирующий ИИ. Опыт России в сфере этики ИИ можно назвать одним из самых удачных. В России разработан и принят Кодекс этики в сфере ИИ [24]. Кодекс служит ориентиром для развития технологий ИИ в стране и призван обеспечивать доверие к ИИ со стороны пользователей, общества и государства. По состоянию на ноябрь 2022 г. к Кодексу присоединилось более 110 участников рынка. В России также есть компании, кто принял свои корпоративные принципы этики ИИ: Сбер [25], Яндекс [26] и ABBYY [27].

Рис. 1.

Иллюстрация “Город будущего & новые технологии” выполнена нейронной сетью Сбербанка Kandinsky.”

Этика и грамотно выстроенное правовое регулирование помогут динамично развиваться технологиям ИИ, не ограничивая и не блокируя прогресс и пользу, которую технология может принести человечеству. Важно, чтобы правовое регулирование такой узкой сферы было своевременным, эффективным и стало триггером развития ИИ и обеспечения прав и свобод человека. Поиском такого баланса сегодня и занимаются эксперты разных отраслей со всего мира. Самый инновационный и интересный опыт стран детально рассмотрен в научном исследовании “Глобальный атлас регулирования ИИ. Восточный вектор”, краткий обзор которого был приведен выше.