Публично-правовые аспекты технического регулирования искусственного интеллекта в России и мире

Атабеков Атабек Рустамович кандидат экономических наук доцент, кафедра административного и финансового права, Российский университет дружбы народов 117198, Россия, г. Москва, ул. Миклухо-Маклая, 6 Atabekov Atabek Rustamovich PhD in Economics Associate Professor of the Department of Administrative and Financial Law, Legal Institute, Peoples' Friendship University of Russia 117198, Russia, Moscow, Miklukho-Maklaya str., 6 atabekoff1@mail.ru Другие публикации этого автора

Развитие технологического потенциала искусственного интеллекта является одной из значимых задач для как Российской Федерации ^[1-2], так и для международного сообщества ^[3].

При этом нельзя не отметить возникающие вопросы позиционирования искусственного интеллекта (ИИ) в контексте технического регулирования и позиции как национальных институтов в области стандартизации, так и публичных органов власти в указанной сфере.

Базовая и фундаментальная работа в области выработки единых подходов по стандартизации ИИ проводится на уровне международных органов по стандартизации - ИСО/МЭК (ТК1/СК42) и их различными совместными подкомитетами. В рамках функционирования указанного ТК уже опубликован широкий перечень стандартов в области ИИ ^[4-6].

На данный момент применения ИИ для целей публичных органов власти ISO рекомендует руководствоваться ISO/IEC 38507:2022, в котором прописаны базовые принципы, а также отмечаются потенциальные негативные последствия от использования ИИ:

1. Риск монополизации рынка за счет отраслевой специализации ИИ.

2. Предвзятость в суждениях при обработке данных ИИ без тщательной проверки.

3. Риск утраты контроля со стороны человека с учетом скорости обучения ИИ.

4. Дискриминация и потенциальный вред фундаментальных прав работников, которых может заместить ИИ.

5. Репутационные издержки в случае отсутствия контроля за ИИ.

На уровне различных государств создаются профильные органы власти, разрабатываются соответствующие стратегические документы ^[7].

Так, в Национальном стратегическом плане США определена необходимость увеличения доступности испытательных стендов ИИ и последующую работу по увеличению показателей связанных с разработкой стандартов и вовлеченности профессионального сообщества ^[8]. В последующие года, Американский национальный институт был представлен Секретарем в совместном техническом комитете 1/субкомитет 42 сформированной ISO и IEC ^[9]. Кроме того, понимая военный потенциал ИИ, Комиссия национальной безопасности США по искусственному интеллекту (NSCAI), акцентировала внимание национальных органов принимающих участие в разработке стандартов, необходимость систематически повышать достоверность результатов и функционирующих моделей ИИ ^[10].

В Китае соответствующую работу организовывает и координирует Министерство промышленности и информационных технологий которое опубликовало в 2018 году Белую книгу по стандартизации ИИ ^[11]. При этом инициативы Китая на сближение подходов в области стандартизации ^[12-13], для облачных вычислений, промышленного программного обеспечения не отменяет принципов суверенного регулирования ИИ. В рамках национальной стратегии стандартизации под названием «Китайские стандарты 2035», зафиксировано, что национальные стандарты будут отличаться от международных стандартов, в целях развития внутренней промышленности ^[14].

При этом, деятельность органов в области стандартизации распределена между 5 организациями ^[15]:

1. Национальный технический комитет по стандартизации информационных технологий (SAC/TC 28) является базовым органом, который занимается терминологическим аппаратом в области ИИ и смежных областях, связанных с взаимодействием ИИ и человека.

2. Китайский национальный технический комитет по стандартизации систем автоматизации и интеграции специализируется на стандартизации деятельности промышленных роботов.

3. Национальный технический комитет по стандартизации аудио, видео и мультимедиа специализируется на стандартах для умного дома.

4. Национальный технический комитет по стандартизации информационной безопасности специализируется на стандартах в области безопасности для умных городов и промышленного производства.

5. Национальный технический комитет по интеллектуальным транспортным системам специализируется на стандартах в области интеллектуального транспорта.

В Белой книге по стандартизации Китая также отмечены фундаментальные проблемы в области стандартизации и сертификации ИИ:

1. Неоднородность технического развития ИИ на уровне различных стран порождает различную интерпретацию ИИ на национальном и наднациональном уровнях.

2. Многокомпонентность и трансграничная универсальность технологии может порождать избыточный или дублирующий контур стандартов.

3. Стандартизация как способ лоббирования своих интересов международных корпораций и ассоциаций.

4. Неограниченный круг пользователей продукции, что ведет к сложностям в координации процесса стандартизации.

5. Вопросы в области безопасности и этики являются самой сложной категорией в области стандартизации, которые замедляют работу по основному блоку стандартизации ИИ.

В Европейском союзе основополагающие органы по стандартизации - Европейский комитет по стандартизации и Европейский комитет по электротехнической стандартизации (CENELEC) и Европейский институт стандартов в области телекоммуникаций (ETSI). В 2019 году CENELEC создал Оперативную группу по ИИ ^[16], после чего в 2020 году была опубликована дорожная карта по стандартизации ИИ ^[17]. ETSI также создал различные фокус-группы по искусственному интеллекту ^[18].

Нельзя также не отметить инициативу законодательную инициативу ЕС в отношении искусственного интеллекта, носящего риск ориентированный подход и закладывающий свои фундаментальные основы в том числе для целей стандартизации и регулирования со стороны органов власти (Регламент) ^[19].

Указанный регламент определяет горизонтального подход в отношении ИИ (в отличие от других законодательных актов ЕС о безопасности продукции), что говорит о комплексном рассмотрении вопроса регламентации ИИ, а также минимизации рисков на уровне трансграничного перемещения добровольных национальных и международных стандартов.

При этом саму продукцию ИИ Регламент градирует в зависимости от степени риска для общества, со своими последующими ограничениями и обязательствами (ст.5,8,52 и 69 Регламента) в области обеспечения безопасности и надежности технологии.

При этом Решение № 768/2008/EC Европейского парламента и Совета от 9 июля 2008 г. об общих рамках для сбыта продукции ^[20], содержит положения о том, что конкретизация локальных стандартов в области ИИ является целевой задачей институтов в области стандартизации (CENELEC, ETSI и т.д.). При этом оценка соответствия продукции является обязанностью только производителя, что также находит свое отражение применительно к ИИ (ст.16,17,51, 60 86 Регламента). Кроме того, статьей 71 Регламента закреплен размер оборотного административного штрафа в размере 2%, 4% или 6% от годового оборота нарушителя.

Риск-ориентированный подход, предложенный ЕК в отношении ИИ, носит интересный подход в области стандартизации, однако сохраняет за собой вопросы в области верификации ИИ производителем продукции, а не третьими лицами, а указанные институты, являются не публичными образованиями, а НКО.

В России стандартизация деятельности возложена на Росстандарт, которым было подготовлено совместно с Минэкономразвития программа по стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021-2024 годы ^[21]. Программа содержит более 70 отраслевых метрологических стандартов.

При этом интересным феноменом является как разночтение на уровне документов ГОСТ Р 43.0.8-2017 и ГОСТ Р 59277-2020 в отношении определения ИИ, так и в части практической реализации стандартизации в области ИИ согласно указанной выше программе. Согласно указанной программе, до 2024 года планируется 44 межотраслевых стандарта в области ИИ (11 в 2022, 21 в 2023 году, 12 в 2024 году), 58 отраслевых метрологических стандарта (21 в 2022 году,19 в 2023 году, 18 в 2024 году), 91 сопровождаемый международный документ (стандарт) по ИИ (20 в 2021 году, 22 в 2022 году,24 в 2023 году, 25 в 2024 году). Отраслевая специализация указанных документов охватывает почти все сферы деятельности человека.

Росстандарт, руководствуясь статьей 9 Федерального закона от 29.06.2015 N 162-ФЗ «О стандартизации в Российской Федерации» (Закон) реализует государственную политику в сфере стандартизации, определяет порядок достижения единой позиции разных сторон при разработке национальных стандартов, порядок их экспертизы, организует саму разработку стандартов и т.д. При этом согласно п.25 ст.9 Закона предусмотрена возможность принятии решения о создании и ликвидации технических комитетов по стандартизации, который подразумевает создание на добровольной основе заинтересованные юридические лица, а также органы власти принимают участие для разработки, экспертизы документов в области стандартизации в закрепленных ею областях (ст. 11 Закона).

В области ИИ таковым выступает ТК 164 «Искусственный интеллект» ^[22]. При этом, следует отметить, что разработчиком системных документов в области ИИ занимаются как научные организации (ГОСТ Р 59898-2021, ГОСТ Р 58776-2019 и т.д.), так и коммерческие компании с высокой степенью технической вовлеченности (ГОСТ Р 59391-2021), а также компании, чья компетенция вызывает потенциальные вопросы (ГОСТ Р 70249-2022, ГОСТ Р 59385-2021).

По мнению автора, необходимо отметить, что базовой общной проблемой вопросов стандартизации является то, что прямо или опосредовано на область технического регулирования ИИ влияют негосударственные организации с участием заинтересованных компаний, которые закладывают свои конкурентные преимущества и в последствии ослабляют контроль со стороны государства, в т.ч. в отношении такой технологии как ИИ, которая имеет целый спектр непредсказуемых последствий для общества ^[23-27].

Второй проблемой является потенциальное дублирование и расхождение позиций в отношении регулирования ИИ с учётом его многокомпонентной базы, самообучающей системы и возможности ее развертывания на любой выборке данных (военной, медицинской, банковской, государственной и т.д.).

Третьей принципиальной проблемой является вопрос компетенций в области разработки стандартов ИИ для нужд государственного сегмента, который остается в уязвимом положении при издании стандарта частноправовыми организациями.

Указанный контур проблем, по мнению автора, может быть решен введением ряда инициатив на уровне органов власти, а именно путем формирования административных барьеров, в целях обеспечения условий разработки стандартов для нужд публичных органов исключительно государственными научными учреждениями, а также формирование законодательной инициативы по дополнительной верификаций предлагаемых ТК 164 стандартов профильным органом власти, ответственным за разработку и регулирование ИИ, как в целях минимизации трансграничных рисков избыточного регулирования ИИ, так и дублирования положений регулирования представленных в стандартах.