О правовом регулировании генеративного искусственного интеллекта в Китае

Саяпин Сергей Петрович ORCID: 0009-0005-3296-9929 кандидат юридических наук Младший научный сотрудник; Сектор гражданского и предпринимательского права; Институт государства и права РАН 117535, Россия, г. Москва, Чертаново Южное р-н, 3-й Дорожный проезд, д. 8 к. 2, кв. 1 Sayapin Sergei Petrovich PhD in Law Junior Researcher; Civil and Business Law Sector; Institute of State and Law of the Russian Academy of Sciences 117535, Russia, city, Moscow, passage. 3rd Dorozhny, 8, sq. 1 spsayapin@yandex.ru

Технологии и механизмы генеративного искусственного интеллекта (далее по тексту также сокр. – ГИИ) используются для создания новых (часто квази-новых) данных (текстовых, аудио, видео, фото и иных материалов). К такой области, как медицина, фармацевтические компании используют ГИИ для проектирования формул новых лекарственных средств, а в области финансов ГИИ используется в определении и прогнозировании рыночных трендов. Все это стало возможным, главным образом, благодаря достижениям современной науки в области нейросетевой архитектуры и информационных технологий.

Принцип работы ГИИ заключается в «самообучении» информационной системы на больших объемах входных данных. Модель ГИИ изучает статические и динамические паттерны, а также характеристики входных данных. Например, текстовые модели ГИИ работают на огромных объемах текстовых данных, выявляя структуру языка, стиль написания текста, контекст употребления отдельных лексем и др., затем, ГИИ может генерировать осмысленный и связный текст на основе полученной и обработанной информации.

Благодаря стремительному развитию информационных технологий и технических средств, а также широкому спектру применения генеративного искусственного интеллекта ^{[6, с. 73][7]}, увеличиваются инвестиции в указанную сферу. С начала 2010-х годов наблюдается значительный рост венчурных инвестиций в стартапы, занимающиеся разработкой ГИИ. Компании вроде OpenAI и DeepMind привлекли уже десятки миллиардов долларов венчурного капитала на развитие генеративного искусственного интеллекта. Крупные технологические компании активно инвестируют в исследования и разработку ГИИ, а появление цифровых платформ типа SaaS (англ. – Software as a Service), предоставляющих доступ к ГИИ через облачные сервисы, делают эти технологии более доступными для широкого круга пользователей, что только стимулирует дальнейшие развитие указанной сферы. Надо отметить, что и правительства многих ведущих стран мира также начинают осознавать масштаб возможностей ГИИ и вкладывать средства в развитие данных технологий в целях национальной безопасности и продвижения государственных интересов на региональном и международном уровнях. Согласно опубликованной информации, Китай уже несколько лет ведет активные разработки по применению нейронных сетей в формировании общественного мнения, задействуя для этого свои крупные технологические компании Midu, Suishi, Goertek и др.^[10].

Развитие генеративных технологий искусственного интеллекта стало возможным, прежде всего, «благодаря» отсутствию строгих нормативно-правовых рамок, однако, новые формы информационных технологий всегда порождают новые риски для общества и безопасности государства: предоставление ложной и вводящей в заблуждение информации, распространение мошеннических схем отъема денежных средств, иные виды интернет-угроз, поэтому расширение применения ГИИ, имеет и обратную (в этом смысле, негативную) сторону. Поскольку подходы к снижению такого рода рисков в полной мере в мире еще не выработаны, каждое государство самостоятельно ищет баланс в нормативно-правовом регулировании ИИ (ГИИ). Поэтому всё чаще возникают дискуссии о таких правилах работы ГИИ, которые позволят не только сохранять благоприятные условия для развития данной технологии и привлечения инвестиций, но и обеспечивать государственную безопасность.

На сегодняшний день можно выделить, преимущественно, два основных подхода к формированию внутригосударственной политики в отношении правового регулирования деятельности, связанной с искусственным интеллектом (в том числе генеративным ИИ):

· первый подход заключается в разработке и принятии общих норм и правил (чаще всего декларативных) в отношении искусственного интеллекта, без принятия специальных законов о регулировании ИИ. Именно таким путем идут в настоящее время США, предоставляя свободу развития ИИ в стране. Так, совсем недавно, в январе 2025 года в США был подписан указ Президента «Об устранении преград на пути американского лидерства в области искусственного интеллекта», согласно которому подчеркивается политика глобального доминирования США в области ИИ. Федеральным исполнительным органам Соединенных Штатов Америки поставлена задача разработки плана национальных действий в области развития искусственного интеллекта ^[11]. Есть, конечно, отдельные законодательные инициативы на уровне штатов США, вместе с тем, говорить о регулировании ИИ в США сейчас не приходится;

· второй подход связан с разработкой специальных нормативных правовых актов о регулировании искусственного интеллекта (КНР, Европейский союз).

Надо сказать, что цель разработки и развития искусственного интеллекта в Китае, как и в США, указана в качестве приоритетной ^{[1, с. 225]}. Поэтому еще в 2017 году в КНР был принят План развития искусственного интеллекта нового поколения ^[12], однако в то время регулирования ИИ, конечно, там еще не существовало^{[4, c. 54]}. В период с 2017 по 2022 годы в Китае осуществлялась лишь подготовка к законодательному регулированию ИИ. Указанный промежуток времени отмечен принятием Белой книги по стандартизации искусственного интеллекта, а также Кодекса этики искусственного интеллекта нового поколения ^[8]. К началу 2022 года Управление по вопросам киберпространства Китая (англ. сокр. – CAC) начало разрабатывать (совместно с иными государственными органами) первые специальные нормативные правовые акты по регулированию деятельности с использованием ИИ. По мнению отдельных специалистов, Китай с того времени стал проводить т.н. «нейтральное регулирование», ввиду соблюдения принципа равнозначности между инновациями, безопасностью и управляемостью при разработке нормативных правовых актов об ИИ ^{[3, с. 255]}. Однако, по нашему мнению, нейтральным регулированием такой механизм назвать врядли возможно, ввиду того, что в силу своей специфики, в КНР прослеживается сильная административная составляющая, и приоритет, прежде всего, государственной идеологии и национальной безопасности – иными словами, приоритет общественного над частным ^{[2, с. 158]}, что и находит яркое отражение, как правило, во всех правовых актах Китайской Народной Республики.

Говоря о специальных нормативных правовых актах Китая о регулировании ИИ, следует кратко рассмотреть следующие из них.

Так, 1 марта 2022 года вступило в силу Положение об управлении алгоритмическими рекомендациями информационных интернет-сервисов ^[13]. Документ обязывает лиц, использующих рекомендательные технологии для оказания соответствующих услуг (поставщики услуг рекомендательных технологий), соблюдать в рамках своей работы принципы справедливости, открытости и прозрачности (ст. 4). Запрещается использовать интернет-сервисы на основе рекомендательных алгоритмов в целях создания угроз общественным интересам и национальной безопасности Китайской Народной Республики (ст.1).

Положение устанавливает государственный надзор за поставщиками указанных услуг, а также вводит государственное управление в этой сфере (ст. 3). Все поставщики услуг алгоритмических рекомендательных технологий обязаны встать на государственный учет. Государство ведет реестр таких поставщиков (ст. 24).

В Положении закрепляется нормативное определение понятию «применение алгоритмической рекомендательной технологии» – это использование алгоритмических технологий, таких как генерация и синтез, сортировка, отбор, поиск, фильтрация, персонализированная выдача, а также планирование принятия решений для предоставления информации пользователям (ст. 2). Согласно ст. 16 поставщик услуг алгоритмических рекомендательных технологий обязан уведомлять пользователей о целях, принципах и механизме предоставления соответствующих услуг.

Поставщики услуг алгоритмических рекомендательных технологий обязаны обрабатывать запросы пользователей своих интернет-сервисов в установленный срок (ст. 22).

Вместе с тем, следует отметить, что в самом тексте Положения отсутствуют нормативно установленные определения таких понятий как поставщик, пользователь или провайдер услуг алгоритмических рекомендательных технологий и др. Значения указанных терминов выводятся из буквального толкования норм Положения.

В Положении отсутствуют конкретные правила о договоре оказания услуг поставщиком.

В главе 5 Положений устанавливается ответственность поставщика услуг алгоритмических рекомендательных технологий (ст. ст. 31, 32, 33). Это, главным образом, административная ответственность в виде предупреждения, либо штрафа в размере от 10 до 100 тыс. юаней, а также, в некоторых случаях, уголовная ответственность.

10 января 2023 года вступило в силу Положение «О порядке осуществления деятельности по управлению информационными интернет-услугами, использующими технологии глубокого синтеза» ^[14]. Документ направлен на устранение рисков, связанных с использованием технологий глубокого синтеза, позволяющих глубоко модифицировать данные в противоправных целях.

В Положении (ст. 23) закрепляются нормативные определения таким понятиям как:

· технологии глубокого синтеза – это технологии, которые используют глубокое обучение, виртуальную реальность и другие алгоритмы генеративного синтеза текстовых, фото, видео и аудиоматериалов и другой информации, включая методы работы с указанными материалами (см пп. 1 – 6 определения данного понятия).

· поставщики услуг глубокого синтеза – это организации и физические лица, предоставляющие услуги глубокого синтеза;

· поставщики услуг технической поддержки глубокого синтеза – это организации и физические лица, которые предоставляют услуги технической поддержки глубокого синтеза;

· пользователи услуг глубокого синтеза – это организации и физические лица, которые используют услуги глубокого синтеза в целях производства, воспроизведения, публикации или распространения информации;

· обучающие данные – это аннотированный или эталонный набор данных, который используется для обучения моделей ИИ.

Предоставление услуг глубокого синтеза должно соответствовать принципам законности и морали, а также общественным интересам и основам национальной безопасности Китайской Народной Республики (ст.4). Услуги глубокого синтеза не должны использоваться для совершения противоправных действий и публикации ложной и вводящей в заблуждение информации (ст.6). Поставщики услуг глубокого синтеза обязаны защищать полученные данные, противодействовать мошенничеству в процессе глубокого синтеза данных, а также в процессе хранения, обработки, использования и передачи полученных данных (ст. 7), разрабатывать, раскрывать и периодически совершенствовать правила платформы, где оказываются услуги глубокого синтеза (ст. 8), идентифицировать пользователей услуг глубокого синтеза (ст.9), анализировать полученную информацию (входные данные) и сгенерированные данные на предмет ложной и противоправной информации, принимать меры по ограничению доступа к ней и ее устранению (ст. 10). Интернет-ресурсы (в т.ч. платформы), на которых оказываются услуги глубокого синтеза, должны предусматривать возможность обработки запросов пользователей (ст.12).

Если текстовые, фото, аудио, видео и иные виды данных генерируются ИИ, то они должны быть отмечены специальной маркировкой, а поставщик услуг глубокого синтеза обязан вести журнал генерации материалов ГИИ (ст.16).

В самом Положении о глубоком синтезе прямо не установлены какие-либо меры ответственности за несоблюдение закрепленных в нем норм. Вместо этого в ст. 22 говорится лишь о том, что соответствующие санкции могут быть применены в соответствии с другими применимыми нормативными актами Китая, если какой-либо поставщик услуг глубокого синтеза нарушает нормы Положения. В нем также не указаны последствия несоблюдения правил пользователями услуг глубокого синтеза или цифровыми платформами, с использованием которых предоставляются услуги глубокого синтеза.

Тем не менее, Положение наделяет департаменты киберпространства определенными полномочиями по контролю за соблюдением требований и проведению проверок. Департаменты киберпространства и иные государственные органы Китая вправе обязать поставщиков устранить нарушения, если в ходе проведения проверки будет установлено, что услуги глубокого синтеза несут существенные риски информационной безопасности Китайской Народной Республики.

15 августа 2023 года вступили в силу Временные меры по управлению услугами генеративного искусственного интеллекта ^[15]. Документ закрепляет принципы, согласно которым предоставление и использование услуг генеративного ИИ должно соответствовать законам и административным регламентам Китая, соответствовать социалистическим ценностям, материалы, созданные ГИИ не должны наносить вреда государственной безопасности Китая, пропагандировать терроризм и сепаратизм и др. Важно отметить, что документ не распространяется на деятельность государственных и учебных учреждений КНР, которые используют ГИИ в научных исследованиях (ст. 2).

Документ дает определения таким понятиям как:

· технологии ГИИ – это модели и связанные с ними технологии, которые обладают возможностью генерировать данные (текстовые, фото, видео, аудио и др. виды материалов).

· поставщики услуг ГИИ – это организации и физические лица, которые используют технологии ГИИ для предоставления услуг ГИИ (включая предоставление услуг ГИИ программируемых интерфейсов и др.);

· пользователи услуг ГИИ – это организации и физические лица, которые используют сервисы ГИИ для создания текстовых, видео, фото, аудио и других видов материалов (контента).

Для создания моделей ИИ и генерации ГИИ новых материалов поставщики услуг ГИИ обязаны использовать только легальные источники данных; соблюдая при этом интеллектуальные права; в том случае, если для генерации данных используются сведения, которые относятся к личным данным физических лиц, то такие сведения должны быть получены только с их согласия; если данные, в последствие, используются в обучении, то поставщик услуг ГИИ обязан «работать над повышением достоверности, точности и объективности указанных данных» (ст. 3).

Временные меры по управлению услугами генеративного искусственного интеллекта обязывают поставщика услуг ГИИ заключать договор об оказании услуг с каждым пользователем его сервиса. В договоре должны быть зафиксированы: предмет, сроки, права и обязанности сторон при использовании сервиса ГИИ, а также иные положения (ст. 9).

Временные меры по управлению услугами генеративного искусственного интеллекта предусматривают право лица получать доступ, изменять, удалять информацию о себе из базы данных ИИ. В том случае, если поставщик услуг ГИИ получает соответствующий запрос, то он обязан своевременно обработать его (ст. 11). Однако в научной литературе отмечается, что ввиду отсутствия конкретного срока рассмотрения запросов, а также с учетом того, что запросы чаще всего рассматриваются не человеком, а искусственным интеллектом, пользователь обычно попадает в «бесконечное ожидание»^{[5, c. 60]}.

Временные меры по управлению услугами генеративного искусственного интеллекта обязывают бороться с противоправным контентом не только поставщиков услуг ГИИ, но и провайдеров связи. В том случае, если провайдер связи обнаруживает противоправные материалы, то он обязан незамедлительно прекратить к ним доступ пользователей сети (ст.14).

Согласно ст. 21 если поставщик услуг нарушает Временные меры по управлению услугами генеративного искусственного интеллекта, то в отношении поставщика может быть вынесено: предупреждение; либо предписание об устранении нарушений; либо применены штрафные санкции (однако конкретный размер штрафа не устанавливается); либо может быть приостановлено право на предоставление соответствующих услуг на территории Китая.

Если в процессе оказания услуг ГИИ поставщиками нерезидентами КНР будут нарушены нормативные акты Китайской Народной Республики, то Управление по вопросам киберпространства Китая вправе обратиться в соответствующие органы власти Китая с просьбой принять меры по блокировке доступа китайских пользователей к указанным поставщикам услуг.

В 2023 году предложены на общественное обсуждение изменения к Мерам по этической экспертизе науки и техники(общественные обсуждения окончены 3 мая 2023 г.) ^[16]. Документ закрепляет положения о том, что в рамках ВУЗов и научно-исследовательских организаций Китая должны быть созданы специальные комитеты по научной и технологической этике в обязанность которых входит проведение экспертизы научных исследований и научно-технической деятельности с точки зрения этики и морали. Экспертизе, помимо прочих сфер, подлежат и научные исследования в области искусственного интеллекта (в том числе ГИИ).

В марте 2024 года в КНР был опубликован проект закона «Об искусственном интеллекте» ^[17]. Текст документа был предложен для всеобщего обсуждения научным сообществом Китая.

В главе I проекта закона провозглашается принцип развития сферы ИИ в сочетании с государственным контролем (надзором) за отраслью (ст. 1), а также принцип соответствия отрасли ИИ принятым в Китае мерам по этике (ст. 3). Следует сказать, что сфера действия проекта закона распространяется не только на общественные отношения с использованием ИИ внутри границ Китая, но и за ее пределами, в том случае, если правоотношения затрагивают права и законные интересы китайских физических и юридических лиц, а также национальную безопасность Китайской Народной Республики (ст. 2).

Исходя из буквального толкования текста норм главы II, можно заключить, что разработчики проекта закона сформулировали три ключевых (можно даже сказать, в какой-то степени, идеальных) аспекта функционирования искусственного интеллекта:

· наличие вычислительных мощностей общего пользования;

· наличие моделей ИИ и алгоритмов с открытым исходным кодом;

· а также, наличие ресурсов общих данных c возможностью их совместного использования.

Государство, по мнению разработчиков законопроекта, при соблюдении главного принципа – национальной безопасности Китая, должно развивать и поощрять указанные направления развития ИИ.

В главе III устанавливается, что право на данные следует рассматривать в качестве одного из ключевых прав; однозначно отрицается возможность ИИ быть субъектом права (только физические и юридические лица могут быть субъектами авторского и патентного права); данные, полученные в результате работы ГИИ защищаются правом интеллектуальной собственности; данные, полученные в результате работы ИИ, можно признать изобретением или произведением; законопроект дает право, при соблюдении определенных условий, использовать данные в качестве входных для ИИ без выплаты вознаграждения их владельцу (т.н. «разумное использование данных»).

Согласно нормам главы IV закон проводит различие между общим ИИ и критически важным ИИ, подчеркивая особые черты, присущие критически важному ИИ, с точки зрения формальной организации модели, рисков, реагирования на чрезвычайные ситуации и др., поэтому для регулирования критически важного ИИ должны быть приняты особые (специальные) меры в каждой из отраслей экономики.

Глава V посвящена государственному контролю (надзору) за деятельностью с использованием искусственного интеллекта. Для более эффективного контроля (надзора) за деятельностью с использованием ИИ вводится градация (категорирование) искусственного интеллекта. Глава VI – применению ИИ в специальных областях (государственная власть, медицина, правосудие, СМИ и др.). Глава VII – международному сотрудничеству, а в главе VIII закрепляются виды юридической ответственности.

К настоящему времени, законопроект об ИИ, предложенный китайскими учеными-правоведами, еще находится на стадии обсуждения, но уже сейчас понятно, что он существенно дополняет и расширяет уже созданную архитектуру нормативного регулирования искусственного интеллекта на территории Китайской Народной Республики. В нем содержатся множество смелых идей и смыслов (например, о правовой защите данных, полученных в результате работы ГИИ). Думается, что в течение 2025 года указанный проект закона (судя по всему с доработками) все же будет принят.

Исходя из наличия уже вступивших в силу и действующих сейчас нормативных правовых актов в отношении искусственного интеллекта (в том числе генеративного), а также тенденций к стремительному формированию основного закона об ИИ, однозначно следует, что Китай идет по пути нормативной регламентации указанной сферы для общего пользования внутри КНР, при этом отдавая свободу использования и изучения ИИ в государственных целях, в целях защиты национальных интересов.

^[12] 国务院关于印发新一代人工智能发展规划的通知 [Извещение Государственного совета об опубликовании Плана развития искусственного интеллекта нового поколения]. - URL: https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm (дата обращения: 01.03.2025).
^[13] 互联网信息服务算法推荐管理规定 [Положение об управлении алгоритмическими рекомендациями информационных Интернет-сервисов]. - URL: https://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm (дата обращения: 01.03.2025).
^[14] 互联网信息服务深度合成管理规定 [Положение "О порядке осуществления деятельности по управлению информационными интернет-услугами, использующими технологии глубокого синтеза"]. - URL: https://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm (дата обращения: 01.03.2025).
^[15] 生成式人工智能服务管理暂行办法 [Временные меры по управлению услугами генеративного искусственного интеллекта]. - URL: https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm (дата обращения: 01.03.2025).
^[16] 关于公开征求对《科技伦理审查办法（试行）》意见的公告（已结束) [Объявление о публичном сборе мнений о мерах по пересмотру этики науки и техники]. - URL: https://www.most.gov.cn/wsdc/202304/t20230404_185388.html (дата обращения: 03.03.2025).
^[17] 《人工智能法（学者建议稿）》来了[Закон об искусственном интеллекте (проект предложений ученых)]. - URL: http://www.fxcxw.org.cn/dyna/content.php?id=26910 (дата обращения: 03.03.2025).