Создание и применение искусственного интеллекта в публичных целях: сравнительно-правовой анализ

Атабеков Атабек Рустамович кандидат экономических наук доцент, кафедра административного и финансового права, Российский университет дружбы народов 117198, Россия, г. Москва, ул. Миклухо-Маклая, 6 Atabekov Atabek Rustamovich PhD in Economics Associate Professor of the Department of Administrative and Financial Law, Legal Institute, Peoples' Friendship University of Russia 117198, Russia, Moscow, Miklukho-Maklaya str., 6 atabekoff1@mail.ru Другие публикации этого автора

Правительства разных стран все чаще используют технические и информационные системы системы в рамках правоприменительной практики. Например, представители власти используют компьютерные системы для вынесения приговоров обвиняемым, утверждения или отказа в предоставлении государственных пособий, прогнозирования мест совершения будущих преступлений и введения запрета на въезд через границу государства ^[1-2]. В каждом случае технология используется для принятия важных решений в отношении индивидуальных юридических прав или распределения государственных ресурсов.

Одним из важных открытий является то, что технологии могут иметь «ценности» (она же политика и технические правила), имплементированные в их конструкцию ^[3]. В этом контексте имеется ввиду влияние технического дизайна (удобство интерфейса, его доступность, понятность пользователю, юридическая осведомленность и т.д.), которое в последствие генерирует ту самую ценность в т.ч. посредством формирования определенных преференций для конкретных социальных подгрупп.

В этой логике интересной отправной точкой является позиция Лессига который отметил, что инженерную архитектуру технологической системы можно рассматривать как аналог правового регулирования (в контексте запретов и правоустанавливающих аспектов)^[4]. Исследователь отметил, что в то время, как законы явно и открыто регулируют общество, технический дизайн может аналогичным образом влиять на поведение или «ценности» для общества, но часто менее очевидным образом.

Та же технология интернета (которая в принципе является одним из столпов текущего технологического уклада), в рамках реализации инженерных решений сталкивалась с проблемами в области обеспечения анонимности ^[5]. С одной стороны, анонимность обеспечивала свободу слова и поведения, с другой затрудняла идентификацию преступников и экстремистов.

В этом контексте становится актуальным вопрос технического дизайна, который выступает неявным регулятивным инструментом, находящимся за контуром контроля правительства и отданным на откуп разработчикам.

Рассматривая стратегические национальные документы Франции в области регулятивной политики в отношении искусственного интеллекта (далее - ИИ), необходимо обратить внимание на необходимость выработки не регулятивных, а этических требований в области разработки ИИ, включая следующие: внедрение объяснимых инструментов проводящих аудит систем ИИ, внедрение дополнительных инструментов мониторинга дискриминационного воздействия ИИ, контроля исключительной роли человеческого суждения и невозможности ее подмены ИИ и иные публичные аспекты (создание экспертных советов и т.д.) ^[6].

При этом иная позиция представлена в стратегическом документе Президента США, в котором отсутствуют указанные положения и весь регулятивный акцент направлен на создание необходимых финансовых условий для НИОКР, а также на безопасную интеграцию ИИ в сферу государственного управления с точки зрения безопасности данных и их управляемости ^[7].

В национальной стратегии ИИ Германии подготовлен отдельный раздел в отношении регулятивных подходов для указанной технологии ^[8]. В определении регулятивной политики Германии относительно ИИ делается значимый акцент на соблюдении фундаментальных прав, которые лежат в основе строя Федеративной Республики Германии и закреплены в Конституции ФРГ, включая, в частности, общую свободу действий, защиту неприкосновенность частной жизни гражданина и его контроль над своими личными данными. Отмечается, что действующее законодательство нуждается в пересмотре с учетом технологического развития ИИ и наличия неурегулированных аспектов в отношении указанной технологии. Отдельно предлагается закрепить контроль технического дизайна с точки зрения безопасности для пользователя.

В рамках стратегии имплементации ИИ в сферу публичных правоотношений России необходимо обратиться к Указу Президента Российской Федерации ^[9] и Распоряжению Правительства Российской Федерации^[10].

В положениях 49 Указа Президента России обозначена необходимость благоприятного режима допуска к данным, проведения тестирования ИИ, снятия административных барьеров для продукции ИИ, разработки единых систем стандартизации, стимулирования привлечения инвестиций, а также разработка этических правил. При этом, создание гибкой системы регулирования ИИ планируется к 2030 году. С точки зрения вопросов регламентации технического дизайна ИИ необходимо более подробно обратиться к Распоряжению Правительства Российской Федерации, в подразделе 4 раздела 1, в котором отмечены базовые правовые проблемы, требующие решения. Среди них выделяются соблюдение баланса между защитой персональных данных и обучения ИИ, определение предмета и границ регулирования ИИ, идентификация систем ИИ при взаимодействии с человеком, решение вопросов правового делегирования решений ИИ, ответственность за действия ИИ, прозрачность ИИ и т.д. Среди принципов регулирования ИИ в рамках указанного документа закрепляется обязанность разработчиков при проектировании ИИ соблюдения принципов соответствия законов, т.е. применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм.

На уровне доктринальных исследований реализация неявных стратегий на практическом правоприменительном поле отмечают Солон Барокас и Эндрю Селбст. Исследователи указывают на расовые или этнические предубеждения, которые могут возникнуть при алгоритмическом принятии решений ^[11]. Джошуа Кролл, Эдвард Фелтен, а также Даниэль Цитрон обращают внимание на отсутствие подотчетности при принятии решений на основе компьютеров, что все чаще встречается в контексте принимаемых алгоритмических решениях правительства ^[12-13].

Отечественные ученые также выделяют существенные проблемы, проистекающие из вопросов технического дизайна и его регулятивно-правовых особенностей. Д.В. Бахтеев в своем объемном исследовании отмечает необходимость на проектируемом этапе разработки учитывать уважение основных конституционных прав человека и гражданин, компетентность разработчика, а также ряд иных требований направленных на снижение рисков неправомерного применения ИИ ^[14]. В. Э. Карпов и др. фокусируются на проблеме отсутствия этической верификации при проектировании и разработки ИИ, что в свою очередь формирует практику корректировки действий ИИ по факту сбоев, а не упреждающий характер реагирования со стороны разработчика ^[15]. А. В. Минбалеев ^[16] а также О.А. Ястребов и д.р. ^[17] поднимают последующий вопрос возможности выделения отдельной правосубъектности ИИ как электронного лица, что может иметь принципиальное значение на условном этапе его «рождения».

При рассмотрении практических примеров предлагается обратиться к опыту США, с технологией MiDAS. В рамках осуществления автоматического анализа мошеннических действий, связанных с получением пособия по безработице, Агентство по страхованию от безработицы штата Мичиган, внедрило указанный алгоритм в свою правоприменительную практику. Отличительной чертой указанного алгоритма является отсутствие процедуры оспаривания принятого решения ИИ в рамках указанного органа власти. Следствием некорректной работы соответствующего ИИ является большой круг пострадавших от действий органа власти, которые обратились в суд и обжаловали неправомерно принятые ИИ решения ^[18]. В рамках резолютивной части решения суда выделено вменение вины за действия ИИ в адрес его разработчиков.

Вторым примечательным примером выступает SyRi, которая также использовалась для выявления мошенничества в сфере социального обеспечения ^[19]. Однако в рамках указанного кейса в суде оспаривалось не столько действия самого ИИ, сколько вопросы «черного ящика» ^[20], в рамках которого не был понятен алгоритм принятого машинным обучением решения. Мотивировочная часть судебного решения базируется на нарушении статьи 8 Европейской конвенции о правах человека при применении указанной технологии госслужащими.

При этом следует отметить, что в основе вышеуказанных кейсов со стороны госслужащих и пользователей так же присутствует определенная предубежденность в отношении самой ИИ, как более беспристрастной системы при принятии решений. В этой связи нам представляется возможным сделать акцент на положения Арбитражного процессуального кодекса России, где прямо зафиксирована опция суда принимать решения на основании внутреннего убеждения (ч. 1. ст. 71 АПК РФ ^[21]).

Кроме того, обсуждая данную проблематику, нельзя не вспомнить кейс в смежной области права в зарубежной практике, связанной с программой Компас, оценивающей риск рецидива у подсудимого ^[22].

Следует понимать, что формально рекомендательный отчет на самом деле маскирует основную серию субъективных суждений со стороны разработчиков системы. Этот субъективный выбор включает следующие позиции: какие источники данных использовать для построения прогностической модели, какие части выбранных данных включать или исключать, как взвешивать эти данные, какие методы использовать для анализа данных и т.д.

Однако поскольку рекомендация генерируется автоматизированной системой с использованием некоего механистического процесса и представляется в строгой вычислительной форме, результат может иметь вводящее в заблуждение впечатление почти математической объективности в рамках закона. Из-за этой ауры механистической объективности судьи и другие должностные лица могут уделять больше внимания компьютерным рекомендациям, в отличие от сопоставимых человеческих оценок. Эта человеческая склонность необоснованно приписывать технологическому процессу принятия решений ценностный нейтралитет (по сравнению с людьми, находящимися в аналогичном положении) и полагаться на кажущуюся точность математического анализа и анализа, основанного на данных, должна быть тщательно исследована в контексте технологических систем, влияющих на юридическую оценку доказательств и суждений.

Однако следует учесть, что правовые нормы имеют долю неопределенности как в установлении вины, так и ее размеров.

Тот же Кодекс об административных правонарушениях Российской Федерации предоставляет возможность при определении обстоятельств правонарушения судье, органу власти и должностному лицу учитывать отягчающие и смягчающие факторы, что напрямую влияет в ряде случаев на вид административного наказания, его размер и длительность (Главы 3 и 4 КоАП РФ ^[23])

В этой связи одна из основных функций должностных лиц заключается в устранении этих неопределенностей при применении законов в конкретных обстоятельствах с учетом таких положений, как сама норма закона, общая практика ее применения, судебная практика, а также сама государственная политика. Общество часто не знает окончательного ответа на такую правовую неопределенность до тех пор, пока конкретное должностное лицо по правовым вопросам не вынесет обязательное, окончательное определение, предпочтя один набор возможных аргументов и интерпретаций другим.

При этом нужно понимать, что оцифровка этого процесса будет происходить ровно по таким же алгоритмам, включая предпочтения в «суждениях» и аргументации одной стороны другим подходам. При этом необходимо учитывать, что набор неявных знаний и признаков, на которые может обратить внимание должностное лицо как «человек», и прямо не закреплено действующим законодательством, процессуальным аспектом оценки доказательств и иными подзаконными актами.

На основании вышеизложенного предлагается проведение следующих мероприятий:

1. Введение дополнительных инструментов административного наказания для разработчиков систем ИИ, при несоблюдении ими принципов проектируемого соответствия законов ИИ, в виде дисквалификации и запрета на осуществление указанной деятельности.

2. Формирование и законодательное закрепление реестра технологий ИИ, в рамках которого пользователь может увидеть сферу применения ИИ, его разработчика, объем пользователей, техническую надежность (используемые математические и иные инструменты, факты и объем взлома), административную активность с точки зрения права (количество выявленных нарушений, судебное обжалование и т.д.).

3. При использовании ИИ для публичных целей надзора и контроля, необходимо обязательное соблюдение прозрачности алгоритмов ИИ (для разработчиков), сохранение процедуры оспаривания действий ИИ у должностного лица, введение обязательных дополнительных квалификационных требований в отношении образования и знаний у должностных лиц, рассматривающих указанные жалобы, запрет на использование зарубежных систем ИИ для публичных целей.