Анализ подходов определения юридической ответственности за действия искусственного интеллекта в медицинской сфере: опыт США и России

Атабеков Атабек Рустамович кандидат экономических наук доцент, кафедра административного и финансового права, Российский университет дружбы народов 117198, Россия, г. Москва, ул. Миклухо-Маклая, 6 Atabekov Atabek Rustamovich PhD in Economics Associate Professor of the Department of Administrative and Financial Law, Legal Institute, Peoples' Friendship University of Russia 117198, Russia, Moscow, Miklukho-Maklaya str., 6 atabekoff1@mail.ru Другие публикации этого автора

Активное обсуждение статуса и последующей роли искусственного интеллекта (далее - ИИ) активно происходит на различных международных площадках (ОСЭР^[1], ЕС^[2], ООН^[3]). Отдельное внимание уделяется интеграции ИИ в сферу здравоохранения и соответствующим правовым и общественным рискам^[4], в этой связи предлагается более детально изучить опыт США для последующего определения приемлемых правовых конструкций для России.

Рассматривая нормативно-правовое регулирование ИИ в медицинской сфере США, необходимо отметить следующие документы:

1. Указ Президента США от 11.02.2019 №13859 «Поддержание американского лидерства в области искусственного интеллекта»^[5], который определяет направления работ по проведению НИОКР в области ИИ, практическое применение и доработку технологий ИИ; создание необходимой̆ инфраструктуры, наборов данных, технических и этических стандартов в области ИИ.

2. Руководство США по регулированию приложений на основе ИИ^[6], включающее принципы, которые необходимо учитывать при разработке технологий ИИ.

3. Рекомендации по цифровому здравоохранению^[7], которые содержат нормативные документы и рекомендации, где закреплена позиция регулятора по отношению к решениям на базе ИИ, подход к их классификации и регистрации.

4. Закон об ответственности и переносе данных о страховании здоровья граждан^[8] и Закон о применении медицинских информационных технологий в экономической деятельности и клинической практике^[9]. Данные документы определяют необходимость обеспечения приватности данных, связанных с пациентом, всех участников процесса оказания медицинской услуги.

Рассматривая практический феномен применения искусственного интеллекта, нельзя не отметить технологию IBM Watson, которая использует когнитивные вычисления для интерпретации клинической информации о больных раком и определения курса лечения на основе фактических данных^[10].

ИИ Deep Patient был обучен медицинской диагностике на базе данных примерно в составе 700 000 человек и при тестировании новых данных пациентов он показал невероятно хорошие результаты в прогнозировании заболеваний. Без каких-либо специальных инструкций ИИ обнаружил закономерности, которые не являются явно видными для лечащего врача и указывают на более широкий спектр проблем (включая рак печени)^[11].

На практике это значит, что в программу загружается большой массив данных по онкологическим вопросам и врачу предоставляются последующие рекомендации на основании Big-data. На основе машинного обучения данный массив максимально быстро анализирует данные (в т.ч. выпадающие зоны) и максимально быстро дает предложения лечащему врачу.

По мнению автора, логичным становится вопрос ответственности в случае ошибки как при прогнозе со стороны ИИ, так и на стадии принятия решения врачом.

В контексте медицинского применения ИИ данную проблему обобщенно называют «черный ящик ИИ» в здравоохранении - использование непрозрачных вычислительных моделей для принятия решений, связанных со здравоохранением. В результате применения моделей алгоритмы непрозрачны, а выводы, которые они фиксируют, не могут быть явно поняты лечащему врачу, а иногда даже не могут быть явно сформулированы^[12].

С точки зрения права опосредованным фактором размытия ответственности за предлагаемые решения ИИ является дискретность и диффузность, выражаемая тем, что процесс разработки ИИ может осуществляться различными командами (не работающими в тесной связке и в рамках единой общей координации)^[13]. Данный подход влияет на вопрос определения ответственности группы разработчиков ИИ для медицинской сферы (учитывающей многокомпонентный аналитический инструментарий и глубину анализа данных пациентов).

Следующим значимым вопросом в области определения юридической ответственности за действия ИИ является вопрос самого качества получаемых для анализа ИИ данных^[14]. На различных этапах возможно некорректное предоставление данных пациентов самим врачом, на этапе лабораторных исследований и т.д.

В контексте определения ответственности ИИ в медицинской сфере США необходимо отметить, что суды традиционно не выделяют юридическую ответственность машин поскольку они не являются юридическими лицами^[15]. Как следствие, поднимается вопрос отдельной юридической конструкции для ИИ, поскольку присутствует риск перекладывания ответственности на неограниченный круг лиц (от пациента и врача, до разработчика/ов или лиц, влияющих на инфраструктуру и данные), что так же отмечается американскими учеными (сложность выявления причинно-следственных связей из-за большого количества правоотношений и механизмов взаимодействия между людьми и ИИ)^[16].

При этом специалисты отмечают, что возможным решением для рассмотрения судебных споров, связанных с ИИ, является использование доктрины res ipsa loquitur, которая допускает вывод о небрежности конкретного ответчика, при том, что данный факт небрежности типичен для субъектов, к которым может быть отнесен ответчик. В основе данного принципа лежит вывод о том, что ответчик имеет исключительный контроль над орудием, причиняющим вред, который мог быть потенциально допущен в результате халатности^[17].

Следующий аспект в области определения ответственности ИИ в медицинской сфере касается отклонения врача от стандартов оказания медицинской помощи, которое автоматически влечет к определению нарушения обязанностей врача по отношению к пациенту^[18].

В рамках указанного подхода проводится сопоставительный анализ действий врача с его потенциальным коллегой, обладающим сопоставимым опытом, образованием и техническим оснащением.

При этом остается открытым вопрос интерпретации ИИ технического оснащения и его роли в стандарте оказания медицинских услуг^[19].

Следующий аспект включает определение субсидиарной ответственности при применении ИИ в медицинской сфере^[20]. Этот аспект касается вопроса о правовом статусе ИИ как «агента». В этой логике медицинское учреждение имеет некоторый контроль или власть над агентом (например, сотрудником — обычно врачом, но потенциально также и системой ИИ)^[21].

Ученые предлагают теоретическое использование модели строгой ответственности, которая будет просто автоматически возлагать ответственность только на производителя или разработчика ИИ, в т.ч. через конструкцию единого предприятия. Юридическая ответственность «единого предприятия» подразумевает, что каждая организация в группе взаимосвязанных компаний может нести солидарную ответственность за действия других организаций, которые являются частью группы. Эта теория ответственности выгодна применительно к ИИ, поскольку не требует, чтобы компании функционировали совместно, а работали для достижения общей цели — спроектировали, запрограммировали и произвели продукт ИИ или его составные части^[22].

Однако и тут возникает вопрос, проистекающий из технической природы автономности и самостоятельного развития ИИ^[23]. Если суд сочтет ИИ полностью автономным, тогда возложение на медицинское учреждение субсидиарной ответственности за любой ущерб, причиненный ИИ, будет невозможным, поскольку такой автономный ИИ функционально будет вне контроля принципала.

Следующим вопросом, который отмечают ученые, является единогласный вывод судов о том, что врачи несут юридическую обязанность информировать пациентов о существенной информации относительно предлагаемого курса лечения и иной информации, связанной с оказанием медицинской услуги, тем самым усиливая роль врача в обеспечении того, чтобы адекватная информация сообщалась пациенту для принятия обоснованного решения^[24]. Отсюда возникает вопрос понимания достаточного информирования пациента, в т.ч. в контексте используемого ИИ, его алгоритмов принятия решения и т.д.^[25].

Рассматривая отечественное нормативно-правовое регулирование ИИ в медицинской сфере, необходимо отметить следующие документы:

1. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской̆ Федерации», который определяет базовые правовые установки в отношении развития, регулирования и дальнейшего развертывания ИИ в России; этот документ дополняется перечнем конкретных мероприятий в Распоряжении Правительства РФ от 19.08.2020 № 2129-p

2. Федеральный закон от 21.11.2011 № 323 «Об основах охраны здоровья граждан в Российской Федерации». В статье 38 указанного закона определяется необходимость государственной регистрации любого программного обеспечения, используемого в медицинской сфере (порядок закреплен Постановлением Правительства РФ от 27.12.2012 № 1416).

3. Приказ Минздрава России от 06.06.2012 № 4н утверждает классификацию программного обеспечения, которое является медицинским изделием, в котором ИИ является медицинским изделием с высокой степенью риска.

4. Смежные федеральные законы: Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» (п. 1 ч. 1 ст. 6 предусматривающий обязательное согласие субъекта на обработку его данных) и Федеральный закон от 24.04.2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации» (предусматривающего экспериментальный режим регулирования деятельности ИИ с обезличенными данными субъектов).

На уровне отечественных доктринальных исследований необходимо отметить, что ряд ученых (Липчанская М. А., Заметина Т. В) отмечают, что присутствует искаженное восприятие понятия телемедицины и ИИ в медицинской сфере, а также необходимости углубления правовой регламентации правоотношений, возникающих между врачом и пациентом при использовании технологии ИИ^[26]. Е.А. Отставнова дополняет данную позицию, отмечая, что в ближайшем будущем право на получение медицинской помощи может быть дополнено отдельной ролью ИИ^[27].

И.В. Понкин в своем объемном докладе, посвященном регулированию ИИ в медицинской сфере, отмечает необходимость существенного прорывного развития референтной предметно-объектной области нормативного регулирования задействования технологий цифровых моделей-двойников ИИ. Данный исследователь также подчеркивает необходимость трансформации структуры и онтологии нормативного регулирования в сфере здравоохранения, включая синтез цифрового права, медицинского права и биоэтики. Кроме того, автор также обосновывает потребность проведения масштабного аудита в сфере нормативно-правового регулирования здравоохранения, в т.ч. с применением технологий ИИ и Big-data^[28].

Исследуя феномен юридической ответственности за действия ИИ в медицине, необходимо отметить позицию юриста-практика М.С. Варюшин. В рамках своей обзорной статьи автор отметил, что первым базовым вопросом является вопрос о том, была ли надлежащим образом оформлена процедура внедрения ИИ медицинской организацией. В случае, если ИИ используется без регистрации как медицинского изделия, то ответственность сохраняется за медицинской организацией, с возможностью последующего обращения с иском к разработчику ИИ ( в зависимости от условий и порядка оформления лицензионного соглашения или договора об отчуждении исключительных прав на ИИ)^[29]. Если ИИ зарегистрирован как медицинское изделие, то причинённый пациенту вред будет возмещаться эксплуатирующей медицинской организацией, при этом возможно предъявление регрессного иска к разработчику (правообладателю) ИИ в случае, если устанавливается сбой в работе ИИ, а не ошибка, допущенная врачом.

Кроме того, Ковелина Т. А., Собянин А. В. и Марухно В. М. в своем исследовании отмечают, что текущее нормативно-правовое регулирование ИИ не предусматривает возможности добровольного согласия пациента на использование искусственного интеллекта при осуществлении медицинского вмешательства, а ответственность ложится исключительно на изготовителя и/или пользователя, но в будущем круг ответственных может быть расширен^[30].

Таким образом, на основании вышеизложенного рекомендуется формирование следующих регулятивных инициатив в области применения ИИ в медицинской сфере:

1. Создание единого стандарта оказания медицинских услуг с применением ИИ и обязательным оповещением о применении указанной технологии пациента, что требует соответствующих поправок в профильное законодательство.

2. Создание универсальных правил распределения ответственности за поступающие в ИИ данные пациентов (пациент, оператор, врач), обеспечения их обработки (врач, разработчик, внешний фактор), интерпретации данных (врач, разработчик) и также процедур проведения аудита получаемых результатов (разработчик, орган надзора (в т.ч. судебная экспертиза), врач, медицинская организация).

3. Формирование публичного координационного центра, обеспечивающего возможности и интересы разработчиков, пациентов, врачей и регулятивных органов в целях обеспечения безопасной интеграции ИИ в сферу здравоохранения.