Искусственный интеллект в медицине. Правовые аспекты
Мария Зеленская: Уважаемые коллеги! Сегодня мы поговорим о правовых аспектах применения искусственного интеллекта в медицине. Позвольте представить вам наших экспертов:
- Шадёркин Игорь Аркадьевич – врач-уролог, научный редактор портала EverCare;
- Шилюк Татьяна Олеговна – кандидат юридических наук, старший преподаватель кафедры административного права и процесса Университета им. О.Е. Кутафина;
- Гринь Елена Сергеевна – кандидат юридических наук, доцент кафедры интеллектуальных прав Университета им. О.Е. Кутафина.
Мировой и российский опыт применения искусственного интеллекта в медицине
Мария Зеленская: Как в настоящее время применяется искусственный интеллект в медицине? Какие есть примеры в России и в мире
Игорь Шадеркин: В последнее время эта тематика активно развивается, что связано в первую очередь с появления инструментов для работы с искусственным интеллектом. Это так называемое глубокое машинное обучение, в котором заложены различные инструменты, в частности - нейронные сети. В первую очередь прорыв идет в работе с медицинскими изображениями (КТ, рентген, МРТ). На текущий момент накопленные данные в этих отраслях позволяют обучать нейронные сети. В настоящее время эти программы могут работать практически как сами специалисты.
Большой прорыв идет и в работе с медицинскими изображениями. Большое количество публикаций представлено из Кореи, где Самсунг предлагает множество подобных решений. Рентгенологи, к примеру, всерьез стали опасаться, что специальность «Рентгенология» окажется под серьезным вопросом. Постепенно инструменты, которые используются при постановке диагноза и при описании снимков на основе искусственного интеллекта, начинают вытеснять врачей.
Такие решения есть и в России. Активно развиваются несколько крупных компаний «Третье мнение» и Botkin.Ai. В частности, я работаю с проектом «Третье мнение», где наша команда под моим руководством обучила нейронную сеть на основе ультразвуковых снимков мочевого пузыря распознавать сам орган. В таком случае работает не сам УЗИ-датчик, а нейронная сеть, которая может успешно распознать и увидеть мочевой пузырь. Есть много решений, связанных с системой помощи принятия решений при назначении тех или иных препаратов, при прогнозе различных состояний, основанных на больших данных.
Правовое регулирование применения искусственного интеллекта
Мария Зеленская: Как в настоящее время регулируется применение искусственного интеллекта в медицине с юридической точки зрения? Какие законы необходимо принять, чтобы развивать это направление далее?
Елена Гринь: Действительно, сейчас тема искусственного интеллекта активно развивается, и в юридической среде мы много об этом говорим. Говорим применительно, прежде всего, к сфере интеллектуальных прав. Многие отмечают, что необходимо принять отдельный закон, однако могу вам сказать, что уже есть правовые основы регулирования искусственного интеллекта. По сути, искусственный интеллект — это усложненная компьютерная программа. У нас есть такие объекты в интеллектуальной собственности, как программы для ЭВМ и базы данных, которые регулируются частью 4 Гражданского кодекса РФ. Поэтому, когда мы говорим о правовой природе искусственного интеллекта, юристы спорят несколько об иной грани этого явления, нежели как об объекте в целом.
Вопрос: что может создавать искусственный интеллект? Может ли он создать объект авторских прав или каких-то иных интеллектуальных прав — это, пожалуй, сейчас самый распространенный вопрос, обсуждению которого ежегодно посвящаются многие научные форумы. В недавнем времени на одном международном форуме по интеллектуальной собственности разработчики по робототехнике привозили своих роботов и показывали два вида искусственного интеллекта. Тот робот, в который изначально заложена какая-то информация, в принципе и воспроизводит то, что заложено в него изначально. У нас даже были так называемые «баттлы» между юристами и искусственным интеллектом. В Санкт-Петербурге также недавно проходил форум с «баттлом»: искусственный интеллект против человека.
Есть и такой вид искусственного интеллекта, который действительно может создавать что-то, не запрограммированное в систему изначально. Однако с позиции законодательства у нас субъектом права всегда является гражданин (субъектом авторских прав, если мы об этом сейчас говорим). Пока мы не говорим, что в принципе робот может что-то создать самостоятельно, но предполагаем, что такое будет возможно в дальнейшем. К этому, быть может, и понадобятся некие изменения в законодательстве. В настоящее же время создать что-то творческое может только человек. Таково правовое регулирование в части интеллектуальной собственности.
Мария Зеленская: Какие риски с юридической точки зрения открывает применение искусственного интеллекта в медицине? Имеют ли какие-то из них место быть уже сейчас?
Елена Гринь: С позиции общегражданской правовой ответственности, когда мы говорим об ответственности искусственного интеллекта, многие врачи и даже юристы опасаются: вдруг будет причинен вред здоровью? Какая в таком случае будет гражданско-правовая ответственность?
В настоящий момент мы говорим врачам о том, что по действующему законодательству в случае причинения вреда здоровью ответственность несет медицинское учреждение. Поэтому по общим правилам, которые есть сейчас, в случае причинения вреда здоровью со стороны искусственного интеллекта, ответственность будет нести учреждение, где этот робот находится, где эта технология применяется.
Другой вопрос – что делать, если робот – привозной, запрограммированный в другом месте, а учреждение его лишь арендует? Такое явление распространено, например, в Великобритании, где очень активно распространяется применение искусственного интеллекта в хирургии, осуществляющие типовые операции по поводу некоторых раковых опухолей. Конечно, здесь возникает вопрос, каким образом будет регулироваться ответственность, будет ли отвечать собственник или арендодатель? В данном случае все зависит от условий договора – каждый случай рассматривается отдельно.
Пока ответственность структурирована с учетом тех положений, которые есть в настоящее время. Отдельно как субъект права робот пока не признается, но именно в этих положениях с учетом общих принципов гражданского права и с позиции медицинского законодательства такой вид ответственности в случае причинения вреда здоровью будет применен.
Татьяна Шилюк: Другие риски, которые, возможно, будут - пожалуй, не такие глобальные как привлечение к ответственности, потому что это наболевший вопрос у врачей даже без использования искусственного интеллекта. Как мы уже затрагивали эту сторону вопроса, рентгенологи начали опасаться, что вообще исчезнет их специальность. Такие опасения озвучивают и другие специалисты. Изначально, когда только начиналось обсуждение перспективы внедрения искусственного интеллекта, многие говорили о том, что без человека обойтись не удастся, и врач всегда будет востребован. Но ведь когда внедряется искусственный интеллект, мы преследуем какие-то определённые цели – улучшение качества работы, уменьшение количества часов, которые врач тратит на прием, а, значит, повышается эффективность деятельности и врача, и медицинского учреждения. Как уже звучало, те врачи, которые занимаются расшифровкой УЗИ, ЭКГ, ЭЭГ и т.д., могут оказаться не востребованы в медицинских учреждениях. Соответственно, врачи опасаются потерять свои рабочие места. Из этого риска проистекает и связанный с тем, что искусственный интеллект будет внедряться в медицине не только для использования в медицинском учреждении, но и самостоятельно пациентом дома. Все это выльется, пожалуй, в самолечение, которое сократит количество обращений в медицинские учреждения, а, может, напротив, прибавит проблем, усугубив состояние пациента, выбравшего неправильную тактику лечения из-за ошибок робота. Важно ведь учитывать не только конкретную болезнь, но и общее состояние пациента, возможные побочные эффекты, аллергические реакции и прочее.
Кроме того, пока не урегулирована обсуждаемая нами сфера, у нас нет полного представления о том, как это будет действовать не только в плане ответственности, но и с позиции применения самого искусственного интеллекта. Не праздный вопрос: будет он в будущем субъектом права или останется объектом? Ведь, если будет за ним признана субъектность в праве, тогда возникнут права, обязанности и ответственность, а это – совсем другой уровень юридического регулирования.
Полагаю, это и есть основные проблемы: ответственность, сокращение рабочих мест, вероятностные последствия самолечения или применения этих технологий, спровоцировавшее ухудшение состояния здоровья пациента. Возможно, еще встанет вопрос о сертификации систем искусственного интеллекта, когда речь идет о деятельности, требующей и от специалиста наличие разрешения, подтверждающего его права работать в этой сфере деятельности.
Игорь Шадеркин: Татьяна Олеговна, Вы могли бы пояснить, действительно ли обсуждается вероятность того, что искусственный интеллект станет субъектом права? Это реалистично или речь идет о производителе искусственного интеллекта как о субъекте права?
Татьяна Шилюк: Если, например, искусственный интеллект будет применяться при решении отдельных вопросов при заключении договоров, при постановке диагнозов, то уже говорится, что за роботами будет признаваться наличие правосубъектности. Также - когда он выступит стороной договора или посредником между врачом и пациентом. Сейчас это трудно представить и, наверное, отсылает нас к фантастическим фильмам, когда искусственный интеллект представлен в виде большого мозга и т.д. Все это вызывает у людей опасения и страхи, что он сможет самостоятельно существовать и мыслить, взбунтуется, и начнется восстание машин. Однако позиция о том, что в будущем вопрос о правосубъектности искусственного интеллекта встанет всерьез, действительно есть.
Елена Гринь: Многие разработчики уверяют, что искусственный интеллект действительно сможет что-то сам создавать, но пока нет четкий оснований об этом говорить. В принципе я, например, смотрю на это довольно позитивно, потому что в целом применение технологий искусственного интеллекта призвано помогать, а не мешать.
Татьяна Шилюк: Надо отметить, что искусственный интеллект уже применялся в юриспруденции в здравоохранении. Была разработана программа Европейской комиссией, которая должна была проанализировать нормативно-правовой материал, судебную практику, все нормативные основы в сфере здравоохранения, чтобы выработать определенные предложения для дальнейшего регулирования применения искусственного интеллекта в здравоохранении.
Ограничения к применению искусственного интеллекта в медицине
Мария Зеленская: Какие на текущий момент потенциальные препятствия к использованию и применению искусственного интеллекта в медицине есть с юридической точки зрения?
Елена Гринь: В принципе, каких-либо явных препятствий с юридической точки зрения нет - единственное, что те риски, о которых мы сейчас сказали, конечно же, будут возникать. Впрочем, эта проблема касается и существующей ныне ответственности врача. Если мы возьмем за пример опыт США, там врач является субъектом ответственности права, а у нас субъектом права является медицинское учреждение. Возможно, мы к этому когда-либо придем. Здесь, в целом, комплексный должен быть подход.
Сейчас есть зыбкие моменты, продиктованные, скорее, практикой, и здесь уже юристы будут держать руку на пульсе.
Татьяна Шилюк: Я тоже считаю, что препятствий – нет. Единственное, в чем глобальная трудность – то, что для медицины данная сфера все равно новая, и всегда трудно идти путем проб и ошибок по неизведанному пути, анализируя, что должно быть урегулировано, определение самого понятия искусственного интеллекта, его статуса, вопросов ответственности. Точно встанет вопрос об урегулировании вопроса распространения персональных данных и вопроса врачебной тайны, что можно и к рискам отнести, потому как это особая сфера регулирования, которая немало поднимается и без использования искусственного интеллекта. Но, скорее всего, законодатель пойдет по общему пути от определения понятия искусственного интеллекта, его статуса, его сущности, сферы регулирования к возможностям, которые он предоставляет, и к рискам, которые могут возникнуть. В дальнейшем, когда будут возникать какие-то конкретные ситуации, появится практика правоприменения, судебная практика, и эти нормативно-правовые акты будут дополняться другими нормами, регулирующими различные ситуации.
Игорь Шадеркин: Как врач-практик, работающий в создании инструментов искусственного интеллекта для применения в медицине, я бы хотел добавить еще несколько моментов.
Первое: на чем основывается работа алгоритма, т.е. медицинские данные, которые мы используем, чтобы обучить некую программу по алгоритму. Чаще всего мы используем нейронные сети, и здесь есть определенные риски, связанные с качеством и непосредственно источником информации. Второе: эксперты, которые занимаются обучением нейронных сетей. Вопрос, где они взяли снимки и сделали для себя нужные выводы. За рубежом несколько экспертов работают над обучением нейронной сети. Третий момент: сами алгоритмы, которые используются, чтобы обучить нейронные сети. Есть игрок, который хочет это все продавать, и возникает вопрос, нужно ли этому игроку иметь некую определенную лицензию. Пожалуй, все-таки будет нужно получать какую-то лицензию, т.к. отрасль требует использования врачом особых разрешительных документов.
В каждом из перечисленных моментов есть сложности. Я думаю, что, когда будет речь идти о регулировании этой области, то возникнет немало вопросов о правообладателе, о роли самого пациента, об экспертах и алгоритмах, которые они используют.
Мне видится очень интересной позиция, по которой, оказывается, сам искусственный интеллект сможет производить некий продукт. Я подтвержу, о чем вы говорите. Мы создали систему, нейронную сеть, которая может создавать искусственно снимки рентгеновские с моделями патологии - к примеру, опухоли легких. Она сама моделирует, а потом другая нейронная сеть распознает ее. Теоритически она может создавать какой-то контент, субъект, объект права. Соответственно, появляется еще одна отрасль регулирования.
Татьяна Шилюк: К слову, информационные технологии – сфера стремительно развивающая, в то время как нормативно-правовые акты разрабатывает и принимает человек. Это должен быть некий универсальный акт, что, наверное, в целом невозможно сделать, либо акт, который будет поддаваться несложным корректировкам по необходимости. Если это административные методы, то они достаточно жесткие, бюрократизированные, и нелегко внедряются в развитие современных технологий. Главное, чтобы законодатель комплексно начал разрабатывать эти вопросы, потому что, если сначала будут принимать один акт, который потребует принятия дополнительных ведомственных актов, процесс может сильно затянуться. Когда мы в России получим акт, регулирующий эти вопросы, в мире искусственный интеллект продвинется еще дальше и будет применяться более расширенно, а мы окажемся только в начале этих вопросов.
Игорь Шадеркин: Я даже опасаюсь чрезмерного урегулирования этих вопросов. Некоторые думают, что действующие игроки (коммерческие структуры) в первую очередь хотят заработать, но ведь они являются драйверами развития этого рынка. Если не они, то сомневаюсь, что государственные структуры будут делать готовый коробочный продукт. Мне кажется, тут надо иметь «газ и тормоз», чтобы не перейти грань разумного регулирования и не тормозить процесс развития технологий.
Сложные вопросы правового регулирования
Мария Зеленская: Мы отчасти рассмотрели вопрос об ответственности – какие еще сложные аспекты можно выделить? Как должна осуществляться защита персональных данных о пациенте, права использования информации, открытых данных в срезе нашей проблематики?
Елена Гринь: Что касается персональных данных, есть закон об их защите, в который недавно были внесены определенные изменения. На мой взгляд, сильное изменение законодательства не потребуется, но в любом случае для установки того же диагноза необходимо знать информацию о возрасте, о состоянии здоровья и пр. Всё будет, скорее всего, сделано по аналогии с телемедициной.
Татьяна Шилюк: Единственно, какое может быть опасение: при использовании программ искусственного интеллекта туда помещаются множество данных из научной учебной литературы, множество диагностических исследований и данные о различных самых пациентах. Если эта информация станет доступна не только медицинскому учреждению, и эти приложения будут использоваться самими пациентами, между медицинскими учреждения, а может и между государствами – такое оперирование персональными данными потребует обезличивания информации. Даже если лица уже нет в живых, информация о нем остается врачебной тайной. Вот эти все вопросы, наверное, придется поднимать.
Недавно было дело, когда родители подавали в суд на медицинское учреждение и выиграли полтора миллиона за разглашение персональных данных о своих несовершеннолетних детях по запросу прокуратуры, и было вынесено решение о том, что медицинское учреждение не может без конкретного случая, без конкретного расследования, предоставлять сведения даже по запросу правоохранительных органов о неопределенном круге лиц.
Владение персональными данными о пациенте
Игорь Шадеркин: Хотелось бы уяснить такой вопрос: кто в настоящее время является владельцем персональных данных о пациенте (о результатах обследования, КТ, анализов и т.д.)?
Елена Гринь: Такие данные хранятся, прежде всего, в медицинском учреждении. Когда Вы проходите обследование, то подписываете согласие, в котором указывается, где будут находиться персональные данные, а также аспекты врачебной тайны, которую медицинская организация должна сохранять. Это нужно, чтобы, если Вам понадобится какая-то медицинская помощь в ином медицинском учреждении, Вы могли информацию о лечении взять из этого. Соответственно, это гражданско-правовые услуги, в рамках которых – хранение соответствующей информации.
Татьяна Шилюк: Соответственно, человек дает согласие на использование своих персональных данных. Не зря эти документы потом хранятся в архивах, а в случае каких-то проверок в медицинском учреждении могут быть использованы. Не зря медицинская карта не может быть уничтожена, даже если пациент просит об этом, ведь это документ отчётности. Подписывая согласие, пациент дает разрешение на работу со своими персональными данными, а отчуждать их, конечно, нельзя.
Елена Гринь: Это так называемое исключительное право. Здесь мы, прежде всего, говорим о правах, которые с точки зрения гражданского права неотчуждаемы как таковые, но могут быть использованы в определенных целях. Другой вопрос, бывает, ставится: кто – владелец органов, тканей человека при донорстве и пр.
Игорь Шадеркин: Я сейчас поясню, почему об этом спросил в контексте искусственного интеллекта. Я был в США на конференции «Будущее здравоохранения» и стал свидетелем интересной дискуссии, когда представители IT-индустрии обсуждали со страховыми компаниями и медицинским сообществом эти данные. Оказалось, в Америке существует проблема, что данные находятся даже не у страховых компаний, а у медицинских учреждений, они тоже имеют частную форму собственности, как правило. При этом они не отдают эти данные, а IT-компаниям очень важно получить доступ к этим данным, чтобы на основании их строить алгоритмы искусственного интеллекта. Один из представителей большой IT-компании сказал: «А кто владелец этих данных?» – все говорят: «Пациент». Он же отвечает: «Так Вы отдайте данные пациенту, а мы их купим у него».
Елена Гринь: С точки зрения американского права у них это возможно сделать, у них возможно отчуждение. У нас есть проблема, когда, к примеру, в уголовном праве предусмотрена уголовная ответственность за торговлю внутренними органами, потому что бывают случаи, когда умирает лицо, и осуществляется незаконное извлечение внутренних органов, которые везут перепродавать в США, где внутренние органы являются объектом права, который можно продавать, передавать и пр.
Впрочем, и у нас есть проблема с внутренними органами, которая усилено обсуждается специалистами в уголовном праве, поскольку нелегальная торговля, к сожалению, очень распространена. Это отдельная тема для разговора.
Взаимоотношения «врач-пациент» в контексте искусственного интеллекта
Мария Зеленская: Как в дальнейшем будет выстраиваться взаимодействие между пациентом и врачом в срезе применения искусственного интеллекта и его расширения? Есть ли какие-то особенности?
Игорь Шадеркин: Искусственный интеллект будет, скорее всего, инструментом помощи для врача в принятия решений. Врач будет просто использовать этот инструмент, чтобы разгрузить себя и повысить качество своей деятельности. С другой стороны, есть аспект вовлеченности самого пациента. Интересно, что на этом этапе сам пациент вовлекается в процесс познания своего здоровья. Полагаю, что, в конечном итоге, это повысит качество оказания медицинской помощи и сместит акцент, когда раньше лишь врач нес ответственность и принимал участие в судьбе пациента, а здесь пациент сам будет использовать имеющиеся инструменты, чтобы использовать систему профилактики и предсказания того или иного состояния. Полагаю, что, в таком случае, пациент сам должен нести ответственность за принятие тех или иных инструментов.
Татьяна Шилюк: Приведу пример из судебной практики. Было дело, когда медицинское учреждение привлекли к ответственности за то, что врач после постановки диагноза и назначения лечения не контролировал, как пациент это лечение соблюдает. Пациент обратился в суд с тем, что ему оказали некачественную помощь, хотя врачу говорил ранее, что соблюдать его назначения не собирается. Суд, в итоге, зацепился за единственную формулировку в медицинской карте, где врач написал «систематическое наблюдение», и посчитал, что врач должен был это систематическое наблюдение производить. Получается, что он не выполнил свою врачебную функцию, не отследив и не проконтролировав, что привело к ухудшению здоровья.
Возможно, искусственный интеллект сделает жизнь врача в данном аспекте легче, если будет использоваться некое приложение, которое в дальнейшем будет контролировать процесс лечения пациента и с помощью телемедицинских технологий передавать врачу сведения о его здоровье.
С юридической точки зрения, на мой взгляд, глобально ничего не изменится в отношениях между врачом и пациентом, ведь это, все-таки, технологическая составляющая, некое сподручное средство помощи врачу, которое должно сократить время приема, упростить процесс диагностики и лечения, а также - ведения медицинской документации.
Игорь Шадеркин: Как распределять ответственность, если пациент самостоятельно скачал из Интернета приложение, и врач не принимал решение ни в диагностике, ни в назначении лечения?
Татьяна Шилюк: Тогда, пожалуй, иск будет обращен к разработчикам приложения.
Елена Гринь: Верно, потому что пациент, обращаясь к электронной системе, вступает в гражданско-правовые отношения по поводу возмездного или безвозмездного оказания медицинских услуг, где есть две стороны договора: контрагент разработчик системы и пациент.
В целом, вопрос действительно очень важный именно с точки зрения использования новых технологий. Нужно будет внимательно к этому отнестись и разные варианты предусмотреть. Пока же будут действовать общие гражданско-правовые принципы о возмездном или безвозмездном оказании услуг.
Игорь Шадеркин: Часто решения программного обеспечения, которые находятся на Google Play или AppStore, принадлежат американским компаниям. В таком случае американская компания будет нести ответственность?
Елена Гринь: Да. Если Вы воспользуетесь каким-то платным приложением, и что-то произойдет, можно предъявить иск – почему бы и нет. В этом случае, правда, вердикт будет выноситься по закону данного американского штата. Но в целом это возможно.
Важно понимать, что сложные вопросы очень внимательно рассматриваются, всё это решается не одним днем. Если не будет резких решений, то ответы будут находиться именно с опытом.
Перспективы искусственного интеллекта в медицине
Мария Зеленская: Насколько перспективным вы видите применение искусственного интеллекта в медицине? Готово ли наше общество, и какие условия для развития можно создать уже сегодня?
Игорь Шадеркин: Мой ответ на этот вопрос очень прост. Вне зависимости от того, готово общество или нет, технологии будут двигаться вперед. На то они и называются разрывные, которые без нашего желания вмешиваются в жизнь и изменяют ее, как это сделали мобильные технологии и Интернет. Будем надеяться, что в конечном итоге изменения повысят качество нашей жизни и направят ее в лучшую сторону.
Татьяна Шилюк: Единственное, я пока не верю в то, что врач потеряет свое значение и уйдет на задние роли по сравнению с искусственным интеллектом. В любом случае, пока всё это будет внедряться, тестироваться и войдет в нашу повседневную жизнь, врачи будут перепроверять, контролировать, что-то корректировать. Думаю, врачи еще долго не перестанут играть свою главную роль.
Мария Зеленская: Большое спасибо, уважаемые коллеги, за такую насыщенную и конструктивную дискуссию. До новых встреч.
