Разработан первый национальный стандарт искусственного интеллекта в медицине

Росстандарт на своем официальном сайте опубликовал проект первого в России национального стандарта, регулирующего использование искусственного интеллекта в здравоохранении.

Проект подготовлен специалистами Центра диагностики и телемедицины совместно с коллегами из подкомитета ТК164 «Искусственный интеллект в здравоохранении». Технический комитет по стандартизации 164 «ИИ», созданный в прошлом году по инициативе Российской венчурной компании при поддержке Минпромторга РФ и Росстандарта отвечает за широкий спектр вопросов, которые связанны с нормативно-техническим регулированием разнообразных аспектов прикладного использования технологий искусственного интеллекта. В работе приняли участие Росздравнадзор, фонд «Сколково», технологические компании, НМИЦ онкологии им. Н.Н. Петрова, правительственные структуры и крупнейшие вузы России.

Стандартом устанавливаются общие требования к проведению клинических испытаний и оценки стандарта ИИ, чтобы определять уровень безопасности и значимости выходных данных, получаемых при помощи искусственного интеллекта. Нацстандарт содержит важные параметры применения цифровых технологий в клинической медицине, определяет роль искусственного интеллекта в выработке врачебных решений.

Он определяет методику клинических испытаний, в частности:

1. Порядок проведения испытаний.
2. Критерии точности.
3. Способы аудита полученных данных.
4. Контроль за качеством работы медицинской цифровой системы.

Документ выложен для публичного обсуждения специалистами. До октября 2020 года будут приниматься замечания, предложения, дополнения.

Почему эти пункты представляют особую важность в стандартизации подходов в ходе КИ? 

Надежная рецензируемая клиническая оценка в рамках рандомизированных контролируемых исследований должна рассматриваться как золотой стандарт для получения доказательств, но ее проведение на практике не всегда может быть целесообразным или осуществимым.  Ключевые проблемы для внедрения систем искусственного интеллекта в здравоохранение включают те, которые присущи науке о машинном обучении, логистические трудности при внедрении и рассмотрение барьеров для принятия, а также необходимые социокультурные изменения.  Стандарты применения должны быть нацелены на определение реальной клинической применимости и быть понятными для предполагаемых пользователей.  

Разработчики алгоритмов искусственного интеллекта должны проявлять бдительность в отношении потенциальных опасностей, включая смещение набора данных, случайную подгонку искажающих факторов, непреднамеренную дискриминационную предвзятость, проблемы обобщения для новых групп населения и непреднамеренные негативные последствия новых алгоритмов для показателей. 

В частности, неоптимальные методы отбора и набора пациентов в сочетании с неспособностью эффективно контролировать и обучать пациентов во время клинических испытаний являются двумя основными причинами высокой частоты неудач испытаний.

Например, высокая частота неудач клинических испытаний в значительной степени способствует неэффективности цикла разработки лекарств, иными словами, тенденции к тому, что на рынок выходит все меньше новых лекарств, несмотря на увеличение инвестиций в фармацевтические исследования и разработки. 

Технологии искусственного интеллекта уже достигли уровня зрелости, который позволяет использовать их в реальных условиях для оказания помощи людям, принимающим решения. Искусственный интеллект может трансформировать ключевые этапы разработки клинических испытаний, от подготовки к их проведению, в сторону повышения показателей успешности испытаний. Осталось выработать стандарты, которые обеспечат надежную основу для выработки позитивных ожиданий в отношении ИИ.

На основе российского национального стандарта предложено разработать международный стандарт «Artificial Intelligence (AI) — Software testing of AI medical devices — Part 1: Clinical evaluation». Решение об этом будет принято после обсуждения проекта российского нацстандарта. Вопрос обсудят страны-члены подкомитета SC 42 «Artificial Intelligence» в ISO на пленарном заседании в октябре нынешнего года.

Директор Центра диагностики и телемедицины, председатель ТК164 Сергей Морозов уверен, что без внедрения искусственного интеллекта в медицину развитие этой отрасли сегодня невозможно. Разработанные его командой нацстандарты призваны помочь в работе врачей-диагностов, освободить их от рутинных операций, обеспечить всей необходимой профессиональной информацией. Когда будут выработаны четкие нормы качества работы искусственного интеллекта, тогда станет возможным его массовое применение в здравоохранении России.

Цель проекта — Международная стандартизация в области применения технологий ИИ в здравоохранении.

Ранее, рассказывая о деятельности и планах работы подкомитета ПК01/ТК164 «Искусственный интеллект в здравоохранении», Сергей Морозов сообщил, что стандарт «Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания. Разработка ГОСТ Р», который опишет формирование общих требований к программе, продолжительности и форме представления результатов клинических испытаний, а также единых подходов оценки безопасности и эффективности систем на основе искусственного интеллекта в клинической медицине должен быть окончательно готов к 1 декабря 2020г.

Параллельно продолжается работа над другими частями стандарта «Системы искусственного интеллекта в клинической медицине».

К 1 сентября была окончательно готова первая редакция пятой части «Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов. Разработка ГОСТ Р». Она включает в себя разработку требований к структуре набора данных для обучения и тестирования систем искусственного интеллекта, которая является одной из первоочередных задач. Ее решение позволит обеспечить единообразие используемых данных, и, как следствие, облегчить разработку стандартов по проведению испытаний и менеджмента качества систем искусственного интеллекта в клинической медицине.

23 октября планируется обсуждение еще четырех частей системы ИИ в клинической медицине. Программе и методике технических испытаний посвящена вторая часть. В ней отображена стандартизованная методика по проведению технических испытаний, формированию общих требований к программе, форме и продолжительности представления результатов технических испытаний.

Третья часть, посвященная применению менеджмента качества к дообучаемым программам и включающая в себя протокол изменения алгоритма, и  четвертая часть, очерчивающая оценку и контроль эксплуатационных параметров, описывают стандартизированные требования, которые позволят однозначно интерпретировать оценку основных характеристик и нормируемых параметров любого алгоритма на основе ИИ.

Шестая часть, касающаяся общих требований к эксплуатации, устанавливает требования, предъявляемые к эксплуатационной документации, подготовке и обучению медперсонала, порядку проведения внутреннего контроля качества, а также описанию процессов медицинской деятельности, чтобы своевременно выявлять и предотвращать риски, создающие угрозу здоровью и жизни пациентов, минимизировать последствия их наступления.

Андрей Шолохов, заместитель гендиректора Softline по работе с национальными проектами подчеркивает, что стандартизация новых технологий поможет ускорить процесс обработки снимков и других медицинских изображений, сделает более точным оценку анализов и других исследований.

Он уверен, что комплексную оценку здоровья пациента еще долгое время может сделать только врач. Сегодня искусственный интеллект качественно анализирует результаты только от одного источника – МРТ или КТ, например. Оценить их в комплексе он пока не в состоянии. Поэтому выводы искусственного интеллекта носят рекомендательный характер, а окончательное решение принимает специалист-человек.

Егор Осипов, преставитель ИТ-компании «Крок», предупреждает, что не все области применения искусственного интеллекта можно отрегулировать законами. Иногда они бывают оторванными от практики. Поэтому в медицине сегодня надо принять общие термины и определения для новых технологий. Эти задачи как раз и призван выполнять отраслевой нацстандарт.

Он обратил особое внимание на важности соблюдения тайны личной жизни пациентов. Для этого важно деперсонализировать данные, которые поступают в нейросети.

Работа над национальными стандартами продолжается. Разрабатываются стандарты по следующим направлениям работы:

• программа и методика технических испытаний;
• менеджмент качества;
• протокол изменения алгоритма;
• оценка и контроль параметров;
• требования к эксплуатации;
• фазы жизненного цикла.

Первая редакция стандарта, содержащего требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов должна выйти уже в сентябре нынешнего года.

Стандартизация данных является ключом к применению аналитики и сбора информации с участием ИИ. Даже далеким от медицины людям, очевидно, что ранняя диагностика любого хронического заболевания очень позволяет свести к минимуму разрушающие здоровье последствия болезни и помогает в выборе протокола лечения. Приведение к единым стандартам различных протоколов диагностики и лечения ряда заболеваний важнейший этап укоренения ИИ в системе здравоохранения.