FDA выпускает "основополагающие принципы" для разработки систем на базе искусственного интеллекта и машинного обучения

Американское регулирующее ведомство - Управление по контролю за продуктами и лекарствами США (FDA) - опубликовало список "руководящих принципов", призванных содействовать безопасной и эффективной разработке медицинских устройств и систем, использующих искусственный интеллект и машинное обучение. 

FDA вместе со своими коллегами из Великобритании и Канады заявило, что эти принципы призваны заложить основу для надлежащей практики создания систем машинного обучения. 

Как отмечает FDA, технологии искусственного интеллекта и машинного обучения обладают потенциалом для радикального расширения отрасли здравоохранения, но их сложность также ставит перед отраслью уникальные проблемы. 

Десять основополагающих принципов определяют моменты, учитывая которые международные организации по стандартизации и другие органы, включая Международный форум регуляторов медицинских изделий, могут работать над продвижением этого документа. 

Агентство утверждает, что заинтересованные стороны могут использовать эти принципы для адаптации и принятия передового опыта из других направлений для использования в секторе медицинских технологий, а также для создания новых конкретных практик. 

Эти принципы заключатся в следующем:

1. Полный жизненный цикл продукта использует междисциплинарный опыт.
2. Проектирование модели реализовано с использованием передовых методов разработки программного обеспечения и обеспечения безопасности.
3. Участники и наборы данных представляют предполагаемую популяцию пациентов.
4. Наборы данных, используемые при обучении модели, не зависят от тестовых наборов.
5. Отобранные эталонные наборы данных основаны на лучших доступных методах.
6. Проектирование модели адаптировано к имеющимся данным и отражает предполагаемое использование устройства/системы.
7. Основное внимание уделяется совместной работе команды "человек - искусственный интеллект".
8. Испытания демонстрируют работу устройства в клинически значимых условиях.
9. Пользователям предоставляется четкая, необходимая информация.
10. Внедренные модели контролируются на предмет эффективности, а риски переобучения контролируются.

Как отмечается в этом документе,

Области [международного] сотрудничества включают исследования, создание образовательных инструментов и ресурсов, международную гармонизацию и согласованные стандарты, которые могут помочь в разработке политики регулирования и нормативных документов.

За последние несколько лет FDA несколько раз принимало участие в разработке и надзоре за инструментами здравоохранения, основанными на искусственном интеллекте и машинном обучении, особенно в тех случаях, когда речь шла о предотвращении предвзятости разрабатываемых моделей.