HIMSS 2021: 4 большие проблемы на пути внедрения искусственного интеллекта в здравоохранении

Перспективы использования искусственного интеллекта (artificial intelligence, AI) и машинного обучения в здравоохранении весьма радужны, но для того, чтобы обещания AI стали реальностью, необходимо решить серьезные проблемы, связанные с предвзятостью, обеспечением равенства, разработкой и предоставлением информации.

Выступая на днях на конференции HIMSS21 Digital, президент Mayo Clinic Platform доктор Джон Халамка поделился своим мнением о способности AI повысить эффективность системы здравоохранения, улучшить результаты лечения пациентов и рабочие процессы врачей. Кроме того, он обратился к растущей проблеме предвзятости AI и обсудил меры предосторожности, необходимые для обеспечения равенства в здравоохранении, поддерживаемом AI. Халамка ожидает увидеть рабочую среду, в которой искусственный интеллект предоставляет большие, разнообразные базы данных информации о пациентах, которые врачи могут использовать для дополнения своего личного опыта и знаний при лечении пациентов.

Такая система может, например, сообщить врачу скорой помощи важные факты, которые заставят его обратить внимание не только на первоначальный диагноз (например, неустойчивое поведение, вызванное употреблением каннабиса), но и на проблему, которую он или она не рассматривали (у пациента менингит).

Однако сначала необходимо решить один ключевой вопрос - обеспечение равенства и борьба с предвзятостью, которая может быть "заложена" в AI. По его мнению,

Алгоритмы хороши лишь настолько, насколько хороши лежащие в их основе данные. И все же мы до сих пор не публикуем информацию, описывающую, как разрабатываются эти алгоритмы.

Решение, по его словам, заключается в большей прозрачности - разъяснении и распространении с помощью технологий данных об этнической, расовой, гендерной принадлежности, образовании, доходах и других деталях, которые закладываются в алгоритм.

Халамка указывает на четыре основные проблемы, которые он называет препятствиями на пути внедрения AI в здравоохранение. По его мнению, необходимо:

1. Обеспечить сбор ценных новых данных - например, GPS-информации с телефонов и других устройств, которые люди носят с собой, а также носимых технологий - и включение их в алгоритмы.
2. Создание открытости на институциональном уровне, чтобы каждый - включая тех, кто не имеет опыта работы с AI, - чувствовал себя способным и вовлеченным в разработку алгоритмов.
3. Валидация алгоритма, чтобы убедиться в его пригодности для использования в различных организациях и географических регионах, а также в том, что он соответствует своему назначению, имеет соответствующую маркировку в качестве продукта и может быть описан в научной литературе.
4. Организовать рабочий процесс и предоставление информации - мгновенная выдача информации и советов врачам, пока они находятся перед пациентами.

При этом Халамка прогнозирует расширение сотрудничества государственного и частного секторов для решения проблем, связанных с предвзятостью, равноправием и объективностью в системах AI, уже в этом году.