10 главных опасностей, связанных с цифровой медициной

Прорывные исследования и разработки в области медицины постепенно позволяют справляться со смертельными болезнями и превратили другие болезни в управляемые состояния. Но те же самые достижения, которые продвигают здравоохранение в 21 век, приносят с собой свою долю опасностей в этой области.

От уничтожения частной жизни, взлома медицинских устройств до биотерроризма - все это признаки тревожных тенденций, которые мало кто пока воспринимает всерьез. Тем не менее, эти проблемы должны решаться, причем чем раньше, тем лучше. Здесь мы хотим упомянуть 10 главных опасностей, которые технологии создают в эпоху цифрового здравоохранения.

Регулирование адаптивных алгоритмов искусственного интеллекта

Адаптивный искусственный интеллект (artificial intelligence, AI) - это такая система, которая может адаптироваться на ходу на основе новой информации, которую она получает. В клинических условиях она могла бы, например, рекомендовать чаще проводить анализ крови у населения в районах с высокой распространенностью сахарного диабета. И если она увидит, что у людей в этой популяции также есть тенденция к развитию сердечно-сосудистых заболеваний, она также порекомендует провести оценку состояния сердечно-сосудистой системы.

Однако такие алгоритмы опираются на существующие медицинские данные, которые чреваты внутренней предвзятостью и неточностями. Развиваясь на основе таких данных, адаптивный AI будет только усиливать эти вредные предрассудки, такие как дискриминация по этническому и/или половому признаку. Для снижения этих рисков регулирующие органы должны принять новые подходы к регулированию, чтобы обеспечить применение справедливых адаптивных алгоритмов в медицинских учреждениях.

Удаленный взлом медицинских приборов

Новые медицинские имплантаты и цифровые устройства все чаще оснащаются функциями беспроводного подключения, будь то мониторинг показателей здоровья или запуск диагностики. Но это также означает, что они подвержены взлому и могут оказаться смертельно опасными для пациентов.

Еще в 2011 году один исследователь показал, как можно взломать инсулиновые помпы Medtronic, чтобы ввести смертельные дозы пациентам с диабетом. Таким же образом можно взломать кардиостимуляторы через Bluetooth, скомпрометировать рентгеновские данные, удаленно перенастроить компьютерную томографию, чтобы изменить радиационное облучение, и этот список продолжается. По мере того, как все больше пациентов и медицинских учреждений начинают применять такие цифровые решения, возникает беспокойство, обеспечивают ли регулирующие органы контроль того, что частные компании используют защищенные и безопасные технологии. Пациенты должны требовать применение более безопасных вариантов и быть бдительными при их использовании, в то время как компании, разрабатывающие такие технологии, должны гарантировать их безопасность.

Несоблюдение конфиденциальности устройствами и службами, работающими с потребителями

Взаимосвязь между внедрением цифровой медицины и неприкосновенностью частной жизни очевидна. Сегодня нет такого понятия, как цифровая медицина без нарушения нашей частной жизни. Для того, чтобы обеспечить индивидуальные и персонализированные результаты, такие системы, как сенсорные устройства и AI нуждаются в доступе к нашим личным данным о здоровье. Но насколько безопасны такие данные после того, как компании, разработавшие эти системы, получат к ним доступ? Например, известная американская компания по потребительскому тестированию ДНК 23andMe и фармацевтический гигант GSK не так давно подписали сделку на $300 млн, в рамках которой они сотрудничают в разработке лекарств. Это означает, что будут использоваться генетические данные, полученные 23andMe, что стало возможным благодаря тому, что ее клиенты не знали о том, что такая сделка находится в стадии разработки.

Вопросы конфиденциальности и безопасности, связанные с эрой цифрового здравоохранения, сложны и многофакторны. Они вряд ли станут более простыми по мере того, как все больше и больше передовых технологий будут интегрироваться в эту сферу. Таким образом, каждая заинтересованная сторона в сфере здравоохранения должна задуматься о необходимости изменений в эпоху цифровой медицины.

Атаки хакеров на больницы

Когда речь заходит о киберугрозах в здравоохранении, наиболее распространенными из них являются атаки хакеров с требованием выкупа (ransomware). Речь идет о преступниках, заражающих ИТ-системы вредоносными программами или вирусами для шифрования важных файлов. Они парализуют целые инфраструктуры, поскольку эта информация недоступна до тех пор, пока не будет выплачен выкуп, обычно через криптовалюту.

Одна из громких атак произошла еще в 2017 году с применением программы WannaCry на 61 учреждение британской Национальной службы здравоохранения. Это привело к отмене операций и клинических назначений, потере подключения к Интернету в больницах и перенаправлению пациентов из отделений неотложной помощи в другие больницы даже через неделю после инцидента. Эта тенденция сохранилась и в последующие годы. К концу 2020 года, в ноябре и декабре, количество кибератак на организации здравоохранения по всему миру увеличилось на 45%.

Кибер-угрозы в здравоохранении нельзя игнорировать. Среднестатистический пациент должен требовать большей безопасности своих данных, а медицинский персонал и руководство должны серьезно отнестись к этим требованиям и ознакомиться с методами киберпреступности, чтобы лучше противостоять им.

Технологии для самостоятельной диагностики

Врачи беспокоятся, потому что пациенты все чаще ищут описание своих симптомов и лечение в Интернете, так как они могут ошибочно ассоциировать информацию, которую они находят, с более серьезными заболеваниями, чем то, которое определил бы врач. Ученые также бьют тревогу по поводу того, что пациенты обращаются в больницы из-за уведомлений, получаемых от своих "умных" часов об аномальных показаниях ЭКГ, многие из которых не требуют врачебного вмешательства. Но вскоре все больше и больше пациентов будут иметь доступ к большему количеству показателей здоровья у себя дома, некоторые из них поступают от устройств, не прошедших сертификацию у регулирующих органов и предлагающих неточные услуги.

Это приведет к еще более серьезным случаям неправильной интерпретации или самолечения. Сможем ли мы убедить пациентов не перегружать больницы таким образом? Чтобы предотвратить это, надлежащие рекомендации от медицинских специалистов могут вооружить пациентов более качественной интерпретацией показаний их "умных" сенсоров, а власти могут регулировать эти услуги, чтобы пациенты могли узнать, каким компаниям можно доверять. Это, в свою очередь, поможет избежать ненужных посещений больниц.

Биотерроризм с использованием цифровых медицинских технологий

Благодаря усовершенствованным медицинским решениям, появившимся в результате разработок цифровых технологий в области здравоохранения, биотерроризм также выходит на новые уровни. В частности, преступники могут удаленно взломать медицинские устройства, а также организовать кибератаки с целью получения выкупа, что чревато для некоторых пациентов фатальным исходом.

В настоящее время Элон Маск с помощью технологии Neuralink хочет внедрить цифровое устройство прямо в мозг человека, а стартап NaNotics разрабатывает нанороботов, которые "убирают" молекулы, вызывающие заболевания и старение из кровообращения. Имея такие передовые технологии на горизонте, можем ли мы предотвратить взлом этих устройств биотеррористами, чтобы напрямую получить контроль над нашим здоровьем?

Системы AI не тестировались в реальных клинических условиях.

Мы регулярно читаем новости о невероятных достижениях AI-разработчиков в области здравоохранения. Но во многих случаях эти результаты получены в лабораториях с использованием выбранных наборов данных или идеальных настроек, которые не полностью отражают реальную клиническую обстановку.

Например, исследователи из компании Google объявили о возможности своей AI-системы с 90%-точностью диагностировать диабетическую ретинопатию на основе анализа изображений. Но при использовании на практике дела обстояли не так хорошо, как на бумаге. Когда система начала использоваться медсестрами в больнице в Таиланде, они столкнулись с несколькими проблемами. Иногда у них были проблемы с подключением к интернету, в других случаях качество сканирования не достигало определенного порога, поэтому система просто не выдавала результата. А иногда медсестрам даже приходилось тратить дополнительное время на редактирование некоторых изображений, которые алгоритм отказывался анализировать.

Электронные медицинские карты не в состоянии вместить цифровые данные о здоровье пациентов

В связи с растущим спросом на носимые устройства для фитнеса и потребительские генетические тесты, которые скоро станут доступными по цене менее 100 долларов, пациенты будут все чаще использовать такие решения и собирать персонализированные данные о себе. И они, несомненно, захотят предоставить доступ к своей генетической информации или данным сенсоров здоровья своему врачу.

Однако они в настоящее время не смогут включать такую информацию в электронные медицинские карты, поскольку эти системы не предназначены для этого. Однако в цифровую эпоху такие информационные системы должны видоизмениться для этой цели, поскольку сенсоры здоровья и анализы на дому станут более доступными для пациентов и предоставят больше медицинских данных для врачей.

Камеры с распознаванием лиц в больницах

Технология распознавания лиц - это метод, сочетающий анализ изображений и глубокие нейронные сети для интерпретации определенных паттернов по характеристикам лица. Система на основе такой технологии может выявить целый ряд заболеваний. Ее функциональный алгоритм опирается на существующие базы данных и погружается в сравнение этих характеристик для вывода результата. Его применение в здравоохранении обещает множество преимуществ - от обнаружения редких генетических заболеваний до извлечения информации о кровотоке.

Недавно в США компания Clearview AI, которая создала базу данных для распознавания лиц из фотографий ничего не подозревающих лиц в социальных сетях, предложила свою платформу правительству для отслеживания людей, инфицированных коронавирусом SARS-CoV-2. Однако использование технологии компании с сомнительными намерениями создает новые риски для конфиденциальности. Что они будут делать с собранными изображениями? Будут ли они переданы для наблюдения сотрудникам правоохранительных органов, которые смогут их использовать совсем не в благовидных целях, особенно в странах, где государство терроризирует своих граждан?

Медицинское страхование как "Большой брат"

Благодаря внедрению в нашу жизнь фитнес-трекеров, потребительских генетических тестов и сенсоров здоровья, страховые компании могут оценивать претендентов на страховое покрытие на основе их индивидуальных потребностей. Например, если генетический тест выявит более высокую вероятность заболевания раком яичников, страховая компания может впоследствии субсидировать соответствующие тесты и предлагать их этому человеку более регулярно.

Однако такая доступность персональных данных является обоюдоострым мечом. Это может привести к мрачному сценарию, как это в свое время описывал Джордж Оруэлл в своем романе "1984". Страховые компании могут потребовать доступ к данным носимых устройств физических лиц для того, чтобы предложить им страхование, или взимать более высокие страховые взносы, если клиенты не ведут здоровый образ жизни. Они даже могут дискриминировать заявителей на основании их генетического риска. Правда, например в США уже существует закон о борьбе с дискриминацией в отношении генетической информации, который должен противодействовать подобным намерениям, но разве мощные ресурсы страховых компаний и корпораций не могут в какой-то момент пролоббировать его изменение или ослабление? В других странах, кстати, такого закона пока нет.

По материалам The Medical Futurist, Genetic Literacy Project, Wired, Forbes, Nanotics.