7 вещей, которых вы не можете ожидать от искусственного интеллекта в здравоохранении

7 вещей, которых вы не можете ожидать от искусственного интеллекта в здравоохранении

09 Jan 2021
158
Прослушать

Способность технологий, основанных на искусственном интеллекте (artificial intelligence, AI), проливать свет на медицинские заболевания нетрадиционными способами и даже предсказывать кризисы общественного здравоохранения может создать впечатление, что эта технология заменит человека во всех сферах здравоохранения. 

Однако это далеко не так. В частности, человеческий фактор очень актуален в этой отрасли и это именно то, что отсутствует в AI. Поэтому существует множество областей в здравоохранении, где мы не можем многого ожидать от таких алгоритмов. Давайте посмотрим, чего мы, безусловно, не увидим от этой технологии в течение ближайшего десятилетия.

1. AI заменит профессиональных медиков

Нет, как бы не пугали нас этим средства массовой информации, AI не заменит медицинских специалистов. Этот страх перед заменой рабочих мест технологией на основе искусственного интеллекта ощущается практически во всех отраслях экономики, включая здравоохранение. Хотя такое программное обеспечение станет неотъемлемой частью обновленной системы здравоохранения, оно будет функционировать больше как инструмент, помогающий медицинским специалистам совершенствовать свое ремесло.

Одной из причин этого является то, что такие продвинутые технологии нуждаются в компетентных специалистах для работы и интерпретации их анализов и предложений. Кроме того, для решения многоуровневых задач, требующих творческого подхода, всегда будут необходимы специалисты в области здравоохранения. Но верно и то, что медицинские работники, которые принимают и используют AI, заменят тех, кто с этой технологией не работает.

2. AI сможет обеспечить столько же сочувствия, как и реальный врач

Хотя некоторые AI-системы в конечном итоге могут быть наделены навыками "искусственной эмпатии", они не заменят настоящих отношений между врачом и пациентом. Напротив, эпоха искусственного интеллекта усилит возможность получения сострадательной заботы от медиков больше, чем когда-либо.

Поскольку эти инструменты хорошо справляются с повторяющимися и монотонными задачами, они высвободят время для врачей, то есть они смогут проводить больше времени со своими пациентами. Они будут в состоянии посвятить больше времени для более внимательного и сочувственного общения с пациентами, что достижимо только через человеческое прикосновение и разговор глаза в глаза. На самом деле, при выполнении административных задач и предоставлении диагностических знаний AI-системой, врачи должны будут оттачивать свои навыки эмпатии и общения, чтобы лучше заботиться о своих пациентах.

3. AI улучшит решение проблем, связанных с сохранностью конфиденциальной информации в здравоохранении

Нет, это противоречит функционированию алгоритмов искусственного интеллекта. Для того чтобы эти программы функционировали, они должны использовать большие объемы данных, без которых они не будут работать. Поскольку крупнейшие технологические компании инвестируют значительные средства в здравоохранение, они будут постоянно искать данные, которые часто поступают от пациентов.

Например, Google, Amazon и Facebook - все они участвуют в гонке AI в области здравоохранения и не проявляют признаков замедления своих усилий. В частности, в 2019 году Amazon и Национальная служба здравоохранения Великобритании (NHS) заключили партнерское соглашение с целью использования голосовой технологии Alexa, работающей на основе искусственного интеллекта, с целью предоставления консультаций по вопросам здравоохранения. При этом отчеты показали, как Amazon тайно хранила записи пользователей Alexa. Ранее было установлено, что одно из подразделений NHS - Royal Free NHS Foundation Trust делился большими объемами данных о пациентах с филиалом Google компанией DeepMind в проекте разработки новой платформы. Но пациенты не были должным образом проинформированы о том, что их данные используются для этой цели. Такие проблемы с конфиденциальностью будут только усугубляться с AI.

4. AI создаст полностью автономного хирургического робота

В научно-фантастических фильмах мы неоднократно видели полностью автономных хирургических роботов на основе искусственного интеллекта, выполняющих сложные операции без помощи человека. Скорее всего, это так и останется в сфере научной фантастики, так как роботы скорее будут служить ассистентами или даже "умным" инструментом в операционной.

Хирургические операции требуют тонких действий и даже творческого мышления, потому что анатомия каждого человека различна. Роботы могут помочь в выполнении основных задач, таких как предоставление хирургических инструментов или даже работать в качестве инструментов для тонких действий, так как это сегодня делает хирургическая система da Vinci. Но для хирургических операций всегда необходимы реальные хирурги, и именно последние могут лучше справляться с непредвиденными осложнениями во время проведения таких сложных процедур.

5. AI будет самостоятельно принимать медицинские решения

Иметь систему на базе искусственного интеллекта, которая будет не только помогать при принятии клинических решений, но и принимать медицинские решения самостоятельно, было бы привлекательно. В частности, это могло бы помочь облегчить психологическую нагрузку на медицинский персонал, когда речь идет о морально сложных решениях. В условиях пандемии КОВИД-19 врачам иногда приходилось выбирать, кому отдавать предпочтение в пользу жизненно важных медицинских ресурсов из-за перегруженности учреждений. Можно ли это решение оставить на усмотрение некоторого программного обеспечения и снимет ли оно ответственность с медицинских работников?

Даже если AI может проанализировать медицинские записи и геномные данные для лучшего понимания ситуации, оставлять медицинские решения только на усмотрение программного обеспечения - это не лучший способ действий. Существует несколько проблем, связанных с таким подходом, поскольку он требует коллективного участия специалистов по этике, программистов и медицинских работников. Более того, AI не застрахован от предвзятости (мы об этом говорим ниже). Поэтому вряд ли такое программное обеспечение будет самостоятельно принимать медицинские решения в обозримом будущем. Вместо этого такие системы будут предоставлять информацию, которая поможет врачам принимать лучшие меры для лечения.

6. AI избавит медицинские учреждения от предвзятости

Искусственный интеллект, как это ни странно, не чужд предвзятости. Ожидать, что эти умные алгоритмы будут принимать объективные решения даже в здравоохранении, не стоит. Набор данных, на котором обучают алгоритмы искусственного интеллекта, чрезвычайно важен, но медицинские данные, как отмечают специалисты, "чрезвычайно мужские и чрезвычайно белые", т.е. большая их часть относятся к мужчинам, причем именно белой расы. Это имеет серьезные последствия, когда AI-инструменты анализируют данные за пределами этой демографической группы.

Данные, используемые при создании алгоритмов, не являются объективными и отражающими все социальные группы, возрасты и пол. Кроме того, программисты, работающие с таким программным обеспечением, могут сознательно или бессознательно влиять на алгоритмы. Они могут бессознательно внедрять в код свои ценности и убеждения о мире, охотно оставляя без внимания некоторые параметры, которые были бы более репрезентативны для других групп населения.

7. AI будет мыслить так же, как люди 

Умные алгоритмы действительно смогут выполнять задачи и играть назначенные им роли, но они не будут рассуждать так, как это делают люди. Это происходит потому, что они не обладают сознанием и не будут понимать человеческий разум, когда речь идет о здравоохранении.

В свое время это было продемонстрировано в рамках нескольких исследований по проверке возможности принятия алгоритмами неверных решений. Используя изображения с минимальными различиями для человеческого глаза, программное обеспечение может неправильно классифицировать диагнозы, которые не были бы поставлены человеком. Такие простые трюки, которые могут сильно повлиять на AI, но не на человека, показывают важность человеческих рассуждений, которые отсутствуют в системе на основе искусственного интеллекта.

С прогрессом в области AI мы, несомненно, столкнемся с еще большей вариативностью применения этих технологий в здравоохранении. И эти разработки еще больше подчеркнут то, чего мы не можем ожидать от этого программного обеспечения. 

Таким образом, чтобы подготовиться к эре широкого применения технологий на основе искусственного интеллекта, будет все более важно понять технологию и то, как она "думает". Мы будем лучше подготовлены к решению предстоящих проблем, связанных с AI, когда будем лучше понимать язык AI, который является языком будущего.