Можно ли манипулировать приложением, чтобы ускорить встречу с врачом?

Национальная служба здравоохранения Великобритании (National Health Service, NHS) продолжает сталкиваться с проблемами в своей попытке произвести быструю цифровую революцию в системе здравоохранения. Недавно мы писали о том, с какими сложностями столкнулось внедрение телемедицинского сервиса GP at Hand, который позволяет пациентам записаться на получение бесплатной консультации по видеосвязи.

И вот теперь функционеры британской службы здравоохранения отказались от своих планов внедрения приложения компании Babylon Health, предназначенного для проверки симптомов и сортировки пациентов (тем самым сокращения визитов к врачу). Это связано с тем, что, как выяснилось, с помощью этого программного продукта пациенты могут манипулировать системой записи на визит к врачу.

Приложение использует чатбот (виртуального помощника) на базе алгоритма искусственного интеллекта, которые задает вопросы пациенту, на темы, связанные с его болезнью, прежде чем записать его на консультацию к врачу с помощью видеосвязи, если это будет необходимо.

Но согласно первым данным тестирования, это приложение вместо того, чтобы снизить количество визитов к врачу, позволяет пациентам очень эффективно манипулировать системой для того, чтобы быстро получить доступ к врачу.

Согласно официальному заявлению медицинских властей:

Совет обсудил пилотный проект, в рамках которого осуществлялся поиск технологии, позволяющей снизить количество посещений пациентов к врачам. Как выяснилось, группа пациентов, участвовавших в пилоте, эффективно манипулировала системой для того, чтобы обеспечить себе запись на прием к врачу, тем самым перечеркнув все потенциальные преимущества этого приложения. Мы подробно обсудили с пациентами проект, стараясь выяснить, в чем заключается их интерес к приложению и обнаружили, что наиболее привлекательной возможностью приложения пациенты считали возможность ускорения визита к врачу, а не проверку своих симптомов. После обсуждения происшедшего, мы решили на данном этапе не продолжать пилотный проект Babylon.

Правда, потом выяснилось, что тестирование не проводилось в реальных условиях и это никак не повлияло на реальную загрузку врачей. Эти испытания, которые инициировала сама компания-разработчик, проводились с участием небольшого количества пациентов, но при их успехе планировалось сразу запустить пилотный проектов в 16 врачебных практиках.