Система анализа для диагностики рака груди решает проблему "алгоритмического черного ящика"

Новая система диагностики рака молочной железы может помочь врачам понять обоснование решений, принимаемых искусственным интеллектом (artificial intelligence, AI).

Ученые из университетской клиники Шарите в Берлине, Берлинского технологического института и университета Осло разработали новую систему анализа тканей для диагностики рака молочной железы на основе AI-технологии. 

Система использует тепловые карты, чтобы показать, какая визуальная информация повлияла на процесс принятия решения искусственным интеллектом и в какой степени, позволяя врачам понять и оценить правдоподобность результатов, полученных программной системой.

Кроме того, впервые морфологические, молекулярные и гистологические данные объединены в единой системе для обеспечения максимально точного анализа.

Результаты исследований в настоящее время опубликованы в журнале Nature Machine Intelligence, и ученые в настоящее время надеются получить дальнейшие клинические подтверждения, проводя тесты при рутинной диагностике опухолей, с целью дальнейшей сертификации своего решения.

Алгоритмы машинного обучения, которые не "прозрачны" для людей, не понимающих, как они пришли к решению, были названы алгоритмами "черного ящика". Врачам и регулирующим органам, которые должны сертифицировать такие системы и допускать их для применения в клинической практике, трудно доверять инструментам искусственного интеллекта, которые принимают важные решения, не объясняя причин, по которым они пришли к ним. Исследователи говорят, что их новая система анализа медицинских изображений может помочь решить эту проблему, представляя собой "решающий и важный шаг вперед для будущего регулярного использования систем искусственного интеллекта в больницах".

По словам профессора Берлинского технологического института Клауса-Роберта Мюллера,

Проблема у нас следующая: у нас есть хорошие и надежные молекулярные данные и у нас есть хорошие гистологические данные с высокой пространственной детализацией. Чего у нас пока нет, так это решающей связи между визуализационными данными и высокоразмерными молекулярными данными.

Наша система облегчает обнаружение патологических изменений в микроскопических изображениях. Параллельно с этим мы можем обеспечить точную тепловую визуализацию, показывающую, какой пиксель на микроскопическом изображении внес вклад в диагностический алгоритм и в какой степени.

Система анализа была обучена с помощью технологии машинного обучения, чтобы на основе гистологических изображений можно было предсказать различные молекулярные характеристики, в том числе состояние ДНК, экспрессию генов, а также экспрессию белков в определенных областях ткани.