🧠 ИИ может «жульничать» при прогнозировании рака

Исследователи обнаружили, что многие AI-модели, используемые в цифровой патоморфологии для прогнозирования биомаркеров рака по микроскопическим изображениям, могут опираться не на реальные биологические сигналы, а на косвенные визуальные признаки и статистические корреляции.

В исследовании проанализировали более 8000 образцов при раке молочной железы, лёгкого, толстой кишки и эндометрия. Хотя точность некоторых моделей превышала 80%, оказалось, что алгоритмы часто «угадывают» мутации по сопутствующим признакам ткани, а не по самим молекулярным особенностям опухоли.

Когда данные анализировали в более однородных группах пациентов, точность моделей заметно падала — признак того, что алгоритмы используют корреляции вместо причинных биологических сигналов.

Вывод исследователей: для медицинского AI необходимы более строгие стандарты валидации, иначе алгоритмы могут демонстрировать высокую точность, не понимая реальной биологии опухоли.

Новость подготовлена командой Evercare