Подсказки искусственного интеллекта с пояснениями помогают врачам точнее находить внутричерепные кровоизлияния на компьютерной томографии (КТ), но не защищают ни от слепого доверия ошибочному совету, ни от отказа от верного. К такому выводу пришли авторы рандомизированного перекрёстного эксперимента, опубликованного в журнале The Lancet Digital Health 23.10.2026. Первый автор работы — Сусанне Гаубе (Университетский колледж Лондона).
В эксперименте участвовали 125 врачей из десяти стран: 50 радиологов и 75 новичков в этой задаче — врачей других специальностей и обучающихся. Каждый в трёх сессиях читал одни и те же 50 КТ головы с кровоизлиянием или без него. Условия менялись: без подсказок, с простым прогнозом ИИ и с так называемым объяснимым ИИ, который отмечал подозрительную область на снимке. Порядок условий определялся случайно. В 80% случаев совет ИИ был верным, в 20% — неверным.
Что показал эксперимент
Встречались оба вида ошибок: врачи соглашались с неверной подсказкой и отвергали верную. Недоверие к правильному совету было связано с высокой неуверенностью и в абсолютном выражении сильнее ухудшало результат, чем избыточное доверие.
Верная объяснимая подсказка по сравнению с отсутствием подсказки повышала шансы правильного ответа (отношение шансов 1,84) и уверенность врачей, особенно в трудных случаях с кровоизлиянием. Время чтения снимка при этом значимо не сократилось. Объяснимый ИИ участники сочли более полезным, чем простой прогноз, особенно новички.
Авторы делают вывод, что классических методов объяснимого ИИ недостаточно: нужны дополнительные способы добиться обоснованного доверия к подсказкам, чтобы врач и алгоритм вместе работали лучше, чем каждый по отдельности.
Ограничения. Это экспериментальная постановка, а не работа в реальной клинике: условия, включая долю ошибочных подсказок, задавали исследователи. Данные собраны в феврале — августе 2023 года, с тех пор системы ИИ изменились. Страница журнала при подготовке заметки напрямую не открылась, сведения приведены по опубликованному резюме статьи.