Почему критическое мышление врача важнее знаний нейросетей

Повод — снижение числа медицинских ошибок при работе с цифровыми помощниками. Для пациента это прямой сигнал: если протокол работы с ИИ не зафиксирован в договоре клиники, риск ошибочного заключения перекладывается на него.

Смена субъекта ответственности

Авторы исследования констатируют перераспределение зон контроля. Если ранее за достоверность учебных материалов отвечали преподаватель и вуз, то теперь студент-медик обязан самостоятельно сверять выводы ИИ с клиническими рекомендациями, научными данными и параметрами конкретного пациента. Регламент проверки знаний смещается в сторону саморегуляции и клинического суждения.

Среди обязательных компетенций авторы выделяют:

• распознавание правдоподобной, но недостоверной информации;
• сопоставление ответа модели с клиническими рекомендациями;
• готовность отклонить подсказку алгоритма при наличии обоснованного экспертного мнения.

Отдельная зона риска — замкнутый цикл: преподаватель формирует задание через ИИ, студент решает его с помощью нейросети, та же нейросеть проверяет работу и формирует обратную связь. При такой схеме освоение программы превращается в имитацию, констатируют авторы.

Российский контекст и данные по безопасности

Отечественный срез подтверждает дефицит подготовки. Опрос 269 студентов Саратовского государственного медицинского университета им. В. И. Разумовского показал: лишь 33% хорошо знакомы с теорией и практикой применения ИИ в медицине, 44% владеют только базовыми представлениями, 11% не знают о его использовании в здравоохранении вовсе. Предложение международной группы 2025 года ввести специальность «алгоритмический консультант» выглядит не теоретическим, а ответом на конкретный запрос клиник.

Дополнительные цифры представил на семинаре Центра этики и онтологии роботов НИУ ВШЭ эксперт Андрей Власов. По его данным, в лучевой диагностике 94% моделей построены на ретроспективных данных, а врачи-рентгенологи, как правило, не перепроверяют выводы алгоритма. Точность модели на ограниченном датасете достигает 99%, однако при широком применении ухудшение клинических исходов фиксируется в 1,4–1,8% случаев — это тысячи пропущенных или неверных диагнозов. С ростом доверия врача к ИИ частота ошибок увеличивается до 3,5–4,8%, а при точности модели выше 91% риск выше, чем у менее совершенных систем. Расчётная оценка для маммографии — до 18 000 ошибок на миллион обследованных. Сравнительный анализ снимков показал: заключения трёх опытных радиологов коррелируют между собой высоко, тогда как диагнозы ИИ расходятся с врачебными существенно.

Что запросить у клиники до подписания договора

Масштаб проблемы выходит за рамки медицины — слепое следование алгоритмам характерно и для других отраслей. Например, новостной поток криптоиндустрии регулярно фиксирует аналогичные риски автоматизированного принятия решений. В здравоохранении ставка выше. До подписания договора на диагностику с применением ИИ пациенту стоит запросить у клиники:

1. Протокол работы с ИИ. Какой алгоритм используется, на каких данных обучен, какова процедура перепроверки врачом.

2. Документы о валидации. Сертификаты, результаты независимых испытаний, периодичность аудита точности.

3. Фиксацию ответственности. Кто несёт риск ошибочного заключения — клиника, врач или разработчик ИИ.

4. Право на второе мнение. Возможность получить заключение врача без оглядки на вывод алгоритма.

5. Порядок обжалования. Действия при расхождении диагноза ИИ с клинической картиной.

Вывод однозначен: без письменной фиксации протокола работы с ИИ и ответственности за его выводы пациент принимает риск диагностической ошибки на себя.