Почему ИИ-сервисы в женском здоровье могут быть опасны для пациентов

Регламент доверия: три риска, которые алгоритм не считает

Вывод для пациента и клиента клиники: цифровые инструменты мониторинга, от приложений для отслеживания цикла до ИИ-чатов, — не замена клинического решения врача и не гарантированный способ персонализации терапии. Чрезмерное доверие алгоритмам чревато игнорированием субъективных жалоб и утратой того, что в медицине нельзя оцифровать.

Суть: что именно не так с ИИ в женском здоровье

Авторы исследования сформулировали три проблемы с конкретными правовыми последствиями.

Первая — бинарная модель. ИИ-системы строятся на упрощённом представлении о поле и гендере как основных переменных, тогда как состояние здоровья определяется сложным взаимодействием биологических, социальных и поведенческих факторов. Следствие: снижение точности прогнозирования и риск ошибки в назначениях.

Вторая — иллюзия паттерна. Алгоритмы воспроизводят структуру обучающих данных. Статистические корреляции ошибочно интерпретируются как причинные связи, а существующие представления о половых различиях закрепляются в модели как «объективные» выводы. Для пациента это означает: рекомендация может основываться на предвзятости массива, а не на индивидуальной картине здоровья.

Третья — эксплуатация данных. Приложения мониторинга цикла, носимые устройства и ИИ-сервисы собирают массивные объёмы персональной информации: физическая активность, сон, репродуктивное здоровье, образ жизни. Коммерческое использование этих данных — не гипотетический риск, а зафиксированный факт.

Кейс и прецедент: $56 млн за утечку данных о цикле

Подтверждение третьего риска — конкретная цифра. В 2025 году Google и разработчик приложения Flo Health согласились выплатить в США $56 млн по коллективному иску о передаче данных о менструальном цикле и беременности пользовательниц третьим лицам. Фонд Mozilla дополнительно установил, что данные о репродуктивном здоровье из ряда популярных приложений для отслеживания цикла использовались при формировании рекламных профилей.

Параллельно Rus.Postimees.ee приводит позицию вирусолога и политика Ирьи Лутсар: неограниченный доступ полиции к данным о здоровье разрушает доверие между врачом и пациентом. «Человек больше не может доверять врачу» — формулировка, которая напрямую применима к любому третьему лицу, получающему доступ к медицинским данным без явного и информированного согласия.

Что это значит на практике

Авторы исследования предлагают не отказ от цифровых инструментов, а смену парадигмы: вместо поиска различий между заранее определёнными группами — учёт конкретных биологических и социальных факторов, а также вовлечение пациентов в разработку технологий. Российский пример: специалисты Первого МГМУ им. Сеченова создают систему EndoSync для персонализированного контроля сахарного диабета у женщин.

Для пациента — три обязательных шага перед использованием любого ИИ-сервиса или приложения в сфере здоровья:

• Проверить политику обработки данных. Кому передаётся информация, для каких целей, есть ли согласие на коммерческое использование. Данные о репродуктивном здоровье — особая категория персональных данных.
• Не принимать рекомендацию ИИ-чата как диагноз. Алгоритм работает на корреляциях обучающего массива, а не на клинической картине конкретного человека. Субъективные жалобы — не шум, а первичные данные.
• Фиксировать источник решения. Если клиника или врач ссылаются на результат ИИ-анализа — запросить протокол, на основании которого система выдала рекомендацию, и основания для его применения к конкретному случаю.

Иллюзия точности алгоритма дороже, чем кажется: $56 млн — только один прецедент, и только в одной юрисдикции.