Лекция 7. AI в медицине и фармацевтике¶
Лекция 7 · ~75 мин · 34 слайдов
AI ставит метку патологии за три секунды¶
[Включаю ноутбук, на проекторе — браузер с открытым mlmed.org/tools/xray/. Готов рентгеновский снимок на рабочем столе.]
«Здравствуйте. Прежде чем мы с вами скажем первое слово про медицину — посмотрите сюда.
[пауза 3 секунды]
У меня здесь обычный браузер. Открыта страница mlmed.org — публичный инструмент Chester AI. Сейчас я перетащу в окно вот этот рентгеновский снимок грудной клетки.
[действие: drag-and-drop файла]
[пауза 3 секунды]
Видите? Прошло около трёх секунд. Обратите внимание — модель выдала восемнадцать строк, вероятности по восемнадцати патологиям. Пневмония, кардиомегалия, ателектаз, плевральный выпот. И справа — тепловая карта: жёлтые и красные пятна показывают, куда модель смотрела, когда принимала решение.
[медленно, с акцентом]
Три вещи в этой демонстрации задают тон всей сегодняшней лекции. Первое: модель работает локально, в браузере. Снимок не уходит на сервер. Это не случайность — это design choice, инженерное решение. Медицинские данные — особая категория, и мы с вами вернёмся к этому в четвёртом разделе.
Второе: это не ChatGPT. Это узкое компьютерное зрение — потомок модели CheXNet 2017 года. ChatGPT не умеет ставить метку патологии на рентгене за три секунды. Chester умеет — но не умеет писать стихи.
Третье, и самое важное: это уровень технологий примерно 2017-2024 года в рутинно работающей форме. Пять лет назад такая возможность была лабораторной демонстрацией. Сегодня — обычный браузер.
В конце Лекции 1 у нас была камера-демо с YOLO-детектором людей. Chester — родственная история. То же узкое компьютерное зрение, классификация плюс локализация. Разница — в стоимости ошибки. YOLO не увидел человека — это одна стоимость. Chester не увидел тень опухоли — совсем другая.
И именно из этой разницы — клиническая валидация, регулирование, ответственность, ставки в миллионы человек — будет состоять вся остальная лекция.»
[Сворачиваю Chester, перехожу на s02.]
Cover¶
[На слайде — крупная цифра «07», заголовок.]
«Лекция седьмая. AI в медицине и фармацевтике.»
[пауза 2 секунды; переход на s03]
Сначала ваша оценка, потом данные¶
[На слайде — три вопроса крупно, без ответов.]
«Прежде чем покажу цифры — давайте три вопроса. Поднимаем руки.
Вопрос первый. Сколько AI-медицинских устройств официально одобрено американским FDA к концу 2025 года? Меньше ста? [пауза, считаю] От ста до пятисот? [пауза] От пятисот до тысячи? [пауза] Больше тысячи? [пауза]
Вопрос второй. Получали ли вы за последний год медицинский результат, в котором участвовал AI? Рентген, КТ, МРТ, ЭКГ, дермато-скан. [пауза, считаю руки]
Вопрос третий. Доверяете ли вы AI-диагнозу больше, чем человеческому врачу? Не равно — а именно больше. [пауза]
Хорошо. Запомните свои оценки. Сейчас покажу, что говорят данные.»
[Переход на s04.]
Что говорят цифры: FDA и mosmed.ai¶
[На слайде — bar chart FDA рост 2015→2025 + info-card mosmed.ai.]
«По первому вопросу. К концу 2025 года FDA авторизовало тысячу четыреста пятьдесят одно AI/ML-медицинское устройство кумулятивно. На сегодняшний день, май 2026, реальная цифра уже в районе тысячи пятисот. Из них примерно семьдесят шесть процентов — радиология. То есть компьютерное зрение для рентгена, КТ, МРТ, маммографии. LLM-устройств в этом списке — единицы.
По второму вопросу — большинство из вас, скорее всего, AI-результат получали, даже не зная об этом. Если ваш регион подключён к платформе mosmed.ai — а это семьдесят четыре региона России — то рентген, который вам сделали, с большой вероятностью прошёл через AI-сервис. За пять лет работы платформа обработала более четырнадцати миллионов исследований. Это операционные цифры, верифицированные по официальным источникам ДЗМ Москвы.
По третьему вопросу — большинство людей отвечают «нет», даже если знают, что AI статистически точнее. И это правильная интуиция. Мы с вами вернёмся к ней в четвёртом разделе, когда будем говорить, кто отвечает за AI-ошибку.
Промежуточный итог: AI в медицине — это уже не футурология. Это инфраструктура, в которой мы с вами живём.»
[Переход на s05.]
Центральный вопрос лекции¶
[На слайде — центральный вопрос крупно в Ocean rounded box.]
«Отсюда — главный вопрос сегодняшней лекции.
[медленно]
Какие AI-обещания в медицине реально сбылись к 2026 году — и кто отвечает, когда AI-диагноз оказывается ошибочным?
Этот вопрос состоит из двух частей, и сочетание частей — не случайно. Первая часть — что реально сбылось. AI-диагностика в радиологии — да. Drug discovery — частично. Полностью автономный AI-врач — нет. Это диагностический вопрос, и мы разберём его в разделах два и три.
Вторая часть — кто отвечает. На май 2026 года ни в одной крупной юрисдикции не зафиксировано громких прецедентных дел о malpractice, связанной именно с AI-диагнозом. Но юридический консенсус уже формируется: финальная клиническая ответственность остаётся на враче. К этому ответу мы придём в разделе четыре.
Эти две части — реальность обещаний и архитектура ответственности — образуют ось лекции. Дорожная карта, по которой мы с вами идём, — четыре раздела: карта AI в медицине, диагностика как зеркало, drug discovery, этика и ответственность. После — заключение и три наблюдения для копилки финального синтеза на Лекции 17.»
[Переход на s05b.]
Разделитель¶
«Это первый раздел из пяти — карта AI в медицине.»
[Переход на s06.]
Четыре типа AI-применений¶
[На слайде — 2×2 матрица modality × scope с четырьмя ячейками.]
«AI в медицине — это не одна индустрия и не один стек технологий. Удобно разложить применения по двум осям.
Первая ось — модальность. Изображение или сигнал против текста или молекулы. Image- и signal-задачи — рентген, КТ, МРТ, ЭКГ, дермато-скан — обрабатываются компьютерным зрением. Text- и molecule-задачи — клинические записи, генерация молекул, структура белка — обрабатываются совсем другими архитектурами: трансформерами для текста, generative chemistry для молекул, AlphaFold для белков.
Вторая ось — масштаб. Один пациент против популяции или фармы. Один пациент — диагноз или назначение конкретному человеку. Популяция — программы скрининга, drug discovery, эпидемиологический мониторинг.
Пересечение даёт четыре ячейки. Image плюс один пациент — AI-диагностика, самая массовая ячейка, семьдесят шесть процентов FDA-списка: mosmed.ai, IDx-DR, Aidoc. Image плюс популяция — population health analytics, анализ программ скрининга. Text-molecule плюс один пациент — персонализированная медицина, geno- и farmaco-AI. Text-molecule плюс популяция — drug discovery: AlphaFold, Insilico, Generate Biomedicines.
[с акцентом]
Эта матрица важна не как красивая схема. Она design-driven. Модальность определяет ML-стек: computer vision против NLP против generative chemistry. Масштаб определяет регуляторный путь: один пациент image-system — это medical device по логике FDA SaMD. Популяционная аналитика проходит другим путём. То есть две оси — это основания инженерных и регуляторных решений.
Сегодня мы с вами фокусируемся на левой колонке — AI-диагностике в разделе два — и на правой нижней ячейке — drug discovery в разделе три.»
[Переход на s07.]
FDA growth timeline¶
[На слайде — bar chart 2015→2025, рост к 1 451.]
«Давайте посмотрим конкретные цифры роста. Между 1995 и 2015 годами FDA одобрило кумулятивно около тридцати трёх AI/ML-устройств — три процента от текущего объёма. Между 2015 и 2025 годами — рост от десятков к тысяче с лишним.
Перелом — это 2022-2024 годы. В 2023 одобрено двести двадцать одно новое устройство. В 2024 — двести пятьдесят восемь. В 2025 — двести девяносто пять. Кумулятивно к концу 2025 года в списке тысяча четыреста пятьдесят один.
[пауза]
И ещё раз — из них семьдесят шесть процентов относятся к радиологии. Кардиология и неврология — следующие по объёму. LLM-устройства — единицы. Это и есть ответ на вопрос «что именно работает»: преимущественно компьютерное зрение для медицинских изображений.
Для инженера это означает простую вещь. Когда вы слышите фразу «AI в медицине» — в восьми случаях из десяти это разговор про CV-классификацию изображений. Не про разговорный AI, не про автономного врача.»
[Переход на s08.]
Медицина как показательный случай¶
[На слайде — три иконки-карточки: ставки, регулирование, операционный масштаб.]
«Можно справедливо спросить: я не врач, зачем мне глубоко погружаться в медицинский AI? Три причины.
Первая — высокие ставки. Ошибка модели в кредитном скоринге — это финансовый ущерб. Ошибка в маркетинговой рекомендации — упущенная конверсия. Ошибка медицинской AI-модели — пропущенный диагноз, лишняя биопсия, неправильное назначение. Качественно другая стоимость ошибки. И именно она заставляет инженера думать о вещах, которые в менее регулируемых областях можно было откладывать: калибровка confidence, audit-trail, post-market monitoring, fallback-сценарии.
Вторая — строгое регулирование. Медицинский AI — это первое поле, в котором инженер встречает реальную нормативку: FDA SaMD, EU AI Act Annex III, Росздравнадзор. За нарушения — отзыв одобрения, штрафы, гражданские иски. Если научились проектировать AI под эти требования — освоили навыки, которые пригодятся в финансах, в автомобильной отрасли, в авиации.
Третья — прозрачный операционный масштаб. В отличие от индустриальных проектов, где «рост продуктивности на X процентов» оценивается косвенно, медицинская диагностика даёт прямые измеримые метрики: количество исследований, чувствительность скрининга, время до диагноза. mosmed.ai за пять лет — четырнадцать миллионов исследований. Это не маркетинговая оценка, это actual scan'ы.
И бонус. Второго августа 2026 года — через два с половиной месяца после нашей лекции — вступает в силу первый этап EU AI Act для high-risk AI. Это не далёкая перспектива. Это actionable timeline.
Если научились оценивать AI здесь — научились оценивать AI везде.»
[Переход на s08a.]
Разделитель¶
«Второй раздел из пяти — AI-диагностика как зеркало.»
[Переход на s09.]
Pipeline AI-диагностики¶
[На слайде — конвейер из четырёх стадий: Input → Model → Output → Рабочий процесс.]
«Как технически работает AI-диагностика. Это в первую очередь computer-vision-классификация: на вход — медицинское изображение, на выход — вероятностное распределение по классам патологий плюс bounding-box или heatmap.
Pipeline укладывается в четыре стадии.
Первая — Input. Сырое изображение: DICOM-файл с КТ-аппарата, JPEG дермато-скана, PNG маммограммы. Препроцессинг: ресайз, нормализация, иногда — удаление пациентских меток на пиксельном уровне.
Вторая — Model. Свёрточная сеть — исторически ResNet, EfficientNet — или Vision Transformer. Обычно — pre-trained на ImageNet и затем fine-tuned на медицинском датасете. В 2024-2026 годах появились специализированные foundation models — MedCLIP, BiomedCLIP, RoentGen, обученные сразу на медицинских изображениях.
Третья — Output. Probability score от нуля до единицы для каждого класса. Часто — heatmap, сгенерированная техникой Grad-CAM, которая показывает, какие пиксели вносили вклад в предсказание.
Четвёртая — рабочий процесс. Врач видит изображение, heatmap и вероятности и принимает решение. AI здесь — decision-support, не decision-maker.
Историческая модель этого конвейера — CheXNet, 2017, сто двадцать один слой DenseNet, четырнадцать патологий грудной клетки. Современные модели точнее, но методологическая основа осталась той же.
Важная оговорка про confidence score. Это model-internal score, не байесовская posterior probability. Интерпретировать «AI уверен на 87 процентов» как «вероятность пневмонии 87 процентов» — некорректно. Нужны калибровочные процедуры.»
[Переход на s10.]
Четыре метрики и парадокс PPV¶
[На слайде — 2×2 confusion matrix + 4 формулы.]
«Это ключевая методическая секция лекции. Для медицинского AI обычная accuracy — недостаточная метрика. Нужны четыре связанных понятия.
Сокращения. TP — true positive, больной правильно определён как больной. FN — false negative, больной пропущен. FP — false positive, здоровый ошибочно отмечен. TN — true negative.
Чувствительность. Sens равна TP делить на TP плюс FN. «Из всех больных, какую долю AI поймал». Критична для скрининга, где пропустить — катастрофа: рак на ранней стадии, инсульт, инфаркт.
Специфичность. Spec равна TN делить на TN плюс FP. «Из всех здоровых, какую долю AI правильно не напугал». Критична для confirmation-задач, где ложноположительный сам наносит вред: биопсия, химиотерапия, паника.
Prevalence. Распространённость болезни в популяции. Это не свойство модели — это свойство популяции деплоймента.
PPV. Positive Predictive Value. TP делить на TP плюс FP. «Если AI сказал болен, какова вероятность реальной болезни». Это та метрика, которую видит клиницист.
[медленно, с акцентом]
И главный нюанс — sensitivity и specificity от prevalence не зависят. PPV — зависит. Покажу на цифрах.
Давайте посмотрим на цифрах CheXNet на pneumonia detection: чувствительность около девяноста четырёх процентов, специфичность около восьмидесяти девяти. Звучит отлично.
[пауза 2 секунды]
В больничной выборке, где prevalence пневмонии тридцать-пятьдесят процентов, PPV получается порядка восьмидесяти процентов. Хорошая клиническая метрика.
[пауза 2 секунды]
Но возьмём ту же модель и применим как скрининг в общей популяции, где prevalence пневмонии один процент. PPV становится примерно восемь процентов. Из ста пациентов, отмеченных AI как положительные, реально больных — восемь. Остальные девяносто два — false positives.
[пауза]
«Девяносто четыре процента accuracy» — звучит хорошо. «Восемь процентов PPV в скрининге» — это совсем другое восприятие той же модели. Поэтому при оценке медицинской AI-модели — никогда не доверяйте одной цифре. Спрашивайте: какая prevalence в популяции? Какая sens, какая spec, какой PPV в операционных условиях? Четыре вопроса — минимальная due diligence.»
[Переход на s11.]
Три исследования: imaging vs reasoning¶
[На слайде — три ряда: Liu 2019, MASAI 2024-25, Goh 2024.]
«Часто спрашивают: AI уже превзошёл врачей. Корректный ответ — зависит от задачи. Три эталонных исследования.
Первое — Liu, 2019, Lancet Digital Health. Мета-анализ четырнадцати работ. Чувствительность AI — восемьдесят семь процентов. Клиницистов — восемьдесят пять. Разница скромная.
Второе — MASAI Sweden, 2024-2025, Lancet. Самое сильное свидетельство клинической пользы AI-маммографии. Сто тысяч шведских женщин: двойное чтение двумя радиологами против одного радиолога плюс AI.
Чувствительность AI-поддерживаемого скрининга — восемьдесят с половиной процентов против семидесяти трёх и восьми десятых. Cancer detection rate — шесть и четыре десятых на тысячу против пяти. Снижение нагрузки радиолога — сорок четыре процента. Один радиолог с AI делал работу двоих.
Follow-up 2025: снижение interval cancer rate на двенадцать процентов. Дополнительные раки, найденные AI, — клинически значимые случаи. Самое сильное доказательство «AI плюс врач больше врача одного» в радиологии.
Третье — Goh, JAMA, октябрь 2024. Уже не imaging, а диагностическое мышление. Пятьдесят врачей на работу с GPT-4 и без. Медиана с GPT-4 — семьдесят шесть процентов. Без — семьдесят четыре. Статистически не значимо. Сюрприз: GPT-4 один выдавал более высокий score, чем доктор с GPT-4.
[пауза]
Это парадокс совместной работы — в paper Goh et al. называется augmentation gap. Обратите внимание: пользователи не дозагружают AI — не доверяют, не умеют интегрировать, держат AI на роли «второго мнения», которое можно проигнорировать.
Вывод для инженера. Вопрос «AI или врач» поставлен неправильно. Правильные — какая задача, какой рабочий процесс, как AI и врач интегрированы.»
[Переход на s12.]
Российский случай: mosmed.ai¶
[На слайде — pipeline снимок → mosmed.ai → результат + 6 info-cards.]
«Концентрированный пример того, как AI-диагностическое обещание сбылось в operational форме, — московская платформа mosmed.ai.
Эксперимент стартовал в ноябре 2019 года как городской проект ДЗМ Москвы и НПКЦ диагностики и телемедицины. В мае 2024 — федеральный запуск как MosMedAI.
Метрики на начало 2026 года, верифицированные по официальным источникам.
Более четырнадцати миллионов исследований проанализировано AI за пять лет. Семьдесят четыре региона России подключены. Более двух тысяч медицинских организаций интегрированы. Более восемнадцати миллионов медицинских изображений обработано. Около семидесяти AI-сервисов на сорока трёх клинических областях — рентгенография грудной клетки, КТ лёгких, маммография, оссеоденситометрия, мозговая КТ. Одиннадцать национальных стандартов разработано. Около трёхсот эталонных датасетов.
Архитектурно mosmed.ai — federated AI-платформа. Разные vendor-модели — Сбер AI Lab, Care Mentor AI, Третье Мнение, Webiomed — проходят через единый деплоймент, единую систему бенчмаркинга и единый интерфейс врача. Это и есть operational AI-инфраструктура. Не один монопольный поставщик, а маркетплейс верифицированных моделей.
[оговорка спокойным тоном]
Маленькая оговорка про цифру. В общественном пространстве циркулирует утверждение «четыре миллиарда рублей экономии в ОМС от mosmed.ai в год». Эту цифру мы не нашли в первичных источниках. Похожая цифра «два девяносто шесть миллиарда» — общая экономия от цифровизации здравоохранения Москвы, не специфично от mosmed.ai. Поэтому я использую операционные метрики — четырнадцать миллионов исследований и так далее. Они верифицированы и достаточны.
Мост к остальной лекции. Здесь обещание AI-диагностики сбылось в operational форме. В разделе три мы с вами увидим обещание drug discovery в peer-reviewed форме — Insilico Rentosertib. И тут же — обещание, которое не сбылось: DSP-1181.»
[Переход на s13.]
Где AI проваливается: bias в CV¶
[На слайде — 2 case-cards: dermatology + pulse oximeter.]
«AI-диагностика хорошо работает в распределении обучения. За пределами этого распределения может проваливаться несимметрично. И эти провалы — не bugs, а consequence design choices.
Случай первый — дерматология и тон кожи. Большинство публично доступных дерматологических AI-датасетов, включая ISIC, исторически перепредставляли пациентов со светлой кожей из США, Европы, Австралии. Daneshjou и коллеги, 2022, Science Advances, протестировали несколько ранее опубликованных дерматологических алгоритмов на разнообразной выборке. На коже с тёмными тонами по шкале Фитцпатрика чувствительность была значительно ниже — на десятки процентов — по сравнению со светлой.
[пауза 2 секунды]
Важный нюанс. Дерматологи-люди тоже работали хуже на тёмной коже. Но fine-tuning на разнообразном датасете DDI закрыл этот разрыв для AI. Fine-tuned модели в итоге превзошли дерматологов на тёмной коже. То есть проблема решаема — на стороне выбора тренировочного датасета.
Случай второй — пульсоксиметры. Это случай, в котором bias проникает в AI через входной сенсор, а не через датасет. Пульсоксиметры измеряют сатурацию кислорода через оптическое поглощение. По работе Sjoding и коллег, 2020, NEJM, у пациентов с тёмной кожей пульсоксиметры систематически переоценивают SpO2 по сравнению с прямым газовым анализом. У чернокожих пациентов гипоксия пропускается чаще. FDA выпустило safety communication в 2021. AI-системы, использующие SpO2 как input feature — например, для прогнозирования COVID-госпитализации, — наследуют этот сенсорный bias.
[медленно]
Инженерный вывод для обоих случаев — простой и важный. Валидационная выборка должна покрывать популяцию деплоймента. Это не academic point, это профессиональная ответственность. И одна из тех вещей, которые отличают AI-инженера с медицинским опытом от того, кто только начинает.»
[Переход на s13a.]
Разделитель¶
«Третий раздел из пяти — drug discovery: обещания и реальность.»
[Переход на s14.]
Mid-lecture callback¶
[На слайде — центральный вопрос плюс три якоря: mosmed ✓, Rentosertib ?, DSP-1181 ?]
«Мы с вами прошли половину лекции. Промежуточный итог.
AI-диагностика — обещание сбылось. Mosmed.ai тому подтверждение, MASAI RCT тому подтверждение. Drug discovery — обещали ускорить в десять раз. Что реально работает на 2026 год?
Сейчас мы с вами разберём конвейер drug discovery, потом — два конкретных случая. Один успешный — Insilico Rentosertib. Один — наоборот, DSP-1181. После — регуляторное поле и переход к этике.»
[Переход на s15.]
Pipeline drug discovery¶
[На слайде — 5-stage pipeline с AI/human-маркерами.]
«Традиционная разработка нового лекарства — десять-пятнадцать лет и один-два миллиарда долларов на одобренный препарат. Это данные DiMasi 2016 и Wouters 2020. Шанс перейти от Phase 1 до одобрения — примерно шесть и семь десятых процента. То есть из пятнадцати кандидатов до пациента доходит один.
Давайте посмотрим на пять стадий.
Target identification. Какой биологический белок-мишень атаковать. Здесь работают AlphaFold для предсказания структуры и AlphaProteo для дизайна binders.
Hit discovery. Поиск молекулы-кандидата с initial activity signal. Здесь — generative chemistry: Insilico Chemistry42, Exscientia, Generate Biomedicines.
Lead optimization. Улучшение selectivity, stability, минимизация токсичности. Здесь — симуляция плюс ML.
Preclinical. Эксперименты на клетках и животных. ADMET-моделирование — Absorption, Distribution, Metabolism, Excretion, Toxicity.
Clinical Phase 1, 2, 3. Эксперименты на людях. Safety, efficacy, конфирматорные. Здесь AI ассистирует рабочий процесс — стратификация пациентов, recruitment — но не влияет на attrition rate.
[с акцентом]
И вот главное. AI ускоряет стадии один-три значительно: с четырёх-пяти лет до двенадцати-восемнадцати месяцев в лучших случаях. Стадии четыре-пять остаются доменом биологии. Маркетинговая фраза «AI ускорит drug в десять раз» смешивает две разные claim. AI ускоряет design — это verified. AI ускоряет approval — это не verified, потому что восемьдесят процентов timeline drug — это клинические испытания, и AI их не сжимает.»
[Переход на s16.]
AlphaFold и AlphaProteo¶
[На слайде — 3 evidence-cards + AlphaFold 3D snapshot.]
«Самое заметное достижение AI в drug discovery — линейка foundation models DeepMind. Половина Нобелевской премии по химии 2024 года. Hassabis и Jumper за AlphaFold разделили её с Baker за computational protein design. Это callback к Лекции 1.
AlphaFold 2, 2021. Решена пятидесятилетняя задача предсказания структуры белков. К 2024 году в открытой базе — более двухсот миллионов структур. База бесплатна, alphafold.ebi.ac.uk. DeepMind заявляет о двух с лишним миллионах исследователей-пользователей.
AlphaFold 3, Nature, май 2024. Diffusion-архитектура. От белков к биомолекулярным комплексам — белок-ДНК, белок-РНК, белок-лиганд. Улучшение примерно на пятьдесят процентов на бенчмарке PoseBusters против классических методов докинга. Классический docking — основной инструмент тридцать лет. AlphaFold 3 — первая AI-система, его превзошедшая.
AlphaProteo, сентябрь 2024. De novo дизайн белковых binders. Восемьдесят восемь процентов success rate для целевого белка BHRF1. Улучшение affinity в три-триста раз. Первый AI-сгенерированный binder для VEGF-A — ключевой фактор ангиогенеза в онкологии.
Оговорка. Данные AlphaProteo получены в wet-lab DeepMind, независимая репликация публично не зафиксирована. Цитируем claim DeepMind, не консенсусный результат.
[с акцентом]
Важная инженерная деталь. AlphaFold предсказывает структуру. Drug discovery требует ещё lead optimization, ADMET, валидации. AlphaFold ускоряет одну стадию — target identification. Это accelerator, не замена pipeline.»
[Переход на s17a.]
Insilico Rentosertib — успех¶
[На слайде — 3-event timeline + info-card +98.4 mL FVC.]
«Insilico Medicine Rentosertib. Код ISM001-055. На сегодня — первый AI-designed препарат с peer-reviewed positive Phase IIa readout. Nature Medicine, июнь 2025.
Дизайн. Phase IIa, рандомизированное двойное-слепое плацебо-контролируемое. Семьдесят один пациент с IPF — идиопатический лёгочный фиброз, серьёзное хроническое заболевание лёгких. Двадцать один центр в Китае. Препарат — TNIK inhibitor.
Результат для группы шестьдесят миллиграммов в день, двенадцать недель. Средняя динамика FVC — форсированной жизненной ёмкости. В Rentosertib-группе — плюс девяносто восемь и четыре десятых миллилитра. В плацебо — минус двадцать и три десятых миллилитра. Разница около ста восемнадцати миллилитров — клинически значимая для IPF.
Безопасность. Наиболее частые побочные эффекты — диарея и отклонения функции печени, около пятнадцати процентов каждый.
Insilico заявляет, что путь от target до preclinical candidate занял примерно восемнадцать месяцев — против традиционных четырёх-пяти лет. Эта оценка не verifiable независимо. Но факт peer-reviewed Phase IIa — verifiable через Nature Medicine. Качественный сдвиг.
[медленно]
Инженерный вывод. AI ускорил design — verified. Clinical efficacy — отдельная биология. Phase 3 ещё впереди.
Российский контекст. MADD — ITMO плюс Сбер AI Lab, peer-reviewed работа. Центр AIDD — альянс Сбер и AIRI, декабрь 2024. Альянс по онкологии CD137, май 2024. Но честная оговорка: ни одного российского AI-designed препарата в Phase 1 и выше на май 2026 не зафиксировано. Все RU-программы — preclinical.»
[Переход на s17b.]
DSP-1181 — реальность¶
[На слайде — 3-event timeline 2020→2022→2026 Discontinued.]
«Параллельно с историей успеха — DSP-1181. Препарат, на который десять лет назад указывали как «доказательство AI-революции», и который не дошёл до пациентов.
Январь 2020. Sumitomo Dainippon Pharma и Exscientia объявили о запуске Phase 1 препарата для обсессивно-компульсивного расстройства. Путь от target до Phase 1 — около двенадцати месяцев против традиционных четырёх-пяти лет. Препарат назвали «первым AI-designed drug в clinical trials». В 2020-2022 — главный маркетинговый пример индустрии.
Что произошло дальше. В 2022 году Phase 1 в Японии остановлена. Причина discontinuation публично не раскрыта. На май 2026 глобальный R&D-статус DSP-1181 — Discontinued.
[пауза]
Инженерный урок. AI ускорил design — это verifiable. Эта часть работает. Но clinical efficacy — отдельная биология. Маркетинговое «AI drug равно быстро плюс эффективно» — две объединённые claim, которые в реальности независимы. AI не сделал DSP-1181 эффективным. AI ускорил поиск кандидата. Кандидат не показал клинического результата.
Полезный контекст. Recursion и Exscientia объявили о слиянии в августе 2024 года, шестьсот восемьдесят восемь миллионов долларов. Exscientia прекратила существовать. Merger — сигнал, что AI drug discovery как standalone-бизнес — трудная экономика.
Общая черта Rentosertib и DSP-1181. Оба случая совместимы с реальностью. Девяносто процентов клинической attrition rate — статистика, к которой AI не имеет отношения. Attrition определяется биологией, не дизайном. Две claim надо разделять: насколько мы ускоряем design, и насколько повышаем approval probability. Только первое — то, на что AI влияет.»
[Переход на s18.]
Регулирование: три юрисдикции¶
[На слайде — 3-column condensed table US/EU/RU + PCCP contrast.]
«В трёх крупных юрисдикциях медицинский AI — high-risk. Подходы отличаются процессами, не принципами.
США, FDA. PCCP — Predetermined Change Control Plan, финальная гайданс четвёртого декабря 2024 года. До PCCP каждое обновление AI-модели требовало новой submission на двенадцать-восемнадцать месяцев. С PCCP vendor заранее декларирует допустимые изменения, FDA pre-authorizes. Vendor обновляет модель без full re-submission. Первый production-grade CI/CD для medical AI.
Евросоюз, EU AI Act. Регламент 2024/1689. Второго августа 2026 — high-risk не-MDR системы. Второго августа 2027 — MDR-regulated medical AI, основной массив клинических устройств. Vendors готовятся одновременно. Первый этап через два с половиной месяца.
Россия, Росздравнадзор. Expedited procedure с первого марта 2025 года. Пятьдесят семь зарегистрированных AI-медизделий к середине 2026.
Инженерный вывод. Medical AI в трёх крупных юрисдикциях — high-risk. One-and-done одобрение заменяется на post-market surveillance плюс continuous monitoring. Проектируете AI для medical device — проектируйте с PCCP в уме сразу.»
[Переход на s19a.]
Разделитель¶
«Четвёртый раздел из пяти — AI как объяснитель и его границы. Прикладная секция, и сразу за ней — этика и ответственность.»
[Переход на s19.]
AI как объяснитель¶
[На слайде — 3-card layout: паттерн + что меняется + оговорка.]
«Перед тяжёлыми темами — короткая прикладная секция. AI как объяснитель.
Один из стабильно работающих паттернов общения с LLM — формула «объясни как для студента N курса». Говорите «объясни sensitivity и specificity на примере маммографии, как для второго курса технического вуза» — модель выдаёт связное объяснение с правильным уровнем детализации.
Это не магия. Это паттерн. Работает потому, что в обучающих данных LLM много текстов с маркировкой целевой аудитории — лекции, учебники, popular science.
В медицине этот паттерн меняет сценарии. Интерн читает редкое заболевание ночью — теперь за минуту получает first-pass объяснение от LLM. Ординатор разбирает новую методику — то же. Врач сталкивается с новым классом препаратов — то же. Время от вопроса до первого приближения падает с часов до секунд.
[пауза]
При этом качество нестабильно. AI отлично пересказывает учебник: definitions, базовые механизмы, типовые примеры. AI плохо передаёт неявное знание клинициста: когда правило не работает, какие комбинации признаков подозрительны для опытного врача. Формальная часть знания — пересказывается. Профессиональная интуиция — нет.
И самое важное — оговорка. AI даёт цифры без источника. AI пересказывает учебник пятилетней давности как текущую практику. AI уверенно произносит неправильное название препарата.
[медленно, с акцентом]
Правило для медицины — и для любого контекста с высокими ставками. AI — первое приближение, не источник истины. Финальная верификация — учебник, клинические guidelines, старший коллега.
Этот навык — отличать «AI отлично объяснил» от «AI дал цифру, которую надо проверить» — мы с вами тренируем весь курс.»
[Переход на s20.]
Переход к этике¶
[На слайде — stock photo medical team + 3 темы.]
«В медицинском AI ставки максимальны: ошибка модели равна ошибке диагноза равна вреду пациенту. Поэтому следующие пять слайдов — это четыре конкретные темы, о которых инженер обязан думать на стадии design, не post-hoc.
Первая — bias в medical AI, на классическом примере Obermeyer 2019. Вторая — три LLM-анти-паттерна 2023-2025 годов. Третья — безопасность медицинских данных на примере Change Healthcare. И четвёртая — кто отвечает, когда AI ошибается.
Тон — серьёзный, без alarmism. Цель — научить нас с вами думать о границах сразу, на стадии design.»
[Переход на s21.]
Obermeyer 2019: bias через выбор прокси¶
[На слайде — 3-box mechanism + chart 26% + arrow 17.7→46.5%.]
«Obermeyer и коллеги, Science, 2019. Золотой стандарт case study по bias в medical AI. Цитируется более трёх тысяч раз. Обязательное чтение для AI-инженера в healthcare.
Контекст. В США работает коммерческий алгоритм Impact Pro, разработанный Optum — дочка UnitedHealth. Применяется для примерно двухсот миллионов американцев. Идентифицирует пациентов с высоким риском для программ high-risk care management.
Что нашли. На одном и том же risk score чернокожие пациенты были существенно болезненнее белых. На одном уровне score — на двадцать шесть процентов больше хронических заболеваний.
Почему. Алгоритм обучен предсказывать healthcare cost как прокси для healthcare need. Эти переменные коррелируют, но не идентичны.
Чернокожие пациенты исторически тратили на здравоохранение примерно на тысячу восемьсот долларов в год меньше равно-больных белых. Из-за access disparities: меньше страхового покрытия, географические барьеры, недоверие к системе, дискриминация в практике. Алгоритм видел: низкие расходы — менее больны. На самом деле они были такими же больными, но получали меньше помощи.
[пауза]
Исправление. Когда переобучили на гибридный прокси — стоимость плюс хронические заболевания — bias уменьшился на восемьдесят четыре процента. Доля чернокожих пациентов в high-risk care management выросла с семнадцати и семи десятых до сорока шести и пяти процентов. Конкретные пациенты, получившие доступ к помощи.
[медленно, с акцентом]
Инженерный урок. Выбираете прокси для goal — спросите: какие демографические группы могут иметь систематически различный доступ к этой прокси? Если «да» — прокси создаёт bias. Выбор метрики — это выбор политики, даже когда никто о политике не думает.»
[Переход на s22.]
Три LLM-анти-паттерна¶
[На слайде — 3 case-cards: Tessa, adversarial 83%, 40M self-diagnosis.]
«LLM в медицине — это не то же самое, что medical AI. Medical AI, проходящий FDA-одобрение, — специализированная CV или табличная модель с подтверждённой клинической валидацией. LLM в медицинском контексте — general-purpose модель, которая случайно используется для медицины. Три documented anti-pattern cases на 2023-2026.
Случай первый. NEDA Tessa, vendor accountability story. NEDA — некоммерческая организация по поддержке людей с расстройствами пищевого поведения. С 2018 NEDA использовала чат-бот Tessa как первую линию helpline. Изначально Tessa был rule-based: decision-tree, никакой генерации, никаких советов вне одобренных сценариев. Eating disorders требует clinical safety design.
В начале 2023 года vendor Cass самовольно сменил Tessa с rule-based на generative LLM — без согласования с NEDA. Тридцатого мая 2023 активистка Sharon Maxwell опубликовала скриншоты: Tessa советовал терять один-два фунта в неделю, удерживать дефицит калорий пятьсот-тысячу в день. Классические eating disorder triggers. NEDA сняла Tessa за двадцать четыре часа.
Frame — vendor accountability, не chatbot history. Cass изменил природу системы без согласования с principal. Generative AI — это не rule-based AI. Любой переход с deterministic на generative требует новой клинической валидации.
Случай второй. Adversarial hallucination. Nature Communications Medicine, 2025. Проверили шесть ведущих LLM на трёхстах клинических vignette с подсаженным фейком — выдуманный лабораторный результат, выдуманное заболевание. Модели повторяли или расширяли фейк в восьмидесяти трёх процентах случаев. Mitigation prompt «верифицируй факты» снижал rate вдвое, не до нуля.
Инженерный вывод. LLM gullible к planted errors. Верификация фактов человеком требуется для каждого факта в медицинском контексте. Это про рабочий процесс, не про улучшение модели.
Случай третий. Patient self-diagnosis. Параллельно идёт массовое явление. По Becker's Hospital Review, около сорока миллионов американцев используют ChatGPT для healthcare. По OpenAI и Rock Health 2025 — трое из пяти взрослых обращаются к LLM с вопросами о здоровье.
Инженерная implication. Строите medical-adjacent LLM-product — вы в индустрии с массовым unsupervised use. Design choices масштабируются на десятки миллионов.
[медленно]
Чем отличается от Obermeyer? Obermeyer — bias в табличной AI. Здесь — generative LLM в open-ended medical advice. Разные countermeasures. Bias в медицинском AI — класс ошибок с разными механизмами.»
[Переход на s23.]
Change Healthcare и ФЗ-152¶
[На слайде — news screenshot + 5 info-cards.]
«Медицинские данные — самая защищаемая категория. И самая ценная для атакующих. Они содержат PII плюс medical history, которые нельзя «отменить». В отличие от номера кредитной карты, который банк блокирует за минуты.
Случай — Change Healthcare breach, февраль 2024. Крупнейший healthcare data breach в истории США.
Двадцать первого февраля ransomware-группа BlackCat атаковала Change Healthcare — дочка UnitedHealth, обрабатывает треть всех claims в США. Вектор — уязвимый Citrix remote access без MFA.
Числа. Сто девяносто миллионов американцев — затронутый объём PHI. Примерно пятьдесят семь процентов населения США.
[пауза 2 секунды]
Шесть терабайт эксфильтровано. Двадцать два миллиона долларов выкупа заплачены в Bitcoin.
[пауза 2 секунды]
Total recovery cost — два миллиарда четыреста пятьдесят семь миллионов долларов. Multi-week disruption обработки claims.
[пауза]
AI connection. Medical AI training datasets наследуют security risk медицинских данных. У mosmed.ai более восемнадцати миллионов изображений. Что если такой dataset эксфильтрован? Анонимизация не равно полная анонимность. Каноническая иллюстрация — re-identification медзаписи губернатора Massachusetts через сопоставление HIPAA-compliant deidentified dataset с публичным voter roll. Sweeney, 2002.
Регуляторика. HIPAA — США, 1996. GDPR — ЕС, 2016, health data sensitive special category. ФЗ-152 — Россия, с amendments 2024-2025. ФЗ-23 от двадцать восьмого февраля 2025 года — data localization: персональные данные граждан РФ не обрабатываются вне России с первого июля 2025 года.
[медленно]
Инженерный вывод. Проектируя medical AI, вы проектируете target для criminal groups. Защита: data localization, де-идентификация плюс differential privacy, secure-by-design pipeline. Для российского деплоймента использование OpenAI или Anthropic API напрямую для данных пациентов — это noncompliance. Это compliance-ориентир с первого июля 2025 года.»
[Переход на s24.]
Четыре актора ответственности¶
[На слайде — 2×2 quadrant с врач/operator/vendor/regulator.]
«Это центральная секция для центрального вопроса лекции. Обратите внимание — мы с вами наконец-то пришли к ответу.
AI-диагностика работает. Drug discovery частично работает. Bias и LLM-анти-паттерны реальны. Кто отвечает, когда AI ошибается?
4-actor framework. Price, 2019, U Michigan Law School. Gerke, 2020, Penn State Dickinson Law (ранее — Harvard Petrie-Flom). Четыре актора с разной комбинацией технического контроля и юридической ответственности.
Врач — высокий контроль, высокая ответственность. Ставит финальный диагноз. AI — ввод, не лицо, принимающее решение. Юридически врач — основное ответственное лицо. Подсказка AI — «второе мнение». Только врач имеет полную картину: анамнез, осмотр, лабораторные результаты, ответ AI как один из вводов.
Healthcare operator — больница, клиника, ДЗМ — средний контроль, средняя ответственность. Выбирает поставщика AI. Обеспечивает тренинг персонала. Мониторит работу системы. Деплоит AI без adequate тренинга — несёт ответственность за foreseeable misuse.
AI-vendor — высокий контроль, низкая-средняя ответственность. Дизайнит модель. Делает safety claims при регистрации. Обеспечивает PCCP-updates. Дефект в дизайне — ответственность по product liability. При faithful disclosure и proper post-market surveillance ответственность ограничена.
Regulator — FDA, EU Notified Bodies, Росздравнадзор — низкий контроль, высокий надзор. Одобряет системы. Проводит post-market surveillance. Не несёт ответственности за individual cases, но несёт systemic responsibility за качество одобрения.
[медленно, с акцентом]
Central principle. Финальная клиническая ответственность не делится между человеком и алгоритмом.
Врач ставит диагноз. AI подсказывает. Final clinical responsibility undivided.
Это юридический консенсус на 2026 год во всех трёх крупных юрисдикциях.
Что инженер должен вынести. Работаете в vendor-роли — ваша responsibility design AI так, чтобы врач мог выполнить свою. Три принципа — на следующем слайде.
Честная нота. На май 2026 громких прецедентных дел о AI medical malpractice нет. Lawsuits выросли на четырнадцать процентов в 2024, но landmark case ещё нет. Tort law догоняет технологию.»
[Переход на s24a.]
Разделитель¶
«Пятый раздел из пяти — заключение.»
[Переход на s26.]
Три главных вывода¶
[На слайде — 3-card summary: диагностика ✓ / drug discovery частично / ответственность на враче.]
«Давайте коротко опишем, что мы с вами прошли — три вывода.
Вывод первый. AI-диагностика работает. Это LO1 и LO2. mosmed.ai обработал более четырнадцати миллионов исследований за пять лет в семидесяти четырёх регионах России. FDA одобрил тысячу четыреста пятьдесят одно AI/ML-устройство кумулятивно к концу 2025 года; семьдесят шесть процентов — радиология. MASAI Sweden RCT подтвердил, что AI-supported маммография повышает чувствительность скрининга с семидесяти трёх и восьми десятых до восьмидесяти с половиной процентов при снижении нагрузки радиолога на сорок четыре. Это не футурология. Это computer-vision-pipeline уровня 2017-2024 годов в production-форме.
Вывод второй. Drug discovery работает частично. Это LO2 и LO3. AlphaFold предсказал более двухсот миллионов структур белков и получил Нобелевскую премию по химии 2024 года. Insilico Rentosertib стал первым AI-designed препаратом с peer-reviewed positive Phase IIa в Nature Medicine. DSP-1181 — discontinued. AI ускоряет discovery в пять-десять раз. Clinical attrition rate в девяносто процентов AI не меняет.
Вывод третий. Ответственность — на враче. Это LO3. AI подсказывает, врач решает. Инженер строит систему так, чтобы responsibility была технически выполнима: transparency, калибровка confidence, audit-trail, де-идентификация, post-market monitoring. Конкретные три наблюдения для копилки чек-листа — на слайде после следующего.»
[Переход на s27.]
Closing: врач решает¶
[На слайде — stock photo doctor + patient + closing фраза.]
«Если мы с вами уместим всю лекцию в одну фразу — она звучит так.
[медленно, с акцентом]
Врач ставит диагноз. AI подсказывает. Инженер делает так, чтобы врач мог по-настоящему решать.
Это callback к центральному вопросу лекции. Какие AI-обещания в медицине сбылись и кто отвечает. Сбылась диагностика. Частично сбылся drug discovery. Ответственность — на враче. Инженер — это тот, кто обеспечивает технические условия для этой ответственности.
И эта фраза готовит нас с вами к финальной Лекции 17 «Систематизация знаний и навыков», где мы с вами будем собирать ваш личный чек-лист ответственного использования AI. Сегодняшние наблюдения — сырьё для черновика. Финал — на Лекции 17.»
[Переход на s28.]
Что дальше¶
[На слайде — mini course-map + указатель на финальную Лекцию 17.]
«Что дальше. Медицина — четвёртая отраслевая лекция курса. Дальше отраслевой тур продолжается — другие индустрии, где stakes другие: не пациент, а оборудование, урожай, инфраструктура. Но многие методологические принципы этой лекции переносятся.
И самое важное — три наблюдения этой лекции. Transparency плюс calibration. Validation set покрывает deployment population. Audit-trail плюс post-market monitoring. Это вход в копилку персонального чек-листа. Финал — на Лекции 17 «Систематизация знаний и навыков», где мы собираем чек-лист из всех отраслевых кейсов курса.»
[Переход на s29.]
Q&A¶
[На слайде — большое Q&A + backup prompts.]
«Время на вопросы. Что хотите разобрать глубже?
[пауза, жду руки]
[Backup-темы, если вопросов нет — на слайде. Я готов обсудить их по запросу.]
[пауза]
Спасибо за внимание.»
[Закрытие.]