"Задача ИИ - не позволить врачу сделать ошибку". Академик Мацкеплишвили - о прогрессе в медицине

Чему искусственный интеллект научился в кардиологии? Может ли оценить риск инфаркта и почему главная задача машины - не заменить врача, а помочь ему не ошибиться? И еще конкретнее. Что именно способен увидеть ИИ в обычной ЭКГ? Может ли он заметить болезнь до появления симптомов? И что произойдет с врачом, если машина действительно научится видеть больше него? Об этом говорим с руководителем отдела кардиологии и сердечно-сосудистой хирургии Университетской клиники МГУ имени М.В. Ломоносова академиком Симоном Мацкеплишвили.

Симон Мацкеплишвили: Медицинский искусственный интеллект требует постоянной проверки. Фото: Сергей Куксин

Симон Теймуразович, что искусственный интеллект действительно уже умеет в кардиологии - не в рекламных презентациях, а в реальной медицине?

Симон Мацкеплишвили: Я бы осторожнее относился к самому словосочетанию "искусственный интеллект". Мне не очень нравится этот термин. В большинстве случаев мы имеем дело с методами глубокого машинного обучения, которые способны находить закономерности в огромных массивах данных. И возможности этих методов впечатляют. Особенно хорошо они работают там, где врач сталкивается с большим количеством однородной информации: при анализе изображений, электрокардиограмм, лабораторных показателей. Машина может заметить сочетание признаков, которое человек просто не способен удержать в голове. Но самое важное, на мой взгляд, не то, что компьютер научится ставить диагноз вместо врача. Главная задача ИИ в другом: не позволить врачу сделать ошибку.

Для вас предотвращение ошибки важнее, чем возможность поставить диагноз?

Симон Мацкеплишвили: У врача есть ограничения. Он может устать, торопиться, что-то забыть, не обратить внимания на какой-то показатель. Врач работает в условиях огромного количества информации, а времени у него очень мало. А компьютер не устает. Он может проверить то, что человек не успел проверить. И если система способна подсказать врачу: "Обратите внимание, здесь есть признак, который вы могли не заметить", - это уже огромная помощь.

На что для вас это похоже? Можно ли сравнить нынешний этап развития ИИ в медицине с появлением какого-то другого медицинского инструмента?

Симон Мацкеплишвили: Когда-то человек смотрел на каплю воды и видел воду. Потом появился микроскоп, и оказалось, что в этой капле - целый мир. Клетки, микроорганизмы, структуры, существование которых никак не зависело от того, способен ли человек их увидеть. Микроскоп ничего не создал, он просто расширил человеческое зрение. Сегодня в медицине происходит нечто похожее. Только новым инструментом становится искусственный интеллект. Он не создает болезнь и не знает будущего. Он находит в огромных массивах медицинских данных закономерности, которые человек может не заметить.

То есть ИИ не столько создает новое знание, сколько помогает обнаружить то, что уже было в данных?

Симон Мацкеплишвили: Именно. Он может обнаружить закономерность. Но это не означает, что машина понимает ее так же, как понимает врач.

Микроскоп ничего не создал, он просто расширил человеческое зрение. Сегодня в медицине происходит нечто похожее с искусственным интеллектом

Что сегодня ИИ может увидеть в обычной электрокардиограмме?

Симон Мацкеплишвили: Электрокардиография существует больше ста лет. Несколько электродов, несколько минут - и на экране появляются изогнутые линии, по которым кардиолог определяет ритм сердца, нарушения проводимости, признаки ишемии и другие изменения. Для врача картинка привычна до такой степени, что кажется почти рутинной. Но что, если обычная ЭКГ содержит гораздо больше информации, чем мы научились из нее извлекать? Компьютерный алгоритм смотрит на нее иначе.

Он может сопоставить огромное количество параметров с результатами обследований и последующей судьбой тысяч или даже миллионов пациентов. И тогда выясняется: внешне нормальная ЭКГ может содержать информацию, которую мы пока не умеем извлекать обычными методами. Существуют модели, которые по ЭКГ могут оценивать вероятность наличия структурных изменений сердца, риск сердечной недостаточности и другие параметры. Причем иногда речь не только о состоянии сердца в данный момент, но и о риске будущих событий.

Если я правильно поняла, нормальная ЭКГ уже не обязательно означает, что человек полностью здоров?

Симон Мацкеплишвили: Нормальная ЭКГ никогда не означала, что человек абсолютно здоров. Как, кстати, и наоборот. А искусственный интеллект добавляет еще одну уникальную возможность: он может обнаруживать статистические признаки, связанные с состояниями, которые еще не проявились очевидным образом. Но здесь необходимо соблюдать осторожность. Если алгоритм говорит о повышенном риске, это не означает, что заболевание обязательно возникнет. Это означает лишь то, что вероятность выше.

Вы рассказывали об алгоритме, который определяет возраст человека по ЭКГ. Что в этом примере вас особенно заинтересовало?

Симон Мацкеплишвили: Перед нами ЭКГ человека, который считается здоровым. Кардиолог смотрит на нее и говорит: ритм синусовый, патологических изменений не видно. А алгоритм рассчитывает возраст человека по этой записи, и оказывается, что рассчитанный возраст может заметно отличаться от паспортного. Но самое интересное - не само умение определить возраст. Оказалось, что рассчитанный по ЭКГ биологический возраст человека связан с риском смерти от сердечно-сосудистых причин намного сильнее хронологического возраста. Врач смотрит на нормальную кардиограмму и не может определить будущее пациента. Алгоритм способен обнаружить статистическую связь, которую мы пока не умеем увидеть непосредственно.

Мистика... По ЭКГ можно заглянуть в будущее?

Симон Мацкеплишвили: И здесь очень важно не впасть в мистику. Алгоритм ничего не видит в будущем. Он рассчитывает вероятность на основе огромного количества данных. Это принципиально разные вещи.

Тогда самый популярный вопрос: способен ли искусственный интеллект предсказать инфаркт?

Симон Мацкеплишвили: Я бы снова заменил слово "предсказать" на "оценить вероятность". В медицине мы давно умеем рассчитывать риски. Но искусственный интеллект способен анализировать гораздо больше информации и находить связи, которые невозможно обнаружить с помощью нескольких привычных факторов риска.

Мы научились видеть все больше. Теперь нужно научиться правильно понимать то, что видим. Фото: Shinsei Motions / iStock

Вы хотите сказать, что пациент действительно может однажды получить от системы сообщение: "Ваш риск инфаркта значительно выше среднего"?

Симон Мацкеплишвили: Технически это уже возможно в разных формах. Но гораздо важнее другое: что мы будем делать с этой информацией? Знать о риске - еще не значит изменить этот риск. Если человеку сказать, что у него повышена вероятность сердечно-сосудистого события, он должен получить понятный план действий: что обследовать, что изменить, какие факторы риска устранить. Иначе прогноз превращается просто в источник тревоги.

Но у этой способности есть обратная сторона. Что произойдет, если алгоритмы начнут находить слишком много отклонений?

Симон Мацкеплишвили: Именно здесь аналогия с микроскопом становится особенно важной. Когда микроскоп впервые открыл человеку невидимый мир, задача науки не закончилась. Увидеть клетку или тем более микроб со жгутиками было недостаточно - нужно было понять, что это такое. То же самое происходит сегодня с искусственным интеллектом: нужно научиться правильно понимать то, что мы видим. Потому что не всякое отклонение нужно лечить. Не всякий риск означает болезнь. Не всякая закономерность, которую обнаружил алгоритм, должна автоматически приводить к медицинскому вмешательству. Да, мы научились видеть все больше. Теперь нужно научиться правильно понимать то, что мы видим.

Симон Теймуразович, что сегодня происходит с искусственным интеллектом именно в российской кардиологии?

Симон Мацкеплишвили: У нас в Московском университете есть интересные разработки. Но я бы не стал говорить, что мы уже решили все проблемы. В России есть замечательные математики, программисты, врачи. Есть медицинские данные, есть научные школы, есть возможности создавать собственные технологии. Но разработать алгоритм - это только половина дела. Нужно доказать, что он работает. И не просто показать красивый результат на той выборке, на которой его обучали, а обязательно проверить его на других пациентах, в других учреждениях, в другой медицинской среде.

А что может произойти, если просто перенести хорошо работающий алгоритм из одной клиники в другую?

Симон Мацкеплишвили: Если вы обучили систему на определенной популяции, она сможет прекрасно оценивать только подобную популяцию. А потом вы берете ее в другой регион, другую больницу, где другое оборудование и другие пациенты - и получаете уже совсем другую ситуацию. Поэтому медицинский искусственный интеллект требует постоянной проверки.

Как же должно выглядеть идеальное использование ИИ врачом?

Симон Мацкеплишвили: Я представляю его не как электронного врача, который сидит вместо человека. Скорее это второе мнение. Причем очень быстрое и очень внимательное. Врач посмотрел ЭКГ. Система посмотрела ЭКГ. Врач посмотрел историю болезни. Система проверила ее тоже. И если машина обнаруживает то, на что врач не обратил внимания, она должна обратить на это внимание. Но последнее решение должен принимать врач.

А если врач уверен в своем решении, а алгоритм с ним не согласен?

Симон Мацкеплишвили: Тогда врач должен разобраться. Не надо слепо доверять машине. Но и игнорировать ее нельзя. Если алгоритм хорошо проверен и говорит, что здесь есть проблема, врач должен спросить себя: почему система это обнаружила? Возможно, она ошибается. А возможно, врач ошибается.

Прямой вопрос: может ли искусственный интеллект заменить кардиолога?

Симон Мацкеплишвили: Нет. И я не думаю, что это вообще правильная постановка вопроса. Медицина - это не только анализ данных. Суть медицины в непосредственном общении врача и пациента. В том, что врач смотрит человеку в глаза, слушает его, понимает, что пациент говорит, а что не говорит. Человек учитывает обстоятельства, которые невозможно полностью представить в виде таблицы. Машина может знать о пациенте огромное количество данных, но она не является пациентом и не является врачом.

Пока естественный интеллект важнее искусственного. Но предположим, что однажды алгоритм окажется статистически точнее врача. Что тогда?

Симон Мацкеплишвили: Грамотно использовать его. Если доказано, что технология помогает принимать более правильные решения, глупо отказываться от нее только потому, что она создана машиной. Но использовать - не значит передать ей ответственность. Врач должен понимать ограничения метода, знать, на каких данных алгоритм обучался, как он проверялся и где может ошибаться.

А если врач не понимает, как алгоритм пришел к выводу? Может ли он ему доверять?

Симон Мацкеплишвили: Желательно. Если машина говорит: "У пациента высокий риск", врач должен иметь возможность понять хотя бы основные причины такого вывода. Но я бы не ставил требование полной прозрачности выше точности. Есть ситуации, когда алгоритм находит сложную комбинацию признаков, которую человек просто не может описать словами.

А если искусственный интеллект ошибся. Кто отвечает?

Симон Мацкеплишвили: Это очень сложный вопрос. Пока решение принимает врач. Ответственность все равно остается на враче. Но по мере развития технологий будут возникать новые юридические и этические проблемы.

Каким вы представляете врача-кардиолога через десять лет?

Симон Мацкеплишвили: Он будет гораздо больше работать с информацией. Но это не означает, что он будет меньше общаться с пациентом, скорее наоборот. Если машина возьмет на себя часть рутинной работы, у врача должно появиться больше времени для пациента. Мне вообще кажется, что медицина должна становиться более гуманной. Технологии не должны отдалять врача от человека. Они должны позволить врачу уделять человеку больше внимания.

Представьте двух кардиологов. Один прекрасно знает медицину, но не использует искусственный интеллект. Второй имеет такие же знания и опыт, но умеет правильно работать с ИИ. К кому вы пойдете сами?

Ко второму.

Симон Мацкеплишвили: Потому что хороший врач должен использовать все возможности, которые дают ему современные технологии. Но при одном условии: он должен оставаться врачом. Когда-то микроскоп позволил человеку увидеть то, чего раньше не видел человеческий глаз. Он не создал новый мир - он просто показал, что этот мир существует. Сегодня искусственный интеллект делает с медицинскими данными примерно то же самое. Повторю: он может обнаруживать закономерности, которые врач заметить не в состоянии. Может оценить риск еще до появления симптомов. Может обратить внимание на то, что человек пропустил. Но увидеть больше - еще не значит понять больше. Возможно, будущее кардиологии не в том, что машина научится заменять человека. А в том, что врач научится видеть вместе с машиной.