Современные публичные ИИ-сервисы (ChatGPT, DeepSeek, Gemini и т.д.) все активнее используются для получения не просто общих сведений о том или ином заболевании, а персональных медицинских рекомендаций. Но экспертные проверки показали: алгоритмы часто не учитывают ключевые клинически значимые параметры пациента, например, возраст, пол и анамнез. Какие риски для здоровья вы в этом видите?
Тигран Геворкян: Мы живем во время активного внедрения искусственного интеллекта в повседневную жизнь, включая и здравоохранение. Хотя определенные правила по использованию ИИ уже существуют, мы постоянно сталкиваемся с новыми вызовами. Готовые решения, доступные сегодня, могут создавать иллюзию простых ответов, но к ним необходимо относиться избирательно.
Я не призываю к консерватизму и тем более к полному отказу от технологий - напротив, мы должны помочь всем пользователям грамотно ими распоряжаться. Под пользователями имеются в виду и граждане, и специалисты в области здравоохранения, которые уже применяют ИИ в своей работе.
Где мы видим ключевые риски? Прежде всего с большой осторожностью нужно относиться к технологическим решениям на основе генеративных и больших языковых моделей. Четко определить сферу их применения критически важно. Очевидно, что подобные системы могут использоваться только как инструмент, заключения которого всегда проверяет, фильтрует и окончательно утверждает профильный специалист (либо проверенное программное обеспечение). Такие "помощники" не должны напрямую транслировать выводы неподготовленному потребителю - в этом заключается большой риск.
Особенно это актуально для решений, разработанных за рубежом. Крайне важен здесь принцип "объяснимого искусственного интеллекта" - то есть возможность понять и детализировать, как модель приняла то или иное решение. Если такой возможности нет или разработчик ее не предоставляет, такие решения должны использоваться исключительно в качестве подсказки, которая обязательно проходит дополнительную валидацию и проверку экспертом (врачом).
Медицинская консультация от ИИ "под рукой" в любое время дня и ночи, быстро и бесплатно - это удобно и уже стало массовым явлением. Запретить это нереально, значит, нужен контроль. Возможно ли, на ваш взгляд, создать эффективную систему регулирования в этой области?
Тигран Геворкян: Конечно, запретить использование ИИ, как и интернета в целом, невозможно. Поэтому ключевой вопрос - как обеспечить эффективное регулирование его применения, чтобы минимизировать риски. Это не только возможно, но и уже реализуется.
Во-первых, существуют строгие правовые механизмы, регламентирующие вопросы охраны здоровья и оказания медицинской помощи. Любой программный продукт, претендующий на медицинское применение, должен быть зарегистрирован как медицинское изделие. И только эти прошедшие регистрацию решения могут быть официально допущены к использованию в отношении пациентов. Это основное правило, которое должны знать и пациенты, и медицинские специалисты, применяющие ИИ в клинической практике.
Во-вторых, важнейшую роль играет просвещение и информирование. Глобальная сеть открыта для всех, поэтому необходимо уравновесить технологический бум грамотной коммуникацией. Крайне важно доносить до населения корректную, взвешенную информацию. Следует воздерживаться от популистских и непрофессиональных комментариев на эту тему, которые создают нездоровые ожидания.
Любая новая технология в нашей жизни проходит этапы адаптации. Мы уверены, что в ближайшее время в сфере искусственного интеллекта сформируются правильные векторы развития, которые будут четко донесены до общества. И, что не менее важно, со временем и само население накопит практический опыт, научится разумно пользоваться этими инструментами.
Какие советы вы дадите пользователям, которые обращаются к ИИ за медицинской информацией, но готовы ее критически оценивать?
Тигран Геворкян: Главный совет можно сформулировать так: к рекомендациям непроверенных ИИ-систем следует относиться с той же долей здорового скепсиса, как и к непрофессиональным советам - например, от друзей и знакомых. Использование нейросети, не имеющей медицинской регистрации, для постановки диагноза или выбора терапии - это то же самое, что следовать опасному "народному" рецепту при серьезном заболевании. Риски сопоставимы.
Поэтому ключевое правило для разумного пользователя остается неизменным: любую полученную от ИИ информацию необходимо обсуждать со своим лечащим врачом. Он знает вас, особенности вашего организма и заболевания. Поэтому вашим основным и самым надежным источником истины должен быть специалист - будь то врач первичного звена либо узкий специалист по определенному профилю.
Современные врачи сами активно осваивают новые технологии. Однако они в своей практике используют исключительно проверенные и зарегистрированные как медицинские изделия ИИ-решения, которые внедряются в систему здравоохранения официально. Их опыт - лучший ориентир для пациента: любая инновация является движущей силой и помощником для нас, но в этой связи важно не оказаться заложником технологий.
Последнее слово и ответственность в ближайшей перспективе должны оставаться за врачом.