Сейчас медики всё чаще советуются с ИИ, чтобы поставить диагноз или составить курс лечения. Однако при этом возможны ошибки, и эксперты напоминают, что в этом случае искусственный интеллект к ответственности за неверный диагноз не привлечь. Отвечать придется врачам. Поэтому были разработаны правила, как правильно использовать ИИ в медицинской деятельности.
Какую модель ИИ может использовать врач?
Врач должен понимать возможности нейросети, которую он намерен применить в работе. Например, система может подходить только для выявления диабета, значит, в других случаях использовать ее не стоит. Также надо проверить, одобрено ли ее применение медучреждением. Врач должен знать об используемой модели достаточно, чтобы пояснить пациенту, почему он работает именно с ней.
Можно ли вводить в нейросеть данные пациента?
Если врач использует общедоступную нейросеть или систему, не одобренную руководством медучреждения, нельзя вводить в нее персональные данные - имя, заболевание и прочие сведения, по которым пациента могут идентифицировать посторонние лица.
Как проверить сведения, которые получил ИИ?
Даже надежная система может выдать неточные результаты, если введенные в нее сведения оказались искаженными. Нужно обязательно убедиться в правильности внесенных в ИИ сведений, особенно если они копировались автоматически. Также врач должен проверить, не упустил ли искусственный интеллект какие-либо данные. Если полученные от него результаты противоречат интуиции и суждению врача, их необходимо перепроверить.
Обязан ли врач сообщать пациенту об использовании ИИ?
Хотя в Англии врачи не обязаны говорить больному о применении в лечении искусственного интеллекта, лучше рассказать ему об этом. Если больной попросит отказаться от использования ИИ, стоит подумать об альтернативе для поиска решения без применения искусственного интеллекта. Но если без него не обойтись, нужно объяснить это пациенту. Необходимо также иметь в виду, что врач может быть подвергнут критике за отказ от использования ИИ.
Нужно ли фиксировать применение ИИ в документах?
При использовании искусственного интеллекта врач должен обязательно указать в своих отчетах, где и как применялся ИИ. При этом нужно указывать наименование и прочие сведения об использованной нейросети.
Кто отвечает за ошибку искусственного интеллекта?
При использовании ИИ врач обязан проверять любые полученные с его помощью результаты, особенно если они не совпадают с его мнением. Нужно помнить об ответственности за лечение больного и понимать, что конечной целью использования ИИ должно быть обеспечение лучшего и более безопасного ухода за пациентами.
По мнению экспертов BMJ, уже сейчас врачей могут критиковать по следующим причинам:
- использование неподходящей системы ИИ;
- неправильное использование подходящей системы ИИ;
- неиспользование системы ИИ, когда она должна была использоваться;
- непредоставление пациентам существенной информации об использовании ИИ или разумных альтернативах;
- использование системы ИИ, когда она не должна была использоваться.