В профессиональные обязанности медиков планируют официально включить работу с большими языковыми моделями, проверку их ответов и отметку об использовании ИИ в документах. Обсуждение проекта открыто до 25 сентября.
Совет по профессиональным квалификациям в здравоохранении вынес на общественное обсуждение проект, описывающий, как именно медработники должны взаимодействовать с искусственным интеллектом. В документе перечислены 12 конкретных действий, среди которых — корректное формулирование запросов для больших языковых моделей. Положения коснутся специалистов, принимающих клинические решения самостоятельно; это соответствует 6-му уровню квалификации и выше. Замечания и предложения принимаются до 25 сентября от медиков, исследователей, преподавателей и разработчиков программного обеспечения, а уполномоченные лица должны быть проинформированы о любых нежелательных инцидентах и ошибках, связанных с работой алгоритмов.
Проект предполагает, что врачи будут применять системы поддержки принятия врачебных решений (СППВР) на этапах обследования, диагностики, назначения терапии и расчета рисков. Однако полученный от нейросети результат нельзя принимать слепо — его необходимо критически осмыслить. Ответы алгоритма должны сверяться с действующими клиническими рекомендациями, стандартами и порядками медпомощи, а также проверяться на фактические и логические ошибки, которые могут свидетельствовать о недостоверности данных. Если нейросети используются для поиска, реферирования и систематизации информации, врачам придется дополнительно проверять первоисточники.
Особое внимание уделено безопасности и этике. Если у специалиста возникли сомнения в клинической применимости или безопасности системы, от её использования следует отказаться. При работе с ИИ вне защищенного контура медицинской организации необходимо обезличивать персональные данные пациентов, чтобы сохранить врачебную тайну. Медики должны четко различать зарегистрированные в РФ медицинские изделия на базе ИИ и сервисы общего назначения. Документирование факта использования ИИ станет обязательным, при этом сами большие языковые модели разрешено применять для подготовки документов. Кроме того, пациентов или их законных представителей потребуется уведомлять о применении ИИ, если это установлено нормативными правовыми актами.
В Минздраве РФ искусственный интеллект рассматривают как способ разгрузить врачей от бумажной рутины. Технология позволяет быстро анализировать электронную историю болезни и карту пациента, а также моментально выдавать нужную информацию медперсоналу, включая сотрудников приемного отделения скорой помощи. То, что вручную занимает до получаса, нейросеть делает за несколько секунд. Показательно, что крупные частные медицинские сети активно вкладываются в ИИ для автоматизации операционных процессов, но сознательно откладывают запуск диагностических систем с нейросетями, объясняя это юридическими рисками и слабой окупаемостью.
