Американская медицинская ассоциация (AMA) предлагает законодательно оградить врачей от претензий, если вред пациенту причинил медицинский ИИ, применённый по назначению и с разумной осмотрительностью. Ответственность же, по мнению ассоциации, должны нести те, кто создаёт, поставляет и навязывает клиникам такие системы.
Об этом пишет Axios. Помимо защиты медиков, AMA предлагает обязать ИИ-компании держать достаточное страхование гражданской ответственности и открыто рассказывать об ограничениях и показателях эффективности своих продуктов. Ассоциация также против договорных пунктов, которые перекладывают на врачей и медорганизации вину за сбои алгоритма. Согласно её позиции, за серьёзные ошибки, возникшие из-за конкретного ИИ-продукта, должны отвечать больницы, системы здравоохранения, страховщики и поставщики медицинских технологий.
Причина в том, что алгоритмы всё активнее встраиваются в клинические решения — от выбора диагностических тестов до назначения дорогих препаратов. Это повышает риск ошибок и запутывает вопрос, кто именно виноват. Системы, которые анализируют истории болезни, показатели жизнедеятельности и результаты визуализации, могут неверно оценить тяжесть состояния. Бывает и так, что ИИ выдаёт убедительную рекомендацию, опираясь на неполные лабораторные данные или устаревшие диагнозы, а врач не всегда в силах это перепроверить.
Профессор Калифорнийского университета в Дэвисе Мартин Хилберт отмечает: американские суды всё чаще склоняются к тому, что за действия ИИ-систем отвечают компании, которые их разрабатывают, обучают и внедряют. По его словам, ответственность распределена между несколькими участниками и не может целиком ложиться на конечного пользователя.
Толчком для инициативы AMA стали судебные разбирательства вокруг медицинских решений, принятых с опорой на алгоритмы. Один из примеров — дело в Алабаме о смерти по неосторожности, связанное с инструментом для скрининга сердечных заболеваний. Разработчика ПО к ответственности не привлекли: лицензионное соглашение оставляло окончательные медицинские решения за врачом.
