Для автоматизации диагностики заболеваний с помощью искусственного интеллекта нужны юридические основания. Сегодня подготовлена нормативная база, которая сможет регулировать и распределять зоны ответственности и готова к апробации и внедрению юридических инициатив. Объясняет Антон Владзимирский.

— Сегодня в России есть нормативные документы, которые регулируют работу искусственного интеллекта в медицине?

— Сейчас в России, как и во всех странах мира, преобладают стратегические документы по вопросам применения ИИ в медицине. Некоторое время назад в нормативно-правовых актах о регистрации медицинских изделий появились положения об отнесении программного обеспечения с ИИ к определенному классу риска. Вклад в развитие отечественного законодательства в этой сфере, несомненно, внесли национальные стандарты, разработанные нашим центром. Создать первые оригинальные национальные ГОСТы по ИИ позволила продуктивная работа в рамках научного эксперимента по внедрению компьютерного зрения в лучевую диагностику. Сегодня уже вступили в силу 11 ГОСТов и 3 предстандарта. 

— Кто в России разрабатывает ГОСТы для ИИ в медицине? Кем утверждаются стандарты?

— Созданием национальных стандартов для внедрения систем искусственного интеллекта в клиническую медицину занимается профильный подкомитет 01 Технического комитета по стандартизации 164 «Искусственный интеллект» Росстандарта, организованный на базе Научно-практического центра диагностики и телемедицины Департамента здравоохранения города Москвы. В разработке единых норм участвуют несколько десятков специалистов — разработчиков программного обеспечения, медиков, профессоров, научных сотрудников. Утверждаются эти документы Росстандартом.

— Какие юридические основания необходимы для внедрения искусственного интеллекта в медицину?

— Обычно стандарты носят рекомендательный характер. В здравоохранении крайне важно системно обеспечивать безопасность и качество медицинской помощи. Поэтому необходимо двигаться дальше — усилить проработку юридических инициатив по вопросам внедрения и использования ИИ. А основным инструментом практического внедрения являются клинические рекомендации — документ для организации процесса оказания медицинской помощи.

УЖЕ ВСТУПИЛИ В СИЛУ 11 ГОСТОВ И 3 ПРЕДСТАНДАРТА ПО ИСПОЛЬЗОВАНИЮ ИИ В ЛУЧЕВОЙ ДИАГНОСТИКЕ. ТАКЖЕ ПОДГОТОВЛЕНЫ НАУЧНО ОБОСНОВАННЫЕ ДОПОЛНЕНИЯ ДЛЯ 9 КЛИНИЧЕСКИХ РЕКОМЕНДАЦИЙ  

 — Как устроен процесс разработки клинических рекомендаций?

 — Клинические рекомендации — это документы, утвержденные Министерством здравоохранения РФ, на основании которых оказывается медицинская помощь при конкретном заболевании, например, ишемическая болезнь сердца, гастрит или вирусная пневмония. Включение во все клинические рекомендации сквозной фразы «используйте ИИ» ни к чему не приведет, поэтому в рамках каждой клинической дисциплины нужно разрабатывать конкретные рекомендации для каждой нозологии, то есть для каждого заболевания или их группы. При этом просто экспертное мнение не подходит. Информация в клинические рекомендации вносится на основании качественных, многократно проверенных научных данных. По некоторым аспектам ИИ, например по автоматизированному скринингу рака молочной железы, есть уже систематические обзоры и метаанализы — это научные публикации наивысшего уровня доказательности. И тем не менее московский эксперимент позволил их дополнить и значительно расширить.  Сейчас нашими специалистами подготовлены научно обоснованные дополнения для 9 клинических рекомендаций.

— Что такое клинические и технические испытания для ИИ? Как процедура устроена сейчас в правовом поле?

— Технические и клинические испытания — это этапная оценка соответствия, безопасности и эффективности программного продукта, в том числе в целях государственной регистрации его как медицинского изделия. Такие испытания проводят для всех лекарственных веществ, материалов, инструментов, приборов, применяемых в медицине. 

Специалисты знают, как провести клинические испытания нового лекарства или хирургического инструмента, но как провести испытания ИИ, неизвестно. Сейчас отсутствуют общепринятые методики, регулирование, даже общей понятийной базы фактически нет.

Первым шагом в создании соответствующей нормативно-правовой базы и стали разработанные национальные стандарты. Они регламентируют процессы технических и клинических испытаний ИИ в здравоохранении. 

Пока остается много вопросов к качеству испытаний технологий ИИ. Мы предлагаем не ограничиваться ГОСТами, а жестко регламентировать методики и требования к клиническим испытаниям: какие используются данные, какого объема, какие методики, метрики и т. д. Нельзя допускать халатного отношения к этому вопросу. Важно регламентировать методики контроля качества работы программного обеспечения уже после государственной регистрации, а также после обновления регистрационного удостоверения, по мере появления новых версий.

Наш центр проводит клинические испытания на основании лицензии на осуществление медицинской деятельности, выданной Департаментом здравоохранения города Москвы. И сегодня мы уже проводим такие испытания не только для России, но и для других стран: центр включен в реестр Росздравнадзора и перечень организаций на портале открытых данных Евразийского экономического союза. Это очень большая и ответственная работа. 

— По вашему мнению, разработчик должен нести ответственность за свой алгоритм?

— Да, мы считаем, что необходим пересмотр ответственности разработчика. ИТ-компания должна нести принципиально бОльшую ответственность за то, что она поставляет на рынок, чем сейчас. В этой части требуется развитие нормативно-правовой базы. Изменения и дополнения должны быть внесены в целый комплекс законодательных документов. 

С другой стороны, интересы и права разработчика нужно защищать. Вариантом решения может стать организация ассоциации разработчиков, одной из функций которой будет обязательное страхование ответственности. То есть, если что-то случается с медизделием, несет ответственность разработчик, как предусмотрено законодательством. Эта ответственность застрахована силами общественной организации.