Нейросети ставят диагнозы и предсказывают эпидемии. Что врачи спрашивают у них?

Мы часто видим новости вроде "Нейросеть научили ставить диагноз". Здесь нейросеть ищет нарушения в работе мозга. А здесь сообщается, что алгоритм справился с распознаванием рака легких на снимках лучше, чем рентгенологи. Искусственный интеллект (ИИ) в медицине берется за разные задачи. Есть сервисы, которые предсказывают эпидемии заболеваний в разных частях мира. Так, алгоритм канадского стартапа предупредил о вспышке коронавируса в Китае (не уточняя тогда, что это за вирус) 31 декабря. Программа Bluedot, созданная врачом-инфекционистом, ищет и анализирует новости, официальные объявления и посты в блогах на иностранных языках, касающиеся болезней. В конце декабря власти Уханя сообщили о распространении неизвестного вида пневмонии. Bluedot заметил это и включился в анализ. Американские центры по контролю и профилактике заболеваний узнали о том, что происходит в Китае, только 6 января. В такие алгоритмы вкладываются Google, IBM и другие техногиганты. В России ими чаще занимаются стартапы, о которых вы, скорее всего, ничего не слышали. Разобрались, как искусственный интеллект осваивается в отечественной медицине. Какие разработки есть в России? Алексей Ремез, руководитель компании ЮНИМ (компания создает алгоритмы для анализа гистологических материалов, чтобы помочь патоморфологам ставить диагноз) говорит, что российские стартапы работают в трех направлениях. Алгоритмы для помощи врачам в лучевой диагностике. "Это определение опухолей на МРТ, маммографии, рентгенах. Чаще всего алгоритмы создают для помощи в диагностике рака", — уточняет он. Поддержка врачебных решений на основе клинических данных. Врач вносит в базу данные о пациенте: его историю болезни, результаты анализов, данные с осмотра, а программа предлагает тактику лечения. "Так, например, работает одна из самых раскрученных программ в этой отрасли — Watson от IBM", — приводит пример Ремез. Алгоритмы для контроля и оценки работы медперсонала. "Вы руководитель клиники и хотите понимать, правильно ли ваши врачи назначают процедуры и лечение. Если в истории болезни пациента есть все — с чем он пришел, какие анализы ему назначили, какое лечение, — алгоритм, обученный на массиве данных, ищет аномалии и указывает на истории, где было назначено избыточное лечение, слишком много процедур, а также те, где меньше, чем в аналогичных случаях в той же базе". Такую систему в Московской области тестировал Ростех. И они уже помогают врачам? Эти алгоритмы находятся только на стадии экспериментов: их тестируют в российских больницах. Врачи пускают в больницы разработчиков добровольно, они не обязаны проводить эти испытания. Но даже программы, хорошо показавшие себя в тестах, нельзя продавать клиникам — ни коммерческим, ни государственным. В феврале Росздравнадзор выпустил разъяснение, какой софт считается медицинским изделием (а значит, должен пройти долгую регистрацию), а какой — нет. Проще перечислить, что не нужно регистрировать. Это приложения, которые считают шаги, пульс, потребленные килокалории, медсправочники, системы для организации хозяйственной деятельности в больнице, агрегаторы для выбора врача и записи к нему, программы для обмена данными и те, которые позволяют управлять медизделием. Алгоритм, который помогает принимать врачебные решения, — это медицинское изделие. Продолжительность госрегистрации — от 50 до 180 дней, сообщили ТАСС в ведомстве. Сегодня в Росздравнадзоре есть заявки на регистрацию программ в качестве медизделий от ООО "ЮНИМ" и ООО "К-Лаб" (относится к компании "К-Скай", о ней написано ниже). Алексей Ремез из ЮНИМ уточняет, что компания подавала в ведомство заявку на регистрацию другого софта — не той программы с нейросетями, которая должна помочь патоморфологам диагностировать рак. "Мы приостановили регистрацию на два-три месяца, хотим переформатировать заявку и попробовать зарегистрировать как раз наш софт с нейросетями для помощи врачу. Вообще, мы долго не хотели быть первыми с заявкой в Росздравнадзор. Пока в России нет практики регистрации изделий с использованием искусственного интеллекта. Думаю, что первая компания, которая подаст документы, имеет шансы получить отказ. Сегодня непонятно, каким критериям должен соответствовать этот софт. Для регулятора это "черный ящик", у него возникнет вопрос — как алгоритм принимает решение? Мы можем объяснять, что он обучен на массиве медицинских данных, но разработчику не разъяснить, как алгоритм делает выбор, почему он тут видит рак, а тут нет". В США, по его словам, несколько зарегистрированных разработок в этой сфере, при том что стартапов там намного больше, чем в любой другой стране. Самый популярный продукт — уже упомянутый Watson, который начали обучать в начале 2010-х. Сейчас эта программа используется в больницах в США и продается в больницы во всем мире. В России, по оценкам Ремеза, не более пары десятков компаний, которые создают эти решения. Как алгоритмы учат? Что за медицинские данные? Чтобы получить алгоритм, созданный под какую-либо задачу, его надо обучить на данных. Обучают такие программы примерно так, как учат маленьких детей. Как ребенок учится понимать, что видит перед собой кота? Ну то, что во дворе пробежал кот (а не собака)? Сначала взрослые показывают ему котов и называют их. Десятки котов, которых ребенок увидел прежде, чем показал на кота на улице и верно назвал его, — это данные, на которых он научился. Чтобы научить алгоритм видеть на рентгене аномалию или определять, что там именно рак, а не пневмония, ему надо показать много таких снимков (тысячи, сотни тысяч, миллионы). На всех снимках должен быть правильно подписан диагноз, иначе программа будет ошибаться. "Сейчас одна из главных проблем медицинских стартапов — нехватка отечественных данных. Разработчик не может просто прийти в больницу и взять медицинские данные о пациентах. Даже с учетом того, что они могут быть обезличены, например, рентгеновские снимки без имени и фамилии. Эти данные защищают сразу два закона — о врачебной тайне и “О персональных данных”. Крупные западные университеты часто предоставляют российским разработчикам массивы данных, чтобы мы могли научить алгоритм. Но с иностранными базами все не так просто. Пример: мы получили базу с послеоперационными рентгеновскими снимками — контрольными, которые делаются после хирургического вмешательства в положении пациента лёжа. Однако для анализа результатов скриннинговых исследований, наиболее массовых у нас, систему обученную на таких исходных данных, применить невозможно. Рентгены пациента лежа и стоя — это два очень разных снимка. Еще всегда есть сомнения в достоверности и точности чужих данных. Сложно обучать алгоритмы, которые подсказывают врачу решение, основанные на текстовых данных: подходы к лечению каких-то заболеваний в каждой стране могут различаться”, — рассказывает Дмитрий Жиганов, технический руководитель проекта в лаборатории цифровых технологий МФТИ. У разработчиков есть вариант получить нужные отечественные данные. Это возможно как раз в процессе испытаний алгоритма в больнице. Врачи разрешают обрабатывать реальные снимки или медкарты, нейросети одновременно на них обучаются. Цель разработчика — сделать так, чтобы алгоритм показывал максимальную точность. Число верных ответов в процентах — это ключевая метрика для таких систем. Разве не должна быть 100-процентная точность? Это идеальный вариант, но ни один алгоритм (и ни один врач) не точен настолько. Уровень безошибочных ответов примерно 90% считается высоким в этой сфере. У алгоритма, который прогнозирует вероятность развития сердечно-сосудистых заболеваний и прошел тесты в поликлиниках на Ямале и в петербургском НМИЦ Алмазова, точность 78%. И этого хватило, чтобы разработка получила хорошие отзывы врачей. Сейчас ее готовят к регистрации в Росздравнадзоре. Как врачи относятся к алгоритмам? Программу, испытанную в Ямало-Ненецком округе, сделали в компании "К-Скай". В декабре 2018 года Александр Гусев, совладелец стартапа, сидел в кабинете больницы нефтепромышленного города Муравленко и рассказывал докторам про алгоритм, который прибавит им работы. Его разработка анализирует истории болезней пациентов и выявляет тех, у кого высокий риск развития сердечно-сосудистых заболеваний. "На Ямале хорошие "большие данные", у врачей нет такого аврала, как в Москве или крупных городах, они добротно ведут истории болезней. Правительство региона предложило провести этот эксперимент — нам содействовали в работе". Доктора среднего звена, по его словам, относятся к таким разработкам недоверчиво, но не настолько, как он ожидал сначала. "Недоверие быстро уходит. Первое, что мы объясняем: "Эта программа не заменяет врача. Это ваш помощник". Второе: мы ведь сначала обучаем врачей пользоваться программой. Я говорю: "Мария Ивановна, покажите карту пациента, который давно ходит лечиться и вы про него все знаете. Находит в базе карту, я нажимаю на кнопку "Спросить искусственный интеллект", выходит набор гипотез. Она видит, что алгоритм верно показывает, правда, у пациента больные почки, повышен холестерин. Потом им становится любопытно — они начинают анализировать свои медкарты". Система поддержки принятия врачебных решений Webiomed проанализировала медкарты 25 тыс. пациентов, прикрепленных к больнице. Среднее время обработки истории пациента составило от 30 секунд до 2 минут (в зависимости от объема ЭМК). В итоге алгоритм выявил 600 пациентов с высоким риском развития сердечно-сосудистых заболеваний. Особенное внимание обратил на 112 пациентов, которые, на его взгляд, обладали очень высоким риском развития тяжелых осложнений в ближайшее время. Эти списки пациентов отдали лечащим врачам. В 63,2% случаев, по данным программы, доктора пропускали имеющиеся у пациента факторы риска. Наиболее частыми были гиперхолестеренимия (74,2% от всех карт с пропущенными ФР), избыточная масса тела или ожирение (19,5%), табакокурение (4%), повышенный уровень артериального давления (3%). ​​​​​​ "Врачи пропускают такие случаи не потому, что не умеют оценить риск, это нетрудно для специалиста. Но врач в поликлинике принимает десятки пациентов в день. Если больной приходит с ОРВИ, доктор занимается конкретным состоянием. У него часто нет времени еще и внимательно полистать карту и сравнить то, как у него за последние годы менялся уровень холестерина, масса тела, давление. Искусственный интеллект анализирует медкарты быстро, обращает внимание именно на эти тенденции и подсказывает врачу". Отвечает врач, а не алгоритм "Сейчас врачи опасаются того, что такие системы, когда они будут повсеместно внедрены, станут чем-то вроде автомобильного навигатора, добавляет Дмитрий Жиганов. Специалист перестанет полагаться в первую очередь на свое мнение и будет ориентироваться на мнение искусственного интеллекта. А мы все знаем, как навигатор может завести не туда. Но сегодня нигде ИИ не создается таким, чтобы он принимал окончательное решение, он лишь предлагает варианты врачу, освобождая его от рутинных действий и экономя время. Ответственность за принятые решения юридически всегда остается на человеке". Алгоритмы следят за пациентами и врачами В МГМУ имени Сеченова проводили тесты нескольких проектов. Это: алгоритм для выявления признаков ранней стадии болезни Альцгеймера на снимках МРТ (работа Центра информационных технологий в проектировании (ЦИТП) РАН и Первого МГМУ им. И.М. Сеченова); алгоритм, который ищет аномалии на рентгеновских снимках; алгоритмы для контроля лежачих пациентов. В палатах находятся камеры, которые подключены к программе, умеющей распознавать конкретную ситуацию — падение пациента с кровати. Если это происходит, медсестрам автоматически приходит уведомление; алгоритмы для контроля загруженности операционных столов. Программа определяет, насколько равномерно распределяется нагрузка на медицинские бригады в разных операционных; медицинский справочник с искусственным интеллектом (доктор вводит данные о пациенте, программа подсказывает решение). "Все, что перечислено, — это эксперименты, — рассказывает Георгий Лебедев, заведующий кафедрой информационных и интернет-технологий Первого МГМУ им. И.М. Сеченова. Также он занимается разработкой нейросетей для медицины вместе со стартапом "Третье мнение". — Одну программу, ту, которая анализирует снимки рентгена, мы используем как информационно-справочную систему, где храним данные. Когда эта программа будет зарегистрирована в Росздравнадзоре, планируем использовать в практике. Также у нас на стадии внедрения система распознавания падения пациента". Анастасия Степанова