Статья публикуется параллельно в журналах «Эксперт» и «Стимул»
Ассоциация разработчиков и пользователей ИИ в медицине «Национальная база медицинских знаний» (НБМЗ), созданная несколько лет назад при поддержке РВК, поставила перед собой цель способствовать внедрению новейших технологий в клиническую практику. Мы встретились с директором по проектной деятельности ассоциации, научным сотрудником НИИ общественного здоровья имени Н. А. Семашко Андреем Алмазовым, чтобы узнать, что удается сделать для внедрения ИИ в медицинскую практику и что этому мешает. Но начали с вопроса о том, что дает применение искусственного интеллекта медицине и конкретному человеку. Потому что рядовому человеку это не всегда ясно.
— Это дает медицине несколько вещей. Высокообразованным врачам — возможность справиться с чудовищным объемом информации, с которым им сейчас приходится иметь дело. Появились новые средства диагностики, много новых данных, причем данных противоречивых. Чтобы разобраться во всем этом, нужно иметь супермозги и иметь какое-то сверхвремя. Значит, врачу, чтобы все это адекватно обрабатывать, нужен помощник. Где-то снять рутину, где-то подсказать новое, где-то проанализировать и показать то, чего врач не заметил. Это повысит качество медицинской помощи, уменьшит вероятность врачебной ошибки.
Врачу же недостаточно компетентному — не в силу плохого образования, хотя и это бывает, а в силу сложности возникающих проблем — это тем более нужно для того, чтобы не дать ему совершить ошибку. У нас страна большая, у нас нет возможности привезти светило медицинской науки в каждую деревню, где врач может просто не знать каких-то современных данных, которые в этом конкретном случае могут оказаться критичными. Или не критичными, а просто очень сильно помогут. Тем более что часто они лечат, как лечили десять лет назад. Как сами врачи говорят, «лечим как научили, когда закончили мединститут».
То есть в первом случае подсказка будет помощником, во втором — ментором. А пациенту это может дать еще одно мнение. Хотя лично я пока считаю, что пациент не готов напрямую получать данные от тех систем искусственного интеллекта, которые существуют сейчас. Но это не значит, что так вечно будет. Хотя квалифицированному пациенту, который понимает все ограничения, связанные с этим, это и сейчас будет на пользу. Обычно люди не умеют читать медицинское изображение, не понимают, где там признаки возможных патологий. Прогнав снимок через искусственный интеллект, мы сможем получить некую подсказку и задать вопросы врачу. Мы говорим, что в принципе врачу надо доверять, — но слушайте, к сожалению, не каждому врачу можно и нужно доверять.
— Почему появилась необходимость в работе над законом об экспериментальных правовых режимах в сфере цифровых инноваций, которой вы занимаетесь совместно с компанией «Иннопрактика» при юридической поддержке «Пепеляев групп»?
— Дело в том, что наши регулирующие органы очень опасаются любых инноваций в области здравоохранения. Наверно, это и правильно, потому что они отвечают за безопасность пациентов.
В результате сейчас, чтобы выйти на рынок с программным решением, даже уже доказавшим свою работоспособность, нужно провести клинические и прочие испытания так, как будто это какой-то аппарат для диагностики или для хирургического вмешательства. А это искусственный интеллект, программная система-справочник, то есть просто подсказчик врачу. Но у проверяющих органов постоянно возникают опасения: а вдруг он там что-нибудь не то подскажет? Хотя окончательное решение всегда принимает врач, а у врача на то и голова есть, чтобы критически воспринимать любые рекомендации, в том числе искусственного интеллекта, бывает же, что врач может и справочник как-то не так прочитать. Это же не основание ограничивать использование справочников.
В результате на то, чтобы преодолеть бюрократические преграды, разработчикам приходится потратить довольно много денег и времени. У нас есть пример, когда получение регистрационного удостоверения у весьма сильной команды заняло год. И не всякая команда, даже с хорошим продуктом, сможет эти сложности преодолеть.
Но пока Росздравназдор не готов выделить программное обеспечение в медицине в отдельный класс изделий, к которым нужен иной подход, чем к аппаратам и фармацевтике, хотя уже готов упростить его регуляцию.
Вторая проблема — получение права на использование баз данных, которые нужны для работы искусственного интеллекта. На самом деле само понятие «интеллект» здесь весьма условно, речь идет о нейросетях, то есть условно самообучающихся системах, которым для обучения нужны наборы размеченных данных, ну примерно как детям — картинки с предметами, когда они учатся говорить и вообще обучаются понятиям. Чтобы научить нейросеть распознавать рак легких, ей нужно просмотреть большое количество подобных снимков, а их нужно взять у пациентов. Главное возражение — врачебная тайна: сейчас все наши данные украдут и что-то такое узнают. Но, во-первых, речь не идет о персональных данных — они никому не нужны. Нужны деперсонализированные, обезличенные данные. Однако даже здесь есть проблемы, которые блокируют их использование.
Мы предлагаем и в случае программного обеспечения, и в случае баз данных выбрать несколько больниц, придать им статус работы в экспериментальном правовом режиме, сделать там повышенный контур безопасности и посмотреть, какие реальные, а не надуманные риски при этом возникают. Потом обобщить результаты, и контролирующие органы смогут решить, можно ли это тиражировать в широкую практику. Вот суть этого экспериментального правового режима.
— Но для этого нужно тоже какой-то закон принять?
— Да. Для этого нужен федеральный закон, который говорит о том, что часть положений закона о защите персональных данных, часть положений федерального закона 323 об оказании медицинской помощи для зоны действия экспериментального правового режима имеют другой формат исполнения. Например, согласно 323 ФЗ все медицинские изделия, а программное обеспечение в медицине автоматически относится к медицинским изделиям, должны пройти регистрацию. Мы предлагаем, чтобы для зоны экспериментально-правового режима его можно было применять без регистрации. Но соблюдая определенный порядок. Например, оформлять некое уведомление, составление паспорта рисков. И эта методика должна быть разработана. Или, допустим, 152 ФЗ сейчас говорит, что необходимо получение согласия даже на деперсонифицированное использование данных. Мы предлагаем, чтобы в зонах экспериментально-правового режима, если человек один раз дает согласие на любое использование его данных при условии, что они деперсонализированы, то дальше, даже если с этими данными что-то происходит, мы не обязаны у него каждый раз брать согласие, как это делается сейчас. Есть такие люди — и нам, возможно, их числа будет достаточно, — которые нормально к этому относятся, они говорят: «Да делайте с моими данными что хотите».
— Тогда возникает вопрос: если методика прошла апробацию, одобрена, эта проблема персональных данных все равно возникнет при попытках ее использования за пределами экспериментально-правового режима?
— На будущее мы говорим о том, что нужно поменять законодательство, медицинские данные, используемые для обучения искусственного интеллекта, должны быть деперсонализированы.
Но проблема данных значительно шире, чем вопрос об их использовании для искусственного интеллекта. Она возникает еще и при переходе к персональной медицине. Если вы хотите получить для себя персональный подход в медицине, то вы должны дать возможность врачу, который будет вам предоставлять эту услугу, собрать ваши данные из разных источников, вплоть до того, что вы в магазине покупаете, чем и как вы питаетесь, каково качество воды там, где вы живете, и так далее.
То есть мы говорим о необходимости анализа мультимодальных данных о человеке, о необходимости сопоставлять данные из различных источников о его жизни и поведении, о том, что нужно анализировать образ жизни каждого человека.
И получается, что даже если стереть вашу фамилию из ваших данных, то по всем этим меткам вычислить вашу фамилию не составит никакого труда. И это проблема, как мне кажется, решается только неким снижением степени социального напряжения вокруг вопроса о том, что «все узнают, что я во “Вкусвилле” покупаю сыр».
А дальше очень просто. Если ты хочешь, чтобы тебя лечили по персональной методике, тогда, извини, тебе придется выйти из тени: да, мы будем знать, в каком магазине ты покупаешь сыр и какой. Но это связано с твоей диетой, а диета связана с твоим заболеванием, а дальше мы должны посмотреть корреляцию этих данных с показаниями датчиков, которые на тебя наденут. А если ты этого не хочешь, то продолжай скрываться дальше, но лечить тебя будут по старинке.
— Я как-то был на презентации, которую устраивала одна продвинутая западная компания, в том числе она демонстрировала свои достижения в области искусственного интеллекта — правда, не в медицине, а в торговле. Когда ИИ будет следить за тобой в магазине, определяя, чем ты там занимаешься, куда смотришь, и дальше в автоматическом режиме будет тебе предлагать соответствующие продукты. И надо сказать, что, хотя в зале собрались люди, которые связаны с технологиями, они были ошарашены такой перспективой постоянной слежки. Конечно, может быть, люди со временем привыкнут к тому, что, когда они приходит к врачу, им надо раскрыть о себе много информации. Но сейчас многие воспримут это как минимум с напряжением.
— А этим надо заниматься. Но это пока не входит в задачи нашего центра. Мы называем это метапроектом: многие вещи, связанные с развитием инноваций в медицине, потребуют изменения общественных норм.
Такие изменения общественных норм происходили во многих областях. Например, исторически недавно возникла индустрия туристического отдыха в горах. Ведь никто сто лет назад ни на каких горных лыжах не катался. Истории пляжного отдыха — загара, моря — тоже меньше ста лет. Еще недавно появляться на пляже в таком виде, как сейчас, было неприлично и с точки зрения общественной морали абсолютно неприемлемо.
Если со всех сторон человека пугать потерей персональных данных, то, конечно, мы еще долго не получим общества, готового к использованию искусственного интеллекта и персональной медицины. С другой стороны, давайте посмотрим на культурные нормы в различных странах. Например, в Голландии люди живут без занавесок в домах. И это считается нормальным. В деревне люди всё про всех знают. То есть открытость ряда сторон частной жизни там достаточно большая. И люди не испытывают по этому поводу большого напряжения, они привыкли.
— А что нам делать?
— Если мы будем говорить о необходимости и неизбежности нового подхода к персональным данным, то и напряжение снимется, и данные пойдут, и это послужит возможности продвинуть медицину. Но это уже культурологическая проблема. Это называется работой с общественными нормами. И при должной стратегии на уровне государства, конечно, такая работа может и должна проводиться. Желая достичь высокого уровня развития ИИ, не в последнюю очередь мы должны озаботиться не только технологической стороной этого дела, но и социальной. Более того, может быть, даже ключ успеха в этой области лежит именно в социальной сфере. Потому что технологии можно купить, скопировать. А вот общество меняется очень сложно и очень долго. Если, допустим, наше общество будет испытывать какой-то повышенный кайф оттого, что мы будем использовать ИИ первыми, то и развитие искусственного интеллекта будет проще и быстрее. Не случайно Китай сейчас имеет преимущество по искусственному интеллекту, потому что он не заморачивается индивидуальной собственностью на данные. А мы начинаем идти в русле Европы с ее обостренным восприятием этой проблемы. Наверное, нам нужно думать своей головой, наверное, нам нужно понимать, что России выгодно, а что невыгодно, и перестать считать, что там просвещенные умы, а у нас тут лаптем щи хлебают. Это уже давно не так.
Причем данные — это вообще лишь первый шаг, впереди культурологические барьеры по использованию ИИ и опасения, надуманные и реальные, которые уже сейчас стали объектами спекуляций.
— Какие еще проблемы приходится решать тем, кто занимается продвижением искусственного интеллекта в медицине?
— В той сфере, которой мы занимаемся, инновации в здравоохранении, есть две проблемы. Одна проблема в том, что у нас в целом, а не только в здравоохранении, очень плохо работает вся инфраструктура, которая должна приводить новые компании к выходу на рынок. Мы много лет создаем институты развития, но эффект, который при этом достигается, совершенно неравноценен вложенным ресурсам: у нас не было за это время никаких прорывов.
Если же говорить о нашем сегменте, то на это накладывается тот факт, что у нас, как, впрочем, и во всем мире здравоохранения, это традиционно консервативная сфера, инновации в нее проникают с трудом. Та же электрокардиограмма, без которой медицина сейчас не представляет себя, вводилась с большими сложностями. Те же КТ, МРТ проникали с огромным трудом. Хотя, наверное, так и должно быть.
Сейчас в медицину пришли информационные технологии, но их продвигают, как правило, отдельные энтузиасты с врачебным образованием, подчеркну, именно не врачи, а в основном айтишники. И получается, что эта технологическая революция — цифровизация в здравоохранении — приходит еще и из чуждой среды. А не от производителей медицинского оборудования, например, которые уже давно стали своими. То есть первая проблема — вязкость среды, которая еще более сложна для продвижения инноваций, чем другие сферы.
А вторая проблема — это недостаточная база для инноваций, по крайней мере в этой сфере, в нашей стране. Если вы сидите в Кремниевой долине, то вы со всего мира пылесосите самых талантливых. Туда приезжают и наши люди, и китайцы, индусы, и так далее. Вы получаете возможность выбирать из огромного количества людей и команд. И вы их можете отсеивать. Так работает венчурная индустрия всего инновационного рынка в Штатах.
А в странах, которые не являются такой точкой притяжения, в таких сложных областях, как, например, искусственный интеллект в здравоохранении, мы не имеем возможности для достаточного отбора. То есть там, где у нас есть десять команд, которые можно отобрать, в Люксембурге этих команд будет пятьдесят. А в Америке их будет несколько тысяч. По-моему, около четырех тысяч сейчас решений в области искусственного интеллекта в здравоохранении в мире. В России, если мы сейчас начнем вспоминать все предложения в этой области, которые даже решениями не являются, мы не сможем вспомнить больше двадцати. Даже не уверен, что двадцать сможем.
— И какой выход вы видите?
— У нас возникла гипотеза: для того, чтобы нам как-то преодолеть этот барьер, нам нужно пытаться искать такие команды на более ранней стадии. Не дожидаться, пока они оформятся в какой-то стартап и придут, допустим, подавать заявку в Фонд содействия инновациям Бортника или в Сколково и получат там какие-то гранты. Потому что они осознали: у них есть нечто, что можно сделать бизнесом, они написали бизнес-план, получили какие-то начальные инвестиции или ищут бизнес-ангела. А между тем есть огромное количество энтузиастов, у которых есть идеи, но они совсем не задумываются о превращении их в бизнес. И у нас такие в поле зрения имеются.
Я сам недавно помогал заявку людям подать и занимался тем, что «склеивал» их с технологическим предпринимателем. Есть талантливые врачи, которые понимают, что может цифровая медицина, как это все может работать, находят каких-то друзей-программистов и начинают делать какое-то решение, которое показывает какие-то результаты, но это все научная разработка. И она так и останется научной разработкой. Она никогда не выйдет в продукт: они эту научную разработку начали делать просто потому, что им это интересно. Они могут написать по этому поводу статью, сделать диссертацию, получить какие-то научные материалы, но это все так и останется внутри их команды. Даже если они захотят подать на грант, они это не смогут сделать. Потому что у них нет соответствующей компетенции, квалификации, они не могут просчитать экономику. И они не могут встретиться с инвестором, потому что инвестор и так называемый бизнес-ангел не придут к ним.
На решение этой задачи направлен недавно завершившийся проект нашей ассоциации, посвященный исследованию условий, необходимых для создания центра апробации и акселерации решений в области ИИ в здравоохранении и медицине. Инициативу ассоциации НБМЗ по подготовке концепции и созданию Центра апробации и акселерации ИИ-решений в медицине в формате некоммерческого проекта поддерживает негосударственный институт развития «Иннопрактика».
— В чем будет его задача?
— Идея нашего проекта в том, что необходимо создать центр помощи таким командам, который будет оценивать именно на уровне технологий, что перспективно или неперспективно, а дальше помогать перспективным командам с поиском технологических предпринимателей и получением грантов. И у нас уже есть примеры реализации такого подхода. Мы посмотрели на разработки некой команды по объективизации результатов УЗИ с помощью искусственного интеллекта. Дело в том, что УЗИ — это оператор-зависимый метод, то есть его результаты во многом зависят от квалификации врача-узиста. Что создает довольно много проблем. Поэтому все серьезные врачи, которые используют УЗИ-диагностику, отсылают к своим узистам. Ты приходишь к врачу, а он говорит: «УЗИ сделай у Семена Петровича, потому что я ему доверяю. Я напишу, что надо посмотреть, и он посмотрит». Так вот, эту проблему можно с помощью искусственного интеллекта поправить. Мы посмотрели на наработки этой команды и решили найти им технологического предпринимателя. Технологического предпринимателя убедили, что это перспективно. И предложили подать на грант. С команды разработчиков научная часть, остальное сделали мы. И в таком партнерстве, по сути таком нетворкинге, получилось оформить этот проект и получить грант. И мы уверены, что через два-три года будет продукт.
И это пример, который нужно ставить на конвейер.
— То есть вы некое промежуточное звено между исследователями и, условно, венчурными компаниями. Вы помогаете научному сообществу найти правильный выход на компании, которые способны их профинансировать?
— Да. Но в этом процессе больше составляющих. Их здесь как минимум три: источник денег, источник бизнеса и источник науки.
Нужен технологический предприниматель — именно предприниматель, которых у нас приходится днем с огнем искать, нужен инвестор и нужна научная команда. И всех их нужно еще вместе сложить, чтобы они умудрились договориться. Более того, это только запуск стартапа. И таким способом мы получим еще какое-то количество стартапов, которые придется сопроводить и на следующем уровне, на котором им нужно будет получить необходимые регистрации. Именно для преодоления барьеров, которые возникают в медицине на этом пути, мы вместе с компанией «Иннопрактика», как я уже рассказал, и работаем над поддержкой закона об экспериментальном правовом режиме, который должен быть распространен на клиническую базу такого центра, который мы хотим создать.
А когда эти стартапы начнут что-то собой представлять, их нужно вывести на рынок. Но, если вывести на рынок пятнадцать маленьких стартапов, они там просто загнутся или будут куплены западными игроками. Поэтому по-хорошему нужно создать какую-нибудь платформу а-ля разработка IBM «Доктор Ватсон», а дальше загрузить эти решения на эту платформу и продавать уже эту платформу. То есть объединить для участников интерфейс и маркетинг, чтобы они на него не тратились, выступить не как банальный маркетплейс, а как интегратор, причем интегратор ответственный за то, что он интегрировал, но при этом не поглотил с концами. Роялти должны получать эти самые разработки, которые не стали полноценными стартапами сознательно, а остались на уровне «разработчиков компетенций». И тогда получается, что это будет некий единый продукт, «Русский доктор», условно, который клиникам предлагает некие решения. А продажи у них вынесены в такую платформу. Это еще одна идея для нашего центра, которая, как мне кажется, очень сильно поможет этому рынку.
И здесь важный момент еще в том, что стартапы, которые мы сейчас всей инфраструктурой развития поддерживаем, фактически играют в спекулятивные игры, как на бирже. Они смотрят, как вовремя продаться и выйти с кешем, а дальше — бог с ним. Это приводит к тому, что мы всей российской инфраструктурой на последние наши деньги поддерживаем какие-то разработки. А после этого эти разработки скупаются западными игроками «за еду». И мы остаемся здесь без продукта, продукт потом возвращается к нам оттуда с соответствующим прайс-листом, а мы продолжаем быть донорами мозгов. И это вовсе не потому, что какая-то такая политическая ситуация или еще что-то. Это просто потому, что у нас нет стратегических системных игроков. Если бы у нас был свой GE, или свой Philips, или свой Samsung, эти инновационные команды могли бы встроиться в их продукты и решения, российский Samsung стал бы транснациональной компанией и вышел бы в мир. А у нас нет таких компаний.
Да, идет какое-то импортозамещение. Но замещение здесь. А нужен захват рынка там, рынок-то все равно глобальный. Пока же все основное медицинское оборудование — импортное.
— То, о чем вы рассказываете, это общая проблема всех высокотехнологичных разработок. Не только в медицине.
— Есть очень интересное решение. Денис Ковалевич, который возглавляет компанию «Техноспарк» в Троицке, предложил: «Мы придумываем идею, нанимаем стартапера, говорим: “Вот тебе двадцать процентов бизнеса, вот тебе небольшая зарплата, развивай идею” — и ограничиваем его, чтобы он не совершил ошибки. И таким образом восемьдесят процентов ошибок, которые совершают стартаперы, он не совершает, а мы понимаем, насколько эта идея хороша или плоха». И этот инкубатор выдает на-гора большее количество продуктов для рынка.
Очень интересное решение. Возможно, мы его в своем центре скопируем. Но пока у нас не хватает ресурсов, мы больше занимаемся модерацией, фасилитацией, консалтингом. Если мы дорастем до того, чтобы заказывать, как Ковалевич, такие стартапы, то, наверное, его модель нужно будет брать за основу, потому что она как минимум выглядит логично. А работает она или нет, он еще сам, я так понимаю, до конца не понимает. Но то, что стандартная модель у нас не работает, и мы себе вряд ли можем ее позволить, — это факт. Нам нужны какие-то нестандартные решения, чтобы не потерять наши преимущества. А преимущества у нас есть. Это, например, до сих пор еще хорошая математическая школа.
Например, мы смотрели сингапурские компании (точнее, азиатские, базирующиеся в Сингапуре), которые заняты нашей тематикой, и я вам так скажу: как продукт они упакованы на два порядка лучше, чем наши. Но именно упакованы. А если смотреть по технологиям, по идее, по их амбициям — они такие же или меньше. У нас есть более талантливые команды. Наши разработки в области искусственного интеллекта в здравоохранении чуть выше среднего по миру. Стоит признать, что они более глубокие в том числе благодаря нашей математической школе, а еще потому, что многие наши изобретатели работают, не думая про деньги. На мой взгляд, это преимущество, которое нам нужно конвертировать в деньги.
