Comments 24
Нейросети должны не ставить диагноз, а перераспределить нагрузку на врачей, сделав так, чтоб в ситуации «все и так ясно» не требовался врач высокой квалификации. Стать первичным фильтром, отсекающим типовые проблемы, которые легко опознать. Это позволит сократить количество медперсонала, сильно сократить кадровый голод в плане опытных врачей и тем самым сильно повысить оплату и качество условий труда для самых сложных и дорогих специалистов, которые будут заниматься только теми случаями, в которых нейросеть не смогла дать однозначный ответ или пациент настаивает на том, что ответ неверный.
Да есть некоторый шанс, что какому-то из сотен тысяч пациентов диагноз будет поставлен неверно и это закончиться его смертью — но это нормально. Сейчас люди в больших количествах умирают от неправильных/несвоевременных диагнозов. Наличие нейросети позволит сократить время на обследование в разы так же повысив его качество. И да… то что врача могут посадить в тюрьму за неверный диагноз/лечение — сказки — у меня вот так залечили насмерть бабушку и дедушку. И никакие попытки найти виновных не увенчались успехом — сразу исчезли медкарты, работники забыли про таких пациентов, дежурные уволились и тд… так что я куда больше доверяю нейросети чем мнению врача — в конце концов нейросеть специально врать не будет.
1) Ситуаций «И так всё ясно» — не будет. А если будут, то и врачи там нормально распознают и без нейронных сетей. А в ситуациях «треш и угар» — нейронные сети будут даже хуже врачей.
2) Никто не будет внедрять сети пока не будет решён вопрос ответственности за ошибки. В том числе за очевидные ошибки. Какие-бы у вас не были пожелания — никто не будет брать на себя ответственность и сертифицировать. И никакие «нейросети должны» тут не помогут. Я так же могу сказать что вы должны:)
Обучать врачей всё равно придётся. И ваш аргумент «не вариант» — очень уныл. Просто этот процесс надо стандартизировать. До той же степени до которой стандартизировано распознавание пистолетов в аэропортах. Проводить проверку врача в том числе на рабочем месте, добавляя фейковые картинки. Чтобы каждый день врач работал с большим объёмом данных и учился на своих ошибках.
Это возможно, примеров работы таких система достаточно много.
Но надо разгружать врачей от ненужной писанины, нужно давать врачам удобные рабочие места и инструменты просмотра.
Почему-то в большинстве европейских стран сумели к этому придти. И нам надо лечить изначальные проблемы, а не затыкать их нейроночками. Если другие смогли — и в этой стране всё получиться:)
2. Никакой ответственности-за-ошибки не будет Просто перед приходом к врачу — человек сможет выбрать — живого ему доктора, который «теоретически» может быть наказа на косяк (понятно, что реально его никто никогда не накажет — хороший специалист, который обучался 8-10 лет и столько же набирался опыта стоит куда дороже, чем гопник с 11 классами образования — забудьте про всякие глупости типа равенства людей и равноценности человеческих жизней, врача реально посадить только если он накосячит и укакошит серьезную шишку) или полагаться на нейросеть, но подписать документ о том, что это его выбор и он отвечает за последствия. Такая бумажка раз и навсегда решает все вопросы с «ответственностью».
Обучать врачей придется, но количество необходимых врачей снизиться, перейдя в качество. И процесс этот не стандартизировать, все люди слишком разные. А за предложение — проводить проверки на рабочем месте и прочую менеджерской фигню вас врачи сожгут на костре. Наоборот количество данных с которыми работает врач должно быть снижено в пользу их качества — убраны однотипные и простые случаи, чтоб максимально сосредоточить его внимание на том, что не поддается автоматизации, сложные случаи требующие опыта и вникания в проблемы.
И таки у нас тут не европа. Случай с которым я столкнулся — не далее как три недели назад налоговая ЛО отключила предпринимателям прием электронной отчетности. Когда предприниматели приезжали в налоговую с бумагами, узнать в чем собственно дело — их заводили по одному в комнату и предлагали подписать подготовленные документы о том, что они полностью уплатят НДС (вместе с положенными вычетами) и тогда им сразу все включат. Для непосвященных — подписать сию бумагу для многих означает банкротство. Вы реально думаете, что в государстве с такими методами возможны положительные модернизации и снижение бюрократии?
То что я рассказываю и предлагаю — успешно работает. Посмотрите примеры снизу — там уже врачи вписаны в систему. Эффективность повышена в десятки раз, качество услуги — тоже. Однообразность не мешает. При большом объёме работы, без бумажной волокиты — врачу спокойнее работать, его качество работы растёт.
Но в целом, если примеры перешли на налоговую, то разговор надо сворачивать:)
2) Никто не будет внедрять сети пока не будет решён вопрос ответственности за ошибки.
Зачем что-либо куда--либо внедрять? Просто сделать сервис, где человек может загрузить свой снимок и получить результат, а в результате предупреждение о том, что результат может быть не точным и никто не несет за это ответственность. Дальше пациент сам решит, что с этим делать обращаться к врачу или довериться системе. Это можно было бы делать в сотрудничестве с частными лабораториями типа «ИНВИТРО», сдал анализы, доплатил немного и получил автоматическое, ничего не гарантирующее заключение.
1) Человек не может принять правильного решения на основании описания флюорограммы/мамограммы и.т.д. Ровно для этого нужны врачи. В качестве примера можно привести ту же Европу — там даже какие-то примитивные лекарства вам без рецепта не продадут. Это всё делается так как люди, когда дело доходит до их здоровья — предвзяты и некомпетентны.
2) Видел уже пару таких сервисов. Люди предпочитают людей однозначно. Их пугает любая автоматизация. Каждый в больнице считает что он уникален.
Человек не может принять правильного решения на основании описания флюорограммы/мамограммы и.т.д.Программа на основе анализа снимка может дать решение что делать дальше. Один и из советов — посещение врача с объяснением зачем и какие последствия за игнор. Правда такими серьезными системами никто кроме IBM не заморачивается, да и они со скромным успехом. Но никаких теоретический препятствий к разработке этого нет кроме одной — трудоемко.
Люди предпочитают людей однозначно.Это инерция пройдет когда правильные проги появятся. Получить лучший совет задешево и дураку захочется.
А какая есть ответственность за ошибки при анализах? Да никакой. Подход "нейросеть вместо врача" разобьётся об ответственность, вы правы. А вот подход — это просто ещё один анализ — легко будет успешным. Вам не нужно ничего делать с бесплатной медициной и как-то ей помочь, дайте платный сервис в условном Инвитро или гемотесте.
Сейчас приходишь, сдал кровь, получил цифры. И это не диагноз. А будет — пришел, сделал снимок, получил цифры. А потом уже идёшь (или не идёшь) к врачу с этими цифрами от нейросети и с самим снимком. Врач отмахнется от цифр нейросети? Ну и ладно. Клиент-то свои цифры получил.
p.s. Полноценный рентген аппарат в кабинку установить невозможно, но с одной стороны прогресс идет, доза облучения на современных цифровых аппаратах все ниже и ниже, и быть может скоро сравняется с излучением от старого телевизора. А с другой стороны — можно обрабатывать уже сделанные пациентом снимки.
Кстати говоря, массаж живет и в медицинской и в немедицинской плоскости. Всяческие анализирующие геном сервисы как то отбиваются от нападок официальной медицины.
С другой стороны, официальная медицина вовсю прописывает фуфломицины… В общем тут есть прямое противостояние капитала и новый участник, ИИ, будет ожидаемо встречать сопротивление.
Тут дело в том, что интересы врачей и пациентов часто прямо противоположны. В американской системе есть «арбитр» между врачом и пациентом — это страховая компания — не смотря на то, что с точки зрения чисто медицинских дел это паразит. На более общем, глобальном уровне арбитражем занимается FDA, а у нас — Росздравнадзор.
Поэтому когда проектируешь медицинскую систему, нужно изначально понимать, на чьей стороне играешь. Врачам никогда не будет интересна система, которая заменяет врача, потому что она отбирает у них хлеб. Помощники, да — интересны, причем такие, чтобы не казались слишком умными или слишком глупыми. Это очень тонкая грань, по моему опыту врачи любят heatmap и диаграммы признаков (слой показателей перед max/softmax), им это нравится.
Система, сделанная для пациента, никогда у врачей популярна не будет, ее будут нещадно критиковать. Если врач хвалит систему, которая предполагает диагностику или лечение без участия врачей, значит он имеет долю. Но чисто теоретически можно прорубиться через регулятор и конкурировать, хотя я таких примеров не могу вспомнить.
Так что единственный «выход из системы» здесь — ориентировать на страховую. Ребята из страховой понимают, что такое закон Байеса, ошибки I и II рода, и применение автоматическим системам они найдут. Если не считать того, что в РФ эта система практически отсутствует, реальная проблема разработчиков в том, что нужна очень убедительная статистика. Тысяча онкологических кейсов — это очень много для любой организации, минимум пять лет чудовищной работы, а для того, чтобы страховая смотрела без ухмылки, нужно в 20-50 раз больше, очень желательно multi-cohort, и еще желательно с «продолжением», чтобы пациентов трэкали в течение следующих 5-10 лет. Опять же, я не знаю в мире современной медицинской техники никого, кто бы это все смог.
Еще одно наблюдение. Нейросеть встроенная в условный МРТ сканер будет требовать лицензионных отчислений и по нонешним временам плата будет за каждый снимок неотключаемо.
Если разбираться глубже, то даже поликлиника/больница — это бизнес единица. Сейчас многие на самоокупаемости. Деньги они получают за страховки/за платные услуги. Главврачи определяют бюджет/зарплаты. Они конкурируют за врачей. Если им выгодно поставить какой-то алгоритм — они ставят.
В Москве есть сейчас ДИТ. От него идут какие-то инновации. Но, конечно, это не самый правильный путь.
Врачам никогда не будет интересна система, которая заменяет врача, потому что она отбирает у них хлеб.
Это не совсем так. И автоматический анализ ЭКГ уже давно внедрён. И куча анализов уже давно внедрены.
Да и сами врачи в первых рядах голосуют за введение систем автоматизации документаоборота.
Просто внедрять надо аккуратно.
Это очень тонкая грань, по моему опыту врачи любят heatmap и диаграммы признаков (слой показателей перед max/softmax), им это нравится.
Пробовали внедрять и так и так. Общался с большим числом компаний, которые пробовали внедрять. Врачи говорят «да, прикольно», пока ты им прототип показываешь. Заставляешь пользоваться — отключают/не интересно/зачем мне это.
Такая штука не автоматизирует/ не помогает в работе/не несёт особого смысла.
Я понимаю почему оно может быть внедрено на уровне аппаратуры. Но это скорее инвестиция в будущее. Сегодняшние врачи будут пользоваться только тем что будет экономить их время/заполнять за них документы.
(0)
Для начала, Антону как всегда спасибо, что пишет на Хабр реально что-то, что подразумевает наличие головного мозга у читающих (бесконечной поток маркетингового пиара и "бизнеса" везде утомил), а не как обычно "настакать, все классно, need moar layers, роботы поработят нас, робот-вера, и прочий мрак".
(1)
Отличный блог + книга на эту тему
https://lukeoakdenrayner.wordpress.com/ => пишет про ML в медицине, критикует статьи, датасеты и применение ML в медицине. С медицинской стороны, но при этом он явно топит за ML, но оооочень осторожно
https://www.goodreads.com/book/show/213233.Better => книга которая по сути состоит из интересных кейсов, которые по сути показывают, что современная медицина иногда это даже не наука а набор обычаев (чего только стоит пример про мытье руки и родильные дома), и те же врачи (кроме самых звезд) зачастую просто заложники ситуации. И реально лечить и помогать — может быть просто невыгодно — засудят. Пример про выживаемость раненых в 90% в Ираке и то, как работают хирурги в Индии тоже потрясают. Люди могут абсолютно все в определенных обстоятельсвах и без рамок и проверяющих. Просто потому что захотели.
Грубо говоря — доказательная медицина (в которую сеточки вписывают неплохо) — даже самими врачами зачастую не практикуется. А чтобы довести сеточки до 99.9% метрик, нужно чтобы грубо говоря все люди объеденились и базу собирали со всеми edge кейсами. Да что тут говороить — та же Тесла с ее fleet learning (https://slideslive.com/38917690/multitask-learning-in-the-wilderness) не может дойти до заветных цифр. А она является сладкой мечтой фаната киберпанка по сравнению с медициной (все их машинки сливают разметку, и ты сам сидя за рулем — своими действими размечаешь даннные).
(2)
А теперь применительно к самой статье — не поднят еще вопрос важности знания онтологии при решении задач. Меня в современном ML это потрясает больше всего. Что-то упарываются все, стакают архитектуры, городят абстракции, но онтология датасетов — делает их просто бесполезными.
То есть грубо говоря даже если сетка будет на 100% точной всегда, но если дерево лейблов дизайнили классические инженеры, которые скорее покроют 999% кода тестами, а не будут думать про полезность и цель своей работы, то такие лейблы применить нельзя будет даже если все общество перепишет свои бизнес-процессы, станет просветленным, итд итп
Совсем упрощенный пример — на флюрограмме искать не дерево классов — есть ли аномалии, если есть — есть ли пневмоторакс или нет, далее если есть аномальный блок — тип этого блока, а условно "здоров" и "пневмония".
Лечащий врач (маммолог) получает снимки с цифрового оборудования, которые летят в региональный PACS. В системе он указывает свое формализованное заключение.
Случайным образом из числа других маммологов региона выбирается врач, который видит те же снимки, но не видит заключение первого врача и делает свое заключение.
Если заключения отличаются, то снимки летят в онко-диспансер, где врач эксперт видя 2 разных заключения и снимки принимает своё окончательное решение.
В этом процессе нейросеть может быть встроена параллельно со вторым прочтением как еще одно мнение. Если нейросеть видит патологию, а 2 врача ее не видят, то также направляем эксперту.
Спасибо!
Я в первую очередь имел ввиду проекты типа IBM Vatson и похожие штуки, котооые ближе к классическим деревьям: структуризация, поиск оптимального дерева, итд. Там много что уже внедрено, но оно редко на уровне пациента видно. При этом граница между классическим ML (svm, решающие деревья) и всякими новомодными нетривиально проходит. А учитывая что я это со стороны только видел — боюсь что могу накосячить рассуждая что как устроено. Про визуальную диагностику осанки слышал только что люди что то по выделенным скелетам пробовали делать, но давно и не помню где.
Машинное зрение и медицина