Comments 17
Если позволите, я все-таки свою ложку дегтя в бочку меда положу.
1) Самое главное в машинном обучении будет достоверность данных из историй болезни. Не скажу про зарубежную медицину. Но я точно не хочу чтобы появилась система, которая обучалась на истории болезней в России. Кто обращался в поликлинику, наверняка, меня поймет. Поэтому проблема применения ИИ в медицине скорее лежит в другой плоскости.
2) Я так же пока что критично отношусь к системам, которые автоматически определяют патологии. Был свидетелем разговора онколога с разработчиком. Онколог привел простой пример из практики. Анализ на гистологию, который был прислан. И онколог фактически случайно на периферии рассмотрел одну раковую клетку. И возник вопрос относительно как будет автоматизированная система анализировать визуально? Увидит ли она на периферии так же эту одну раковую клетку?
Вопрос не в онкологе. Не нужно переводить в данную плоскость. Потому что за врачём законодательно закреплена ответственность. В том числе и за врачебную ошибку. Но речь ведь не об этом. Про то, как доказать врачебную ошибку тоже отдельная тема. И никакого отношения не имеющая к тому что я написал.
Нежелание ответить относительно программного обеспечения и перевод в другую плоскость это часто встречающаяся практика в подобных дискуссиях. Я сам разработчик. И некоторое время работал с медициной. Существует пока что незрелая позиция разработчиков, которые считают, что их системы призваны заменить врача. На самом деле при этом в утверждениях больше слышится подменить. Но вреальости какую бы систему н использовал врач, он все-равно ответственное лицо. Не программа.
Ещё очень часто в подобных дискуссиях подменяют понятия неточности прибора и ошибки в логике программы. Которые, к тому же, могут быть неявными.
Опять же изучив огромное количество историй болезни система с высокой вероятностью предполагает, что такая-то методика лечения будет более эффективной. А я, вот, не хочу чтобы меня лечили с какой-то долей вероятности. В таких случаях многие врачи скажут, что система не соответствует клиническому мышлению. Его, кстати, никто не отменял. И именно ему учат врачей. Так что и система помощник должна опираться не только на большие даннве,. А, наверное, должна приближаться в своей логике к клиническому мышлению врача. Тогда, если я выпал из процента, можно избежать ошибки. Ведь речь идёт о здоровье.
Вы романтик? Или всё-таки практик? Ваш термин "известные и подтвержденные данные" очень сомнителен. Особенно применительно к российской медицине. Я уже об этом написал выше. И я предпочитаю позицию скептика в отношении таких технологий. Не потому что отрицаю их. А потому что это даёт трезвый взгляд. В том числе и на технологию. Понятные принципы? Вот тут бооольшой вопрос. Потому что в конечном варианте вы говорите о черном ящике. Понятно что на входе, понятно что на выходе. А вот как работает внутри, поверьте, для конечного пользователя это большая загадка. И меня всегда умиляет непогрешимость и гарантия отсутствия каких-либо ошибок… От разработчика. Это утверждение, которое нужно обосновывать. А в случае медицины много лет подтверждать. И всё-таки вы решаете что врача нужно исключить. Тогда вопрос зачем вы вообще к ним ходите и обращаетесь?) Отсутствие "клинического мышления" у подобных систем как раз и является самым главным противопоказанием к их внедрению и применению.
Мой термин носит, очевидно, оценочный и вероятностный характер. Но точно так же происходит и обучение в медицине (мама врач, представление имею). Собственно данные для такого решения надо собирать на основе ВСЕХ данных не только на территории РФ. В том числе полученных посмертно на основе вскрытия. И задача просто сбора и минимальной формализации таких данных мне представляется более простой нежели текущее состояние науки медицины.
Голова врача такой же черный ящик в котором варится каша из знаний по биологии, опыта, критических дней, кашпировского, каких-то статей из журналов и конференций, взбучки от главврача за ведение бумажек и прочего. Для меня как конечного пользователя наличие 4-х диагнозов при одних и тех же вводных предельно большая загадка. И это не ситуация, когда 4 врача сказали что с вероятностью 50% у вас кейс №1, 30% -2 и т.д. А просто 4 разных диагноза и они бы так и лечили каждый свое. Никаких намеков на другие варианты.
Никто не думает, что такая система будет непогрешима. Вопрос насколько она будет лучше того врача, которого я могу получить. И я думаю, что пока я не миллиардер (что не является достаточным условием) такая сетка будет лучше того врача, которого я могу получить. И обучается она централизованно в отличие собственно от врачей. Так что нет такого утверждения. Есть мнение.
Зачем я хожу к врачам? А у меня есть альтернатива? Т.е. вариацию альтернативной медицины и всяких знахарок я не рассматриваю по той же причине, по которой я предпочту сетку врачу. Собственно, переход к такой сети есть такой же шаг как шаг от знахарства к медицине. Там тоже наверно говорили про личную парапсихологию, божественный дар знахарства и прочее что сейчас заменено клиническим лечением и т.п.
Я тоже имею полную семью родственников из медицины. И имею опыт работы в медицине. Так что тоже рассуждаю не теоретизируя.
Про различные диагнозы… В медицине есть понятие 2-е мнение. Оно может быть и 3-м. Есть еще понятие консилиум, когда нужно установить диагноз. Думаю, что Вы предвзято и идеализировано подошли к вопросу человека в профессии. К большому сожалению и врачи бывают не слишком профессиональны. И, как вы правильно заметили, цена вопроса — в итоге ваше собственное здоровье. Которым вы дорожите.
Но, именно, поэтому и нельзя пока что доверять таким же неполноценным технологиям как ваши "сетки". Потому что в этом случае вы вообще выбросили врача из уравнения. Заменяете его суррогатом.
Про получение медицинских данных… Знаете, тут можно много теоретизировать. А вы пытались их получить хоть раз? в достаточном объеме чтобы натренировать "сетку"? Думаю, что столкнетесь с тем, что не сможете их получить.
Но главный вопрос в том, что не в первый раз представители из ИТ беспардонно (не относите на свой счет) "залезают в чужой огород". Да намерения благие. Но, как известно, ими вымощена дорога в Ад. Потому что пытаются диктовать врачам, как им надо лечить не обладая в общем никакими познаниями в медицине. И хуже того, выдавая некую систему загоняют врачей в рамки этой системы.
Самый простой пример некомпетентности. Аналитик описал функционал. Разработчик пишет лабораторную программу. Он получил результаты из анализатора и передал их. Тестировщик все проверил. И была выпущена в работу вполне прошедшая все этапы система. А врачЮ взглянув на анализ крови, сказал что у него кровь взятая у трупа. Потому что с такими показателями не живут. Ну, ошибся в переводе единиц измерения либо аналитик, либо разработчик. Да и тестировщик тоже. Потому что никто из них не медик. И перед ними всего лишь цифра. Но даже плохой врач понимает, что этот показатель ненормален или невозможен.
Теперь помножаем подобные ляпы на степень сложности разрабатываемой системы. В итоге тот еще будет лечебный процесс. Вам самый худший врач может покажется ангелом. Прошу прощения за то что я так сгущаю краски.
Другой аспект систем, которые рекомендуют врачу и работают в режиме черного ящика. Вы сетовали на уровень врачей. А не задумывались, что врач. который использует подобную систему начнет деградировать? Она не будет в нем стимулировать погружаться глубоко в то что с вами происходит. Достаточно ввести несколько показателей… и пусть система думает. Она же прокачана миллионами историй болезни.
Пока что несовершенство технологий кроется в том что параллельность процессов медицина и разработка не дают симбиоза, который мог бы сколь сравнивать работу таких систем и врачей. Но это скорее путь, по которому нужно идти. Не важно что цель не достижима. В итоге возникнуть много вспомогательных технологий, которые улучшат качество медицины.
Пусть медицинская наука занимается наукой и результатом ее деятельности будут рецепты лечения. И рецепты эти будут записаны в алгоритмах (необязательно это нейросеть). Пусть они будут вероятностные, но я уверен, что качество лечения в среднем по больнице вырастет так же кратно.
А то, что иногда алгоритм будет ошибаться — да, возможно. После этого будут внесены изменения в алгоритм. Сам алгоритм мгновенно и централизовано обновляется в продакшене и теперь все диагнозы по данной ситуации станут лучше. А вот с врачем такой номер не проходит. Человек не способен принимать и обрабатывать такой объем информации.
Опять исключили человека из уравнения. ) Алгоритмы применять должен он. а тут как раз и будет загвоздка.
Кстати, такие системы могут быть и не черными ящиками. Да и врачам можно отдать на откуп самим как раз формировать алгоритмы. А не неродивым разработчикам, которые к медицине не имеют отношения.
Вы очень хорошо написали Алгоритм ошибся-Внесены изменения. А в реальности: Алгоритм ошибся-Ошибку выявили-Внесли изменения. Вот тут выпавший элемент не всегда так очевиден. Пример с автопилотом хорош. Но он управляет очень примитивной с точки зрения организма по сложности системой. Так что сравнение не совсем корректно.
Давайте отдадим радивым разработчикам. Зачем сразу нерадивым.
Дальше я уже не понимаю спора. Ошибку выявить легко — умер человек или не выздоровел как предполагалось. Как выпавший элемент может быть неочевиден. Короче, это у вас какая-то луддитская логика.
Сравнение корректное. Делал человек-было плохо. Автоматизировали — стало хорошо. Какая разница, какая сложность управляемого объекта, если мы говорим о замене управляющей системы?
Хронические неизлечимые заболевания вы, конечно же, исключили. Как угодно обзовите мою логику. Но она уж точно вернее вашей, где в качестве экспериментов по отладке системы вы допускаете смерти или неизлечение.
Комплекс Бога — разработка управляющих систем для организма человека.
Действительно не вижу предмета спора. )) Откланиваюсь.
Диагноз ставит врач.
И думаю верояность того, что система увидит что-то на периферии все-таки больше, чем у врача.
К большому сожалению есть уже практика применения такого рода рекомендательных систем. И должен сказать, что система уже ставит диагноз. А врач оказывается перед выбором. Либо соглашаться с системой, либо идти на рынок поиска новой работы. По ому что врача обязуются использовать систему в работе. И все! Никаких альтернатив. Система сказала как сказала. Врач либо исполняет, либо включается kpi и вышестоящие указания следовать неукоснительно. Потому что в разработке системы участвовали в качестве экспертов "светилы"… Надо ли дальше объяснять как поступит живой человек, которому нужно кормить семью и идти тоже не всегда есть куда. Особенно если это не столица.
То есть проблема исходных данных. Да врачи ошибаются, но они могут и вытащить на своем опыте
2. Кого сажать будем в случае ошибки? или никто не виноват будет?
То единственное срабатывание, о котором сейчас известно, было ложным. Система среагировала на проходящего мимо темнокожего молодого человека. По словам полицейских, различие между снимком этого человека и фотографией преступника из базы полиции, с которой шло сравнение, видно невооруженным взглядом — человеку сразу ясно, что это разные люди.
Соседняя статья
Поэтому очень интересно читать подобные рекламные статьи. А еще интереснее в них вчитываться. При чтении по диагонали — полная эйфория. А если внимательно читать — «Искусственный интеллект (ИИ) потенциально может способствовать»
Искусственный интеллект помогает сохранить зрение