Comments 6
Ошибка выставления диагноза не так страшна, как отсутствие ответственности. Врачам предусмотрена уголовная ответственность за такие "ошибки" приведшие к последствиям. Только, вот, ответственность за такие "ошибки" должен нести не ИИ, а его разработчики всей дружной компанией. и такую же строгую уголовную. Тогда, глядишь, и поумерится пыл в продвижении несуществующего ИИ в медицину.
Нет точности — нет распознавания! Компьютер не умеет еще думать! И это важно осознавать. Только работает по алгоритмам. Которые не всегда совершенны.
Медицина имеет дело со здоровьем и жизнью пациентов. поэтому там консервативны и требуется гарантия выполнения требования — не навреди. Хотя, похоже уже отказались от такого требования. Учитывая как сейчас без тестирования выводят вакцины на рынок.
У "черного ящика" основная проблема не сложность, а именно проблема недоступности восстановления цепочки рассуждений приведшей к тому или иному выводу. В медицине все диагнозы должны быть обоснованы.
Вопрос который не решен в ИТ — конфиденциальность и безопасность данных. А все туда же… Решите свои вопросы, а потом уже лезьте в медицину!
Не приплетайте к медицине коммерцию. Именно из-за того что из медицины убирают медицину и вместо нее внедряют сферу услуг и происходит проблема. А коммерсанты просто на медицине зарабатывают. И ИИ теперь новый канал подзаработать.
То же самое что и в П.5 — решите проблемы с защитой информации и конфиденциальностью!
ИИ и геополитика… при чем тут медицина?!
Новые технологии новым технологиям рознь. Несуществующий ИИ, который потребует облака и мощные вычислительные способности… чтобы едва обеспечить то, что обычный терапевт может на глаз определить и простым опросом выяснить в течении пары минут… Та еще перспектива. Опять путается коммеhция с медициной. В медицине приветствуют новые способы инструментальных исследований, новые препараты, новые способы диагностики… много чего нового, что помогает врачам. А вот облака и ИИ… Не обещают помощи. Ни врачам, ни пациентам.
А с чего традиционные способы лечения перестали устраивать? Неужели тем, что стоят на пути продвижения ИИ?! Вы несколько перепутали. медицина стоит на страже здоровья. Медицина консервативна. А кто полез в медицину со своим ИИ ее заменять и заменять традиционные способы лечения? Неужели врачи?! Нет — какие-то инженеры, программисты, коммерсанты и т.д.
Статья интересная. А вот выводы очень спорны. Нужно обсуждать и дискутировать.
Но давайте проявим уважение к медицине, благодаря которой уже веками наше здоровье поддерживается. А кто-то из нас жив, именно, благодаря традиционным способам лечения.
ИИ еще не существует. Машинное обучение еще в зачаточной стадии. Предлагаемый черный ящик неприемлим. Диктование способов лечения врачам от программистов неприемлим.
все ударились в новомодное. Но все новое должно и строится, в том числе, и на уже существующем опыте. А опыт подсказывает, что наиболее успешные разработки для медицины созданы там, где сами врачи были вовлечены в процесс. Но вовлечение было не по принципу принуждения. А когда разработчики прислушивались к потребности медицины и реализовывали то что запрашивали. Не меняя при этом "традиционные способы".
Может кого-то и удивлю. Но в медицине есть клиническое мышление. И это не "черный ящик". Почему тогда новомодный ИИ не реализует это клиническое мышление?!
А давайте немножечко помечтаем?
Начнем с аналогии. Лет двадцать назад многие были абсолютно уверены, что коммерческие полеты в космос это утопия и, если бы не один предприимчивый бизнесмен, не было бы сейчас у США своего ракетоносителя, способного безопасно доставлять людей на МКС.
Представьте, что во всех уголках нашей бескрайней страны, где есть больница или даже медицинский пункт с компьютером, любой врач может получить потрясающее диагностическое решение, которое хотя бы с 90 % точностью сможет на основе представленных данных дать предположительный диагноз и рекомендации по лечению пациента. Здорово? Мне кажется да. И более того, подобный проект внедряли еще до модного ныне слова ИИ на основе банальной конференс-связи с ведущими медиками страны.
1. Надо понимать главное — не стоит рассматривать ИИ в медицине как самостоятельную единицу — это просто консультант, который при правильном подходе может помочь врачу принять решение, за которое именно врач и будет нести ответственность. Даже самый хороший врач не может запомнить всю историю медицины, все новые методы лечения, весь наработанный опыт. И есть только одна категория врачей, которые не ошибаются — это врач, который еще не лечил пациентов. )
2-4. Я не вижу причин, почему нельзя заставить ИИ «обосновывать» свои выводы (если мы не имеем в виду угадывание болезни по снимку КТ). Ватсон вроде бы вполне успешно работает в некоторых онкобольницах.
5 и 7. Тут вынужден согласиться. Глядя на нынешнюю заботу компаний и органов о персональных данных граждан проще просто смириться, что о тебе все знают всё и жить с этим как можешь. )
8. Слава богу мы пока не настолько толерантны, чтобы использовать понятие «люди, которые менструируют», поэтому мы сможем справиться с тем, что «к преступлениям более склонны приезжие» и принимать такие вещи как факт, а не вопиющий пример притеснений отдельных групп граждан )
9. Да, новые технологии требуют больших вложений и абсолютно всегда на начальном этапе проигрывают существующим решениям по эффективности. Но это не повод сразу же отказываться от движения вперед.
10. Давайте отправим вас к врачу в деревню в какой-нибудь нской области и посмотрим как вам понравятся местные традиционные методы лечения. )
Очевидно, что ИИ может быть хорошим помощником врача не сегодня, но завтра я бы рискнул внедрить такое решение в больницы и поликлиники, указанные в ДМС разработчиков ;)
1. Ошибки врачебные неизбежны и происходят постоянно. Причин этому много, неграмотность врача или злой умысел (и такое бывает) — не самые частые. Если бы за все наступала уголовная ответственность, то врачей не осталось бы.
2. Медицина — пока наука неточная. Ведущие авторитетные специалисты могут абсолютно по-разному интерпретировать одни и те же результаты исследования.
3. Все к врачу обращаются для того, чтобы он помог, а не не навредил. Поэтому сейчас медицина должна улучшать качество жизни при приемлемом риске, а не не вредить.
4. Поверьте на слово: врач часто — тот же черный ящик, он не сможет объяснить, почему он так решил.
5. Конфиденциальность — не проблема ИИ. Санитарка из больницы легко может рассказать всему селу, чем болеет ее сосед. И где здесь ИИ?
10. Что такое традиционные методы лечения? Какая такая медицина поддерживает Ваше здоровье веками? За последние 20 лет (а не века) многое изменилось радикально. Доказано, что то, что делалось десятилетиями до того, не только не полезно, но и вредно. Используемые сейчас лекарства, которым больше 100 лет, можно посчитать на пальцах.
Давайте воздержимся от таких огульных оценок о том кто и чего насколько знает.)
- Опять о врачах только в одном контексте и под одним углом. Но возвращаясь к проблеме. Для врачей, хотя бы, уголовная ответственность, да и ответственность вообще, определена и прописана. Для систем типа ИИ и их разработчиков — нет! Не буду лицемерить. Раньше, по крайней мере, медицина не сдавал своих. Но за ошибки внутри себя всегда наказывала.
- Медицина уже древняя наука. Ведущие и авторитетные… можно и так назвать. но на консиллиуме приходят к общему мнению. И кардинально редко расходятся мнения.
- Заповедь "не навреди" имеет несколько более сакральный и глубокий смысл. который вы не понимаете. Фраза "улучшать качество жизни при приемлемом риске" несколько пугает. Вместо правильной диагностики и правильного лечения исходя из принципа "не навреди" взять и отправить человека на диализ(искусственная почка). Человек после этого сможет качественно жить и работать даже. Н, только почки уже отказали окончательно.
А все потому что кто-то решил улучшить качество его жизни таким образом. А реальное желание не навредить пациенту вылилась в то. что было выявлено, что показатели, которые предписывали диализ были следствием саморазрушающейся раковой опухоли.
Но кому я это рассказываю?! - Не поверю. Врач обосновывает свой диагноз. Но подход у него более широкий чем сейчас может себе позволить ИИ. Подробности даже расписывать не буду.
- Если ИИ применяют в медицине. То конфиденциальность важна. А ответственность лежит у нас на каком-то призрачном "операторе персональных данных". И за последнее время было столько всяких утечек данных. Но громких дел с наказаниями не было. операторы с рынка не ушли.
- И последние 20 лет я пользуюсь услугами врачей выучившихся еще в СССР.
Про лекарства. А маркетинг как же? Очень много и сейчас лекарств. которые просто сменили упаковку и название. А все те же что и раньше.)
И, кстати, я прогресс никогда не отрицал. ) И в медицине приветствую. Но, только реальный прогресс, а не то что им называют.
Проблемы использования ИИ (и ИТ) в медицине, описанные в 10 пунктах статьи есть все. Но это проблемы даже не ИИ и не медицины, а проблемы общества в целом. Тот же вопрос законодательной регуляции. Ведь законны не существуют сами по себе, они должны удовлетворять текущие запросы общества, регулировать современные (а не те, что были 30 лет назад) общественные отношения. Или обслуживать правящий класс (если вспомнить, чему нас учили в СССР). Поэтому от общества (или его действующей части) зависит, в каком направлении пойдет (или останется таким, каким есть) законодательное регулирование.
Или геополитика. Действительно, при чем здесь медицина? Но вот комментарий ниже говорит, что угроза обязательно есть. То есть ответ зависит от совсем немедицинского факта считает ли общество, что находится в «осажденной крепости». Хотя, с другой стороны, здоровье населения тоже вполне может быть геополитическим фактором.
Из проблем мог бы добавить следующие.
1. Очень распространенная компьютерная дремучесть медработников.
2. Из-за слабой профессиональной подготовки частое бездумное принятие на веру выводов, сделанных компьютерной программой. Из-за неуверенности в собственных знаниях врачи принимают «мнение» компьютера, даже если обоснованно подозревают, что он ошибается. Сюда же относится «возможность» проводить, например, исследование врачом, который практически абсолютно не понимает принципа исследования, механизмов и логики получения результата. Программа генерирует заключение, надо его только подписать. Иногда это работает, чаще пока нет (в смысле правильности выводов).
3. Внедрение ИИ (и вообще любых ИТ) в медицине должно проводиться по результатам таких же исследований, как и лекарств. То есть в идеале двойное слепое многоцентровое исследование должно показать, что использование ИИ имеет преимущество. Пока до этого не дошли. Это, как и в случае с лекарствами, не гарантирует полностью от ошибок, но значительно снижает их количество.
4. Модность технологии делает ее привлекательной для желающих «попилить» бюджет. К этому добавляется проблема невоспроизводимости, которая чрезвычайно остро стоит именно в области машинного обучения. При чем не только у нас, где наука высасывается из пальца, глядя на потолок еще со времен СССР, но и во всем мире. Поэтому очень важен пункт 3.
По 8 пункту этой статьи проблема не в угрозе что, кто-то воспользуется объединенными базами, а проблема и угроза как раз в том что воспользуются обязательно для своих политических целей и как показывает история можно даже составить список кто из стран обязательно воспользуется.
ИИ и машинное обучение в медицине, ч.3. Проблемы использования «умных» технологий в медицине