Комментарии 33
Начиная с марта московские врачи вылечили свыше 500 тысяч человек – полмиллиона электронных историй болезни и выздоровления, в которых накоплен огромный объем данных.
Интересно, как скоро эти данные сольют и появятся новые виды мошенничества типа "я звоню из вашей поликлиники..."
В каких-то случаях, если калькулятор предполагает лёгкую форму пневмонии, отказаться от проведения компьютерной томографии.
"Да, я вижу, что вы умираете, но знаете, бот сказал, что вы здоровы. Извините, ничем не могу помочь, это система такая."
Вы же понимаете, что мошенники всё до чего могут дотянуться используют? Первые Нигерийские письма, помнится, про застрявшего на орбите космонавта были.
update интереса ради заглянул в калькулятор. Ну… мошенники наверное смогли бы его использовать, примерно с тем же успехом, что и какой нибудь строительный калькулятор.
Речь не о калькуляторе, а о собранных где-то данных. Мошенники, конечно, не калькулятор используют, а собранные и слитые данные.
Речь не о кровавом режиме, а о бездарном IT, бесчеловечном отношении к людям и постоянным утечкам/сливам информации.
Мы все это наблюдали зимой-весной 2020 на примере "Цифровых пропусков" и "Социального мониторинга".
Нам убедительно доказали, что бывает, когда подобные задачи решаются слабыми профессионалами и без тестирования на реальных людях: получи штрафы по 5000р за то, что GPS в квартире плохо ловит. Или за то, что ты после температуры 38 имел наглость заснуть.
Про пропуска и вспоминать не хочется, но там косяков более было навалом.
Вы всё это как, уже забыли?
Но они есть, собраны воедино и наверняка не обезличены.
Про сливы ниже уже дали ссылки.
И про то, как работают такие системы на практике тоже.
P.S.: Мда, опять карму слили. Вот не лениво кому-то… кто-то отчаянно верит во всё хорошее ))
Что до косяков и утечек, у меня хватит историй про глупую организацию процессов от вполне себе коммерческих организаций. Не только в нашей стране. Что-то похожее на порядок, по моим ощущениям, есть разве что в Сингапуре и то… есть мысль, что я сильно не всё знаю.
И ещё расскажу свежую историю, от позавчера.
Приезжают люди из Новомосковска в Москву на каток, один из немногих, который залит и отмечен как бесплатный.
На входе выясняется, что надо заказать бесплатный билет на mos.ru
На mos.ru все хорошо, пока не нажимаешь кнопку "+", и он выдаёт: "вы можете заказать не более 0 билетов". То есть заказать нельзя, но узнаешь об этом только уже при заказе.
Каток пустой.
Но кататься на нём нельзя, на входе охранник не пустит без QR-кода. "Извините, система такая". И правда, система работает отлично. Но люди стоят на морозе с детьми за забором и смотрят на пустой каток.
Зато система работает.
А теперь представьте себе подобную ситуацию с КТ, когда от промедления может зависеть жизнь. "Извините, система такая."
"Я должен был умереть ещё 20() лет назад...."
() — прогноз нейросети
Там точно есть нейросети? Или...
Просто по формату больше напоминает калькулятор ремонта или кредита, где никакой магии нет...
А какая магия должна быть на фронтэнде для ввода данных? Вот есть у людей предобученная сетка на бэкенде, в нее кидают вектор значений, вбитых пользователем. Сетка выдает прогноз. Стандартный подход — датасотонизм в бэкэнде и апишка для дергания, дёргают простейшим интерфейсом из чего бог послал. Настраивать параметры и переобучать сеть пользователю все равно не дают.
На фронте я магии не ждал. Даже приятно сделано, кмк — ничего лишнего, все по делу.
Но датасатонизм при паре десятков параметров это кажется очень уж оверинжиниристо. В самом исследовании ещё верю что могли использовать, а вот что для калькуляции результата используется — если и да, то кажется что можно было сделать легче.
Посмотрел сейчас этот калькулятор, и вбил значения, которые были у меня… У меня есть большие сомнения на счет правильности подобной оценки. Определение тяжести бактериальной пневмонии только по состоянию, крови и мочи, серьезно? У меня мать так в апреле из больницы выпустили с сатурацией 92% и сильной одышкой, только на основе крови, мол у вас показатели улучшились. Через день, на другой скорой, забрали в другую больницу, сделали КТ, которое показало 50% поражение легких. Больше выглядит как попытка 'улучшить' показатели приема ковидных больных, как у нас принято...
- 100 лет
- сатурация — 1%
- температура тела 30 градусов
- дыхательные движения 1 раз в минуту.
А они ему: «у вас, вероятно, пневмония средней тяжести».
Не хотел бы я попасть к врачу, который сделает выводы на основе так работающей экспертной системы… и смех, и слёзы.
хотел написать комментарий, но не смог. Поэтому просто оставлю это здесь — https://habr.com/ru/company/sberbank/blog/530968/
Это показатель заботы о людях, о врачах, у которых на рабочем месте вполне может быть IE… и о качестве разработки в целом.
Когда хипсторные стартапы ломятся на рынок с апом для поиска собачьих парикмахеров и он не особо кому-то кроме них самих нужен и откровенно сыроват, то это move fast and break things. Когда некоторый инструмент возможно на полудобровольной и бесприбыльной основе выкатывают сотрудники здравоохранения и науки, когда его выкатывают в момент острой необходимости и он нужен уже вчера, но немного сыроват — тут сразу прибегают критики у которых он поддерживает не все браузеры, и выдает нереалистичные результаты на абсолютно левых данных, не имеющих отношения к обучающей выборке, как в вашем примере выше.
В реальности когда в таких вещах будет нужда для триажа пациентов — данные будут вбивать хоть с телефона, если от сервиса есть польза. Потому что сравнивать надо не с абстрактным идеалом, а с чуть лучшим сервисом, но в марте 2021 года. Или ещё чуточку лучшим в мае.
Абсолютно левые данные показывают только одно, но важное: что в системе не предусмотрен «перепускной клапан», когда она явно не может сделать правильное решение, но в этом не признаётся.
Одно это повод не доверять системе в целом, для этого и делается проверка граничными данными. Потому что более тонкую проверку ни вы, ни я организовать не можем. Но если систему настолько не тестировали и не предусмотрели простые варианты — запускать её нельзя ни в коем случае.
нельзя в массовую медицинуСкорее всего по бумажкам это не массовая медицина, и не медицина вообще. Короче, как БАД, но только программа.
Если в обычную розетку сунуть заколку для волос вас током шарахнет. Это не повод отключить все розетки до исправления ситуации, это повод не совать в них заколки. Не совать пальцы под дрель, не ездить по льду на летней резине. Хотите чтобы все работало идеально — свяжитесь с авторами и предложите свою помощь, умениями, деньгами, как вам больше нравится.
А вот работающую аналогию я вам расскажу: так получалось, что 3 раза в разных поликлиниках мне приходилось «чинить» принтеры — один на венгерском писал, что у него замятие во втором лотке, другие что-то того же уровня.
Зачем я их чинил? Затем, что с неработающим принтером дети не могли попасть к стоматологу, терапевту, получить направление на анализы или прививки.
Там врачи сидят за компьютерами с тем самым IE11, и они так же бессильны перед глюками айти, как мы перед болезнями.
И новая заведомо глючная система, которой будут доверять, как боженьке, просто обязана привести к ложным диагнозам. Врачи за это отвечают по всей тяжести, а боту всё пофиг.
И ещё напомню, что инициативы властей поначалу белые и пушистые, а потом делают такого помощника окончательным судьёй — и всё. Кстати, не только властей — попробуйте подать апелляцию Гуглу…
А ваше предложение «иди и исправь» в корне неверно — если я вижу, что на улицу выпускают «робота-убийцу», я должен не идти и исправлять, а сделать всеми силами так, чтобы его на улицу не выпустили. А исправлять должны те, кто его делает.
Это не робот убийца. Это в период раннего масочного режима маска, сшитая из заготовки для трусов. Потому что другого нет. А вокруг бегают бдительные граждане и кричат, что это не N95 маска, это трусы-убийцы потому что у них поры крупнее вирусной частицы, надо ждать когда Илон Маск пришлет настоящие маски, а пока ходить так, потому что нельзя соглашаться на трусы-убийцы.
1) не защищает вас от других
2) не защищает других от вас
3) способствует заболеванию через накопление всей дряни, которой дышите вы и окружающие
4) даёт ложное чувство защищенности, и больные спокойно идут с этой масочкой гулять, в транспорт, магазины
То есть вреда от такой маски много, особенно в пересчёте на миллионы, а пользы — ноль. Поэтому я и говорю, не надо лезть в массовую медицину с сырыми решениями.
Вы только что опровергли утверждения почти всех мировых агентств в области здравохранения, которые не медицинские маски педалируют. Прямо сейчас. Со штрафами за неношение и уличными знаками, что дальше вход только в маске. Я вот ребятам из института Роберта Коха в Германии, которые такие правила педалируют верю как специалистам больше, чем анониму из интернета.
Кстати, многие из агентств подобных RKI признались, что их ранние утверждения о неэффективности таких масок держались на попытке прикрыть полное фиаско с их наличием, чтобы население не выгребло последние остатки простых масок из аптечных сетей. Такие маски не спасут врача работающего в заразном бараке, но общее количество заразных соплей, летающих в воздухе они снижают.
Вред масок вы можете видеть на примере Германии, где они с весны (и без отмены) обязательны в транспорте и магазинах, а с недавних пор в оживленных местах на улице. И правила эти соблюдают.
Вы смешиваете нормальные маски с теми, что делаются из носочка.
И у вас и у меня в примере была речь именно о них, а я отчётливо помню рекомендацию ВОЗ не использовать ничего подобного (если надо — найду пруф).
Но целом мы говорили не о масках, а о допустимости "сырых"
АйТи продуктов в жизненно важных сферах, на примере медицины и конкретного софта, выдаваемого за нейросеть. И, честно говоря, чем спорить о полезности масок, мне намного интереснее вопрос "зачем там нейросеть", "есть ли там нейросеть" и "какое количество ошибок будет генерить эта нейросеть ии как это отразится на нашей жизни".
При этом в электронной медицинской карте указано, что у меня при каждом посещении измерены пульс, давление, сатурация и еще полтора-два десятка всяких признаков (цвет кожи, пальцапия и т.п.).
Пару раз звонила телемедицина, от этих отделался ответами, что самочувствие удовлетворительное.
Лечила меня на самом деле жена (врач), использовав порядка 7-8 наименований различных лекарств, помимо назначенных 3-х в поликлинике.
Можно предположить, что данные по легкоболеющим из медицинских карт — недостоверны.
Данные по лечащимся в больницах — скорее всего достоверны. Но в больницы попадают тяжелоболеющие — только по ним нельзя построить актуальную нейросеть.
Больницы по всей РФ получили доступ к «КТ-калькулятору» – нейросети для оценки степени поражения легких