23 июня

ИИ и машинное обучение в медицине, ч.3. Проблемы использования «умных» технологий в медицине

Блог компании Cloud4YИскусственный интеллектМедгаджетыЗдоровьеБудущее здесь


Cloud4Y продолжает рассказывать о возможностях использования ИИ в медицине. Это третья часть, в которой мы рассмотрели возможные проблемы, возникающие при использовании «умных» технологий в сфере здравоохранения. Первая и вторая части.

Мы не случайно затрагиваем тему медицины. Выступая в роли облачного провайдера, Cloud4Y сотрудничал с разными медицинскими организациями. Это всегда было интересным опытом с новыми техническими, юридическими, психологическими трудностями, которые приходилось преодолевать.


Несмотря на все высокие достижения, новые технологии в медицину «заходят» тяжело. ИИ ждёт та же участь. Мы подготовили перечень наиболее вероятных проблем, с которыми придётся столкнуться компаниям, которые будут продвигать это направление. Будет интересно увидеть и ваши версии в комментариях.

1. Ошибки в диагнозах

Одной из важнейших проблем применения искусственного интеллекта в медицине можно назвать риск ошибочного выставления диагноза. Об этом прямо говорится в одном из свежих исследований. Учёные предупреждают, что использование методов реконструкции и анализа снимков с помощью искусственного интеллекта для постановки диагноза и определения лечения может в конечном итоге нанести вред пациентам. По их словам, даже мелкие погрешности «на входе» могут привести к принципиально разным диагнозам на выходе. И кому отвечать?

Опасения имеют право на существование. Опытный врач, глянув на снимок, сможет отличить дефект изображения от какого-нибудь образования. Или попросит сделать диагностику ещё раз. ИИ так не умеет. Он использует имеющуюся информацию и поставит диагноз. Тем самым, возможно, сильно повлияв на дальнейшую процедуру лечения.

2. Недостаточная точность распознавания

Близкая по смыслу к первой, но довольно оправданная претензия в адрес разработчиков «умных» систем распознавания медицинской информации. Простой пример — системы распознавания кошек до сих пор работают некорректно. Достаточно добавить парочку деталей, и ИИ подумает, что перед ним не кошка, а грузовик, например. При распознавании изображений некоторые детали (например, опухоль) могут быть пропущены или наоборот, добавлены.

Проблема может возникнуть как на этапе обучения компьютера, так и при его эксплуатации медучреждением. Малейшее искажение на снимке, которое может быть вызвано простым движением пациента, сильно ухудшает результаты распознавания изображений. Это было доказано с помощью исследования.

3. Опасения со стороны медучреждений

Общество всегда ратует за использование новых технологий в нашей жизни. Но рисковать и первым внедрять их в своих рабочие процессы готовы не все. В медицине особенно. Мало кто готов взять на себя ответственность задействовать новые инструменты, которые ещё недостаточно изучены и неизвестно, насколько эффективны они будут. Больницы и чиновники боятся как рисков, вызванных использованием новых устройств, так и критики со стороны пациентов, которые не хотят становиться «подопытными кроликами» и просят, чтобы их лечили по старинке. Получается замкнутый круг. Чтобы внедрять технологию, нужны кейсы, а чтобы были кейсы, нужны уже внедрённые технологии.

4. Сложность «чёрного ящика»

Нейросети, ML не дают ответ на вопрос, почему был получен такой результат. Логика, лежащая в основе сделанных выводов, непонятна. И это приводит к неуверенности в корректности достигнутого результата. То, каким образом ИИ пришёл к тому или иному выводу, является существенной информацией, важной для составления плана лечения. И если этого не понимать, будет сохраняться скепсис по отношению к машинной логике и её достижениям.

5. Забота о конфиденциальности данных

Данные о состоянии здоровья пациентов — это персональные данные, крайне чувствительная информация. Соответственно, для их защиты необходимо создать надлежащие механизмы. Как у нас заботятся о базах данных — рассказывать, пожалуй, нет смысла. Немногие компании относятся к этому вопросу со всей серьёзностью. И в итоге случаются утечки, про которые сообщали многие, и мы в том числе. Так что системы защиты нужно дорабатывать.

Отчасти может помочь обезличивание данных, но мы рассказывали, что это не всегда гарантирует анонимность. Да и вообще, собрать в одну базу истории болезни, снимки с приборов визуализации, другую медицинскую документацию — это чрезвычайно сложная задача, а сама БД будет весьма лакомым кусочком. Так что опасения справедливы.

6. Конфликт с заинтересованными сторонами

В медицине крутятся огромные деньги, хотя сами врачи получают подчас до неприличия маленькую зарплату. И делить вкусный пирог ещё на одного участника организации, работающие в сфере здравоохранения, вряд ли захотят. Фармацевты, страховщики, департаменты здравоохранения — у всех свои интересы. И для их защиты, разумеется, будут предприниматься определённые шаги. Сопротивление технологии на любом уровне приведет к проблемам с включением ИИ в медицинские процессы.

7. Соответствие законодательству
Сбор данных о пациентах регулируется рядом законов, включая всё тот же ФЗ-152, для гарантированного соответствия которому бизнес часто обращается к нам. Обмен данными между различными базами данных для анализа с помощью алгоритмов ИИ представляет собой проблему с точки зрения соответствия требованиям действующего законодательства. Учитывая, что значительная часть законопроектов пишется в стиле «запретить» и «не пущать», легализовать такие эксперименты будет ой как сложно.

8. Геополитические угрозы

Можете смеяться, но государство (да и общество) способно углядеть угрозу в объединении медицинских баз данных. А вдруг ИИ найдёт какую-то особенность у определённой категории людей, и можно будет разработать точечное действующее биологическое оружие? Вдруг иностранное государство, используя наши базы данных, сумеет навредить нам? Вдруг сделает какие-то важные выводы по специфике заболеваний в отдельных регионах?

В общем, подобные опасения, как бы странно они не звучали, возникают уже сейчас, когда про ИИ в медицине ещё мало что слышно. Можно только догадываться, что произойдёт, когда начнётся реальное внедрение технологии. Не пойдут ли протестующие жечь ЦОДы и 5G-вышки (вышки так-то ни при чём, но привычка-то осталась!).

9. Потребность в новых технологиях

Использование моделей глубокого обучения для развития и успешной интеграции искусственного интеллекта в сфере здравоохранения почти всегда включает в себя объёмные задачи, такие как обучение моделей сканированию и анализу больших объемов данных медицинской визуализации. Для нормальной работы требуется мощная ИТ-инфраструктура. В частности, высокопроизводительные графические процессоры (GPU). Соответственно, будут активнее использоваться облачные платформы. Они способны дать необходимую вычислительную мощность при надлежащей защите данных. А про то, как относятся к новым технологиям, мы уже говорили.

10. Человеческий фактор

Новая технология требует новых знаний. Как быстро освоит новый инструмент врач, лет 30-40 лечивший традиционным способом? А как скоро технология доберётся до районных больниц, где и компьютеры-то не у каждого врача есть? Всё может получиться так, как это часто бывает: в столичном регионе технология заработает, а там, где она как раз-таки нужна, появится со значительным опозданием.

Возможно, вы видите ещё какие-то перспективы или проблемы внедрения искусственного интеллекта в медицину. Будет интересно услышать ваши аргументы и возражения. Спасибо за внимание.

Что ещё полезного можно почитать в блоге Cloud4Y

Искусственный интеллект поёт о революции
Какова геометрия Вселенной?
Нужны ли облака в космосе
Пасхалки на топографических картах Швейцарии
Microsoft предупреждает об опасности новых атак с помощью шифровальщика PonyFinal

Подписывайтесь на наш Telegram-канал, чтобы не пропустить очередную статью. Пишем не чаще двух раз в неделю и только по делу.
Теги:МедицинаИИроботыбудущее здесь
Хабы: Блог компании Cloud4Y Искусственный интеллект Медгаджеты Здоровье Будущее здесь
+11
2,1k 17
Комментарии 6
Лучшие публикации за сутки