Статья "Нивелирование проблемных вопросов применения ИИ в отделении анестезиологии и реанимации"

Нивелирование проблемных вопросов применения ИИ в отделении анестезиологии и реанимации

Бувайлик Елизавета

Ильина Екатерина

Группа С212-1

Руководитель – Смирнова Г.И.

Введение

Актуальность. Врач анестезиолог-реаниматолог является мультидисциплинарным врачом, который должен контролировать изменения в состоянии пациента практически с любым заболеванием и незамедлительно реагировать на них. В отделениях анестезиологии и реанимации, интенсивной терапии и экстренной помощи в целом весь персонал работает в условиях большой информационной нагрузки. Именно поэтому в области реанимации и интенсивной терапии применение искусственного интеллекта крайне востребовано и имеет широкие перспективы. Именно искусственный интеллект может помочь врачу анестезиологу-реаниматологу оптимизировать информационный поток и избежать ошибок. Однако использование искусственного интеллекта таит в себе некоторые опасности. Сегодня будем говорить о том, как свести к минимуму возможные негативные сценарии.

Объект – технологии искусственного интеллекта в здравоохранении.

Предмет – безопасность использования искусственного интеллекта в отделении анестезиологии и реанимации.

Цель – раскрыть перечень возможных рисков при внедрении искусственного интеллекта в работу отделения анестезиологии и реанимации и дать рекомендации по их нивелированию.

Задачи:

1. Рассмотреть историю развития термина «Искусственный интеллект».

2. Изучить статистику ЕМИАС за 2023 год.

3. Выявить особенности деятельности отделения анестезиологии и реанимации.

4. Выделить очевидные риски применения искусственного интеллекта в отделении анестезиологии и реанимации.

5. Раскрыть организационно-правовые меры по предупреждению рисков применения искусственного интеллекта в отделении анестезиологии и реанимации.

Содержательная часть

Отцом-основателем искусственного интеллекта стал молодой талантливый математик, ассистент профессора в Дартмутском колледже (США) Джон Маккарти (рисунок 1 в приложении). В 1956 году он предложил своим коллегам организовать двухмесячный семинар для проведения мозгового штурма, который мог помочь найти более серьезное применение вычислительным ресурсам ЭВМ, а именно – разработать способ автоматического решения логических задач. На этом семинаре впервые прозвучало словосочетание «искусственный интеллект».

Само понятие «искусственный интеллект» появилось только в начале 1980-х годов. Его определение предложили ученые в области теории вычислений. Это область информатики, которая занимается разработкой интеллектуальных компьютерных систем, то есть систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом, – понимание языка, обучение, способность рассуждать, решать проблемы и т.д.

В середине 1980-х годов с развитием цифровизации заинтересованность в технологиях искусственного интеллекта, в том числе в решении медицинских задач, активно проявляет бизнес-сообщество, эта область получает денежные инвестиции. Но настоящему расцвету нейросетей, оказавшему существенное влияние на медицинскую науку и практику, суждено было произойти лишь через несколько десятилетий.

Бурное развитие искусственный интеллект получил лишь в XXI веке со всеобщим распространением цифровых технологий и с появлением способных аккумулировать большие объемы информации серверных хранилищ, благодаря чему стало возможным глубокое обучение нейросетей поиску закономерностей, на обнаружение которых у обычного человека могут уйти годы, а то и десятилетия.

Однако не все шло гладко. В 2015 году зарубежная компания решила подключить свое детище, суперкомпьютер, к решению задач здравоохранения. Было организовано облачное хранилище, куда стекались данные с айфонов и носимых диагностических устройств для изучения воздействия широкого спектра частных факторов в разработке рекомендаций по лечению. На их основе искусственный интеллект сгенерировал алгоритмы, которые должны были повысить точность диагностики и эффективность лечения заболеваний. Специалисты в первую очередь занялись применением искусственного интеллекта в области онкологии. В октябре 2016 года компания объявила, что приступает к использованию супервозможностей электронного мозга суперкомпьютера для лечения онкозаболеваний среди сотрудников и членов их семей. Однако в августе 2018 года при внедрении в клиническую практику суперкомпьютер не оправдал возложенных на него ожиданий, так как нередко выдавал неверные и небезопасные схемы лечения онкобольным. В результате десятки пациентов вышли из этого проекта. Впоследствии выяснилось, что искусственный интеллект обучали не на реальных клинических данных, а на искусственно разработанных гипотетических примерах злокачественных заболеваний. Тем не менее компания не поставила крест на проекте, а продолжила обучать и совершенствовать искусственный интеллект в сотрудничестве с крупными клиниками страны.

Сегодня развитие искусственного интеллекта идет семимильными шагами. Так в Москве область здравоохранения уже второй десяток лет применяет Единую медицинскую информационно-аналитическую систему. По данным на начало 2024 года ЕМИАС помогла структурировать около 3 млрд. документов, более 13 млн. диагнозов поставлено с помощью систем поддержки принятия решения, проанализировано более 12 млн. исследований лучевой диагностики, расшифровано более 5 млн. кардиограмм и более 5,5 вызовов скрой помощи успешно приято (рисунок 2 в приложении).

Отдельно хотелось бы обратить внимание на такой медицинский профиль как «анестезиология и реаниматология». Это особая сфера, поскольку объединяет вопросы из многих смежных специальностей: кардиологии, неврологии, фармакологии, хирургии и не только. Поэтому накопление клинического опыта, касающегося данной и смежных дисциплин, происходит стремительно, ежедневные научные публикации исчисляются десятками. Помимо освоения объема научных публикаций и нормативных актов, в этой сфере необходима регистрация и анализ большого количества показателей пациента: непрерывные данные мониторинга состояния пациента проводятся по множеству различных параметров. А принимать решение анестезиолог-реаниматолог на основании анализа и интеграции вышеперечисленных данных должен быстро и безошибочно. Вклад в распределение рабочего времени врачей – анестезиологов-реаниматологов вносит и объем документооборота: каждая манипуляция, динамика состояния пациента, отклонение в результатах исследований, интерпретация врачом результатов терапии, а также принятое решение должны быть зафиксированы в медицинской документации пациента. Важные, но рутинные задачи отнимают много времени и усилий.

Главная цель использования цифровых сервисов и искусственного интеллекта в условиях анестезиологического и реанимационного отделения – это система поддержки принятия врачебных решений. Искусственный интеллект должен стать неким виртуальным ассистентом врача, который может ему подсказать, помочь, перепроверить, напомнить, дать краткую информационную справку, подготовить сводку новых актуальных научных данных. Решение будет принимать врач, но искусственный разум поможет оптимизировать информационный поток и избежать ошибок.

На данный момент уже разработаны системы, которые активно применяются в отделениях анестезиологии, реанимации и интенсивной терапии. Для примера, монитор пациента – это цифровая технология, которая может не просто измерять показатели пациента, но интерпретировать их в дополнительных интегральных показателях, записывать для врача графическое представление динамики изменений, а система индикации отклонений чувствительна и имеет возможность дифференцировки. Программа регистрации и анализа данных с монитора пациента может выявить отклонения на ранних этапах и проинформировать об этом персонал.

Кроме того, вся информация, полученная в операционной с дыхательного аппарата, с перфузоров собирается и обрабатывается этой программой. Все анализы, которые делает лаборатория, также попадают в базу данных через внутреннюю сеть. Эта система – электронный мозг, который собирает информацию, и врач может проанализировать ее, выбрать то, что необходимо, и принять правильное решение. Система автоматически фиксирует постоянно меняющиеся данные, что облегчает работу не только врачей, но и медицинских сестёр. Наличие в отделении цифровой системы сбора данных означает больше времени для ухода, больше человеческого внимания для пациентов. Медицинские сёстры могут уделять внимание людям, а не заполнению бумаг. Это возможность более тщательно проводить базовые процедуры по уходу или просто посидеть рядом с пациентом, скрасить ему самые тяжелые послеоперационные часы.

Важно понимать, что искусственный интеллект способен как обучаться, так и деградировать или принимать во внимание невалидированные данные. Вызывает опасения и база информации, которую будет использовать искусственный интеллект, что это будет за база данных, насколько она достоверна, ведь даже данные метаанализов требуют критического анализа для выявления системных и логических ошибок, конфликта интересов.

Выделим очевидные риски. Радужные перспективы внедрения искусственного интеллекта в здравоохранение ставят новые задачи перед организаторами здравоохранения, поскольку чем больше новых возможностей искусственного интеллекта будет открываться и внедряться в практику, тем больше рисков может появляться.

Среди рисков можно выделить следующие:

• ограниченная точность – искусственный интеллект может допускать ошибки, если алгоритмы не были правильно настроены или обучены на недостаточном количестве данных;

• нарушение конфиденциальности – использование искусственного интеллекта может привести к утечке конфиденциальной информации, если система не была правильно защищена или данные пациента использовались не по назначению, были переданы третьим лицам без согласия пациента;

• недостаток этики – применение искусственного интеллекта может привести к некорректным решениям, если алгоритмы не учитывают этические аспекты. Использование искусственного интеллекта в здравоохранении требует высокого уровня доверия и ответственности со стороны разработчиков и пользователей. Необходимо убедиться, что искусственный интеллект применяется только в соответствии с этическими принципами и законодательством;

• вероятность ошибок – разработчики и пользователи искусственного интеллекта должны нести ответственность за ошибки, которые могут возникнуть при использовании искусственного интеллекта в здравоохранении. Сегодняшнее правовое поле имеет ряд пробелов, где слишком размыто регламентированы вопросы медицинского применения искусственного интеллекта.

Выводы

В целом внедрение искусственного интеллекта в здравоохранение может привести к значительным улучшениям в качестве медицинской помощи, но требует тщательного обдумывания и регулирования, чтобы минимизировать риски и максимизировать возможности.

Для этого важно принять ряд мер по всем направлениям рисков:

1) для устранения проблемы недостаточной точности при внедрении искусственного интеллекта необходимо тщательно готовить и структурировать данные, на которых будет обучаться нейросеть. Кроме того, необходимо проводить регулярную проверку и обновление алгоритмов, чтобы поддерживать их точность и актуальность;

2) нужна дополнительная подготовка медицинских работников для освоения новых технологий, в том числе с использованием искусственного интеллекта, а также понимание специалистом зоны ответственности и своих возможностей при применении этого инструмента;

3) для предотвращения нарушения конфиденциальности требуются особые меры безопасности:

• защита данных – данные пациентов должны быть защищены с помощью современных методов шифрования и других технологий безопасности;

• согласие пациента – пациенты должны давать свое согласие на использование их данных в работе искусственного интеллекта и на то, как эти данные будут использоваться;

• обучение персонала правильному использованию данных пациентов и соблюдению конфиденциальности;

• регулярная проверка – алгоритмы искусственного интеллекта должны регулярно проверяться на наличие ошибок и нарушений конфиденциальности;

• соблюдение законодательства о защите данных и конфиденциальности пациентов;

4) для учета этических аспектов при использовании искусственного интеллекта в здравоохранении необходимо проводить регулярные обсуждения и консультации с экспертами в области этики и законодательства, а также с пациентами и другими заинтересованными сторонами. Кроме того, следует разрабатывать соответствующие этические принципы и стандарты для внедрения технологий искусственного интеллекта в здравоохранение;

5) совершенствование правового поля.

Таким образом, требуется постоянная оценка рисков, целесообразности использования и постоянное развитие систем безопасности применения новой технологии.

Источники:

1. Аликперова Н. В. Искусственный интеллект в здравоохранении: риски и возможности // Здоровье мегаполиса. – 2023. – Т. 4, вып. 3. – С. 41–49. – DOI: 10.47619/2713-2617.zm.2023.v.4i3;41–49.
2. Грицков И. О., Говоров А. В., Васильев А. О., Ходырева Л. А., Ширяев А. А., Пушкарь Д. Ю. Data Science – глубокое обучение нейросетей и их применение в здравоохранении // Здоровье мегаполиса. – 2021. – Т. 2. – № 2. – С. 109-115. dоi: 10.47619/2713-2617.zm.2021.v2i2;109-115.
3. Журнал «Московская медицина» № 1 (59) 2024 год. Электронный ресурс. Режим доступа: https://niioz.ru/upload/iblock/9ed/9ed073c7c13efe80521bda96df3bacbd.pdf 
4. https://vademec.ru/news/2021/01/29/okrylennye-tsifroy-kak-sistema-icca-oblegchaet-rabotu-sotrudnikov-reanimatsionnykh-otdeleniy/
5. https://vc.ru/future/883667-strahi-iskusstvennogo-intellekta-kachestvo-dannyh
6. https://www.philips.ru/healthcare/product/HCNOCTN332/intellispace-critical-care-and-anesthesia
7. https://www.philips.ru/healthcare/sites/icca 

ПРИЛОЖЕНИЯ

Рисунок 1. Джон Маккарти, американский информатик, автор термина «искусственный интеллект»

Рисунок 2. Статистика ЕМИАС за 2023 год