© 2021 РЯБИКОВ Вадим Вадимович
МАиБ 2021 – № 2 (22)
DOI: https://doi.org/10.33876/2224-9680/2021-2-22/06
Ссылка при цитировании:
Рябиков В.В. (2021) Кибернетические и человекоразмерные системы в здравоохранении (о некоторых принципах оценки их полезности). Медицинская антропология и биоэтика, 2(22).
Вадим Вадимович Рябиков –
независимый исследователь;
https://orcid.org/0000-0002-6764-2150
E-mail: sync8@mail.ru
Ключевые слова: VUCA, CDSS, СППВP, системы поддержки принятия врачебных решений, кибернетические «человек-машинные» системы, человекоразмерные системы, ресурсы адаптивности, эффективность, этические критерии, экономические критерии
Аннотация: Внедрение в систему здравоохранения технологий, основанных на искусственном интеллекте, подразумевает образование в ней сложных кибернетических и человекоразмерных систем, включающих в себя человека в качестве основного элемента. Эти системы обнаруживают способность к самоорганизации и целеустремленность. При оценке пользы от внедрения этих технологий в систему здравоохранения важно руководствоваться, прежде всего, этическими критериями, ориентированными на гуманистические ценности. В условиях приоритета экономических критериев, при внедрении систем поддержки принятия врачебных решений (СППВР) парадоксальным образом возрастает вероятность снижения адаптивных способностей системы здравоохранения в целом.
Система здравоохранения призвана обеспечивать высокую профессиональную эффективность врачей в ситуациях нестабильности, неопределённости, сложности и неоднозначности. Для определения таких ситуаций существует технический термин VUCA (volatility, uncertainty, complexity, ambiguity – нестабильность, неопределённость, сложность и неоднозначность). Этот акроним был придуман в элитных подразделениях спецназа США в 1990-х годах для характеристики ситуаций, в которых им обычно приходится действовать. Сегодня он используется в бизнес-среде для обозначения условий, в которых работают современные компании.
Для всего государства исходы из ситуаций типа VUCA зависят от совокупности всех накопленных в обществе адаптивных ресурсов. «Адаптивная способность может означать проактивное управление существующими системами и структурами для обеспечения их устойчивости к внешним силам, а также способность трансформировать эти системы и структуры, когда изменившийся контекст означает, что они больше не подходят. Адаптивная способность обычно связана с более высоким уровнем образования в обществе, а также с наличием возможностей для тех, у кого есть образование, которое способствует их индивидуальному и социальному благополучию. Высокий уровень адаптивной способности обычно достигается за счет доверия в обществе; наличие и терпимость новизны и разнообразия; сила, разнообразие и пересечение человеческих институтов; и свободный поток общения и идей, особенно между разными уровнями, например, снизу вверх и сверху вниз. При отсутствии этих характеристик возникают более низкие уровни адаптивной способности, что делает население особенно уязвимым к разрушительным последствиям непредвиденных потрясений» (Report of the Rockefeller Foundation… 2010:15).
Для системы здравоохранения ситуации, которые характеризуются нестабильностью, неопределенностью, сложностью и неоднозначностью, в большинстве своем, должны рассматриваться как штатные. Они возникают не только в глобальном или локальном масштабе в связи с пандемиями, эпидемиями, стихийными бедствиями, катастрофами разных видов, вооруженными конфликтами и пр., но и в динамике состояния отдельного пациента или динамики состояния пациентов в потоке. Особенно, если речь идет о больных, требующих экстренного медицинского вмешательства и поступающих в стационары через службу скорой помощи.
Основным ресурсом адаптивности системы здравоохранения в этих ситуациях является:
– уровень образованности врачей;
– их опыт, интуиция и мастерство;
– их ответственность (неотделимая от определенной тактической свободы действий в лечебной ситуации);
– профессиональная этика;
– общая культура врачей (в том числе и гуманитарная);
– общий уровень благородства и человечности, прежде всего человеческого достоинства, понимаемого как потребность не умалять высокое предназначение человека в служении идеалам разумности, любви, свободы пристрастием к выгоде, удовольствиям или безопасно согласно определению, наиболее близкому к христианскому (Гурьев 2000: 126);
– поисковая и познавательная активность врачей;
– изобретательность врачей;
– способность врачей к коллегиальности;
– способность врачей действовать в состоянии группового потока, под которым понимается особое психическое состояние, когда группа людей, объединённая одной деятельностью, достигают высокого уровня концентрации внимания, согласованности и вовлеченности, что характеризуется самозабвением (Selflessness), особым ощущением времени (Timelessness), легкостью и эффективностью (Effortlessness), неутомимостью, насыщенностью (Richness)(Чиксентмихайи 2011:123).
Все эти качества и способности не могут быть адекватно оценены количественными показателями и во многом зависят от уровня субъектности врачей, то есть их способности выступать агентами (субъектами) действия, быть независимыми от других людей и обстоятельств. Согласно С.Л. Рубинштейну, субъекта характеризуют активность, способность к развитию и интеграции, самодетерминации, саморегуляции, самодвижению и самосовершенствованию (Рубинштейн 2003: 407).
В случае снижения уровня субъектности врачей, уровень главных адаптивных ресурсов в системе здравоохранения начинает снижаться. Этот процесс сложно обратим. Выявлен парадокс формирования субъектности, который заключается в том, что при попытке целенаправленно формировать субъектные качества, происходит превращение субъекта в объект манипуляций (то есть «обессубъечивание») (Найденов 2010: 14).
Дефицит ресурсов адаптивности в системе здравоохранения может наблюдаться либо в случае снижения квалификации врачей и частичной утраты ими профессиональных и человеческих качеств, либо в случае предъявления к высококвалифицированным врачам предельно высоких требований в связи с возрастающей нагрузкой, когда времени на принятие врачебных решений недостаточно, и синдромом профессионального выгорания.
Могут ли системы поддержки принятия врачебных решений типа CDSS (Clinical decisionsupport system) или СППВP (Система поддержки принятия врачебных решений), основанные на технологиях искусственного интеллекта (ИИ), скомпенсировать дефицит ресурсов адаптивности в случае его возникновения в системе здравоохранения?
Надо отметить, что искусственный интеллект в его современном варианте основан на т.н. нейронных сетях, обучается в условиях определенного массива данных, интерпретация которых однозначна. Не смотря на то, что искусственный интеллект использует математический аппарат нечеткой логики, он не сможет адекватно тестировать ситуацию типа VUCA, где возникает неопределенность и неоднозначность.
Искусственный интеллект может облегчить задачу, связанную с обработкой статистических данных по заданным алгоритмам, для облегчения принятия решения и формирования рассуждений по прецедентам (ФРП) – то есть рассуждений относительно впервые возникшей, новой проблемы, на основе уже известных решений (Begum et al. 2011: 421–434). Эти рассуждения, безусловно, полезны при наличии ресурса времени необходимого для их взвешенного анализа. Но в условиях нестабильности, неопределенности, сложности и неоднозначности рассуждения по прецедентам могут только мешать включиться врачам в когнитивный режим эффективный для действий в беспрецедентных ситуациях.
Большинство СППВР состоят из трёх частей – информационной базы, механизма логических выводов и механизма коммуникации (Mahsa et al. 2018: 35–44). В случае использования для решения диагностических задач такого типа СППВР данные, поступающие на вход системы, будут отнесены к категориям, предложенным той или иной версией классификации болезней. Искусственный интеллект будет интерпретировать обследуемого человека как набор дискретных состояний. Континуум он замечать не будет.
При этом организм является сложной, неравновесной, динамической системой, и поток его состояний непрерывен. При введении данных в систему по специально отработанным протоколам неопределенность континуума будет редуцирована ИИ до очередной версии классификации болезней. Количество нозологических единиц в международной классификации болезней (МКБ) возрастает от версии к версии. Это продиктовано необходимостью более тонкого различения состояний организма в его континууме. В МКБ-10 было 14 400 наименований. В МКБ-11 их 55 000. При создании последней версии (МКБ-11) пересмотрены диагностические пороги и выделены новые категории патологических состояний. К примеру, международная классификация болезней включает обстоятельства, влияющие на здоровье детей, в том числе и неудовлетворённость обстановкой в школе, низкий уровень личной гигиены и т.д. В МКБ-11 подробно описаны все типы сахарного диабета (их больше привычных двух) (МКБ-11 2021).
Бесспорно, СППВР оказывается полезной как продвинутая справочно-информационная система, которая может предупредить разного рода ошибки, связанные, к примеру, с назначением препаратов (несовместимых друг с другом или противопоказанных данному пациенту). Безусловно, она может оперативно информировать врачей и всех заинтересованных лиц относительно новых данных, которые могут быть важными для выбора тактики ведения конкретного пациента. К примеру, она может сигнализировать о возможной несовместимости назначаемых препаратов с теми, которые уже принимает пациент по данным электронной карты, и о возможных противопоказаниях. Безусловно, она может оказывать существенную помощь докторам и уменьшать вероятность врачебных ошибок. Но может ли она скомпенсировать нехватку адаптивных способностей в системе здравоохранения в ситуациях типа VUCA?
В профессиональной среде в отношении эффективности СППВР единое мнение отсутствует.«Систематический обзор 2005 г. позволил заключить, что использование СППВР повысило эффективность работы практикующих врачей по данным 64% исследований. Использование СППВР способствовало улучшению исходов пациентов в 13 % исследований. Систематический обзор 2014 г. не выявил пользы в отношении снижения риска смерти при использовании СППВР, объединённых с электронными медицинскими картами. Однако было отмечено, что, вероятно, существует наличие некоторых преимуществ в отношении иных исходов» (Moja et al. 2014: 12–22).
Но даже если в ближайшее время мы получим положительный ответ на поставленный выше вопрос (о возможности компенсировать дефицит ресурсов адаптивности в системе здравоохранения или в отдельно взятом медучреждении), то мы не сможем оценивать само качество врачебных решений, поскольку оценка будет основана исключительно на статистических данных, статистических моделях и на относительных показателях.
Предположим, что мы получаем статистику, указывающую на то, что после внедрения ИИ в некое медучреждение, количество врачебных ошибок сократилось по сравнению с предыдущим периодом на Х%. По этим данным сложно будет судить о том, что реально происходит и происходило в этом медучреждении. Возможно, качество принимаемых там врачебных решений ниже приемлемого как с ИИ, так и без оного. Причем, вследствие возникающего дефицита ресурсов адаптивности, вызванной либо низкой квалификацией специалистов, либо «синдромом профессионального выгорания», спровоцированного чрезмерной нагрузкой, это качество может снижаться. Но ИИ по относительным показателям некоторое время будет выглядеть выигрышно.
Так, в 2011 году группа исследователей провели поиск в основных биомедицинских базах данных для выявления систематических обзоров, опубликованных в период с 1997 по 2010 год (Black et al. 2011). Было выявлено 53 систематических обзора, посвященных оценке воздействия вмешательств электронного здравоохранения на качество и/или безопасность здравоохранения и 55 дополнительных систематических обзоров, содержащих соответствующую вспомогательную информацию. Помимо СППВР к технологиям электронного здравоохранения были отнесены: хранение, управление и передача данных и облегчение ухода на расстоянии. Исследователи утверждают, что литература для систематического обзора в целом не соответствует стандартам качества с точки зрения методологии, отчетности и полезности. Они не обнаружили эмпирических данных, подтверждающих многие утверждения, сделанные в отношении этих технологий. Также были обнаружены некоторые свидетельства того, что внедрение этих новых технологий может в ряде случаев создавать новые риски, такие как чрезмерная зависимость лиц, назначающих лекарства, от поддержки принятия врачебного решений для электронного назначения рецептов или переоценка их функциональности, что приводит к снижению производительности практикующих врачей.
При этом внедрение технологий электронного здравоохранения в настоящее время осуществляется на международном уровне и часто оказывает значительное влияние на национальные расходы. Англия, например, инвестировала не менее 12,8 млрд фунтов стерлингов в Национальную программу информационных технологий (NPfIT) для Национальной службы здравоохранения, а администрация Обамы в Соединенных Штатах Америки аналогичным образом обязалась инвестировать 38 млрд долларов США в электронное здравоохранение (Black et al. 2011).
Предположим все же, СППВР может компенсировать нехватку когнитивных ресурсов врачей в условиях возрастающей нагрузки и ограниченности времени для принятия врачебного решения.
В этом случае последствия внедрения СППВР будут зависеть от этических приоритетов и гуманистических ценностей, которые не просто поддерживаются в обществе и в системе здравоохранения, а обеспечиваются определенными социальными практиками в качестве реальных регулятивов поведения членов профессионального сообщества. Многое будет зависеть от того, какие прямые и обратные связи возникнут в системе отношений «общество – правительство – технология – врач – пациент». К примеру, от того, как будет решаться вопрос об ответственности за врачебные решения. Если ответственность будет перенесена на ИИ, то мы будем наблюдать снижение уровня субъектности врача со всеми вытекающими из этого последствиями.
В зависимости от выбранных этических приоритетов и критериев оценки полезности СППВР, внедрение и широкое использование подобных технологий может вести как к повышению уровня ресурсов адаптивности, так и к их катастрофическому снижению. Эффект от внедрения технологии в различных обществах может иметь диаметрально противоположный характер. К примеру, распространение огнестрельного оружия среди племен охотников и собирателей может вести как к их гибели (они могут перестрелять друг друга во время конфликта, случаи зарегистрированы во время Вьетнамской войны), так и к повышению их адаптивности. Это будет зависеть от их культуры и этических ценностей. Точно так же распространение технологий искусственного интеллекта может иметь разные последствия – в зависимости от общего уровня человечности в обществе.
Технология не может существовать сама по себе. Внедрение технологий искусственного интеллекта в социальную практику вообще и в систему здравоохранения в частности предполагает ее подключение к потоку людей, информации, финансов, к потокам других материальных и нематериальных ресурсов.
Внедрение технологии осуществляется в конкретных контекстах: географическом (место, локация), социальном, техносферном (уровни развития техносферы в конкретном месте), экономическом, политическом, ноосферном (культурном, образовательном и пр.), инфосферном.
Контексты связаны друг с другом прямыми и обратными связями. Технология взаимодействует с контекстами таким же образом. То есть посредством прямых и обратных связей. Обслуживание технологии требует привлечения людей различной компетенции, финансовых, организационных ресурсов. Люди, финансы, информация, технология в этой ситуации начинают переплетаться и взаимодействовать друг с другом как акторы. Связанное взаимодействие образует систему. Эта система существует в потоках пациентов, информации и финансов. Если эти потоки исчезают, система прекращает свое существование, и технологию «относят на склад».
Возникшая в конкретной локации, но подключенная к глобальным сетям система может рассматриваться как кибернетическая «человеко-машинная». «Кибернетической системой называют упорядоченную совокупность объектов (элементов системы), взаимодействующих и взаимосвязанных между собой, которые способны воспринимать, запоминать и перерабатывать информацию, а также обмениваться ею. Примерами кибернетических систем являются коллективы людей, мозг, вычислительные машины, автоматы. Соответственно этому элементами кибернетической системы могут быть объекты разной физической природы: человек, клетки мозга, блоки вычислительной машины и т.д. Состояние элементов системы описывается некоторым множеством параметров, которые подразделяются на непрерывные, принимающие любые вещественные значения в определенном интервале, и дискретные, принимающие конечные множества значений» (Подколозина 2019: 17).
По мере внедрения технологий ИИ в здравоохранение таких локальных кибернетических человеко-машинных систем, организующих потоки информации из различных источников, осуществляющих сбор, обработку данных в потоке пациентов для поддержки врачебных решений, становится больше и больше. Помимо самой технологии они включают оборудование, обслуживающих его специалистов, врачей, инструменты финансирования, инфраструктуру. Эти локальные системы, будучи связанными прямыми и обратными связями с местными администрациями, министерствами, целыми отраслями промышленности, IT–компаниями, образуют не просто сеть, а систему большего масштаба, которая обнаруживает новые, эмерджентно возникающие системные свойства и целеустремленность. Возникающую систему следует рассматривать как человекоразмерную. К этому типу систем относятся все социальные объекты, рассматриваемые в аспекте не только функционирования, но и развития. Человек с его интеллектом, психофизиологическими качествами, профессиональными знаниями и навыками, опытом, отношением к труду, ценностными ориентациями и т.д. становится главным элементом данной системы.
Человекоразмерная система требует от людей постоянных усилий и привлечения другого рода ресурсов для снижения возникающей в ней энтропии. Существует определенный баланс между структурной мощностью системы и мощностью потоков ресурсов, необходимых для ее существования (в рассматриваемом случае – потоков пациентов, информации, финансов и организационных усилий). При дисбалансе между мощностью потока и структурной мощностью человекоразмерной системы, то есть когда мощности потока не хватает, чтобы поддерживать связанность между элементами системы, она начинает хаотизироваться. Таким образом, человекоразмерная система заинтересована в увеличении мощности потока ресурсов, в котором она существует. Поведение человекоразмерной системы в потоке будет во многом зависеть от ценностно-целевой структуры, которая эксплицитно и имплицитно инкорпорирована в комплекс ее философско- мировоззренческих оснований.
«При изучении “человекоразмерных” объектов поиск истины оказывается связанным с определением стратегии и возможных направлений преобразования такого объекта, что непосредственно затрагивает гуманистические ценности. С системами такого типа нельзя свободно экспериментировать. В процессе их исследования и практического освоения особую роль начинают играть знание запретов на некоторые стратегии взаимодействия, потенциально содержащие в себе катастрофические последствия» (Степин 2009: 251).
Если философско-мировоззренческие основания, которыми руководствуются люди, вовлеченные в человекоразмерную систему, не согласованы с представлениями о человеческом достоинстве, благородстве, то основным критерием в принятии решения будет экономическая выгода.
В этом случае, система оценок эффекта от внедрения в систему здравоохранения СППВР и других технологий, основанных на ИИ, будет основана на количественных критериях эффективности. Эффективность будет пониматься исключительно в менеджерском ключе, в духе таких определений:
«3.2.14 Результативность (effectiveness): Степень реализации запланированной деятельности и достижения запланированных результатов.
3.2.15 Эффективность (efficiency): Связь между достигнутым результатом и использованными ресурсами» (Национальный стандарт РФ ГОСТ Р ИСО 2008: 8).
Системе, возникшей в результате внедрения СППВР в систему здравоохранения, ситуация дефицита адаптационных ресурсов становится выгодной, поскольку именно в ней она будет доказывать свою полезность и эффективность.
Экономическая эффективность и практическая польза СППВР будет очевидной, если, к примеру, сократить количество штатных врачей, увеличить нагрузку на врачей, оставшихся в штате, и подключить их к СППВР. Естественно, что в условиях дефицита времени врач будет обращаться к системе подсказок, предлагаемых СППВР. Особенно, если ответственность за принятие решений с него будет снята и переложена на ИИ. В ситуации избыточной нагрузки врач будет совершать больше ошибок без СППВР. В спешке он будет вынужден полагаться на СППВР и следовать логике алгоритмов, пренебрегая своей интуицией и опытом. Точность и адекватность его решений будет соответствовать машинной логике. Его когнитивная система постепенно, но неизбежно будет гибридизироваться с ИИ. Качество врачебных решений будет снижаться, но вследствие возникающих обратных связей это будет «выгодно» человекоразмерной системе с ИИ. Потому что именно дефицит адаптационных ресурсов является оправданием ее существования и аргументом в пользу получения новых субсидий для своего развития.
При передаче функций принятия решений рекомендательным сервисам происходит деградация соответствующих когнитивных функций, точно так же как происходит угасание соответствующих навыков при передаче функций рукописного письма и счета смартфонам с голосовым управлением или при передаче функции ориентации в пространстве навигаторам.
Соответственно, при внедрении СППВР в систему здравоохранения в обстоятельствах, когда в ней господствуют экономические приоритеты, и эффективность оценивается исключительно количественными критериями, уровень ее адаптивных ресурсов будет снижаться. А экономические показатели эффективности при этом будут выглядеть вполне приемлемыми. Один врач, гибридизированный с ИИ, сможет обслуживать большее количество пациентов в единицу времени. Деградация системы будет незаметной, но неизбежной. Она обнаружится в очередной ситуации типа VUCA в региональном или глобальном масштабе, когда система здравоохранения будет хаотизирована.
Чтобы избежать такой печальной участи, следует утвердить в системе здравоохранения приоритет этических ценностей над экономическими. Необходимо публично провозгласить эти приоритеты и обеспечить практику их соблюдения. Важно оценивать ситуацию в здравоохранении не только и не столько по количественным критериям, сколько по критериям качественным, связанным с гуманистическими ценностями. Табличным формам с цифрами в экспертных оценках ситуации в здравоохранении должны предшествовать размышления о впечатлениях, которые сложились в результате непосредственного наблюдения эксперта за действиями врачей. В его отчетах, написанных в форме эссе, должны содержаться ответы на вопросы: «Как врачи принимают решения?», «Как они взаимодействуют с пациентами и друг с другом?», «Какая атмосфера царит в медицинских учреждениях?», «Насколько ресурсные сами врачи и весь медицинский персонал?» и т.п.
Сочетание экспертного (основанного на гуманистических ценностях) и параметрического (количественные критерии) подхода в оценке пользы от внедрения технологий ИИ в систему здравоохранения является необходимым условием для повышения уровня человечности во всем обществе, а значит и для его оздоровления. А. Маслоу предлагал употреблять понятие «полная человечность» вместо «полного здоровья», а понятие «сниженная человечность» вместо «невроза» (Маслоу 1999). Чтобы система здравоохранения не сделалась источником невротизации медперсонала и населения, она должна помимо количественных показателей строить свои оценки пользы от внедрения тех или иных технологий на основе гуманистических ценностей. Для этого ей следует накапливать человеческий ресурс, который обеспечил бы ее состоятельность в этико-философских вопросах.
Источники
Национальный стандарт РФ ГОСТ Р ИСО 9000–2008 (2008)
Системы менеджмента качества. Основные положения и словарь (http://astragost.ru/wp-content/uploads/2011/04/7GOST-R-ISO-9000-2008.pdf) (18.12.2021).
МКБ-11 (2021) Сахарный диабет, другой уточненный тип (https://icd11.ru/saharniy-diabet-drugoy-typ/) (18.12.2021).
Report of the Rockefeller Foundation and Global Business Network. (2010) Scenarios for the Future of Technology and International Development (https://swprs.files.wordpress.com/2020/04/rockefeller-foundation-scenarios-2010.pdf) (18.12.2021).
Библиография
Гурьев, Н.Д. (2000) Страсти и их воплощение в болезнях (соматических и нервно-психических),М.: Экоспром.
Чиксентмихайи, М. (2011) Поток: Психология оптимального переживания, М.: Смысл.
Маслоу, А. (1999) Новые рубежи человеческой природы, М.: Смысл.
Найденов, М.И. (2010) Формирование рефлексивного управления в организациях. Автореферат диссертации на соискание ученой степени доктора псих. наук. Киев: Институт психологии им Г.С. Костюка.
Подколозина, В.А. (2019) Медицинская физика. Учебное пособие, Саратов: Саратовский университет.
Рубинштейн, С. Л. (2003) Бытие и сознание. Человек и мир, СПб.: Питер.
Степин, В.С. (2009) Классика, неклассика, постнеклассика: критерии различений. Постнеклассика: философия, наука, культура, СПб.: Мiръ, с. 249–295.
Begum, Sh., Ahmed, M.U., Funk, P., Xiong, N., Folke, M. (2011) Case-based reasoning systems in the health sciences: a survey of recent trends and developments, IEEE Transactions on Systems, Man, and Cybernetics, Part C (Applications and Reviews), Vol. 41, No. 4, р. 421–434. DOI: 10.1109/TSMCC.2010.2071862.
Black, A.D., Car, J., Pagliari, C., Anandan, C., Cresswell, K., Bokun, T., McKinstry, B., Procter, R., Majeed, A., Sheikh, A. (2011) The impact of eHealth on the quality and safety of health care: A systematic overview, PLoS Medicine journal, Vol. 8, No. 1. DOI: 10.1371/journal.pmed.1000387.
Mahsa, S., Taha, S.-S., Samad, Sh, V., Peyman R. (2018). Decision support system for triage management: A hybrid approach using rule-based reasoning and fuzzy logic. International Journal of Medical Informatics. 114. 10.1016/j.ijmedinf.2018.03.008.
Moja, L., Kwag, K.H., Lytras, T., Bertizzolo, L., Brandt, L., Pecoraro, V., Rigon, G., Vaona, A., Ruggiero, F., Mangia, M., Iorio, A., Kunnamo, I., Bonovas, S. (2014) Effectiveness of computerized decision support systems linked to electronic health records: a systematic review and meta-analysis, American Journal of Public Health, Vol. 104, No. 12, р.35–44. DOI: 10.2105/AJPH.2014.302164.
References
Begum, Sh., Ahmed, M.U., Funk, P., Xiong, N., Folke, M. (2011) Case-based reasoning systems in the health sciences: a survey of recent trends and developments, IEEE Transactions on Systems, Man, and Cybernetics, Part C (Applications and Reviews), Vol. 41, No. 4, р. 421–434. DOI: 10.1109/TSMCC.2010.2071862.
Black, A.D., Car, J., Pagliari, C., Anandan, C., Cresswell, K., Bokun, T., McKinstry, B., Procter, R., Majeed, A., Sheikh, A. (2011) The impact of eHealth on the quality and safety of health care: A systematic overview, PLoS Medicine journal, Vol. 8, No. 1. DOI: 10.1371/journal.pmed.1000387.
Csikszentmihalyi, M. (2011) Potok: Psihologija optimal’nogo perezhivanija [Flow: The Psychology of Optimal Experience], Moscow: Smysl.
Guryev, N. D. (2000) Strasti i ih voploshhenie v boleznjah (somaticheskih i nervno-psihicheskih)[Passion and their embodiment in diseases (somatic and neuropsychic)], Moscow: Ecosprom.
Mahsa, S., Taha, S.-S., Samad, Sh, V., Peyman R. (2018). Decision support system for triage management: A hybrid approach using rule-based reasoning and fuzzy logic. International Journal of Medical Informatics. 114. 10.1016/j.ijmedinf.2018.03.008.
Maslow, A. (1999) Novye rubezhi chelovecheskoj prirody [New frontiers of human nature], Moscow: Smysl.
Moja, L., Kwag, K.H., Lytras, T., Bertizzolo, L., Brandt, L., Pecoraro, V., Rigon, G., Vaona, A., Ruggiero, F., Mangia, M., Iorio, A., Kunnamo, I., Bonovas, S. (2014) Effectiveness of computerized decision support systems linked to electronic health records: a systematic review and meta-analysis, American Journal of Public Health, Vol. 104, No. 12, р.35–44. DOI: 10.2105/AJPH.2014.302164.
Naydenov, M.I. (2010) Formirovanie refleksivnogo upravlenija v organizacijah [Formation of reflexive management in organizations], Abstract of the dissertation, Kiev: G.S. Kostyuk Institute of Psychology.
Podkolozin, V.A. (2019) Medicinskaja fizika [Medical Physics]. Textbook, Saratov: Saratov University Press.
Rubinstein, S. L. (2003) Bytie i soznanie. Chelovek i mir [Being and Consciousness. Man and the World], St. Petersburg: Peter.
Stepin, V.S. (2009) Klassika, neklassika, postneklassika: kriterii razlichenij. [Classics, non-classical, post-non-classical: criteria of distinction], Postneklassika: filosofija, nauka, kul’tura [Post-non-classical: philosophy, science, culture], St. Petersburg: Mir, p. 249–295.