Развитие технологий машинного обучения и обработки естественного языка открыло новые возможности для анализа медицинских текстов, автоматического извлечения данных и поддержки принятия решений [1]. Включение текстовых записей в алгоритмы анализа позволяет выявлять новые клинические закономерности, осуществлять прогнозы и оценивать эффективность стратегий лечения. Это расширяет возможности систем поддержки принятия врачебных решений, способствуя появлению персонализированных подходов к ведению пациентов и повышению качества медицинской помощи [2].

При разработке подобных решений необходимо учитывать ряд ограничений. Важными требованиями являются высокая скорость обработки запросов, возможность локального развертывания решений в медицинских организациях, а также соответствие требованиям информационной безопасности. Само применение такого рода технологий сопряжено с рядом технических вызовов, включая сложность терминологии, неоднородность и различия в форматах документации. Значительная часть медицинских данных представлена в неструктурированном виде, например в виде текстовых протоколов осмотров, выписок, заключений, что усложняет их обработку и интерпретацию. Все эти факторы требуют комплексного подхода к разработке решений, объединяющего методы машинного обучения, лингвистического анализа и медицинской экспертизы.

Современные исследования охватывают широкий спектр подходов по классификации медицинских текстов, различаясь по источникам данных, методам представления/обработки текстов (TF-IDF, Word2Vec, ELMo, fastText) и по алгоритмам классификации (логистическая регрессия, случайный лес, сверточные и рекуррентные нейронные сети) [3][4]. Разброс метрик качества подтверждает это разнообразие: F1-score в опубликованных работах варьируется от 0,67 для традиционных моделей машинного обучения до 0,98 для нейросетевых архитектур, чувствительность достигает 0,99, а AUROC колеблется от 0,79 до 0,86 [5–9].

Таким образом, современные исследования показывают, что для успешной классификации медицинских текстов критически важен выбор подхода к их обработке, алгоритма классификации и метода векторизации. Однако остаются нерешенные вопросы, связанные с интерпретируемостью моделей, адаптацией алгоритмов к различным языкам и источникам данных, а также необходимостью обеспечения их устойчивости к ошибкам и вариативности медицинской терминологии. В данном исследовании мы стремимся внести вклад в решение этих проблем, предлагая подход, адаптированный к специфике реальных клинических русскоязычных данных.

Цель исследования: разработка оптимального алгоритма прогнозирования заболеваний с помощью мультиметочной классификации на основании медицинских текстов из отобранных случаев лечения пациентов.

Источник данных. Проведено многоцентровое когортное ретроспективное исследование с использованием базы данных платформы Webiomed (https://webiomed.ru/), содержащей обезличенные электронные медицинские карты 50 миллионов пациентов из Российской Федерации. Информация о каждом пациенте в базе данных представлена в виде множества записей с учетом временных изменений и включает клинические данные о состоянии здоровья, лабораторные и инструментальные исследования, зарегистрированные заболевания.

Участники. Каждая запись в исследованном наборе представляла собой первичный осмотр пациента, относящийся к отдельному случаю оказания медицинской помощи. Для включения осмотра в набор данных использовались следующие критерии.

Полученные данные были разделены на обучающую (72 %) и тестовую выборки (20 %), 8 % были использованы для контроля переобучения алгоритмов.

Исходы. В исследовании решалась задача прогнозирования заболеваний с помощью мультиметочной классификации на основании медицинских текстов из отобранных случаев лечения пациентов. Поскольку один пациент мог иметь несколько диагностированных состояний в рамках одного случая оказания медицинской помощи, предполагалось, что ему может быть присвоено несколько меток одновременно.

Процесс присвоения меток основывался на зарегистрированных диагнозах в виде кодов МКБ-10, включая основной диагноз, сопутствующие заболевания и осложнения. Для уменьшения размерности пространства прогнозируемых меток и повышения устойчивости модели коды были сгруппированы в более обобщенные диагностические категории. Группировка проводилась на основе медицинских знаний, что позволило объединять схожие состояния в более крупные классы. Такой подход не только упрощал сложность задачи, но и повышал клиническую интерпретируемость результатов, поскольку предсказания модели соответствовали логически связанным группам заболеваний.

В результате отбора были сформированы 156 диагностических меток, каждая из которых относилась к одной из выделенных групп заболеваний: сердечно-сосудистые, эндокринные, онкологические, респираторные, желудочно-кишечные, инфекционные, аутоиммунные и неврологические (приложение 1 https://doi.org/10.47093/2713-069X.2025.6.4.55-64-annex). При этом из анализа и разметки были исключены случаи, в которых диагностировались травмы, наркологические и алкогольные заболевания, состояния, связанные с беременностью.

Предикторы. Для прогнозирования исходов в данном исследовании использовались ограниченный набор факторов, включающий только возраст пациента на момент визита и его пол, а также тексты из жалоб, объективного осмотра и локального статуса (если он был зафиксирован). Возраст пациента учитывался как важный фактор, поскольку он может влиять на вероятность возникновения различных заболеваний и состояние здоровья в целом. Пол также был принят во внимание, так как многие заболевания имеют половые различия проявлений и частоты.

Для анализа строковых данных применялись методы обработки естественного языка. Из текстов были удалены пунктуация и служебная информация, после чего, с использованием библиотеки pymorphy2 [10], был проведен процесс лемматизации, что помогло уменьшить вариативность слов в тексте и улучшить качество анализа. Для дальнейшего разделения текста на отдельные элементы был использован метод токенизации из библиотеки razdel1.

Потом каждый полученный токен был переведен в числовой вектор длиной 50 элементов с помощью предобученной на основе технологии FastText2 модели. Данная модель была заранее обучена на корпусе обезличенных медицинских записей на русском языке, что позволило создать численное представление слов, характерных для медицинской тематики. Итоговое представление текста представляло собой матрицу размерностью 50*количество слов в тексте, где каждая строка соответствовала вектору для отдельного токена, что позволяло учесть контекстуальные зависимости и семантику в полном объеме.

После этапа получения матрицы векторов для преобразования всей информации о тексте в один вектор фиксированной длины были использованы и оценены несколько подходов (рис. 1):

В этом методе текст делится на сегменты, каждый из которых обрабатывается с использованием операции «Max pooling», которая находит максимальное значение по каждому признаку в сегменте. Итоговое представление текста получается путем усреднения результатов всех сегментов. В результате получается вектор длиной 50 элементов.

В данном методе, помимо стандартного динамического пулинга, используется метод вычисления энергетических векторов. Векторы взвешиваются в зависимости от их «энергии», которая определяется как квадрат нормы каждого вектора. Итоговое представление текста формируется путем объединения двух результатов: энергетического и динамического пулинга. После объединения итоговый вектор имеет длину 100 элементов.

Каждый токен в тексте получает коэффициент внимания, который определяет, насколько важен данный токен для общего смысла текста. Итоговое представление текста формируется путем взвешивания векторов слов в зависимости от их значимости для задачи. В результате данного подхода итоговый вектор также имеет длину 50 элементов.

После получения вектора для текста к нему присоединялись данные о возрасте и поле пациента, что позволяло улучшить представление о пациенте с учетом демографических факторов. В зависимости от выбранного подхода итоговый вектор имел размерность 52 либо 102 элемента.

Моделирование. Статистический анализ и построение моделей машинного обучения выполняли на языке программирования Python, версия 3.10. В качестве архитектур моделей использовали нейросетевые и ансамблевые методы. Используемая нейронная сеть включала последовательность полносвязных слоев с нелинейными активациями LeakyReLU, слоями Batch-Normalization и механизмом регуляризации Dropout (p = 0,15). Обучение модели проводилось с минимизацией функции потерь на основе кросс-энтропии, используя Adam-оптимизатор. Для сравнения также применялась модель на основе ансамбля деревьев решений – RandomForestClassifier, объединенная в MultiOutputClassifier из библиотеки scikit-learn6. Поиск наилучших гиперпараметров (глубины деревьев, числа деревьев в ансамбле, минимального количества объектов для разбиения узла и минимального количества объектов в листе) выполнялся с помощью RandomizedSearchCV [11], используя KFold кросс-валидацию с тремя фолдами.

Для исследования эффективности моделей использовали набор классических метрик для мультиметочной классификации [12, 13]. Оценка производилась по следующим показателям: средняя площадь под характеристической кривой (macro AUROC), средняя площадь под кривой «точность–полнота» (macro AUPRC), точность (macro accuracy), средняя чувствительность (macro sensitivity), средняя специфичность (macro specificity) и средняя F1-мера (macro F1-score).

В качестве порога классификации результата работы моделей использовали максимумы индекса Юдена, рассчитанные для каждой из 156 меток. Однако фиксированные пороги классификации не позволяли оценить степень уверенности модели в каждом предсказании, что особенно важно в задаче мультиметочной классификации. Для решения этой проблемы была применена дополнительная интерпретация предсказанных вероятностей с использованием Bayesian Confidence Score [14]. Этот метод позволяет скорректировать предсказанные вероятности с учетом индивидуальных порогов, рассчитанных по индексу Юдена, и привести их к единой шкале уверенности в диапазоне от 0 до 1. Такой подход делает возможным корректное сравнение уверенности предсказаний между различными метками и позволяет более точно идентифицировать случаи, в которых модель демонстрирует высокую определенность.

Для анализа был собран набор данных, включающий 1 000 000 первичных осмотров 387 590 пациентов за период с 2002 по 2025 г. Распределение возраста пациентов и пола в зависимости от размеченных на основании кодов МКБ-10 меток отражено в приложении 1. Количественные характеристики наборов данных после разделения на обучающий, тестовый и валидационный представлены в таблице 1.

Результаты всех проведенных экспериментов с использованием различных архитектур и подходов к векторному представлению текстов представлены в таблице 2.

Первые попытки с использованием ансамблевого метода на основе MultiOutputClassifier и Dynamic Pooling показали средний уровень предсказательной способности на тестовом наборе данных. Данная модель имела значительный размер – 1,5 ГБ, что ограничивало ее практическое применение, особенно в условиях недостатка вычислительных мощностей в практическом здравоохранении. В отличие от этого базовая нейросетевая модель, использующая Dynamic Pooling, показала значительно более высокую дискриминативную способность, с AUROC 0,881 и точностью 0,797, при этом ее размер составил всего 5 МБ. Этот фактор делает ее более подходящей для применения в реальных условиях, где важна не только точность, но и эффективность развертывания, что стало основанием для проведения всех дальнейших экспериментов именно на ее основе. После коррекции дисбаланса классов при обучении (методами SMOTE [15], ADASYN [16]) наблюдалось небольшое снижение метрик качества, что тесно связано с изменением структуры выборки. Применение методов агрегации нескольких векторных представлений текста (Combined Pooling) дало более впечатляющие результаты. При использовании этого подхода на тестовой выборке AUROC вырос до 0,908, точность – до 0,837.

Лучший результат был получен с помощью нейросетевой архитектуры, оснащенной механизмом внимания (Attention Pooling). Ее архитектура представлена на рисунке 2.

Метрики качества модели, полученные по отдельным меткам, представлены на рисунке 3 для двадцати пяти наиболее часто встречавшихся заболеваний. Значительное преимущество данной архитектуры достигается за счет возможности исследования значимости исходных токенов для принятия моделью окончательных решений. Для этого используется механизм внимания, который учитывает внутреннюю фокусировку модели на ключевых элементах текста и отражает чувствительность предсказания модели к изменению конкретных входных признаков. В результате удается получить взвешенную оценку важности токенов, где учитываются прямой вклад каждого слова в предсказание с точки зрения обученной архитектуры. Такой подход позволяет выявлять наиболее информативные слова и фразы, определяющие классификацию, что способствует улучшению доверия к решениям в критически значимых приложениях.

Анализ медицинских текстов для прогнозирования заболеваний остается актуальной задачей, поскольку автоматизированные методы позволяют значительно улучшить процесс диагностики и связанного с этим принятия клинических решений. Одним из ключевых аспектов подобных работ является источник данных. Например, J.H.B. Masud и соавт. [5] использовали амбулаторные записи университетской больницы Тайбэя, J. Huang и M. Zeng работали с данными MIMIC-III [6, 7], включающими выписные эпикризы пациентов реанимационных отделений. В исследовании A. Blanco и соавт. [8] были задействованы записи на испанском языке, что накладывало дополнительные особенности на обработку текста, а К. Zhang и соавт. [9] сосредоточились на акушерских картах китайских пациентов. Источники данных важны для определения применимости разработки и сценария ее использования.

Сама обработка текста является этапом, на котором исследования разнились как по применяемым методам, так и по их глубине. В большинстве работ базовая предобработка включала удаление пунктуации и стоп-слов, однако ключевые различия связаны с выбором алгоритмов представления текста. Например, J.H.B. Masud и соавт. [5] использовали Word2Vec для векторизации, а команда J. Huang – TF-IDF и Word2Vec [6]. A. Blanco с соавт. расширили этот подход, применив контекстные векторные представления ELMo [8]. K. Zhang и соавт. сравнили несколько методов векторизации и показали, что использование контекстных эмбеддингов, таких как ELMo и fastText, позволяет лучше учитывать семантические особенности медицинского текста, что особенно важно при многометочной классификации [9].

В плане алгоритмов классификации исследования также демонстрируют разнообразие подходов. В ранних работах использовались традиционные модели, такие как случайный лес, наивный байесовский классификатор и логистическая регрессия [6, 9], но современные исследования делают акцент на глубоком обучении. Например, J.H.B. Masud и соавт. применили сверточные нейронные сети [5], а M. Zeng и соавт. использовали глубокое трансферное обучение, что позволило достичь лучших результатов [7].

Результаты нашего исследования согласуются с выводами предыдущих работ, посвященных анализу медицинских текстов, показавших, что использование нейросетевых моделей позволяет достичь высокой точности классификации медицинских записей. В нашей работе также применялись методы обработки естественного языка и машинного обучения для классификации медицинских текстов, однако с учетом специфики русскоязычной медицинской документации. В отличие от исследований, основанных на англоязычных базах данных, наш подход учитывает особенности русскоязычных записей, что делает его более адаптированным к локальной клинической практике. Применение обобщенных диагностических категорий позволило уменьшить сложность классификации без потери информативности, что также подтверждается результатами аналогичных работ, где использовалась группировка заболеваний для повышения устойчивости моделей [8].

Применение предложенной модели классификации медицинских текстов может способствовать своевременному выявлению заболеваний, повышению точности медицинских прогнозов и автоматизации обработки медицинской документации. Автоматизированная система может использоваться для поддержки медицинских работников при анализе текстовых записей и вынесении предварительных решений о вероятных диагнозах (рис. 4). Кроме того, диагностика заболеваний на основе текстовых данных может улучшить маршрутизацию пациентов и помочь в мониторинге групп риска. Это особенно актуально в условиях ограниченных ресурсов здравоохранения, когда автоматизированные инструменты могут снизить нагрузку на медицинский персонал и повысить эффективность принятия решений.

Несмотря на достигнутые результаты, исследование имеет ряд ограничений. Во-первых, модель обучалась на информации из одной базы данных (Webiomed), куда собирались и структурировались данные из различных медицинских учреждений различных регионов. Методы сбора данных имеют свои ограничения – правильность сбора и точность извлечения признаков не являются идеальными. Таким образом, эти особенности могут ограничивать обобщаемость модели на другие источники медицинской информации. Во-вторых, в качестве предик- торов использовался ограниченный набор входных параметров (возраст, пол, текстовые записи), что не учитывает лабораторные и инструментальные исследования, потенциально влияющие на точность прогнозов. В-третьих, для анализа использовались тексты амбулаторных осмотров, которые имеют различия с документами из круглосуточных стационаров. В-четвертых, целевое событие определялось только кодом МКБ-10 и дополнительно не валидировалось. Также, несмотря на предпринятые меры по обработке текстов, возможны ошибки, связанные с неоднозначностью медицинских терминов и различиями в стилях ведения медицинской документации.

В дальнейшем целесообразно расширить набор используемых данных, включив структурированную информацию о пациентах. Также перспективным направлением является тестирование модели на независимых выборках, что позволит оценить ее устойчивость и адаптируемость к разным клиническим условиям. Дополнительным направлением может стать разработка специализированных языковых моделей для русскоязычных медицинских текстов, аналогичных BERT, адаптированных под специфику медицинской терминологии.

Анализ медицинских текстов с применением методов обработки естественного языка и алгоритмов машинного обучения представляет собой перспективное направление для повышения качества клинических решений. Результаты настоящего исследования подтверждают, что использование нейросетевых моделей, адаптированных под русскоязычную медицинскую документацию, обеспечивает высокую точность классификации и может служить эффективным инструментом поддержки принятия решений в здравоохранении. Предложенный подход, основанный на обобщенных диагностических категориях и учете локальных языковых особенностей, обладает высоким потенциалом для интеграции в существующие клинические процессы.

1 Razdel – библиотека для токенизации русскоязычных текстов. URL: https://github.com/natasha/razdel (дата обращения: 17.11.2025).2 Bojanowski P., Grave E., Joulin A., Mikolov T. Enriching Word Vectors with Subword Information. 2016. URL: http://arxiv.org/abs/1607.04606 (дата обращения: 01.11.2025).3 Nawrot P., Chorowski J., Łańcucki A., Ponti E.M. Efficient Transformers with Dynamic Token Pooling. Труды Ежегодной конференции Ассоциации вычислительной лингвистики (ACL 2023). URL: https://doi.org/10.18653/v1/2023.acl-long.353 (дата обращения: 01.11.2025).4 Xing J., Luo D., Xue C., Xing R. Comparative Analysis of Pooling Mechanisms in LLMs: A Sentiment Analysis Perspective. 2024. URL: http://arxiv.org/abs/2411.14654 (дата обращения: 01.11.2025).5 Sun X., Lu W. Understanding Attention for Text Classification. Труды Ежегодной конференции Ассоциации вычислительной лингвистики (ACL 2020). URL: https://doi.org/10.18653/v1/2020.acl-main.312 (дата обращения: 01.11.2025).6 Buitinck L., Louppe G., Blondel M., et al. API design for machine learning software: experiences from the scikit-learn project. 2013. URL: http://arxiv.org/abs/1309.0238 (дата обращения: 01.11.2025).