Рассмотрены проблемы оценки достоверности информации, извлекаемой из научно-популярных текстов. Как известно, научно-популярный жанр характеризуется свободным стилем изложения материала, нестрогими отсылками к первоисточникам и экспертным мнениям, наличием спорных утверждений и выводов. Уточнение этих компонент авторских рассуждений может существенно повысить степень доверия к ним критически настроенных читателей или, наоборот, позволит опровергнуть тезисы, приводимые авторами.

В работе предложен новый подход к решению задачи оценки достоверности информации, содержащейся в научно-популярных публикациях. Подход предполагает применение теории аргументации Д. Уолтона для выявления потенциально недостоверных утверждений и логических ошибок в рассуждениях. Поиск в научных базах данных и вычисление метрик доверия к научным публикациям на основе их метаданных и научных рейтингов будет обеспечивать верификацию спорных утверждений и оценку их достоверности. Применение больших языковых моделей позволит сгенерировать объяснения принимаемых решений.

Для разработки и апробации этого подхода предложены две методики сбора данных. В первой используются корпуса русскоязычных научно‑популярных текстов и комментарии к ним с аргументативной разметкой. Такая разметка включает, в том числе, полемические схемы аргументации, аннотированные вручную, которые подвергают сомнению тезис или аргумент автора. Базой второй методики служит генерация с помощью LLM синтетических тезисов и научно-популярных статей на основе реальных научных публикаций.

Представлен подход к проектированию обучающих приложений в концепции Microlearning. Обсуждена зависимость достоверности оценки знаний от визуального представления вопросов проверочного тестирования. Приведены архитектура системы и принцип работы разработанного авторами инструмента проектирования адаптивных тестов и сценариев тестирования для microlearning-приложений.

Предложен новый подход к построению территориально-распределенных информационных систем на основе мультиагентной архитектуры, позволяющий отказаться от жесткой унификации протоколов и каталогизации ресурсов в пользу динамической интеграции источников данных. Ключевым элементом системы является агент верификации, обеспечивающий проверку достоверности результатов научных исследований через формальный контроль и использование нескольких больших языковых моделей. Разработанный прототип, реализованный на платформе GeologyScience.ru, устраняет недостатки существующего ИИ-ассистента, связанные с галлюцинациями и недостоверностью информации, и создает основу для накопления проверенных знаний.

Рассмотрен процесс, при котором в социуме распространяется недостоверный слух, которому противодействует вещание средств массовой информации. Недостоверность слуха в данном случае понимается так, что информация СМИ содержит опровержение и тем самым инокулирует индивидов, то есть делает их невосприимчивыми к слуху. В то же время индивиды, успевшие принять слух, перестают доверять средствам массовой информации и тем самым становятся недоступными для переубеждения. Для данного процесса предложена математическая модель в двух вариантах. Вариант с непрерывным временем позволяет выявить некоторые математические свойства модели. Вариант с дискретным временем более удобен для анализа реальных процессов, так как позволяет оценить параметры модели. Для оценки этих параметров использованы данные о рейтингах основных социально-политических программ российских телеканалов. Приведено несколько сценарных расчетов модели с этими параметрами. Основной вывод состоит в том, что если информация, распространяемая средствами массовой информации, не является вирусной, то есть не пересказывается зрителями своим соседям по социуму, то СМИ оказываются не в состоянии противостоять слухам.

В работе дана оценка границ применимости больших языковых моделей в редакционных задачах издательского процесса и установлен оптимальный формат взаимодействия между человеком и алгоритмическими системами.

Методологической основой исследования является сравнительный эксперимент, в рамках которого несколько популярных нейросетевых моделей (Alice AI, GigaChat, DeepSeek, Gemini и ChatGPT) выполнен статистический анализ контрольного текста на русском языке. Определялись количественные характеристики текста: числа слов, символов с пробелами и без пробелов, а также количества абзацев. Полученные результаты сопоставлялись с эталонными значениями, установленными с помощью текстового редактора MS Word, использующего детерминированный алгоритм подсчета символов.

Результаты эксперимента показали, что нейросетевые модели демонстрируют различную степень точности при выполнении задач количественного анализа текста. Основной причиной подобных ошибок являются архитектура больших языковых моделей и использование алгоритмов токенизации, которые разрывают прямую связь между символами и внутренним представлением текста в модели.

На основе полученных результатов предложена концепция гибридной архитектуры издательских информационных систем, в которой генеративные языковые модели используются для выполнения творческих и аналитических задач, а операции, требующие строгой формальной точности, передаются специализированным детерминированным микросервисам. Предложенный подход позволяет повысить надежность и предсказуемость работы интеллектуальных издательских систем.