Аннотация: Описан способ реализации распределенных вычислений c использованием GPU и современных инструментов администрирования и управления расчетами для ферм рендеринга. Проведен сравнительный анализ традиционного метода вычислений на CPU и современных подходов. Рассмотрены различные конфигурации вычислительного кластера. Определен наиболее производительный способ выполнения визуализации.

Аннотация:

Использование моделей Vision Transformer (ViT) в реальной медицинской практике, например в больницах или диагностических центрах, часто затруднено, потому что на рабочих компьютерах врачей обычно нет мощных графических процессоров (GPU), а имеющиеся вычислительные ресурсы ограничены. В настоящей работе рассмотрен полный путь практической реализации модели на этапе применения (pipeline инференса), направленный на снижение вычислительных затрат без существенной потери качества.

Предложенный подход объединяет несколько методов оптимизации.
Во-первых, использована дистилляция знаний (knowledge distillation) – метод обучения, при котором компактная модель копирует поведение более крупной и точной модели-учителя. Во-вторых, применено экспоненциальное скользящее среднее (Exponential Moving Average, EMA) весов, позволяющее стабилизировать обучение и повысить обобщающую способность модели.
В-третьих, исследована посттренировочная квантизация до целочисленного формата INT8 (post-training quantization, PTQ), направленная на уменьшение размера модели и ускорение инференса. Дополнительно рассмотрен упрощенный вариант квантизации совместно с обучением (QAT-lite), при котором эффекты квантизации частично учитываются во время дообучения модели.

Эксперименты проведены на датасете ISIC, содержащем дерматоскопические изображения кожных новообразований. Оценка качества моделей включает стандартные метрики классификации: точность (accuracy), макроусредненную F1-меру и площадь под ROC-кривой (ROC-AUC). Проанализированы характеристики производительности на центральном процессоре (CPU), включая задержку инференса, пропускную способность, потребление памяти и итоговый размер модели.

Полученные результаты показали, что посттренировочная INT8-квантизация позволяет сохранить качество, близкое к модели в формате FP32, при существенном снижении требований к памяти и вычислительным ресурсам. В то же время использование QAT-lite не демонстрирует устойчивых и воспроизводимых улучшений по сравнению с PTQ.

Аннотация:

Обобщен ранее разработанный конвейер обогащения новостных статей структурированными метаданными и представлена его обновленная конфигурация, в которой GPT-3 (Generative Pre-trained Transformer 3) – языковая модель от компании OpenAI – заменен на открытую модель Qwen-Coder. Новая версия, как и ранее, использует набор из 400 страниц, отобранных через Google News, и остается совместимой с Google Rich Results Test. Эксперименты показали, что качество, сопоставимое с GPT-3, достижимо при локальном запуске на типовом офисном настольном компьютере (CPU, без GPU). Установлено, что замена, указанная выше, снижает зависимость от платных облачных сервисов и обеспечивает более высокую производительность по сравнению с GPT-версией; дана оценка сходства результатов обогащения для Qwen-Coder относительно базовой реализации на GPT-3. Предложенные инструменты снижают порог внедрения семантической разметки и расширяют ее практическое применение, в том числе в цифровой журналистике.

Аннотация:

Сталь в наши дни является одним из важнейших производственных материалов, который используется повсеместно, от медицины до промышленных отраслей. Своевременное обнаружение и распознавание дефектов на стальных листах после проката – одна из ключевых проблем этого производства с учетом его сложности и необходимости затрат большого количества времени на проведение вручную проверок каждого листа и каждой заготовки. Одними из целей настоящей работы были автоматизация и упрощение данного процесса. Для решения соответствующих задач была использована, в первую очередь, модель сверточной нейронной сети под названием UNet, которая уже зарекомендовала себя как отличный инструмент решения таких задач — при высокой результативности она требует меньшего количества учебных данных. В основе этой модели лежат последовательная, производимая в несколько шагов свертка изображения до приемлемого размера (иными словами, сжатие или кодирование), а затем развертка, восстановление изображения к исходному размеру и соотношению сторон, после чего на выходе будет получена маска изображения с классами элементов, которые необходимо было найти. В дополнение к этой нейронной сети в качестве кодирующего (сворачивающего) слоя была использована другая модель — ResNet34, предварительно обученная на датасете (наборе данных) ImageNet1000. В этой модели также был модифицирован выходной слой — вместо 34 слоев с классами на выходе возвращалось лишь 4, что сократило время обработки и позволило использовать наиболее удачные определения в результатах. Используя данный подход и проведя все необходимые проверки, при подведении итогов, мы получили результат в 94,8% точности определения дефектов на стальных листах.

Аннотация: С 2015 года в информационной среде появились микрокомпьютеры (микроПК), представляющие собой компактный системный блок с минимальным функционалом без периферии. В статье представлены результаты анализа использования 6 различных микрокомпьютеров в различных сферах деятельности. Цель исследования – определить лимитирующие факторы, влияющие на эффективность целевого применения микрокомпьютеров. Установлено, что для научно-образовательных презентаций, офисной и трейдерской деятельности в настоящее время целесообразно использовать безвентиляторные микрокомпьютеры с перфорированным корпусом и внутренней WiFi-антенной, не менее 4 Гб оперативной и 64 Гб постоянной памяти, разъёмом карты памяти microSD (TF, не менее 128 Гб, файловая система NTFS), графическим ускорителем GPU Intel HD Graphics, интерфейсами USB3.0 и HDMI. На основе сравнительных экспериментов созданы методические рекомендации по оптимизации конфигурирования аппаратно-программной среды микрокомпьютеров в стационарных и мобильных условиях. Проанализированы проблемы крупных обновлений Windows 10, а также совместимости программного обеспечения Microsoft Store и сторонних производителей. Рекомендовано специализировать отдельные микрокомпьютеры для работы с 32-битными приложениями; бухгалтерскими и криптографическими программами; а также проведения презентаций с их видеозаписью. Предложены варианты оптимального конфигурирования меню «Пуск» рабочего стола Windows 10. Сделан вывод, что специализация аппаратно-программной конфигурации современных микрокомпьютеров позволяет увеличить эффективность работы с применением одиночных устройств и их сопряжённых систем в соответствии со стандартами BYOD (Bring Your Own Device).