Когда мы в МГТУ им. Н.Э. Баумана задумали платформу «Королев ИИ», мы понимали: это будет не просто очередной чат-бот или набор интеллектуальных сервисов. Это будет «интеллектуальное ядро» Университета 4.0 — «нервная система», которая должна пронизывать образование, науку, управление и работу с талантами. Но любое ядро требует самого тщательного выбора. Какой «мозг» мы поставим в центр этой системы? Ведь от этого зависит всё: сможет ли платформа понимать сложные инженерные тексты на русском, генерировать гипотезы, помогать студентам и учёным, и при этом оставаться безопасной и контролируемой.

Почему не облачные решения?

Перед нами стоял жёсткий выбор: облачные проприетарные решения (GPT, YandexGPT, GigaChat) или открытые модели, которые можно развернуть на собственных серверах. Первый путь — быстрый, но полный компромиссов: стоимость, невозможность глубокой кастомизации и, главное,риски для информационной безопасности. Для университета, который работает с критически важными данными, персональной информацией и участвует в проектах по импортозамещению, такой вариант неприемлем.

Поэтому мы пошли по второму пути — и устроили настоящее «сражение» больших языковых моделей на нашем серверном кластере.

Полигон для испытаний

Для тестирования мы использовали сервер из восьми ускорителей NVIDIA H200 с 141 ГБ памяти каждый. Это позволило нам развернуть и прогнать через бенчмарки целый ряд открытых моделей, которые позиционируются как лучшие для работы с русским языком.

Мы оценивали их по пяти ключевым параметрам:

1. Качество работы с русским языком — способность понимать и генерировать связные, грамматически и терминологически точные тексты, особенно в научно-технической области.
2. Архитектура и размер — количество параметров, влияющее на «ум» модели и требования к ресурсам.
3. Требования к инфраструктуре — минимальные и рекомендуемые конфигурации оборудования, поддержка оптимизированных форматов (GGUF, GPTQ).
4. Лицензия — условия использования и возможности модификации.
5. Поддержка сообществом — наличие на Hugging Face, готовых адаптаций (LoRA), инструментов для тонкой настройки.

Многоуровневая стратегия вместо одного «царя»

Главный вывод, который мы сделали: не существует одной-единственной идеальной модели. Наша стратегия — многоуровневая архитектура, где каждая модель решает свой класс задач:

Уровень лёгких моделей (7B–14B)

Для массовых диалоговых интерфейсов, оперативной поддержки студентов и сотрудников мы выбираем Saiga и Mistral‑7B. Их можно развернуть на периферийных серверах, они дают мгновенный ответ и отлично справляются с повседневными запросами.

Уровень тяжёлых моделей (70B–100B+)

Для сложной аналитики, научного поиска и стратегических рекомендаций мы задействуем Vikhr‑70B или YaLM‑100B. Эти модели работают в высокопроизводительном кластере и включаются по запросу для глубокого семантического анализа больших объёмов данных.

Специализированные модели

Для генерации кода, анализа патентов или юридических документов мы подключаем узкоспециализированные решения вроде Qwen‑Coder или DeepSeek‑Coder с последующей адаптацией на инженерные задачи.

Как мы применяем LLM в пяти стратегических целях

Анализ Программы развития МГТУ до 2030 года и опрос сотрудников позволили выделить пять ключевых направлений применения LLM:

1. Персонализация инженерного образования

LLM обеспечивают поддержку студентов 24/7, анализируют индивидуальные профили компетенций, формируют адаптивные образовательные траектории и автоматизируют проверку проектных работ.

2. Ускорение научных исследований

Модели анализируют массивы научных публикаций и патентов, выявляют тренды, поддерживают междисциплинарные проекты и генерируют прототипы технической документации.

3. Развитие кадрового потенциала

LLM помогают в интеллектуальном подборе персонала, анализе научных достижений, автоматизации документооборота и поддержке управленческих решений.

4. Цифровая трансформация и безопасность

Модели интегрируются в платформы университета для создания отечественных сервисов, многофункциональных интерфейсов и повышения кибербезопасности.

5. Международное сотрудничество

Мультиязычные LLM автоматически переводят и адаптируют образовательный контент, обеспечивают лингвистическую поддержку иностранных студентов и расширяют присутствие университета в глобальном пространстве.

Сервисы, которые мы уже создаём

На основе выбранных моделей мы разрабатываем три ключевых сервиса платформы «Королев ИИ».

“Транскрибатор”

Сервис преобразования голосовых лекций, семинаров и научных докладов в текст с последующей семантической разметкой. Это позволяет автоматически создавать конспекты, тегировать ключевые понятия и интегрировать аудиоматериалы в образовательные траектории. Мы тестируем несколько архитектур, включая отечественные модели распознавания речи, чтобы обеспечить высокую точность даже для сложной технической терминологии.

“Антиплагиат программного кода”

Уникальный сервис, который анализирует не только текстовое сходство, но и семантическую структуру кода. С помощью LLM мы выявляем заимствования алгоритмов, паттернов проектирования и даже стилистические особенности, которые не видны традиционным системам. Это особенно важно для инженерных специальностей, где код — основной продукт деятельности.

“ИИ-ассистент”

Голосовой и текстовый помощник, который понимает запросы на естественном языке, обрабатывает их с помощью LLM и даёт ответ естественным голосом. Первый рабочий прототип уже создан: он интегрирован с корпоративными базами знаний, умеет отвечать на вопросы по учебным материалам, помогать в решении задач и объяснять сложные инженерные концепции.

Что дальше? Доменное до-обучение

Мы уже выбрали базовые модели. Но следующий, критически важный этап — доменное до-обучение. Мы планируем до-обучать выбранные модели на уникальных корпусах МГТУ: наши учебники, лекции, научные публикации, технические отчёты и архивы кафедр. Только так мы сможем создать по-настоящему интеллектуального ассистента, который понимает специфику именно Бауманки.

MoE-архитектуры: следующий уровень эффективности

Параллельно с выбором основных LLM мы исследуем модели с архитектурой Mixture of Experts (MoE). В таких моделях при каждом проходе активируется лишь небольшая часть параметров — «экспертов». Это позволяет масштабировать общее число параметров (до десятков миллиардов) без пропорционального увеличения вычислительных затрат.

Наше тестирование пяти MoE-моделей (GigaChat3.1-10B, Kimi-VL-A3B, Gemma-4-26B-A4B, GLM-4.7-Flash, Qwen3.6-35B-A3B) по 30 эталонным тестам показало, что Qwen3.6-35B-A3B обеспечивает наилучший компромисс между качеством генерации и вычислительной производительностью. Она уступает плотным аналогам-лидерам по точности не более чем на 5 %, но превосходят их по пропускной способности в 3–5 раз — что критично для интерактивных диалоговых систем.

Мы видим большой потенциал MoE-моделей для создания гибридных экспертных систем, где LLM сочетается с классическими методами прогнозирования (например, оценкой остаточного ресурса оборудования и теорией свидетельств Демпстера–Шафера). Это особенно актуально для промышленных приложений.

Впереди — масштабирование

Мы уже создали первый рабочий прототип ИИ-ассистента «Королев ИИ». Он понимает голос, преобразует его в текст, обрабатывает LLM и даёт ответ естественным голосом. Это только начало.

Впереди — масштабирование, интеграция с платформами и системами университета, создание полноценного «озера научных знаний» и «фабрики моделей». Мы превращаем «Королев ИИ» в ту самую «нервную систему» Университета 4.0, о которой мечтаем.