Когда мы создавали платформу «Королев ИИ» в МГТУ им. Н.Э. Баумана, мы с самого начала понимали: искусственный интеллект в университете — это не просто удобный инструмент. Это среда, в которой ежедневно циркулируют научные данные, персональная информация студентов и сотрудников, результаты незапатентованных разработок. Доверие к такой системе не может быть «опцией» или «модулем безопасности», который добавляют в конце. Оно должно быть заложено в архитектуру с первого дня.

Именно поэтому вопросам информационной безопасности, этики и доверенного ИИ мы уделяем особое внимание — не как формальному требованию, а как инженерному императиву.

Доктрина, которая задаёт правила

В сентябре 2026 года в МГТУ была утверждена Доктрина в сфере развития искусственного интеллекта. Этот документ — не декларация о намерениях, а рабочая рамка, которая определяет, как технологии ИИ используются в университете. В её основе — три принципа: безопасность, ответственность и технологический суверенитет.

Доктрина прямо говорит: ИИ в университете должен быть прозрачным и объяснимым. Ответственность за любой результат сохраняется за человеком. Применение ИИ требует новых механизмов защиты информации и безопасной цифровой среды. А в условиях глобальной конкуренции необходимо развивать собственные ИИ-решения для отечественной инженерии.

Эти наши принципы — не абстракция. Они определяют каждое техническое решение, которое мы принимаем.

Архитектура, в которой безопасность встроена, а не приделана

«Королев ИИ» — это платформа доверенного искусственного интеллекта. Это означает, что безопасность и контроль — не надстройка, а несущая конструкция.

Первое и главное: все данные и запросы пользователей хранятся исключительно в инфраструктуре университета и недоступны извне. Платформа развёрнута на собственных серверах МГТУ. Мы не передаём данные внешним провайдерам. Мы не используем облачные проприетарные модели, которые требуют отправки информации на сторонние серверы. Каждый запрос, каждый файл, каждый результат обработки остаётся внутри защищённого контура университета.

Это принципиальное решение. Оно означает, что научные разработки, персональные данные, внутренняя документация — всё это не покидает стен МГТУ. Никакие внешние сервисы не имеют доступа к этим данным.

Второе: собственная «фабрика моделей». Мы протестировали более 30 больших языковых моделей и выбрали те, которые можно развернуть локально. Наша модель KorolevAI_LLM_K5 работает в защищённом контуре университета. Это даёт нам полный контроль над тем, как обрабатываются данные и какие модели используются.

Третье: ролевая модель доступа и шифрование. Каждый пользователь видит только те данные, которые ему положены. Информация шифруется при хранении и передаче.

Четвёртое: защита силами профильного центра. Безопасность платформы обеспечивается Центром информационной безопасности университета (SOC) — подразделением, которое занимается защитой критической информационной инфраструктуры.

Этика — не внешний ограничитель, а внутренний принцип

Доверенный ИИ — это не только безопасность, но и этика. В архитектуру платформы мы встроили механизмы, которые обеспечивают:

Объяснимость. Результаты работы ИИ-сервисов сопровождаются обоснованием, ссылками на источники данных и логикой формирования рекомендаций. Пользователь имеет право понимать, почему система предлагает то или иное решение. Это особенно важно, когда речь идёт об оценке знаний, кадровых решениях или доступе к ресурсам.

Верифицируемость. Критически важные расчёты и рекомендации сопоставляются с проверенными данными и эталонными реализациями. Мы не полагаемся слепо на выводы модели.

Воспроизводимость. Документируются все этапы обработки данных, конфигурации моделей и параметры вычислительной инфраструктуры.

Человеческий контроль. Ни одно алгоритмическое решение, касающееся судьбы студента или сотрудника, не принимается без участия человека. Финальное решение всегда остаётся за человеком. Более того, наша платформа сама указывает на это: в ходе дискуссии на конференции «Будущее машиностроения России» виртуальный ассистент “Королев ИИ”, отвечая на вопрос о применении ИИ в инженерной работе, сам подчеркнул необходимость человеческой проверки итогового результата.

Академическая честность. Мы осознаём риски недобросовестного использования ИИ. Поэтому разрабатываем методы, позволяющие отличать работу, выполненную с помощью ИИ как инструмента, от работы, где ИИ полностью подменяет студента. В перспективе, возможно, — интеграция ИИ в учебный процесс в качестве «со-обучающегося», где взаимодействие с моделью является частью задания.

Технологический суверенитет — не лозунг

В условиях санкционных ограничений критически важно использовать модели, развёрнутые на отечественных программно-аппаратных платформах. «Королев ИИ» создаётся именно так.

Все программные модули платформы зарегистрированы в Роспатенте. Права на неё принадлежат МГТУ им. Н.Э. Баумана. Это наша собственная разработка — и по инфраструктуре, и по моделям, и по идеологии.

Это не изоляция. Мы открыты к изучению лучших мировых практик, мы сочетаем собственные и внешние модели. Но ключевые решения, ключевая инфраструктура, ключевые данные — у нас. Это и есть суверенитет: способность выбирать и контролировать.

Что это значит на практике

Сегодня платформа работает в тестовом режиме (УГТ6). ИИ-ассистент помогает студентам разбирать сложные темы, преподавателям — готовить материалы, сотрудникам — находить нужную информацию в нормативных документах. Транскрибатор преобразует лекции и совещания в структурированный текст.

И каждый из этих сервисов работает в защищённом контуре. Данные не уходят никуда. Запросы не передаются внешним провайдерам. Вся вычислительная мощность — внутри университета.

Для нас это принципиально. Потому что доверие к ИИ начинается с доверия к тому, где хранятся данные и кто контролирует их обработку.

💬 Вместо послесловия

«Королев ИИ» — это не просто технологический проект. Это среда, в которой искусственный интеллект работает на человека, а не наоборот. Среда, где безопасность и этика — не слова в презентации, а свойства архитектуры.

Мы строим платформу, которой можно доверять. И это доверие мы проектируем — так же тщательно, как и сами алгоритмы.

***

Проект «Королев ИИ» реализуется командой талантливых ученых, специалистов и инженеров МГТУ им. Н.Э. Баумана под руководством директора по стратегии Елены Литвиновой, директора НИИ «Энергетического Машиностроения» Максима Французова и руководителя и разработчика проекта Александра Чесалова.

Будем рады вашим вопросам и предложениям: chesalov@bmstu.ru

Сайт “Королев ИИ”: https://korolev-ai.bmstu.ru/

Вопросы и обратная связь по платформе: info.korolev-ai@bmstu.ru