Платформа внутренних AI-инструментов для сотрудников в закрытом контуре

Безопасная корпоративная платформа в закрытом контуре – AI-инструменты и агенты для разных подразделений и бизнес-юнитов без vendor-зависимости и выноса данных за периметр компании

01 Постановка

Контекст и задача

Сотрудники университета используют разные AI-инструменты от разных вендоров – данные покидают периметр компании, контроль распределенный, для каждой команды своя система. Задача – построить единую внутреннюю платформу с общим интерфейсом, где для каждого процесса свой агент или инструмент, ускоряющий и оптимизирующий работу, но данные остаются внутри.

02 Решение

Что мы построили

Open-source AI-стек, развернутый на инфраструктуре заказчика:

→ 01

Open WebUI + vLLM

нативный чат-формат, к которому пользователи уже привыкли, но в закрытом контуре

→ 02

Keycloak SSO

единый вход для всех сотрудников, изоляция данных по командам

→ 03

AI-агенты под процессы подразделений

новый процесс становится новым агентом в той же платформе, без новой системы

→ 04

Интеграции с КИС

Confluence, корпоративный портал, Unisender, Keycloak

→ 05

MLOps интеграция

Использование MLOps-платформы для жизненного цикла собственных моделей

→ 06

Резервные проприетарные модели

GigaChat / YandexGPT API – отечественные решения в качестве fallback-а

03 Польза

Эффекты для заказчика

01

Данные сотрудников и КИС не покидают периметр заказчика – суверенность данных и контроль над всем стеком.
02

Снижение зависимости от внешних AI-вендоров и связанных рисков (доступность, цены, политики использования).
03

Каждое подразделение получает свой набор AI-инструментов в едином интерфейсе – ниже барьер для адаптации и переиспользования другими.
04

Масштабируемость: новый процесс становится новым агентом в той же платформе без необходимости разворачивать новую систему и обучать пользователей новому интерфейсу.

04 Метрики

Ключевые компоненты и цифры

70+

сотрудников используют платформу

open-source компонента стека: Open WebUI · LiteLLM · vLLM

интеграции с корпоративными системами (КИС)

100%

данных остается в закрытом контуре заказчика

05Обсудим задачу