Корпоративные языковые модели: как выбрать архитектуру и контур развёртывания для внутренних документов
Как выбрать контур развёртывания корпоративной языковой модели для внутренних документов: внешний API, private cloud или on-premise, RAG против fine-tuning и чек-лист для ИБ.

Выбор контура развёртывания корпоративной языковой модели — это в первую очередь комплаенс-решение, а уже потом техническое. Прежде чем сравнивать модели и настраивать retrieval, нужно ответить на вопросы: какие данные попадут в модель, где они будут обрабатываться и храниться, кто и как сможет просматривать историю запросов и что останется в журналах для аудита. От этих ответов зависит, допустим ли внешний API, нужен ли private cloud или требуется on-premise.
Ниже — практическое руководство по выбору архитектуры и контура для работы с внутренними документами: сравнение трёх вариантов, развилка fine-tuning и RAG, требования к изоляции и журналированию, учебный пример одного сценария в трёх контурах и чек-лист вопросов для ИБ и юристов.
Три контура: внешний API, private cloud, on-premise
Контур определяет, где выполняются вычисления и где хранятся данные. У каждого варианта свои комплаенс-последствия, и «безопаснее» — не всегда значит «правильнее».
| Контур | Что даёт | Что требует проверки |
|---|---|---|
| Внешний API | Быстрый старт, не нужно своё железо, провайдер отвечает за обновления модели | Условия обработки данных, обучение на данных, регион обработки, хранение истории, субподрядчики |
| Private cloud | Изоляция в вашем облачном тенанте, интеграция с корпоративными правами доступа | Границы резидентности данных, кто имеет доступ к инфраструктуре, как настроены права и журналы |
| On-premise | Данные не покидают ваш периметр, полный контроль над инфраструктурой | Кто обновляет модель, как организованы журналирование и аудит, хватает ли ресурсов и экспертизы |
Полезно опираться на документированные практики провайдеров. Например, в материалах Microsoft о приватности Copilot указано, что запросы, ответы и данные, полученные через Microsoft Graph, не используются для обучения базовых моделей, а доступ к организационным данным ограничен правами пользователя. Там же описаны хранение истории взаимодействий, возможности администрирования через Content search и Purview, а также оговорки о резидентности данных, включая EU Data Boundary и исключение для моделей Anthropic как субподрядчика. Это пример того, какие формулировки стоит искать в договоре и документации своего поставщика, а не готовый ответ для любого контура.
Fine-tuning или RAG: что выбирать под внутренние документы
Это отдельная развилка, и её часто путают с выбором контура. Контур отвечает на вопрос «где», а fine-tuning и RAG — на вопрос «как модель получает знания».
- RAG подходит, когда знания меняются: регламенты, приказы, база знаний. Модель отвечает по извлечённым фрагментам, а права доступа можно проверять на этапе поиска. С точки зрения комплаенса важно, чтобы в контекст попадали только документы, разрешённые пользователю, и чтобы источники ответа фиксировались.
- Fine-tuning уместен, когда нужно закрепить стиль, формат или узкую предметную логику, а не оперативно обновляемые факты. Он требует подготовленного набора данных, и это порождает отдельный вопрос: можно ли использовать внутренние документы для дообучения и где будет храниться результат.
- Комбинация встречается чаще: RAG для актуальных документов, fine-tuning для формата ответа. Тогда комплаенс-обоснование должно покрывать оба элемента.
Практическое правило: если требование звучит как «ответ должен опираться на действующую редакцию документа», начинайте с RAG. Если требование — «ответ должен всегда следовать нашему шаблону», рассматривайте fine-tuning.
Изоляция данных, журналирование и аудит
Эти три требования чаще всего определяют выбор контура. Формулируйте их как проверяемые пункты, а не как общие пожелания.
Изоляция данных
- Какие данные уходят в модель: только текст запроса, фрагменты документов, метаданные, идентификаторы пользователей?
- Используются ли данные для обучения или дообучения моделей — и можно ли это отключить?
- Кто из сотрудников провайдера или подрядчиков может видеть содержимое запросов?
- В каких регионах обрабатываются и хранятся данные, есть ли исключения из заявленных границ?
Журналирование
- Что именно пишется в журнал: запрос, ответ, источники, время, пользователь?
- Кто имеет доступ к журналам и на каком основании?
- Можно ли настроить сроки хранения и удаление истории?
- Как журналы соотносятся с политикой retention вашей организации?
Аудит
- Можно ли выгрузить историю взаимодействий для внутренней или внешней проверки?
- Есть ли отчётность по доступам к документам и по изменениям прав?
- Как фиксируются изменения конфигурации модели и прав доступа?
В документации Microsoft по Copilot, например, описаны хранение истории взаимодействий, административный доступ через Content search и Purview, а также настройка политик хранения. Это иллюстрирует, какие механизмы стоит искать у своего поставщика, но не заменяет проверку вашего договора и конфигурации.
Учебный пример: один сценарий в трёх контурах
Ниже — вымышленный сценарий для иллюстрации логики выбора. Возьмём условную задачу: сотрудник спрашивает у ассистента, как оформить заявку на закупку по внутреннему регламенту. Документ — внутренний, но не содержит персональных данных. Посмотрим, как меняется решение.
Внешний API
Быстро запускается, но нужно проверить: не используются ли запросы для обучения, в каком регионе они обрабатываются, как хранится история и можно ли её отключить. Если регламент не чувствителен, а провайдер даёт нужные гарантии в договоре, вариант допустим для пилота с ограниченным кругом пользователей.
Private cloud
Даёт интеграцию с корпоративными правами доступа: сотрудник видит ответ только по документам, к которым у него есть доступ. Здесь ключевые вопросы — границы резидентности, настройка журналов и то, кто администрирует тенант. Часто это компромисс между скоростью запуска и контролем.
On-premise
Максимальный контроль над периметром, но появляются обязанности, которых не было: обновление модели, мониторинг, журналирование и аудит внутри организации. Если эти процессы не выстроены, «безопасный» контур может оказаться менее управляемым, чем облачный.
Вывод из примера: один и тот же сценарий приводит к разным решениям в зависимости от чувствительности документа, требований к резидентности и готовности организации поддерживать инфраструктуру.
Типичные ошибки при выборе архитектуры
- Выбор on-premise «ради безопасности» без журналирования и плана обновлений. Контроль над периметром не заменяет аудит и сопровождение модели.
- Смешение выбора контура и выбора подхода к знаниям. Fine-tuning не решает задачу актуальности регламентов, а RAG не гарантирует соблюдение формата.
- Опора на маркетинговые формулировки вместо договора. Заявления о приватности нужно сверять с условиями обработки данных и настройками.
- Отсутствие владельца решения. Без ответственного за доступы, журналы и обновления комплаенс-обоснование быстро устаревает.
Чек-лист согласования с ИБ и юристами
- Какие категории документов попадут в модель и есть ли среди них чувствительные?
- Используются ли данные для обучения моделей и можно ли это отключить договором или настройкой?
- В каких регионах обрабатываются и хранятся данные, какие есть исключения?
- Как реализованы права доступа к документам и кто их проверяет?
- Что пишется в журналы, кто имеет к ним доступ и какие сроки хранения заданы?
- Можно ли выгрузить историю взаимодействий для аудита?
- Кто отвечает за обновление модели и изменение конфигурации?
- Как будет организовано удаление данных по запросу или по истечении срока?
Ответы стоит фиксировать письменно — это и есть комплаенс-обоснование архитектурного решения. Полезные смежные материалы: ИИ-агенты и стандарты и Мониторинг и обслуживание моделей ИИ после внедрения.
Итог: как зафиксировать обоснование решения
Соберите короткий документ: задача, категории данных, выбранный контур, подход к знаниям (RAG, fine-tuning или оба), требования к изоляции, журналированию и аудиту, ответственные и дата пересмотра. Такой документ помогает и при согласовании с ИБ и юристами, и при последующем аудите. Если по какому-то пункту нет подтверждённых данных от поставщика, это стоит отметить как открытый вопрос, а не закрывать общими формулировками.
Материалы по теме: Data, Privacy, and Security for Microsoft Copilot | Microsoft Learn.


