Разработка и внедрение моделей

Корпоративные языковые модели: как выбрать архитектуру и контур развёртывания для внутренних документов

Как выбрать контур развёртывания корпоративной языковой модели для внутренних документов: внешний API, private cloud или on-premise, RAG против fine-tuning и чек-лист для ИБ.

Редакция DeepMe
· Обновлено · 6 мин чтения
Три бумажные карточки соединены лентами с керамическими кубиками: один вне контура, второй в кольце, третий в замкнутой рамке.

Выбор контура развёртывания корпоративной языковой модели — это в первую очередь комплаенс-решение, а уже потом техническое. Прежде чем сравнивать модели и настраивать retrieval, нужно ответить на вопросы: какие данные попадут в модель, где они будут обрабатываться и храниться, кто и как сможет просматривать историю запросов и что останется в журналах для аудита. От этих ответов зависит, допустим ли внешний API, нужен ли private cloud или требуется on-premise.

Ниже — практическое руководство по выбору архитектуры и контура для работы с внутренними документами: сравнение трёх вариантов, развилка fine-tuning и RAG, требования к изоляции и журналированию, учебный пример одного сценария в трёх контурах и чек-лист вопросов для ИБ и юристов.

Три контура: внешний API, private cloud, on-premise

Контур определяет, где выполняются вычисления и где хранятся данные. У каждого варианта свои комплаенс-последствия, и «безопаснее» — не всегда значит «правильнее».

КонтурЧто даётЧто требует проверки
Внешний APIБыстрый старт, не нужно своё железо, провайдер отвечает за обновления моделиУсловия обработки данных, обучение на данных, регион обработки, хранение истории, субподрядчики
Private cloudИзоляция в вашем облачном тенанте, интеграция с корпоративными правами доступаГраницы резидентности данных, кто имеет доступ к инфраструктуре, как настроены права и журналы
On-premiseДанные не покидают ваш периметр, полный контроль над инфраструктуройКто обновляет модель, как организованы журналирование и аудит, хватает ли ресурсов и экспертизы

Полезно опираться на документированные практики провайдеров. Например, в материалах Microsoft о приватности Copilot указано, что запросы, ответы и данные, полученные через Microsoft Graph, не используются для обучения базовых моделей, а доступ к организационным данным ограничен правами пользователя. Там же описаны хранение истории взаимодействий, возможности администрирования через Content search и Purview, а также оговорки о резидентности данных, включая EU Data Boundary и исключение для моделей Anthropic как субподрядчика. Это пример того, какие формулировки стоит искать в договоре и документации своего поставщика, а не готовый ответ для любого контура.

Fine-tuning или RAG: что выбирать под внутренние документы

Это отдельная развилка, и её часто путают с выбором контура. Контур отвечает на вопрос «где», а fine-tuning и RAG — на вопрос «как модель получает знания».

  • RAG подходит, когда знания меняются: регламенты, приказы, база знаний. Модель отвечает по извлечённым фрагментам, а права доступа можно проверять на этапе поиска. С точки зрения комплаенса важно, чтобы в контекст попадали только документы, разрешённые пользователю, и чтобы источники ответа фиксировались.
  • Fine-tuning уместен, когда нужно закрепить стиль, формат или узкую предметную логику, а не оперативно обновляемые факты. Он требует подготовленного набора данных, и это порождает отдельный вопрос: можно ли использовать внутренние документы для дообучения и где будет храниться результат.
  • Комбинация встречается чаще: RAG для актуальных документов, fine-tuning для формата ответа. Тогда комплаенс-обоснование должно покрывать оба элемента.

Практическое правило: если требование звучит как «ответ должен опираться на действующую редакцию документа», начинайте с RAG. Если требование — «ответ должен всегда следовать нашему шаблону», рассматривайте fine-tuning.

Изоляция данных, журналирование и аудит

Эти три требования чаще всего определяют выбор контура. Формулируйте их как проверяемые пункты, а не как общие пожелания.

Изоляция данных

  • Какие данные уходят в модель: только текст запроса, фрагменты документов, метаданные, идентификаторы пользователей?
  • Используются ли данные для обучения или дообучения моделей — и можно ли это отключить?
  • Кто из сотрудников провайдера или подрядчиков может видеть содержимое запросов?
  • В каких регионах обрабатываются и хранятся данные, есть ли исключения из заявленных границ?

Журналирование

  • Что именно пишется в журнал: запрос, ответ, источники, время, пользователь?
  • Кто имеет доступ к журналам и на каком основании?
  • Можно ли настроить сроки хранения и удаление истории?
  • Как журналы соотносятся с политикой retention вашей организации?

Аудит

  • Можно ли выгрузить историю взаимодействий для внутренней или внешней проверки?
  • Есть ли отчётность по доступам к документам и по изменениям прав?
  • Как фиксируются изменения конфигурации модели и прав доступа?

В документации Microsoft по Copilot, например, описаны хранение истории взаимодействий, административный доступ через Content search и Purview, а также настройка политик хранения. Это иллюстрирует, какие механизмы стоит искать у своего поставщика, но не заменяет проверку вашего договора и конфигурации.

Учебный пример: один сценарий в трёх контурах

Ниже — вымышленный сценарий для иллюстрации логики выбора. Возьмём условную задачу: сотрудник спрашивает у ассистента, как оформить заявку на закупку по внутреннему регламенту. Документ — внутренний, но не содержит персональных данных. Посмотрим, как меняется решение.

Внешний API

Быстро запускается, но нужно проверить: не используются ли запросы для обучения, в каком регионе они обрабатываются, как хранится история и можно ли её отключить. Если регламент не чувствителен, а провайдер даёт нужные гарантии в договоре, вариант допустим для пилота с ограниченным кругом пользователей.

Private cloud

Даёт интеграцию с корпоративными правами доступа: сотрудник видит ответ только по документам, к которым у него есть доступ. Здесь ключевые вопросы — границы резидентности, настройка журналов и то, кто администрирует тенант. Часто это компромисс между скоростью запуска и контролем.

On-premise

Максимальный контроль над периметром, но появляются обязанности, которых не было: обновление модели, мониторинг, журналирование и аудит внутри организации. Если эти процессы не выстроены, «безопасный» контур может оказаться менее управляемым, чем облачный.

Вывод из примера: один и тот же сценарий приводит к разным решениям в зависимости от чувствительности документа, требований к резидентности и готовности организации поддерживать инфраструктуру.

Типичные ошибки при выборе архитектуры

  • Выбор on-premise «ради безопасности» без журналирования и плана обновлений. Контроль над периметром не заменяет аудит и сопровождение модели.
  • Смешение выбора контура и выбора подхода к знаниям. Fine-tuning не решает задачу актуальности регламентов, а RAG не гарантирует соблюдение формата.
  • Опора на маркетинговые формулировки вместо договора. Заявления о приватности нужно сверять с условиями обработки данных и настройками.
  • Отсутствие владельца решения. Без ответственного за доступы, журналы и обновления комплаенс-обоснование быстро устаревает.

Чек-лист согласования с ИБ и юристами

  1. Какие категории документов попадут в модель и есть ли среди них чувствительные?
  2. Используются ли данные для обучения моделей и можно ли это отключить договором или настройкой?
  3. В каких регионах обрабатываются и хранятся данные, какие есть исключения?
  4. Как реализованы права доступа к документам и кто их проверяет?
  5. Что пишется в журналы, кто имеет к ним доступ и какие сроки хранения заданы?
  6. Можно ли выгрузить историю взаимодействий для аудита?
  7. Кто отвечает за обновление модели и изменение конфигурации?
  8. Как будет организовано удаление данных по запросу или по истечении срока?

Ответы стоит фиксировать письменно — это и есть комплаенс-обоснование архитектурного решения. Полезные смежные материалы: ИИ-агенты и стандарты и Мониторинг и обслуживание моделей ИИ после внедрения.

Итог: как зафиксировать обоснование решения

Соберите короткий документ: задача, категории данных, выбранный контур, подход к знаниям (RAG, fine-tuning или оба), требования к изоляции, журналированию и аудиту, ответственные и дата пересмотра. Такой документ помогает и при согласовании с ИБ и юристами, и при последующем аудите. Если по какому-то пункту нет подтверждённых данных от поставщика, это стоит отметить как открытый вопрос, а не закрывать общими формулировками.

Материалы по теме: Data, Privacy, and Security for Microsoft Copilot | Microsoft Learn.