AI-ассистент в поддержке — почему хост на RU-облаке важно

Диалоги с клиентами — это персональные данные, а 152-ФЗ требует хранить их в РФ. Как собрать AI-ассистента на российском облаке или своём сервере.

Самый частый запрос на AI в поддержке звучит так: чат на сайте или в мессенджере отвечает клиентам по базе знаний компании — условия доставки, тарифы, статус заказа, инструкции. Технически это RAG: модель получает вопрос, система находит подходящие куски из ваших документов, и модель формулирует ответ по ним. Подробно схема разобрана в статье RAG простыми словами.

Юридически здесь есть нюанс, который часто замечают слишком поздно. Клиент в чате пишет имя, телефон, номер заказа, адрес. Это персональные данные, и на них распространяется 152-ФЗ.

Что требует закон и при чём здесь хостинг

152-ФЗ требует, чтобы при сборе персональных данных граждан РФ их запись, хранение и обновление велись с использованием баз данных, которые находятся в России. Передача данных за рубеж — отдельная процедура со своими условиями и уведомлением регулятора. Требования и практика их применения меняются, поэтому перед запуском стоит сверить схему с юристом.

Для AI-ассистента это означает простую вещь: если каждое сообщение клиента целиком уходит в API зарубежной модели, вы передаёте персональные данные за границу. К тому же крупные западные провайдеры официально не работают с Россией, и строить на них сервис для российских клиентов рискованно ещё и с практической стороны.

Три рабочих варианта

  • YandexGPT в Yandex Cloud. Модель и инфраструктура в РФ, понятный договор, хорошо работает с русским языком. Самый быстрый старт для типовой поддержки.
  • GigaChat от Сбера. Тоже российское облако и API, по задачам поддержки сопоставим. Имеет смысл сравнить с YandexGPT на ваших вопросах, а не по чужим рейтингам.
  • Открытая модель на своём сервере. Llama, Qwen и подобные модели можно развернуть на GPU-сервере в российском дата-центре. Данные никуда не уходят, модель можно дообучить, но нужна команда, которая это поддерживает, а аренда GPU стоит заметных денег.

Важная оговорка: сама по себе российская модель не делает проект соответствующим закону. Соответствие — это процессы оператора данных: политика обработки, согласия, договор с облачным провайдером о поручении обработки, хранение логов в РФ, разграничение доступа. Модель — только одна деталь.

Как собрать архитектуру

Схема, которая закрывает большинство требований:

  1. Виджет на сайте или бот в Telegram и MAX отправляет сообщение не напрямую в модель, а на ваш бэкенд на сервере в РФ.
  2. Бэкенд хранит историю диалогов в своей базе — это и есть персональные данные, они остаются у вас.
  3. Перед отправкой в модель бэкенд по возможности маскирует телефоны, почты и номера документов. Модели для ответа «когда приедет заказ» не нужен номер телефона, ей нужен статус заказа из вашей системы.
  4. Поиск по базе знаний (векторная база) тоже живёт на вашем сервере. В базе знаний обычно нет персональных данных — это инструкции и регламенты.
  5. Ответ модели проходит базовую проверку и уходит клиенту, а сложные вопросы передаются оператору.

При таком устройстве модель можно менять, не переделывая всё остальное: сегодня YandexGPT, завтра GigaChat или своя модель.

Как выбрать модель

Не по рейтингам. Соберите 50–100 реальных вопросов клиентов из переписки и звонков, прогоните через два-три варианта и оцените ответы вместе с руководителем поддержки. Смотрите на точность фактов, на то, признаёт ли модель «не знаю», и на стоимость ответа при вашем объёме обращений. Тарифы облачных моделей меняются, считайте по актуальному прайсу провайдера.

Для большинства задач поддержки хватает облачной российской модели. Свой сервер с открытой моделью оправдан, когда данные особенно чувствительные (медицина, финансы), когда нужна дообученная модель под специфичную терминологию или когда объём запросов такой, что своя инфраструктура выходит дешевле облака.

Чек-лист перед запуском

  1. Обновлена политика обработки персональных данных, в ней упомянут чат-ассистент.
  2. Логи диалогов хранятся на сервере в РФ, доступ к ним ограничен.
  3. С облачным провайдером модели оформлен договор, учитывающий обработку данных.
  4. Персональные данные по возможности маскируются до отправки в модель.
  5. Есть кнопка «позвать человека» и понятный сценарий передачи диалога оператору.
  6. Определено, сколько хранятся диалоги и как удаляются по запросу клиента.

Юридическую часть сайта и приложения мы готовим в рамках услуги юридическая подготовка сайта, а самого ассистента собираем под ключ: AI-ассистент для поддержки.

Если планируете AI-ассистента и хотите сразу сделать его безопасным с точки зрения 152-ФЗ, напишите в Telegram или MAX.

AI-ассистент
Услуга по теме — обсудим ваш проект.

Есть задача по теме? Напишите — вернёмся с оценкой и сроками.

Написать в Telegram → Написать в MAX