Как сократить корпоративный бюджет на LLM на 46,4% и не попасть под оборотные штрафы 152-ФЗ

Корпоративный счёт за LLM растёт быстрее бюджета: провайдеров несколько, учёта по командам нет, а каждый запрос с ПДн — это обработка персональных данных и потенциальная трансграничная передача. Ниже — инженерный разбор шлюза: учёт токенов и рублей, маршрутизация, кэш, PII-скраббинг; что показывает демо-расчёт 46,4% и где его ограничения; какие требования 152-ФЗ и ст. 13.11 КоАП проверить по слоям до пилота.

Содержание

1. Два счёта: деньги и комплаенс
2. Откуда берутся 46,4%: арифметика демо
3. Архитектура шлюза: шесть слоёв
4. Кэш и маршрутизация без деградации качества
5. PII-скраббинг и 152-ФЗ по слоям
6. Что показывать финдиру и ИБ
7. Пилот на 14 дней и форматы покупки
8. Короткие ответы, источники, ограничения

1. Два счёта: деньги и комплаенс

Контекст: публичные облачные сервисы РФ в 2025 — 382,6 млрд ₽ (+25%), облачные сервисы для ИИ — 65,5 млрд ₽ (+62%) [MACRO-01]. Проблемы: несколько провайдеров, нет учёта по командам, зарубежные API недоступны, ПДн в промптах. Провайдеры совместимы с OpenAI-контуром: GigaChat — https://api.giga.chat/v1, OAuth 30 минут, модели 3 Ultra / 2 Max / 2 Pro / 2 Lite [LLM-04]; Yandex Cloud — gpt://<folder_id>/yandexgpt/latest [LLM-06]; Cloud.ru — Foundation Models, Managed RAG и клиент evolution-openai [LLM-09]. С 01.09.2026 новые клиенты GigaChat API платят через cloud.ru [LLM-02].

Для шлюза важны прайс и лимиты. Базовые цены GigaChat на 30.10.2026 [LLM-01, LLM-03]:

Лимиты влияют на архитектуру: квота по токенам, 1 поток физлицам и 10 юрлицам/ИП, ~3–4 символа на токен [LLM-05]; Yandex Cloud — 10 rps на эмбеддинги, 10 синхронных запросов, батч от 200 000 токенов [LLM-07]. YandexGPT Lite ≈0,20 и Pro 5.1 ≈0,80 ₽/1000 — оценка 3DNews (25.08.2026, medium); страница цен на 01.11.2026 недоступна, сверять по прайсу [LLM-08]. Cloud.ru публичной таблицы нет (GAP) [LLM-09].

2. Откуда берутся 46,4%: арифметика демо

Демо llm_audit.py (zero-code тест C, 31.10.2026) — синтетика: 3 клиента, 162 млн токенов/мес. Сценарии: маршрутизация 30% на Lite, кэш 25% входа, сжатие 15%, комбо — все три [PROJ-03].

Это демо-расчёт, не кейс клиента: usage.csv в артефактах нет, цифра не воспроизводится повторным прогоном [PROJ-03]. Формулировка: «демо на синтетике показало потенциал 46,4%», а не «сэкономили клиенту 46,4%». База — токены × цена модели по прайсу на дату; сценарии — гипотезы о структуре трафика. Если 90% запросов уже на Lite, маршрутизация не даст 23,3%; если промпты не кэшируются — кэш не даст 20,8%. В пилоте сначала измеряется фактическая структура трафика.

3. Архитектура шлюза: шесть слоёв

Шлюз ставится между приложением и провайдерами: для клиента — замена base_url без переписывания кода.

приложение / агент / бот → OpenAI-совместимый /v1
  [1] ingress: auth, виртуальные ключи, rate limit, идемпотентность
  [2] policy: бюджеты по командам, маршрутизация, лимиты, fallback
  [3] pii-scrubber: regex + NER, политика pass/mask/block
  [4] cache: Redis, ключ = hash(модель + параметры + нормализованный промпт)
  [5] provider adapters: GigaChat, Yandex Cloud, Cloud.ru, self-host (vLLM)
  [6] metering/audit: токены и ₽ на запрос, трейсы, append-only аудит, отчёт

Бюджет, лимит, выбор модели и блокировку нельзя отдавать языковой модели — это детерминированный слой; LLM отвечает за язык.

Готовое ядро: LiteLLM (62 391★, ядро MIT) — прокси, виртуальные ключи, учёт расходов, guardrails [OSS-01]; Langfuse (36 759★) — трейсы и evals [OSS-02]; Helicone (6 248★, Apache-2.0) — observability [OSS-03]; Bifrost (9 227★) — fallback и бюджеты [OSS-04]. РФ-контур (рубли, акты/ЭДО, коннекторы провайдеров, PII, on-prem) добавляем сами.

4. Кэш и маршрутизация без деградации качества

Кэш даёт экономию только на детерминированных ответах. Ключ — модель, параметры, нормализованный промпт, версия системного сообщения; temperature > 0 и персонализация не кэшируются; TTL зависит от контента; кэш изолирован по тенанту. «Семантический кэш» на старте не включаем: ложные попадания в юридических вопросах дороже экономии.

Маршрутизация — таблица правил: класс задачи → допустимые модели → порог качества. Извлечение полей — Lite; разбор договора — Pro; длинная генерация с риском галлюцинаций — Max с проверкой. Изменение маршрута проходит офлайн-eval; в рантайме контролируются эскалации и ответы «не знаю»; ниже порога правило откатывается.

Метрики шлюза: токены и рубли по команде/модели, кэш-хиты, маршрутизированные запросы, p95 latency, блокировки PII, эскалации. Учёт — PostgreSQL PostgreSQL docs, API — FastAPI FastAPI docs, трейсы — Langfuse-совместимые [OSS-02]; дата доступа 2026-11-03.

5. PII-скраббинг и 152-ФЗ по слоям

Требования 152-ФЗ раскладываются по слоям шлюза — комплаенс становится конфигурацией, а не обещанием юристов.

Правовые факты (доступ 2026-11-03): редакция 152-ФЗ — изменения от 24.06.2025 № 156-ФЗ и 26.07.2026 № 265-ФЗ pravo.gov.ru; 265-ФЗ меняет ст. 12 kremlin.ru; с 01.09.2025 согласие — отдельный документ «Адвокатская газета». Локализация: ч. 5 ст. 18 (ред. 23-ФЗ от 28.02.2025, с 01.07.2025) — запрет зарубежных БД при сборе ПД граждан РФ [PDN-01]; согласия — конкретные, спец. категории — письменные [PDN-03]; маскирование до модели — MVP-чеклист [PDN-06].

Ответственность — отдельный счёт, и он больше бюджета на токены. По юридическим обзорам (Garant, RKN-OK; дата доступа 2026-11-03):

Отдельного штрафа «за отсутствие cookie-баннера» нет; обработка без согласия наказывается по ч. 1 ст. 13.11. Реестр операторов ПДн на 2026-11-03 — 2 664 181 (pd.rkn.gov.ru).

6. Что показывать финдиру и ИБ

Отчёт шлюза отвечает на два вопроса: куда уходят деньги и не утекают ли ПДн. Поля: расход по командам и моделям в рублях; токены и запросы; кэш-хиты; маршрутизированные; PII-события; инциденты доступа; сценарии экономии с пометкой «расчёт»; дата прайса. Финдир видит бюджет, ИБ — политику и аудит, разработчик — base_url и лимиты.

Чего быть не должно: «гарантируем экономию 46,4%», «полная защита 152-ФЗ», «ноль утечек». Корректно: «демо-расчёт на синтетике», «потенциал при заданной структуре трафика», «KPI пилота — подтверждённая экономия ≥20%». Ответственность за ПДн остаётся у оператора: шлюз — инструмент контроля, не передача риска.

7. Пилот на 14 дней и форматы покупки

Пилот: 14 дней, 1–2 команды, usage.csv или скрин счёта (без ключей), замер структуры трафика, три сценария. KPI — подтверждённая экономия ≥20%; если меньше — меняем оффер, а не «дорисовываем». Артефакты: XLSX/MD/JSON, карта трафика, PII-находки, план миграции.

Цены — расчётный сценарий, не прайс; тикет сверх лимита — 500 ₽/15 мин. Алерты — Telegram и MAX; для MAX нужен platform-api2.max.ru и сертификат Минцифры (с 19.07.2026), только резидентам РФ (dev.max.ru, условия, доступ 2026-11-03).

8. Короткие ответы, источники, ограничения

Калькулятор бюджета и сценариев

Виджет считает на ваших цифрах (доли моделей, кэш, маршрутизация, сжатие); дефолты — пример; кэш и сжатие считаются от входных токенов (допущение — 60% трафика). Демо 58 236 → 31 196,91 ₽ — синтетика [PROJ-03].

Astro: FinOpsCalc.astro с props по полям; серверный рендер, is:inline-скрипт без зависимостей, aria-live="polite", тач ≥44 px.

<section class="finops-calc" aria-labelledby="finops-calc-title">
  <h3 id="finops-calc-title">Бюджет LLM: сценарии экономии</h3>
  <p><label>Токенов, млн <input type="number" value="162" data-tokens></label>
  <label>Lite/Pro/Max, % <input type="number" value="40" data-lite>
  <input type="number" value="45" data-pro><input type="number" value="15" data-max></label>
  <label>Кэш, % <input type="number" value="25" data-cache></label>
  <label>Маршрутизация, % <input type="number" value="30" data-route></label>
  <label>Сжатие, % <input type="number" value="15" data-compress></label></p>
  <p data-out aria-live="polite"></p>
</section>
<script>
  const c = document.querySelector('.finops-calc');
  if (c) {
    const e = Object.fromEntries(['tokens', 'lite', 'pro', 'max', 'cache', 'route', 'compress']
      .map((k) => [k, c.querySelector(`[data-${k}]`)]));
    const out = c.querySelector('[data-out]'), nf = new Intl.NumberFormat('ru-RU');
    const calc = () => {
      const t = Math.max(1, +e.tokens.value || 1) * 1000;
      const w = ['lite', 'pro', 'max'].map((k) => Math.max(0, +e[k].value || 0) / 100);
      const sum = w[0] + w[1] + w[2]; if (!sum) return;
      const s = w.map((x) => x / sum), pr = (a) => a[0] * .065 + a[1] * .5 + a[2] * .65;
      const base = t * pr(s), inp = t * .6, price = pr(s);
      const route = t * ((+e.route.value || 0) / 100) * (s[1] * .435 + s[2] * .585);
      const cache = inp * ((+e.cache.value || 0) / 100) * price;
      const comp = inp * ((+e.compress.value || 0) / 100) * price;
      const pct = (x) => (100 * x / base).toFixed(1);
      out.textContent = `База: ${nf.format(base)} ₽/мес. Маршрутизация: −${nf.format(route)} (${pct(route)}%). ` +
        `Кэш: −${nf.format(cache)} (${pct(cache)}%). Сжатие: −${nf.format(comp)} (${pct(comp)}%). ` +
        `Комбо: ${nf.format(Math.max(0, base - route - cache - comp))} ₽/мес (−${pct(route + cache + comp)}%).`;
    };
    Object.values(e).forEach((el) => el.addEventListener('input', calc)); calc();
  }
</script>

Ответы для AI-поиска

На сколько можно сократить бюджет на LLM? В демо на синтетике — 58 236 → 31 196,91 ₽/мес, то есть 46,4% при сочетании маршрутизации, кэша и сжатия. Оценка, не гарантия. [Демо-стенд](/raboty/demo/finops-llm).

Какие штрафы за утечки ПДн с 30.05.2025? По ч. 13–15 ст. 13.11 КоАП — 10–15 млн ₽ и 5–10 млн ₽, до оборотных; за спец. категории — 10–15 млн ₽. Garant.

Что маскирует PII-скраббер? 5 категорий: ФИО, телефоны, адреса, реквизиты, номера документов — до отправки в модель; политики pass/mask/block и аудит событий. [Продукт](/uslugi/resheniya/ai-shlyuz-finops).

Нужно ли отдельное согласие на ПДн? Да, с 01.09.2025 согласие оформляется отдельным документом, а не внутри пользовательского соглашения. «Адвокатская газета».

Где границы (GAP)

Нет usage.csv — демо 46,4% не воспроизводимо; нет счетов клиентов и таблицы цен Cloud.ru; цены YandexGPT не сверены на 01.11.2026; нет замера cache-hit. Закрывается пилотом.

Ссылки и CTA

Продукт — [AI-шлюз с FinOps](/uslugi/resheniya/ai-shlyuz-finops), демо — [FinOps-оптимизатор](/raboty/demo/finops-llm), кастом — [разработка без подписки](/uslugi/kastom). CTA: [Спросить Галиона](/#galion) — помощник задаст три вопроса о LLM-бюджете и передаст расчёт человеку.

Источники и даты. GigaChat — developers.sber.ru (LLM-01…LLM-05, 30.10.2026); Yandex Cloud — Foundation Models; Cloud.ru — Evolution AI Factory. Право: 152-ФЗ, 265-ФЗ, Garant: штрафы, RKN-OK, реестр операторов — доступ 2026-11-03. Технические: PostgreSQL (18.6; 19 RC 1 от 15.10.2026), FastAPI, Schema.org, Google: AI features, Google: обновления, Яндекс: Алиса AI, MAX API — доступ 2026-11-03. JSON-LD страницы — Article/BlogPosting + BreadcrumbList; AEO-ответы — видимый текст: FAQ rich result в Google снят 07.05.2026.