Стенд: FinOps-оптимизатор LLM
демо-стенд, не прод
Расчёт стоимости LLM по прайсу и три сценария экономии на синтетике: 3 клиента, 162 млн токенов в месяц. Отчёт XLSX/MD/JSON.
Что сделано
Артефакт стенда — статический: это отчёт, тесты или датасет, а не поднятый прод-сервис. Ниже — что именно прогнано.
- Расчёт стоимости LLM по прайсу провайдеров и сценарии экономии.
- Отчёты XLSX/MD/JSON с разбивкой по клиентам и моделям.
- Комбинированный сценарий: кэш, сжатие, маршрутизация на lite-модели, async.
Как проверить
- 01
Сверить базовый счёт: 58 236 ₽/мес и комбинированный — 31 196,91 ₽/мес.
- 02
Проверить, что экономия −46,4% посчитана на синтетических данных, а не на выгрузке клиента.
- 03
Убедиться, что в отчёте указаны допущения по прайсу и объёму токенов.
Результат и ограничения
Числа — с evidence-id; где артефакт демонстрационный, это сказано прямо.
- Базовый счёт (демо)
- 58 236 ₽/мессинтетика
- Комбинированный сценарий
- 31 196,91 ₽/мес3 клиента · 162 млн токенов
- Экономия
- −46,4%демо-расчёт, не кейс
Ограничения
- Синтетические данные: нет usage.csv, цифра невоспроизводима из исходных данных.
- Это не кейс клиента и не обещание «сократим в 10 раз».
- Прайсы провайдеров меняются — на пилоте считаются заново.
evidence: PROJ-03 · демо-артефакт, не кейс клиента
Архитектура: правила считают, LLM объясняет
Стенд показывает границу, которую мы держим во всех продуктах: числа, слоты и нормативы — детерминированный слой, язык и разбор — модель.
Детерминированные правила
- Арифметика, итоги, дубли и нормативы — код, а не генерация.
- Расчёт и проверки воспроизводимы: один вход — один результат.
- Отчёт с суммой в рублях и объяснением каждого замечания.
LLM — вспомогательный слой
- Сопоставление нечётких наименований и объяснение на человеческом языке.
- Модель не считает деньги и не подменяет правила.
- Персональные данные маскируются до отправки в модель.
Стек стенда: Python · XLSX / MD / JSON · прайс LLM · сценарии экономии
Хочу такой же пилот
Разберём задачу на ваших данных и покажем, что можно проверить стендом, а что требует 14-дневного пилота.