Команде нужно 100 000 пригодных ответов за месяц. Платить за использование API или арендовать физическую машину? Дайте обоим вариантам одинаковые грузинские вопросы, критерии приёмки и срок ответа. Сравнивайте расходы на 1 000 ответов, прошедших проверку.
Заполните свою смету
| Исходные данные | Ваше значение |
|---|---|
| Принятые ответы / все платные попытки | ___ / ___ |
| Входные / выходные токены на попытку | ___ / ___ |
| Цена миллиона входных / выходных токенов в одной валюте | ___ / ___ |
| Аренда / дополнительный backup / лицензии за месяц | ___ / ___ / ___ |
| Часы администратора × стоимость часа | ___ × ___ |
| Пиковые запросы в минуту / допустимая задержка | ___ / ___ секунд |
Токен - единица учёта текста. Для грузинского языка берите реальные показатели входа и выхода. При разной длине попыток используйте месячные суммы. Учтите кэшированный ввод, платные инструменты и повторы по своим тарифам. Пример структуры тарифа API.
Условный расчёт за месяц
Все цифры вымышлены, указаны в GEL и включают налог. Многомесячного аванса нет. API оплачивается ежемесячно по факту, аренда - на месяц вперёд. Одинаковый труд проверки качества исключён с обеих сторон. Это не предложение SERVER1.
API. На 100 000 принятых ответов приходится 120 000 платных вызовов, включая 20 000 повторных. При 2 000 токенов на входе и 500 на выходе это 240 и 60 миллионов токенов. Условная ставка за миллион при ежемесячной оплате по факту без аванса, с налогом: 2 GEL за ввод и 12 GEL за вывод. Ввод: 240 × 2 = 480 GEL. Вывод: 60 × 12 = 720 GEL. Итого 1 200 GEL или 12 GEL за 1 000 принятых ответов.
Сервер. Предоплата за один месяц аренды - 720 GEL с налогом. Дополнительный backup на месяц - 60 GEL, дополнительные лицензии - 0. Шесть часов администрирования по 30 GEL дают 180 GEL. Электричество и согласованная сеть в примере включены в аренду. Итого 960 GEL или 9,60 GEL за 1 000.
Точка равенства
При прежних длинах и повторах принятый ответ API обходится в 0,012 GEL. В пределах испытанной мощности сервер стоит 960 GEL в месяц. 960 ÷ 0,012 = 80 000 ответов в месяц. В этой точке оба стоят 960 GEL. При 40 000 ответов API стоит 480 GEL, сервер по-прежнему 960.
Дневной пик может потребовать вторую машину, пока ночью первая простаивает. Тогда фиксированную часть пересчитывают. Запишите пиковые запросы в минуту, долю ответов в срок и число отказов редактора. Низкий общий расход не помогает при растущей очереди.
Выделенный CPU-сервер подходит для подготовки данных, индекса или модели, показавшей нужную скорость на CPU. Когда время уходит на вычисления модели, запросите тот же тест на GPU. Карту, цену и поставку подтвердите отдельно. Руководство по VRAM поможет подготовить тест. Пришлите месячный объём принятых ответов, токены, пиковую минуту и требуемую задержку для подбора конфигурации.



