Как сравнивать цены API с учётом кэширования

Перед началом

• Возьмите текущие тарифы выбранной модели за миллион токенов: поддержка и цена кэша зависят от модели.
• Используйте счётчики из Logs без пересечения категорий входа, чтения, записи и выхода. Проверьте, включает ли общий input клиента кэшированные токены.

Шаги

1. Рассчитайте списание

   Стоимость = (обычный вход × тариф входа + токены чтения кэша × тариф чтения + токены записи кэша × тариф записи + выход × тариф выхода) / 1 000 000. Не учитывайте кэшированные токены дважды.

2. Сравните одинаковую нагрузку

   Для сценария 40/40/20 вариант без кэша = 0,8 × тариф входа + 0,2 × тариф выхода. В обоих случаях миллион суммарных токенов и одинаковая доля выхода; сценарий с кэшем не включает первоначальную запись.

3. Подставьте своё потребление

   В репрезентативной выборке учтите первоначальную запись, промахи и последующие чтения. Эффективная цена миллиона суммарных токенов = общая стоимость / все токены × 1 000 000. Сравнивайте провайдеров на одинаковой модели, структуре токенов и категориях оплаты.

Проверка результата

В разделе cache-pricing документации опубликована таблица текущих сценарных цен по моделям. Сопоставьте расчёт с Logs. Низкая цена чтения экономит деньги только на токенах, действительно прочитанных из кэша.

Если не работает

• Цена кэшированного входа не является ценой всех токенов: отдельно оплачиваются выход и обычный вход.
• Если исключить запись кэша, экономия короткой сессии окажется завышенной: запись бывает дороже обычного входа.
• Предполагаемая доля попаданий в кэш не является гарантированной скидкой или измеренным средним.
• Называть провайдера самым дешёвым можно только в рамках актуального сравнения одинаковой нагрузки и возможностей.

Совместимость и оплата

Сценарий исключает запись кэша, хостинг, подписки клиентов и другие нетокенные расходы. Попадания в кэш не гарантированы. Списание определяется текущими тарифами ApiClo и фактическим расходом; формула не обещает самого дешёвого провайдера для любой задачи.