20 октября 2026 года OpenAI представила вариант кэширования промптов на 12 часов. Текущая документация оценивает запись такого кэша в 2,5 стоимости обычного ввода: это полная ставка записи, а не дополнительная надбавка. Долгое хранение может помочь при повторной работе через несколько часов, но не гарантирует экономию. Проверьте поддержку выбранных модели и метода API.
Для GPT-5.6 и новее документация разделяет запись и чтение. Двенадцать часов — минимальное время хранения, а не обещание удаления ровно по его истечении.
Кэширование промптов может удешевить повторно используемый ввод, но само повторение запроса экономию не гарантирует. Важны модель, совпадающий префикс, срок хранения и фактически учтённое потребление.
Считайте чтение и запись отдельно
Стабильные инструкции и справочные материалы размещайте перед меняющейся задачей. Затем проверьте usage.input_tokens_details.cached_tokens и, если оно возвращается, cache_write_tokens. Запись и чтение кэша тарифицируются по-разному; у современных моделей запись может стоить дороже обычного ввода. Пользуйтесь актуальной ценой выбранной модели, а не правилом для старой.
Например, сравните десять проверок документов с одной общей справкой. Сложите обычный ввод, запись, чтение и вывод для всей группы. Быстрый второй ответ ещё не доказывает снижение расходов.
Проверьте полезный результат
Убедитесь, что новый документ действительно вошёл в запрос, а справка не устарела. Кэш не делает вывод бесплатным и не увеличивает частотные лимиты API. Базовый и кэшированный варианты сравнивайте в одной валюте и по одной тарифной ступени.