ИИ и информация

Новые уровни OpenAI API: отделите скорость запросов от расходов

Build, Launch и Grow заменили пять платных уровней использования. Сверьте организацию, лимиты модели и ограничения расходов отдельно.

Небольшой инструмент обработки документов перестал принимать запросы, хотя на аккаунте есть средства. Прежде чем пополнять баланс, выясните, какой предел достигнут. Всплеск запросов и месячный потолок расходов требуют разных действий.

Что изменилось 6 октября

OpenAI заменила пять платных уровней использования API на три: Build, Launch и Grow. Они относятся к организациям API, а не к названиям подписок ChatGPT. Посмотрите уровень организации, от которой действительно работает инструмент. Это разбор изменения от 6 октября, проверенный 14 октября, а не новое объявление сегодня.

Проверьте три разных показателя

  • Лимиты скорости ограничивают запросы или токены за период для конкретной модели.
  • Месячные лимиты определяют разрешённый объём использования организации.
  • Ваши настройки расходов могут добавлять отдельный потолок или уведомление.

В панели API откройте ограничения организации и проверьте выбранную модель. Уведомление о расходах предупреждает; жёсткий предел может останавливать затронутые запросы. Само уведомление не блокирует дальнейшие расходы.

Начните с небольшого проверяемого запуска

Для выдуманного набора из двенадцати документов сначала обработайте один и запишите результат. Если ошибка указывает на временный предел скорости, уменьшите число одновременных запросов и соблюдайте указанную задержку повтора. При ограничении расходов проверьте эту настройку вместо непрерывной повторной отправки.

Сохраняйте ID готовых документов, чтобы повтор не создавал дубликаты. Продолжите только незавершённые элементы и откройте один сохранённый результат. Увеличение разрешённой скорости не доказывает уменьшение счёта или повышение качества ответов.

Источники и подробности

  1. OpenAI — API changelog
  2. OpenAI — API rate limits and usage tiers

Источники подтверждают технические объяснения. Примеры и предлагаемые проверки подготовлены для этой статьи.