Управление пакетными задачами

Отправляйте асинхронные пакетные запросы и проверяйте статус выполнения пакетов.

Отправляйте асинхронные пакетные запросы по поддерживаемым конечным точкам моделей с помощью API пакетов, совместимого с OpenAI.

POST/openai/v1/batches

Тело запроса

ПолеТипОбязательноОписание
input_file_idstringДаИдентификатор загруженного файла с назначением batch.
endpointstringДаЦелевая конечная точка (/v1/chat/completions, /v1/completions, /v1/responses или /v1/embeddings).
completion_windowstringДаОкно выполнения задачи, в настоящее время зафиксировано на 24h.
metadataobjectНетНеобязательные пары ключ-значение для отслеживания и аудита.

Входные файлы должны быть в формате JSONL в кодировке UTF-8, содержать не более 50 000 элементов и иметь размер не более 200 МиБ. Каждая строка должна представлять собой валидный JSON-объект с уникальным непустым custom_id, методом POST, url, совпадающим с endpoint пакета, и объектом body (для строгих нативных предоплаченных пакетов поле model в body обязательно). Для нативных предоплаченных пакетов шлюз проверяет контрольную сумму файла и политики исполнения элементов перед допуском; резервирование средств по всем элементам фиксируется атомарно до отправки поставщику. При недостаточности средств возвращается HTTP 402 без частичной обработки. Несовместимые конфигурации поставщиков нельзя разделять в рамках одного пакета, а переключение между поставщиками на уровне отдельных элементов не производится.

Жизненный цикл пакета

GET/openai/v1/batches/{batch_id}
POST/openai/v1/batches/{batch_id}/cancel
  • validating: Проверяет формат входного файла, синтаксис JSONL и соответствие схеме элементов.
  • in_progress: Выполняет пакетный инференс с назначенными учетными данными поставщика без переключения каналов.
  • finalizing: Агрегирует результаты генерации и фиксирует расчеты по списанию средств.
  • completed: Обработка успешно завершена, сформированы output_file_id и необязательный error_file_id.
  • failed: Критический сбой при ошибке проверки файла или глобальной координации пакета.
  • cancelling: Корректно останавливает обработку по запросу и переходит в статус отмены.
  • cancelled: Показывает, что выполнение пакета остановлено до полного завершения. Сбойные, отмененные или отсутствующие результаты элементов не гарантируют нулевую стоимость у провайдера; биллинг удерживает резервирование для сверки с отчетами провайдера. Канонический статус в AnyInt — cancelled.
  • expired: Срабатывает при превышении 24-часового окна выполнения; неподтвержденные операции требуют сверки с записями поставщика и не означают нулевые затраты.

Пакетные операции и скачивание результатов

GET/openai/v1/batches
  • Список пакетов: GET /openai/v1/batches возвращает активные и архивные пакетные задачи авторизованной организации или проекта.
  • Объектное хранилище и скачивание: Прием файлов с назначением batch и выполнение пакетных задач требуют общего объектного хранилища (OBJECT_STORE_MODE). Готовые файлы результатов и ошибок JSONL можно скачать через GET /openai/v1/files/{file_id}/content.

Псевдонимы совместимости

  • Шлюз принимает /v1/batches для обратной совместимости; для новых интеграций рекомендуется /openai/v1/batches.