Управление пакетными задачами
Отправляйте асинхронные пакетные запросы и проверяйте статус выполнения пакетов.
Отправляйте асинхронные пакетные запросы по поддерживаемым конечным точкам моделей с помощью API пакетов, совместимого с OpenAI.
/openai/v1/batchesТело запроса
| Поле | Тип | Обязательно | Описание |
|---|---|---|---|
input_file_id | string | Да | Идентификатор загруженного файла с назначением batch. |
endpoint | string | Да | Целевая конечная точка (/v1/chat/completions, /v1/completions, /v1/responses или /v1/embeddings). |
completion_window | string | Да | Окно выполнения задачи, в настоящее время зафиксировано на 24h. |
metadata | object | Нет | Необязательные пары ключ-значение для отслеживания и аудита. |
Входные файлы должны быть в формате JSONL в кодировке UTF-8, содержать не более 50 000 элементов и иметь размер не более 200 МиБ. Каждая строка должна представлять собой валидный JSON-объект с уникальным непустым custom_id, методом POST, url, совпадающим с endpoint пакета, и объектом body (для строгих нативных предоплаченных пакетов поле model в body обязательно). Для нативных предоплаченных пакетов шлюз проверяет контрольную сумму файла и политики исполнения элементов перед допуском; резервирование средств по всем элементам фиксируется атомарно до отправки поставщику. При недостаточности средств возвращается HTTP 402 без частичной обработки. Несовместимые конфигурации поставщиков нельзя разделять в рамках одного пакета, а переключение между поставщиками на уровне отдельных элементов не производится.
Жизненный цикл пакета
/openai/v1/batches/{batch_id}/openai/v1/batches/{batch_id}/cancelvalidating: Проверяет формат входного файла, синтаксис JSONL и соответствие схеме элементов.in_progress: Выполняет пакетный инференс с назначенными учетными данными поставщика без переключения каналов.finalizing: Агрегирует результаты генерации и фиксирует расчеты по списанию средств.completed: Обработка успешно завершена, сформированыoutput_file_idи необязательныйerror_file_id.failed: Критический сбой при ошибке проверки файла или глобальной координации пакета.cancelling: Корректно останавливает обработку по запросу и переходит в статус отмены.cancelled: Показывает, что выполнение пакета остановлено до полного завершения. Сбойные, отмененные или отсутствующие результаты элементов не гарантируют нулевую стоимость у провайдера; биллинг удерживает резервирование для сверки с отчетами провайдера. Канонический статус в AnyInt —cancelled.expired: Срабатывает при превышении 24-часового окна выполнения; неподтвержденные операции требуют сверки с записями поставщика и не означают нулевые затраты.
Пакетные операции и скачивание результатов
/openai/v1/batches- Список пакетов:
GET /openai/v1/batchesвозвращает активные и архивные пакетные задачи авторизованной организации или проекта. - Объектное хранилище и скачивание: Прием файлов с назначением
batchи выполнение пакетных задач требуют общего объектного хранилища (OBJECT_STORE_MODE). Готовые файлы результатов и ошибок JSONL можно скачать черезGET /openai/v1/files/{file_id}/content.
Псевдонимы совместимости
- Шлюз принимает
/v1/batchesдля обратной совместимости; для новых интеграций рекомендуется/openai/v1/batches.