Quản lý tác vụ hàng loạt
Gửi các yêu cầu xử lý hàng loạt bất đồng bộ và kiểm tra trạng thái thực thi.
Gửi các yêu cầu hàng loạt bất đồng bộ trên nhiều điểm cuối mô hình được hỗ trợ bằng Batch API tương thích với OpenAI.
/openai/v1/batchesPhần thân yêu cầu
| Trường | Loại | Bắt buộc | Mô tả |
|---|---|---|---|
input_file_id | string | Có | Mã định danh duy nhất của tệp đã tải lên với mục đích được đặt là batch. |
endpoint | string | Có | Điểm cuối mục tiêu (/v1/chat/completions, /v1/completions, /v1/responses hoặc /v1/embeddings). |
completion_window | string | Có | Khoảng thời gian hoàn thành, hiện được cố định là 24h. |
metadata | object | Không | Cặp khóa-giá trị tùy chọn để theo dõi và đối soát. |
Tệp đầu vào phải là định dạng JSONL mã hóa UTF-8 với tối đa 50.000 mục và kích thước tệp không vượt quá 200 MiB. Mỗi dòng JSONL phải là một đối tượng JSON hợp lệ chứa custom_id duy nhất không rỗng, method: "POST", url khớp với endpoint của lô, và đối tượng body (với trường model bắt buộc cho các lô trả trước nghiêm ngặt). Đối với các lô trả trước gốc, cổng xác thực mã băm của tệp và chính sách thực thi trước khi cấp vốn; toàn bộ khoản giữ chỗ của các mục được xác nhận nguyên tử trước khi gửi đến nhà cung cấp. Nếu tổng số dư không đủ, hệ thống trả về HTTP 402 mà không gửi một phần. Cấu hình nhà cung cấp không tương thích không thể tách rời trong một lô duy nhất và không thực hiện chuyển đổi dự phòng giữa các nhà cung cấp ở cấp mục.
Vòng đời xử lý hàng loạt
/openai/v1/batches/{batch_id}/openai/v1/batches/{batch_id}/cancelvalidating: Xác thực định dạng tệp đầu vào, cú pháp JSONL và tuân thủ lược đồ.in_progress: Phân phối các mục đến thông tin xác thực nhà cung cấp đã chỉ định mà không chuyển đổi giữa các kênh.finalizing: Tổng hợp kết quả suy luận và ghi nhận quyết toán chi phí sử dụng.completed: Xử lý hoàn tất thành công, tạooutput_file_idcùngerror_file_idtùy chọn.failed: Lỗi kết thúc nếu việc xác thực tệp hoặc điều phối hàng loạt thất bại hoàn toàn.cancelling: Đang dừng xử lý theo yêu cầu và chuyển sang trạng thái đã hủy.cancelled: Đánh dấu việc thực thi lô bị dừng trước khi hoàn tất. Kết quả mục bị lỗi, bị hủy hoặc bị thiếu không chứng minh chi phí nhà cung cấp bằng 0; thanh toán sẽ giữ lại khoản tiền đặt trước để đối soát với hồ sơ của nhà cung cấp. Trạng thái chuẩn trong AnyInt làcancelled.expired: Kích hoạt khi quá trình xử lý vượt quá khung thời gian 24 giờ; các thực thi chưa xác nhận yêu cầu đối soát với hồ sơ nhà cung cấp và không mặc định chi phí bằng không.
Danh sách Lô và Tải xuống Kết quả
/openai/v1/batches- Liệt kê lô:
GET /openai/v1/batchesliệt kê các tác vụ lô đang hoạt động và lịch sử cho tổ chức hoặc dự án được ủy quyền. - Lưu trữ đối tượng & tải xuống: Tiếp nhận tệp có
purpose: "batch"và chạy các thao tác xử lý theo lô yêu cầu lưu trữ đối tượng dùng chung (OBJECT_STORE_MODE). Sau khi hoàn tất, tệp JSONL kết quả và lỗi có thể tải xuống qua API tệp tạiGET /openai/v1/files/{file_id}/content.
Bí danh tương thích
- Cổng chấp nhận
/v1/batchesđể tương thích ngược; khuyến nghị dùng/openai/v1/batchescho các tích hợp mới.