बैच कार्य प्रबंधन

असिंक्रोनस बल्क अनुरोध सबमिट करें और बैच निष्पादन स्थिति का निरीक्षण करें।

OpenAI-संगत Batch API का उपयोग करके समर्थित मॉडल एंडपॉइंट्स पर असिंक्रोनस बल्क अनुरोध सबमिट करें।

POST/openai/v1/batches

अनुरोध बॉडी

फ़ील्डप्रकारआवश्यकविवरण
input_file_idstringहाँbatch के रूप में सेट उद्देश्य के साथ अपलोड की गई फ़ाइल का विशिष्ट पहचानकर्ता।
endpointstringहाँलक्षित एंडपॉइंट (/v1/chat/completions, /v1/completions, /v1/responses, या /v1/embeddings)।
completion_windowstringहाँसमाप्ति विंडो, वर्तमान में 24h पर निर्धारित।
metadataobjectनहींट्रैकिंग और ऑडिट के लिए वैकल्पिक कुंजी-मान मेटाडेटा जोड़े।

इनपुट फ़ाइलें अधिकतम 50,000 आइटम और 200 MiB फ़ाइल आकार सीमा के साथ UTF-8 एन्कोडेड JSONL होनी चाहिए। प्रत्येक JSONL लाइन एक मान्य JSON ऑब्जेक्ट होनी चाहिए जिसमें अद्वितीय गैर-रिक्त custom_id, method: "POST", बैच endpoint से मेल खाता url, और ऑब्जेक्ट प्रकार का body (सख्त प्री-पेड बैचों के लिए model फ़ील्ड अनिवार्य) शामिल हो। नेटिव प्री-पेड बैचों के लिए, गेटवे फंडिंग से पहले संग्रहीत फ़ाइल चेकसम और निष्पादन नीतियों को मान्य करता है; प्रोवाइडर सबमिशन से पहले सभी आइटम आरक्षण परमाणु रूप से प्रतिबद्ध होते हैं। कुल राशि अपर्याप्त होने पर बिना आंशिक सबमिशन के HTTP 402 लौटाया जाता है। असंगत प्रदाता कॉन्फ़िगरेशन को एकल बैच में विभाजित नहीं किया जा सकता है, और आइटम-स्तरीय क्रॉस-प्रदाता फ़ेलओवर नहीं किया जाता है।

बैच जीवनचक्र

GET/openai/v1/batches/{batch_id}
POST/openai/v1/batches/{batch_id}/cancel
  • validating: इनपुट फ़ाइल प्रारूप, JSONL सिंटैक्स और स्कीमा अनुपालन को सत्यापित करता है।
  • in_progress: असाइन किए गए प्रदाता क्रेडेंशियल्स के साथ बैच इन्फेरेंस निष्पादित करता है।
  • finalizing: आउटपुट को एकत्रित करता है और उपयोग निपटान रिकॉर्ड करता है।
  • completed: प्रसंस्करण सफलतापूर्वक पूर्ण हुआ, output_file_id और वैकल्पिक error_file_id उत्पन्न करता है।
  • failed: यदि फ़ाइल सत्यापन या बैच समन्वय पूरी तरह से विफल हो जाता है तो टर्मिनल त्रुटि स्थिति।
  • cancelling: अनुरोध पर प्रसंस्करण को सुरक्षित रूप से रोकता है और रद्द स्थिति में ले जाता है।
  • cancelled: अंतिम पूर्णता से पहले बैच निष्पादन को रोका गया दर्शाता है। विफल, रद्द या छूटे हुए आइटम परिणाम शून्य प्रदाता लागत साबित नहीं करते हैं; निपटान प्रदाता रिकॉर्ड के साथ मिलान के लिए आरक्षित धनराशि को बनाए रखता है। AnyInt में मानक स्थिति cancelled है।
  • expired: जब प्रसंस्करण 24 घंटे की समयसीमा से अधिक हो जाता है तब ट्रिगर होता है; अपुष्ट निष्पादन के लिए प्रदाता रिकॉर्ड के साथ समाधान आवश्यक है और यह शून्य लागत की गारंटी नहीं देता है।

बैच सूची और परिणाम डाउनलोड

GET/openai/v1/batches
  • बैच सूची: GET /openai/v1/batches अधिकृत संगठन या परियोजना के सक्रिय और ऐतिहासिक बैच कार्यों की सूची देता है।
  • ऑब्जेक्ट स्टोरेज और डाउनलोड: purpose: "batch" वाली फ़ाइलों को स्वीकार करने और बैच ऑपरेशन चलाने के लिए साझा ऑब्जेक्ट स्टोरेज (OBJECT_STORE_MODE) की आवश्यकता होती है। पूरा होने पर, आउटपुट और त्रुटि JSONL फ़ाइलों को फ़ाइल API GET /openai/v1/files/{file_id}/content के माध्यम से प्राप्त किया जा सकता है।

संगतता उपनाम

  • गेटवे पिछड़े संगतता के लिए /v1/batches स्वीकार करता है; नए एकीकरण के लिए /openai/v1/batches का उपयोग करें।