建立回應
使用與 OpenAI 相容的回應 API 來產生模型輸出。
使用回應 API 的格式來進行文字或結構化模型輸入,以及統一的輸出物件。
/openai/v1/responsesRequest Body
| Field | Type | Required | Description |
|---|---|---|---|
model | string | Yes | 由 AnyInt 路由的模型識別碼。 |
input | string or array | Yes | 文字或結構化輸入項目。 |
stream | boolean | No | 在支援時傳回伺服器傳送事件。 |
reasoning.effort | string | No | 模型相關的推理強度,按原值轉發,不靜默降低。 |
tools | array | No | 工具宣告,支援 custom 工具。 |
Response
完成後傳回包含識別碼、狀態和已產生輸出的回應物件。
工具歷史與參數錯誤
自訂工具呼叫與多段工具輸出保持原有順序、文字與 Unicode 內容。歷史 assistant output_text 的 annotations、logprobs 未提供或為 null 時,會在轉發前補為合法空陣列,避免上游重建訊息時產生非法 null。供應商偽心跳訊息不會進入對話歷史。
推理強度取值由具體模型與上游決定。上游明確拒絕某欄位時,回應會包含具體參數,例如 error.code: "invalid_value"、error.param: "reasoning.effort"。無法歸因到原請求欄位,或由上游轉換產生的格式錯誤,歸為上游錯誤,不將合法工具歷史誤報為使用者輸入有誤。
串流終止與恢復
正常完成以 response.completed 結束;達到輸出限制可傳回 response.incomplete。上游失敗、超時或提前 EOF 傳回 response.failed,不會偽造成功終止,也不使用舊式 [DONE] 標記。即使 HTTP 為 200,也應檢查最終事件。串流失敗不代表可以自動重放已經發出的推理請求。
心跳使用 SSE 註釋行;供應商的 response.metadata 事件和 SSE-Keep-Alive 輸出項會被過濾。事件 sequence_number 保持遞增。
x-client-message-id、x-resume-message-id 是按事件偏移恢復的可選擴充。x-anyint-resume-offset-unit: sse-event 說明偏移單位,x-anyint-stream-replayed: true 表示目前為快取串流重放。未啟用恢復的用戶端可忽略這些擴充回應標頭。
Compatibility Alias
現有的用戶端可以繼續使用 /v1/responses。新的整合應該使用 /openai/v1/responses。