接入指南
将 OpenAI 兼容客户端迁移到 AnyInt
保留现有的 Chat Completions 请求格式,将客户端指向 AnyInt 的 OpenAI 兼容网关,使用 AnyInt API 密钥,并选择账户已发布可用的模型。
1. 选择已发布的模型
在模型目录核对模型 ID、支持的协议与能力,以及公开价格。目录中可见不代表每把 API 密钥都可调用;上线前还应在控制台确认访问权限。
2. 替换端点和凭据
将 OpenAI 兼容客户端的基础地址设为 AnyInt 的 /openai/v1 路径,并使用 AnyInt API 密钥。密钥应只保存在服务端。新接入请使用明确的 /openai/v1 路径;兼容客户端仍可使用旧的 /v1 别名。
3. 发送请求,再验证实际负载
先发送一条简短的非流式请求,再逐项验证应用实际使用的流式输出、工具调用和模型参数。应检查客户端的响应和错误处理,不要假设所有上游模型接受完全相同的选项。
4. 放量前检查用量
在控制台检查请求记录与账单,固定已测试的模型 ID,并为应用设置合适的超时和重试规则。只重试可以安全重复的操作。
最小请求示例
请使用快速开始文档中适用于当前环境的网关地址,并将 YOUR_PUBLISHED_MODEL_ID 替换为密钥可用的模型 ID。
curl "$ANYINT_GATEWAY_BASE_URL/openai/v1/chat/completions" \
--header "Authorization: Bearer $ANYINT_API_KEY" \
--header "Content-Type: application/json" \
--data '{
"model": "YOUR_PUBLISHED_MODEL_ID",
"messages": [{ "role": "user", "content": "Hello from AnyInt" }]
}'