Chat Completions

使用 OpenAI 兼容协议创建 chat completion。同一接口可调用 OpenAI、Claude、Gemini、Qwen、DeepSeek 等多种后端 — BUZZ 根据 model 字段路由上游,必要时自动完成协议转换。

鉴权

BUZZ 接受标准的 OpenAI bearer token 鉴权:

Anthropic 风格的 x-api-key 在 /v1/messages 与 /v1/models 路径上生效;/v1/chat/completions 请使用 Authorization: Bearer。

Authorization: Bearer <YOUR_BUZZ_KEY>
Content-Type: application/json

请求示例

curl -X POST https://buzzai.cc/v1/chat/completions \
  -H "Authorization: Bearer $BUZZ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-haiku-4-5-20251001",
    "messages": [
      {"role": "user", "content": "reply with exactly: hello world"}
    ],
    "max_tokens": 32
  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://buzzai.cc/v1",
    api_key="",
)

resp = client.chat.completions.create(
    model="claude-haiku-4-5-20251001",
    messages=[
        {"role": "user", "content": "reply with exactly: hello world"}
    ],
    max_tokens=32,
)

print(resp.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://buzzai.cc/v1",
  apiKey: process.env.BUZZ_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "claude-haiku-4-5-20251001",
  messages: [
    { role: "user", content: "reply with exactly: hello world" },
  ],
  max_tokens: 32,
});

console.log(resp.choices[0].message.content);

响应

{
  "id": "chatcmpl-AbCdEf...",
  "object": "chat.completion",
  "created": 1748246400,
  "model": "claude-haiku-4-5-20251001",
  "choices": [
    {
      "index": 0,
      "message": {"role": "assistant", "content": "hello world"},
      "logprobs": null,
      "finish_reason": "stop"
    }
  ],
  "usage": {"prompt_tokens": 14, "completion_tokens": 2, "total_tokens": 16}
}

请求体参数

BUZZ 接受 OpenAI CreateChatCompletionRequest 定义的所有字段。下表列出 35 个官方字段以及 top_k(非官方,但 Claude / Gemini / Qwen 等多个后端常用)。

核心字段

采样

工具与结构化输出

推理与多模态

缓存、计费与身份

当 model 是 Claude 模型时

同一 /v1/chat/completions 端点也可以指向 Claude 模型(如 claude-haiku-4-5-20251001、claude-sonnet-4-6、claude-opus-4-7)。BUZZ 会把请求改写为 Anthropic Messages API、把响应转回 OpenAI 格式 — 但若干 OpenAI 独有字段在 Anthropic 协议里没有等价物,会被静默丢弃。

Claude 路径下被静默丢弃的字段

Claude 请求构造器不会把这些字段塞进出站 payload,显式传也无效。请预先规避:

Claude 上的采样覆盖

Claude 模型在思考模式下,或者模型为 opus-4-7 时,采样参数会被 BUZZ 在出站前覆盖:

• opus-4-7 加 thinking 后缀:temperature / top_p / top_k 全部清空,thinking.type=adaptive,output_config.effort=high。
• 其他模型加 -thinking 后缀:thinking.type=enabled,budget_tokens = max_tokens 的 80%,top_p 清空,temperature 强制为 1.0。
• 非思考模式:temperature / top_p / top_k 正常透传。

字段映射

响应

非流式响应遵循 OpenAI chat.completion 标准格式。

usage 子字段

OpenAI 字段原样返回。BUZZ 增加若干扩展字段,用于缓存与推理可观测性。

流式

请求体加 "stream": true 启用 Server-Sent Events 流。每个事件是一行 data: {...},以 data: [DONE] 结束。

Stream chunk 结构

{
  "id": "chatcmpl-...",
  "object": "chat.completion.chunk",
  "created": 1748246400,
  "model": "claude-haiku-4-5-20251001",
  "choices": [
    {
      "index": 0,
      "delta": {"role": "assistant", "content": "Hello"},
      "logprobs": null,
      "finish_reason": null
    }
  ]
}

设置 stream_options.include_usage = true,会在最后追加一个 choices 为空、usage 已填充的 chunk。

Claude 流的转译规则

当 model 是 Claude 模型,BUZZ 把 Anthropic event: 流转为 OpenAI chunk:

如何识别本次响应来自哪个上游

同一接口可命中 OpenAI 或 Claude,你不需要解析 model 名,以下信号即可指纹化判断:

错误码

OpenAI 风格错误包络:

{
  "error": {
    "code": "",
    "message": "Invalid token (request id: 202605260708...)",
    "type": "buzz_error"
  }
}

相关链接

• POST /v1/messages — Anthropic 原生格式
• GET /v1/models — 查询可用模型
• Tool Use 概念
• Prompt Caching 概念
• 流式处理指南