OpenAI-Compatible API 文档

快速入门：使用 OpenAI SDK 连接

首先使用您的密钥进行身份验证，并将客户端指向我们的基础 URL。此设置可与 Python 和 Node.js 的官方 OpenAI SDK 配合使用，确保您可以将相同的客户端代码针对我们的服务运行。您需要来自仪表板的有效 API 密钥和正确的端点配置。

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

聊天完成端点

将文本发送至我们的单一聊天端点以获取直接文本输出。我们使用 POST /v1/chat/completions 处理您的提示并返回生成的文本。这是大多数 LLM 应用的核心交互，无需复杂的路由或额外的服务调用。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

使用 SSE 进行流式传输

使用服务器发送事件实时接收令牌以降低延迟。在请求中将 stream 参数设置为 true 以启用流式传输。最后一个块包含令牌使用数据，使您能够准确跟踪模型生成文本时的成本。这种方法即使对于长输出也能保持 UI 的响应能力。

函数调用 & JSON 模式

集成工具调用并强制执行结构化输出，以实现可靠的程序化交互。使用 tools 参数定义函数模式，并将 response_format 设置为 json_object 以严格遵循 JSON 规范。我们的无审查模型能够处理复杂指令和边缘情况，而不会拒绝有效的功能请求。

速率限制与参数

根据严格的每密钥限制监控使用情况以避免服务中断。您允许每分钟 300 个请求和每个密钥 8 个并发请求，请求体限制为 8 MB。401（无效密钥）、402（无积分）和 429（速率限制）等错误指示特定的账户状态。

上下文窗口 & 约束

利用 100,000 token 的窗口最大化上下文处理能力，用于输入和输出。设置 max_tokens 以控制生成长度，若未指定则默认为 2,048。我们的模型运行在专有服务器上，而非作为其他供应商的代理，从而为您的特定用例确保一致的性能。