OpenAI-Compatible API Documentation

Hurtigstart: Forbind med OpenAI SDK

Start med at autentificere med din nøgle og pege klienten mod vores base-URL. Denne opsætning fungerer med de officielle OpenAI SDK'er til Python og Node.js, hvilket sikrer, at du kan køre den samme klientkode mod vores service. Du har brug for en gyldig API-nøgle fra dashboardet og den korrekte endpoint-konfiguration.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chat Completions Endpoint

Send tekst til vores enkelt chat-endpoint for direkte tekstoutput. Vi bruger POST /v1/chat/completions til at behandle dine prompts og returnere genereret tekst. Dette er den centrale interaktion for de fleste LLM-applikationer, hvilket ikke kræver kompleks routing eller yderligere tjenesteopkald.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming med SSE

Modtag tokens i realtid ved hjælp af Server-Sent Events for lavere forsinkelse. Aktiver streaming ved at indstille stream-parameteren til true i din anmodning. Den sidste chunk inkluderer tokenforbrugsdata, hvilket giver dig mulighed for at spore omkostninger præcist, mens modellen genererer tekst. Denne tilgang holder din UI responsiv selv for lange outputs.

Function Calling & JSON Mode

Integrer værktøjer og håndhælv strukturerede output til pålidelige programmeringsinteraktioner. Brug værktøjsparameteren til at definere funktions-skemaer, og indstil response_format til json_object for streng JSON-overholdelse. Vores ubegrænsede model håndterer komplekse instruktioner og kanttilfælde uden at afvise gyldige funktionsanmodninger.

Rate Limits & Parametre

Overvåg dit forbrug mod strenge nøglebaserede grænser for at undgå tjenesteaflad. Du er tilladt 300 anmodninger per minut og otte samtidige anmodninger per nøgle, med en 8 MB kropsgrænse. Fejl som 401 (ugyldig nøgle), 402 (ingen kredit) og 429 (hastighedsgrænse) indikerer specifikke kontostater.

Kontekstvindue & Begrænsninger

Maksimer konteksthåndtering med et 100.000-token vindue til kombineret input og output. Indstil max_tokens til at kontrollere genereringslængden, med standardværdi på 2.048, hvis det ikke angives. Vores model kører på proprietære servere, ikke som en proxy for andre leverandører, hvilket sikrer konsistent ydeevne til dit specifikke anvendelsestilfælde.