OpenAI-Compatible API-documentatie

Snelstart: Verbind met OpenAI SDK

Begin met authenticeren met je sleutel en wijs de client naar onze basis-URL. Deze setup werkt met de officiële OpenAI SDK's voor Python en Node.js, zodat je dezelfde clientcode kunt uitvoeren tegen onze service. Je hebt een geldige API-sleutel van het dashboard en de juiste endpointconfiguratie nodig.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chat Completions Endpoint

Stuur tekst naar ons enkele chat-eindpunt voor directe tekstuitvoer. We gebruiken POST /v1/chat/completions om uw prompts te verwerken en gegenereerde tekst terug te sturen. Dit is de kerninteractie voor de meeste LLM-toepassingen, zonder complexe routing of extra servicecalls.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming met SSE

Ontvang tokens in real-time met behulp van Server-Sent Events voor lagere latentie. Schakel streaming in door de stream-parameter op true te stellen in uw verzoek. De laatste chunk bevat tokengebruiksgegevens, zodat je kosten nauwkeurig kunt volgen terwijl het model tekst genereert. Deze aanhouding houdt uw UI responsief, zelfs voor lange uitvoeren.

Functiedaanroep & JSON-modus

Integreer tools en afdwing gestructureerde uitvoer voor betrouwbare programmatische interacties. Gebruik de tool-parameter om functieschema's te definiëren en stel response_format in op json_object voor strikte JSON-naleving. Ons ongefilterde model behandelt complexe instructies en randgevallen zonder geldige functionele verzoeken te weigeren.

Rate Limits & parameters

Monitor uw gebruik tegen strikte limieten per sleutel om onderbrekingen van de service te vermijden. U mag 300 verzoeken per minuut doen en acht gelijktijdige verzoeken per sleutel, met een limiet van 8 MB voor de body. Fouten zoals 401 (ongeldige sleutel), 402 (geen tegoed) en 429 (snelheidslimiet) geven specifieke accountstatussen aan.

Contextvenster & Beperkingen

Maximaliseer contextverwerking met een contextvenster van 100.000 tokens voor gecombineerde input en output. Stel max_tokens in om de generatielengte te beheersen, met een standaardwaarde van 2.048 als dit niet wordt opgegeven. Ons model draait op propriëtaire servers, niet als proxy voor andere leveranciers, wat consistente prestaties garandeert voor jouw specifieke use case.