Τεκμηρίωση API Συμβατού με OpenAI

Γρήγορη Έναρξη: Σύνδεση με SDK OpenAI

Ξεκινήστε πιστοποιώντας με το key σας και κατευθύνοντας τον client στο base URL μας. Αυτή η ρύθμιση λειτουργεί με τα επίσημα OpenAI SDKs για Python και Node.js, διασφαλίζοντας ότι μπορείτε να τρέξετε τον ίδιο client code εναντίον της υπηρεσίας μας. Χρειάζεστε ένα έγκυρο API key από το dashboard και τη σωστή ρύθμιση endpoint.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε κείμενο στο μοναδικό endpoint συνομιλίας μας για άμεση εξαγωγή κειμένου. Χρησιμοποιούμε POST /v1/chat/completions για να επεξεργαστούμε τα prompts σας και να επιστρέψουμε το παραγόμενο κείμενο. Αυτή είναι η βασική αλληλεπίδραση για τις περισσότερες εφαρμογές LLM, χωρίς να απαιτείται πολύπλοκη διαδρομή ή πρόσθετες κλήσεις υπηρεσιών.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ροή με SSE

Λάβετε tokens σε πραγματικό χρόνο χρησιμοποιώντας Server-Sent Events για χαμηλότερη καθυστέρηση. Ενεργοποιήστε το streaming ρυθμίζοντας την παράμετρο stream σε true στο αίτημά σας. Το τελευταίο chunk περιλαμβάνει δεδομένα χρήσης tokens, επιτρέποντάς σας να παρακολουθείτε το κόστος ακριβώς καθώς το μοντέλο παράγει κείμενο. Αυτή η προσέγγιση διατηρεί τη διεπαφή χρήστη ανταποκρινόμενη ακόμη και για μακρές εξόδους.

Συνάρτηση Calling & JSON Mode

Ενσωματώστε tools και επιβάλετε δομημένες εξόδους για αξιόπιστες προγραμματισμένες αλληλεπιδράσεις. Χρησιμοποιήστε την παράμετρο tools για να ορίσετε σχήματα συναρτήσεων και ορίστε response_format σε json_object για αυστηρή συμμόρφωση JSON. Το uncensored μοντέλο μας διαχειρίζεται σύνθετες οδηγίες και ακραίες περιπτώσεις χωρίς να απορρίπτει έγκυρες λειτουργικές αιτήσεις.

Όρια Ρυθμού & Παράμετροι

Παρακολουθήστε τη χρήση σας έναντι αυστηρών ορίων ανά κλειδί για να αποφύγετε διακοπές της υπηρεσίας. Επιτρέπονται 300 αιτήματα ανά λεπτό και οκτώ ταυτόχρονες αιτήσεις ανά κλειδί, με όριο σώματος 8 MB. Σφάλματα όπως 401 (άκυρο κλειδί), 402 (χωρίς πιστωτικό) και 429 (όριο ρυθμού) υποδεικνύουν συγκεκριμένες καταστάσεις λογαριασμού.

Παράθυρο Συμφραζομένων & Περιορισμοί

Μεγιστοποιήστε τη διαχείριση συμφραζομένων με παράθυρο 100.000 tokens για συνδυασμένη είσοδο και έξοδο. Ορίστε το max_tokens για να ελέγξετε το μήκος παραγωγής, με προεπιλογή 2.048 αν δεν οριστεί. Το μοντέλο μας εκτελείται σε ιδιόκτητους διακομιστές, όχι ως proxy για άλλους προμηθευτές, εξασφαλίζοντας σταθερή απόδοση για την συγκεκριμένη περίπτωσή σας.