OpenAI-uyumlu API Dokümantasyonu

Hızlı Başlangıç: OpenAI SDK ile Bağlayın

Anahtarınızla kimlik doğrulaması yaparak ve istemciyi temel URL'mize yönlendirerek başlayın. Bu kurulum, Python ve Node.js için resmi OpenAI SDK'ları ile çalışır, bu da aynı istemci kodunu hizmetimizde çalıştırabilmenizi sağlar. Panodan geçerli bir API anahtarına ve doğru uç nokta yapılandırmasına ihtiyacınız vardır.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Sohbet Tamamlamaları Uç Noktası

Doğrudan metin çıktısı için tek sohbet uç noktamıza metin gönderin. İstemlerinizi işlemek ve oluşturulan metni döndürmek için POST /v1/chat/completions kullanırız. Bu, çoğu LLM uygulaması için temel etkileşimdir ve karmaşık yönlendirme veya ek hizmet çağrıları gerektirmez.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

SSE ile Akış

Daha düşük gecikme süresi için Sunucu Tarafından Gönderilen Olaylar kullanarak tokenları gerçek zamanlı olarak alın. İsteğinizde stream parametresini true olarak ayarlayarak akışı etkinleştirin. Son parça token kullanım verilerini içerir, bu da model metin oluştururken maliyetleri doğru bir şekilde izlemenizi sağlar. Bu yaklaşım, uzun çıktılar için bile UI'nizin yanıt verir kalmasını sağlar.

Fonksiyon Çağırma & JSON Modu

Araçları entegre edin ve güvenilir programatik etkileşimler için yapılandırılmış çıktılar elde edin. Fonksiyon şemalarını tanımlamak için tools parametresini kullanın ve sıkı JSON uyumu için response_format'ı json_object olarak ayarlayın. Filtresiz modelimiz, geçerli fonksiyonel istekleri reddetmeden karmaşık talimatları ve sınır durumlarını işler.

Saniye Başına İstek Limitleri & Parametreler

Servis kesintilerinden kaçınmak için sıkı anahtar başı limitlerle kullanımınızı izleyin. Dakika başına 300 istek ve anahtar başına sekiz eşzamanlı istek izniniz vardır, 8 MB gövde sınırı ile. 401 (geçersiz anahtar), 402 (kredi yok) ve 429 (hız limiti) gibi hatalar belirli hesap durumlarını gösterir.

Bağlam Penceresi & Kısıtlamalar

Birleşik giriş ve çıktı için 100,000 tokenlık pencere ile bağlam işleme kapasitesini maksimize edin. Üretimi kontrol etmek için max_tokens ayarlayın; belirtilmezse varsayılan 2,048 olur. Modelimiz başka satıcıların vekili (proxy) olarak değil, özel sunucularda çalışır; bu da spesifik kullanım durumunuz için tutarlı performans sağlar.