Документація API, сумісна з OpenAI

Швидкий старт: Підключення з SDK OpenAI

Почніть із автентифікації за вашим ключем та вказівки клієнта на нашу базову URL-адресу. Ця конфігурація працює з офіційними SDK OpenAI для Python та Node.js, що гарантує можливість запуску того ж клієнтського коду проти нашого сервісу. Вам потрібен дійсний API-ключ з панелі керування та правильна конфігурація кінцевої точки.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ендпоінт Chat Completions

Надішліть текст на наш єдиний ендпоінт чату для прямого виводу тексту. Ми використовуємо POST /v1/chat/completions для обробки ваших запитів та повернення згенерованого тексту. Це основна взаємодія для більшості LLM-додатків, яка не вимагає складного маршрутизування або додаткових викликів служб.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потокова передача з SSE

Отримуйте токени в реальному часі за допомогою Server-Sent Events для зменшення затримки. Увімкніть потокову передачу, встановивши параметр stream у значення true у вашому запиті. Останній чанк включає дані про використання токенів, що дозволяє точно відстежувати витрати по мірі генерації тексту моделлю. Цей підхід підтримує чутливість інтерфейсу навіть для довгих виводів.

Виклик функцій & Режим JSON

Інтегруйте інструменти та забезпечте структуровані відповіді для надійної програмної взаємодії. Використовуйте параметр tools для визначення схем функцій та встановіть response_format у json_object для суворого дотримання формату JSON. Наша модель без цензури обробляє складні інструкції та крайові випадки, не відхиляючи дійсні функціональні запити.

Ліміти частоти та параметри

Моніторьте використання, орієнтуючись на суворі ліміти на ключ, щоб уникнути переривання сервісу. Вам дозволено 300 запитів на хвилину та вісім одночасних запитів на ключ, з лімітом тіла запиту 8 МБ. Помилки, такі як 401 (недійсний ключ), 402 (немає кредитів) та 429 (перевищено ліміт швидкості), вказують на конкретний стан облікового запису.

Контекстне вікно та обмеження

Максимізуйте обробку контексту з вікном на 100 000 токенів для сумісного вводу та виводу. Встановіть max_tokens для контролю довжини генерації, типовим значенням є 2 048, якщо не вказано інше. Наша модель працює на власних серверах, а не як проксі для інших постачальників, що забезпечує стабільну продуктивність для вашого конкретного випадку використання.