Documentación API Compatible con OpenAI

Inicio rápido: Conecta con SDK de OpenAI

Empieza por autenticarte con tu clave y apunta el cliente a nuestra URL base. Esta configuración funciona con los SDK oficiales de OpenAI para Python y Node.js, asegurando que puedas ejecutar el mismo código de cliente contra nuestro servicio. Necesitas una clave de API válida del panel y la configuración correcta del punto de conexión.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Endpoint Chat Completions

Envía texto a nuestro único punto de conexión de chat para obtener texto directamente. Usamos POST /v1/chat/completions para procesar tus prompts y devolver texto generado. Esta es la interacción principal para la mayoría de las aplicaciones de LLM, sin necesidad de enrutamiento complejo ni llamadas a servicios adicionales.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming con SSE

Recibe tokens en tiempo real utilizando Eventos Enviados por Servidor para una menor latencia. Habilita la transmisión estableciendo el parámetro stream en true en tu solicitud. El fragmento final incluye datos de uso de tokens, lo que te permite rastrear los costos con precisión a medida que el modelo genera texto. Este enfoque mantiene tu interfaz de usuario receptiva incluso para salidas largas.

Llamada de funciones y modo JSON

Integra herramientas y fuerza salidas estructuradas para interacciones programáticas fiables. Utiliza el parámetro tools para definir esquemas de funciones y establece response_format en json_object para un cumplimiento estricto de JSON. Nuestro modelo sin censura maneja instrucciones complejas y casos límite sin rechazar solicitudes funcionales válidas.

Límites de Tasa y Parámetros

Monitorea tu uso contra límites estrictos por clave para evitar interrupciones del servicio. Tienes permitido 300 solicitudes por minuto y ocho solicitudes concurrentes por clave, con un límite de cuerpo de 8 MB. Errores como 401 (clave inválida), 402 (sin crédito) y 429 (límite de velocidad) indican estados específicos de la cuenta.

Ventana de Contexto y Restricciones

Maximiza el manejo del contexto con una ventana de 100.000 tokens para entrada y salida combinadas. Establece max_tokens para controlar la longitud de la generación, con un valor predeterminado de 2.048 si no se especifica. Nuestro modelo se ejecuta en servidores propietarios, no como proxy de otros proveedores, garantizando un rendimiento consistente para tu caso de uso específico.