OpenAI-Compatible API 문서

빠른 시작: OpenAI SDK로 연결

키로 인증하고 클라이언트를 베이스 URL로 설정하세요. 이 설정은 Python 및 Node.js용 공식 OpenAI SDK와 함께 작동하여 동일한 클라이언트 코드를 사용하여 서비스에 요청할 수 있습니다. 대시보드에서 유효한 API 키와 올바른 엔드포인트 구성이 필요합니다.

Copycurl https://api.openaiapicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current UTC timestamp in ISO 8601 format"}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

채팅 완료 엔드포인트

직접 텍스트 출력을 위한 단일 채팅 엔드포인트로 텍스트를 보내세요. POST /v1/chat/completions을 사용하여 프롬프트를 처리하고 생성된 텍스트를 반환합니다. 이는 복잡한 라우팅이나 추가 서비스 호출이 필요 없는 대부분의 LLM 애플리케이션의 핵심 상호작용입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

SSE를 통한 스트리밍

낮은 지연을 위해 서버 전송 이벤트를 사용하여 실시간으로 토큰을 받습니다. 요청에서 스트ream 매개변수를 true로 설정하여 스트리밍을 활성화하세요. 마지막 청크에는 토큰 사용량 데이터가 포함되어 모델이 텍스트를 생성하는 동안 비용을 정확하게 추적할 수 있습니다. 이 접근 방식은 긴 출력에도 UI가 응답 가능하게 유지됩니다.

함수 호출 & JSON 모드

도구를 통합하고 구조화된 출력을 강제하여 신뢰할 수 있는 프로그래밍 상호작용을 구현하세요. tools 파라미터를 사용하여 함수 스키마를 정의하고 response_format을 json_object로 설정하여 엄격한 JSON 준수를 보장합니다. 우리의 uncensored 모델은 유효한 기능적 요청에 대해 거부하지 않고 복잡한 지시사항과 예외 상황을 처리합니다.

속도 제한 및 매개변수

서비스 중단을 피하기 위해 엄격한 키별 제한에 맞춰 사용량을 모니터링하세요. 분당 300회 요청 및 키당 8개의 동시 요청이 허용되며, 본문 크기는 8 MB입니다. 401(유효하지 않은 키), 402(크레딧 없음), 429(속도 제한)와 같은 오류는 특정 계정 상태를 나타냅니다.

컨텍스트 윈도우 & 제약 사항

100,000 토큰의 윈도우를 사용하여 결합된 입력 및 출력 처리를 최대화하세요. 생성 길이를 제어하기 위해 max_tokens을 설정하세요. 지정하지 않으면 기본값은 2,048입니다. 우리 모델은 타사 벤더의 프록시가 아닌 전용 서버에서 실행되어 특정 사용 사례에 대한 일관된 성능을 보장합니다.