無審查 LLM API 快速入門指南

前置條件：安裝 OpenAI SDK

首先為您偏好的語言安裝官方的 OpenAI SDK。客戶端函式庫會自動處理驗證與序列化。您只需要標準函式庫；基本文字生成不需要額外的相依套件。

確保您的環境支援現代化的 Python 或 JavaScript 版本。SDK 已封裝底層 HTTP 細節，讓您能專注於提示詞工程。

使用 base_url 初始化客戶端

將您的客戶端指向我們的專用端點，而非預設的 OpenAI URL。此單一變更會將所有請求路由至我們的無審查模型基礎設施，同時保持標準 OpenAI 相容格式。

您將使用您的專屬 API 金鑰進行驗證。基礎 URL 可確保您的應用程式直接與我們的伺服器通訊，而不透過其他供應商進行代理。

• 基礎 URL：HTTPS://api.openrouteropenaicompatible.com/v1
• 模型 ID： uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

傳送您的第一個聊天補全

進行標準 POST 請求至聊天補全端點。以標準 JSON 結構傳遞您的系統提示和用戶消息。模型返回文本回應，不會對合法成人或爭議性主題施加通常的內容過濾器。

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

啟用串流回應

設定 stream: true 即時接收生成的 token。這可降低長輸出的感知延遲。每個區塊包含部分文字，最後一個事件則包含用量統計數據。

伺服器向您的客戶端傳送伺服器發送事件（SSE）。處理串流以即時更新您的使用者介面，無需等待完整回應。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

為結構化資料設定 JSON 模式

使用 response_format 以強制模型進入 JSON 模式。這可確保為您的應用程式提供一致且可解析的輸出。模型會嚴格遵循您在 system prompt 中定義的 schema。

啟用 json_object 確保回應為有效的 JSON。這對於與後端服務進行程式化整合至關重要。

實作函式呼叫

在請求中定義工具以啟用函式呼叫。模型可根據您的提示上下文呼叫函式。傳遞工具定義並讓模型決定要呼叫哪個函式。

在應用程式邏輯中處理工具呼叫。執行函數並將結果回饋到對話中，以進行連貫的後續處理。

處理 token 用量和限制

監控您的使用情況以避免服務中斷。上下文視窗支援提示和完成內容合計 100,000 個 token。輸出限制為每次請求 16,000 個 token。

速率限制強制執行每金鑰每分鐘 300 個請求。如果您超過此限制，將收到 429 錯誤。身份驗證錯誤返回 401，信用額不足返回 402。錯誤和拒絕不會消耗 token，因此您只需為成功的內容生成付費。