无审查 LLM API 快速入门指南

前提条件：安装 OpenAI SDK

首先安装你首选语言的官方 OpenAI SDK。客户端库自动处理身份验证和序列化。你只需要标准库；基本文本生成不需要额外的依赖项。

确保您的环境支持现代 Python 或 JavaScript 版本。SDK 封装了 HTTP 细节，使您可以专注于提示词工程。

使用 base_url 初始化客户端

将您的客户端指向我们的专用端点，而不是默认的 OpenAI URL。这一更改将所有请求路由到我们的无审查模型基础设施，同时保持标准的 OpenAI 兼容格式。

你将使用你的唯一 API 密钥进行身份验证。基础 URL 确保你的应用直接与我们的服务器通信，而不通过其他供应商代理。

• 基础 URL：HTTPS://api.openrouteropenaicompatible.com/v1
• 模型 ID： uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

发送您的第一个聊天补全

进行标准 POST 请求聊天补全端点。以标准 JSON 结构传递您的系统提示和用户消息。模型返回文本响应，去除了通常针对合法成人或争议性话题的内容过滤器。

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

启用流式响应

设置 stream: true 生成 token 时接收。这降低了长输出的感知延迟。每个块包含部分文本，最后一个事件包含用量统计。

服务器向您的客户端发送服务器发送事件（SSE）。处理流式数据以实时更新您的界面，无需等待完整响应。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

为结构化数据配置 JSON 模式

使用 response_format 以强制模型进入 JSON 模式。这确保为您的应用程序提供一致且可解析的输出。模型将严格遵循您在系统提示中定义的模式。

启用 json_object 确保响应是有效的 JSON。这对于与您后端服务的程序化集成至关重要。

实现函数调用

在请求中定义工具以启用函数调用。模型可以根据你的提示上下文调用函数。传递工具定义并让模型决定调用哪个函数。

在应用程序逻辑中处理工具调用。执行函数并将结果反馈到对话中，以进行连贯的后续处理。

处理令牌使用情况和使用限制

监控使用情况以避免服务中断。上下文窗口支持提示和完成内容合计 100,000 个 token。输出限制为每次请求 16,000 个 token。

速率限制强制执行每个密钥每分钟 300 个请求。如果您超过此限制，将收到 429 错误。身份验证错误返回 401，余额不足返回 402。错误和拒绝不会消耗令牌，因此您只为成功的內容生成付费。