Uncensored LLM API: Руководство по быстрому старту

Предварительные требования: Установка SDK OpenAI

Начните с установки официального OpenAI SDK для предпочитаемого языка. Библиотека клиента автоматически обрабатывает аутентификацию и сериализацию. Вам нужна только стандартная библиотека; для базовой генерации текста не требуются дополнительные зависимости.

Убедитесь, что ваша среда поддерживает современные версии Python или JavaScript. SDK абстрагирует детали HTTP, чтобы вы могли сосредоточиться на инженерии промптов.

Инициализируйте клиент с base_url

Направьте клиента к нашей выделенной конечной точке вместо стандартного URL OpenAI. Это единственное изменение направляет все запросы в инфраструктуру нашей модели без ограничений, сохраняя стандартный формат, совместимый с OpenAI.

Вы будете использовать свой уникальный API-ключ для аутентификации. Базовый URL гарантирует, что ваше приложение напрямую взаимодействует с нашими серверами, не проходя через прокси другого поставщика.

• Базовый URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Идентификатор модели: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Отправьте свое первое завершение чата

Выполните стандартный POST запрос к конечной точке завершения чата. Передайте системный промпт и сообщение пользователя в стандартной JSON структуре. Модель возвращает текстовые ответы без обычных фильтров контента для законных тем 18+ или спорных тем.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Включите потоковую передачу ответов

Установить stream: true получать токены по мере их генерации. Это снижает воспринимаемую задержку для длинных выводов. Каждый чанк содержит частичный текст, а данные об использовании — в последнем событии.

Сервер отправляет события Server-Sent Events (SSE) вашему клиенту. Обрабатывайте поток, чтобы обновлять пользовательский интерфейс в реальном времени, не дожидаясь полного ответа.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Настройте режим JSON для структурированных данных

Использовать response_format чтобы перевести модель в режим JSON. Это обеспечивает согласованный, пригодный для парсинга вывод для ваших приложений. Модель строго соблюдает схему, которую вы определяете в системном промпте.

Включить json_object для гарантии, что ответ является валидным JSON. Это критически важно для программной интеграции с вашими бэкенд-сервисами.

Реализуйте вызов функций

Определите инструменты в запросе, чтобы включить вызов функций. Модель может вызывать функции на основе контекста вашего запроса. Передайте определения инструментов и позвольте модели решить, какую функцию вызвать.

Обработайте вызовы инструментов в логике вашего приложения. Выполните функцию и подайте результат обратно в разговор для согласованного продолжения.

Обрабатывайте использование токенов и ограничения

Отслеживайте использование, чтобы избежать прерывания службы. Контекстное окно поддерживает 100,000 токенов для промпта и завершения вместе. Вывод ограничен 16,000 токенами на запрос.

Лимиты запросов составляют 300 запросов в минуту на ключ. Если вы превысите этот лимит, получите ошибку 429. Ошибки аутентификации возвращают 401, а недостаточный баланс — 402. Ошибки и отказы не потребляют токены, поэтому вы платите только за успешную генерацию контента.