Посібник зі швидкого старту API Нецензурована LLM

Передумови: Встановіть SDK OpenAI

Почніть із встановлення офіційного SDK від OpenAI для вашої бажаної мови. Бібліотека клієнта автоматично обробляє автентифікацію та серіалізацію. Вам потрібна лише стандартна бібліотека; для базової генерації тексту не потрібні додаткові залежності.

Переконайтеся, що ваше середовище підтримує сучасні версії Python або JavaScript. SDK абстрагує деталі HTTP, дозволяючи вам зосередитися на інженерії промптів.

Ініціалізуйте клієнт з base_url

Направте клієнта до нашого виділеного кінцевого пункту замість стандартної URL-адреси OpenAI. Ця єдина зміна маршрутизує всі запити до інфраструктури нашої моделі uncensored, зберігаючи стандартний формат, сумісний з OpenAI.

Ви використовуватимете свій унікальний API-ключ для автентифікації. Базова URL-адреса забезпечує пряме з’єднання вашого додатка з нашими серверами без проксі через іншого постачальника.

• Базовий URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Ідентифікатор моделі: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Надішліть своє перше завершення чату

Зробіть стандартний POST запит до ендпоінту chat completions. Передайте свій системний промпт і повідомлення користувача у стандартній JSON-структурі. Модель повертає текстові відповіді без звичайних фільтрів контенту для законних дорослих або суперечливих тем.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Увімкніть потокове передавання відповідей

Встановити stream: true отримувати токени по мірі їх генерації. Це зменшує сприйняту затримку для довгих виводів. Кожен чанк містить частковий текст і статистику використання в останній події.

Сервер надсилає події, що надсилаються сервером (SSE), на ваш клієнт. Обробляйте потік, щоб оновлювати інтерфейс користувача в реальному часі, не чекаючи повної відповіді.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Налаштуйте режим JSON для структурованих даних

Використовувати response_format щоб перевести модель в режим JSON. Це забезпечує послідовний, придатний для парсингу вивід для ваших додатків. Модель суворо дотримується схеми, яку ви визначаєте у своєму системному промпті.

Увімкнути json_object щоб гарантувати, що відповідь є валідним JSON. Це критично важливо для програмної інтеграції з вашими бекенд-сервісами.

Реалізуйте виклик функцій

Визначте інструменти в тілі запиту, щоб увімкнути виклик функцій. Модель може викликати функції на основі контексту вашого запиту. Передайте визначення інструментів і дозвольте моделі вирішити, яку функцію викликати.

Обробіть виклики інструментів у логіці вашої програми. Виконайте функцію та поверніть результат назад у розмову для узгодженого продовження.

Керування використанням токенів та лімітами

Стежте за використанням, щоб уникнути переривання служби. Контекстне вікно підтримує до 100 000 токенів для промпту та завершення в сукупності. Вихід обмежено 16 000 токенів на запит.

Ліміти швидкості становлять 300 запитів за хвилину на ключ. Якщо ви перевищите цей ліміт, ви отримаєте помилку 429. Помилки автентифікації повертають 401, а недостатній кредит — 402. Помилки та відмови не споживають токени, тому ви платите лише за успішну генерацію контенту.