Uncensored LLM API Gyors kezdés útmutató

Előfeltételek: Az OpenAI SDK telepítése

Kezdje a hivatalos OpenAI SDK telepítésével a választott nyelvhez. A klienstkönyvtár automatikusan kezeli a hitelesítést és a szerializációt. Csak a szabványos könyvtárra van szüksége; alapvető szöveggeneráláshoz nem szükségesek extra függőségek.

Győződjön meg arról, hogy a környezete támogatja a modern Python vagy JavaScript verziókat. Az SDK elrejti az HTTP részleteket, így a prompt mérnökségre koncentrálhat.

Inicializálja a klienst base_url paraméterrel

Irányítsd ügyfeledet a dedikált végpontra a helyettesítés helyett az alapértelmezett OpenAI URL-re. Ez az egyetlen változás az összes kérést a cenzúrázatlan modell infrastruktúrára irányítja, miközben megőrzi a szabványos OpenAI-kompatibilis formátumot.

Egyedi API-kulcsát használja a hitelesítéshez. Az alap URL biztosítja, hogy az alkalmazása közvetlenül a szervereinkkel kommunikáljon anélkül, hogy egy másik szolgáltatóon keresztül proxyzta volna.

• Base URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Modell ID: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Küldje el első chat-lezárás

Tegyen egy szabványos POST kérés a chat completions végpontra. Adja meg a rendszer promptját és a felhasználói üzenetet a szabványos JSON struktúrában. A modell szöveges válaszokat ad vissza a szokásos tartalom szűrők nélkül jogszerű felnőtt vagy vitatott témák esetén.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelt válaszok engedélyezése.

Beállítás stream: true tokenek fogadására generálásuk során. Ez csökkenti az észlelt késleltést hosszú kimenetek esetén. Minden darab részleges szöveget és felhasználási statisztikákat tartalmaz az utolsó eseményben.

A kiszolgáló Server-Sent Events (SSE) streamet küld az ügyfélprogramodnak. Kezeld a streamet, hogy valós időben frissíthesd a felhasználói felületet anélkül, hogy várnod kellene a teljes válaszra.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON mód konfigurálása strukturált adatokhoz

Használat response_format a modell JSON módba kényszerítéséhez. Ez konzisztens, feldolgozható kimenetet biztosít az alkalmazásai számára. A modell szigorúan betartja a sémát, amelyet a rendszerpromptban definiál.

Engedélyezés json_object a válasz érvényes JSON biztosítására. Ez kritikus fontosságú a backend szolgáltatásaival való programozott integrációhoz.

Implementáljon függvényhívást

Határozza meg az eszközöket a kérésben a függvényhívás engedélyezéséhez. A modell a prompt kontextusa alapján hívhat függvényeket. Adja meg az eszközdefiníciókat, és hagyja, hogy a modell eldöntse, melyik függvényt hívja meg.

Kezelje az eszköz hívásokat az alkalmazás logikájában. Hajtson végre egy függvényt, és adja vissza az eredményt a párbeszédbe egy koherens folytatáshoz.

Kezelje a tokenfelhasználást és a korlátokat

Kövesse a felhasználást a szolgáltatás megszakításának elkerülése érdekében. A kontextusablak 100,000 token támogatását teszi lehetővé prompt és kiegészítés együtt. A kimenet kérésenként 16,000 tokenre van korlátozva.

A sebességkorlátok kulcsonként percenként 300 kérést alkalmaznak. Ha ezt túllépi, 402-es hibát kap. A hitelesítési hibák 401-esek, az elégtelen hitel pedig 402-es. A hibák és a visszautasítások nem fogyasztanak tokeneket, így csak a sikeres tartalomgenerálásért fizet.