Ufiltreret LLM API Quickstart-guide

Forudsætninger: Installer OpenAI SDK

Start med at installere den officielle OpenAI SDK til dit foretrukne sprog. Klientbiblioteket håndterer automatisk autentificering og serialisering. Du har kun brug for standardbiblioteket; der er ingen ekstra afhængigheder nødvendige til grundlæggende tekstgenerering.

Sørg for, at dit miljø understøtter moderne Python- eller JavaScript-versioner. SDK'et abstraherer HTTP-detalerne, så du kan fokusere på prompt-engineering.

Initialiser klienten med base_url

Peg din klient til vores dedikerede endpoint i stedet for standard OpenAI URL. Denne enkelt ændring route alle requests til vores uncensored model infrastruktur, mens standard OpenAI-kompatible format bevares.

Du bruger din unikke API-nøgle til autentificering. Base-URL'en sikrer, at din app taler direkte med vores servere uden at proxye gennem en anden udbyder.

• Base URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Model-ID: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Send din første chat-completion

Lav en standard POST request til chat completions-slutpunktet. Opret dit system-prompt og brugermelding i den standard JSON-struktur. Modellen returnerer tekstrespons uden de sædvanlige indholdsfiltere for lovligt voksent eller kontroversielt indhold.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aktivér streaming-svar

Indstil stream: true for at modtage tokens, mens de genereres. Dette reducerer den opfattede latens for lange outputs. Hver chunk indeholder delvis tekst og forbrugsstatistikker i det sidste event.

Serveren sender Server-Sent Events (SSE) til din klient. Håndter streamen for at opdatere dit UI i realtid uden at vente på det fulde svar.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Konfigurer JSON-tilstand til strukturerede data

Brug response_format for at tvinge modellen til JSON-tilstand. Dette sikrer konsistent, parserbart output til dine applikationer. Modellen overholder strengt det skema, du definerer i din systemprompt.

Aktiver json_object til at garantere, at svaret er gyldig JSON. Dette er kritisk for programmatisk integration med dine backend-tjenester.

Implementer funktionkald

Definer værktøjer i din request for at aktivere function calling. Modellen kan kalde funktioner baseret på din prompt-kontekst. Send værktogsdefinitionerne, og lad modellen afgøre, hvilken funktion der skal kaldes.

Håndter værktjskald i din applikationslogik. Kør funktionen og feed resultatet tilbage i samtalen for en sammenhængende opfølgning.

Håndter tokenforbrug og grænser

Overvåg dit forbrug for at undgå tjenesteafbrydelser. Context-vinduet understøtter 100.000 tokens til prompt og completion kombineret. Output er begrænset til 16.000 tokens per anmodning.

Rate limits håndhælder 300 anmodninger per minut per nøgle. Hvis du overskrider dette, modtager du en 429-fejl. Authentificeringsfejl returnerer 401, og utilstrækkelig kredit returnerer 402. Fejl og afslag forbruger ikke tokens, så du betaler kun for succesfuld indholdsproduktion.