Okänsurerad LLM API-snabbstartsguide

Förutsättningar: Installera OpenAI SDK

Börja med att installera det officiella OpenAI SDK:t för ditt föredragna språk. Klientbiblioteket hanterar autentisering och serier automatiskt. Du behöver bara standardbiblioteket; inga extra beroenden krävs för grundläggande textgenerering.

Se till att din miljö stödjer moderna versioner av Python eller JavaScript. SDK:en abstraherar bort HTTP-detaljerna så att du kan fokusera på prompt-engineering.

Initiera klienten med base_url

Peka din klient mot vår dedikerade slutpunkt istället för standard-URLen för OpenAI. Denna enda ändring routar alla förfrågningar till vår obegränsade modellinfrastruktur samtidigt som standard OpenAI-kompatibla format behålls.

Du använder din unika API-nyckel för autentisering. Base URL:en säkerställer att din app pratar direkt med våra servrar utan att proxya via en annan leverantör.

• Bas URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Modell-ID: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Skicka din första chattkomplettering

Gör en standard POST begäran till chattkompletterings-slutpunkten. Skicka din systemprompt och användarmeddelande i den standardiserade JSON-strukturen. Modellen returnerar textsvar utan de vanliga innehållsfilter för lagliga vuxna eller kontroversiella ämnen.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aktivera strömningsrespons

Ställ in stream: true för att ta emot tokens när de genereras. Detta minskar den upplevda latensen för långa utdata. Varje bit innehåller delvis text och användningsstatistik i den sista händelsen.

Servern skickar Server-Sent Events (SSE) till din klient. Hantera strömmen för att uppdatera ditt gränssnitt i realtid utan att vänta på hela svaret.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Konfigurera JSON-läge för strukturerad data

Använd response_format för att tvinga modellen i JSON-läge. Detta säkerställer konsekvent, parsbar utdata för dina applikationer. Modellen följer strikt det schema du definierar i din systemprompt.

Aktivera json_object att garantera att svaret är giltig JSON. Detta är kritiskt för programmatisk integration med dina baksidesjänster.

Implementera funktionsanrop

Definiera verktyg i din begäran för att aktivera funktionsanrop. Modellen kan anropa funktioner baserat på din promptkontext. Skicka verktsdefinitionerna och låt modellen bestämma vilken funktion som ska anropas.

Hantera verktygsanropen i din applikationslogik. Kör funktionen och mata tillbaka resultatet i konversationen för en sammanhängande uppföljning.

Hantera tokenanvändning och gränser

Övervaka din användning för att undvika tjänstavbrott. Kontextfönstret stödjer 100,000 tokens för prompt och komplettering tillsammans. Utmatningen är begränsad till 16,000 tokens per förfrågan.

Rate limits tillämpar 300 begärningar per minut per nyckel. Om du överskrider detta får du ett 429-fel. Autentiseringsfel returnerar 401 och otillräckligt kredit returnerar 402. Fel och avslag konsumerar inte tokens, så du betalar endast för lyckad innehållsgenerering.