Ghid de începere rapidă API LLM fără cenzură

Precondiții: instalează SDK-ul OpenAI

Începe prin a instala SDK-ul oficial OpenAI pentru limbajul tău preferat. Biblioteca client gestionează automat autentificarea și serializarea. Ai nevoie doar de biblioteca standard; nu sunt necesare dependențe suplimentare pentru generarea de text de bază.

Asigură-te că mediul tău suportă versiuni moderne de Python sau JavaScript. SDK-ul abstrage detaliile HTTP astfel încât să te poți concentra pe ingineria prompturilor.

Inițializați clientul cu base_url

Indreaptă clientul către endpoint-ul dedicat în loc de URL-ul implicit OpenAI. Această singură modificare direcționează toate solicitările către infrastructura modelului nostru fără cenzură, păstrând formatul standard compatibil cu OpenAI.

Vei folosi cheia ta unică API pentru autentificare. URL-ul de bază asigură că aplicația ta comunică direct cu serverele noastre fără a trece prin intermediul unui alt furnizor.

• URL de bază: HTTPS://api.openrouteropenaicompatible.com/v1
• ID Model: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Trimite prima ta completare de chat

Efectuați un POST solicitare către endpointul de completări chat. Transmite promptul de sistem și mesajul utilizatorului în structura JSON standard. Modelul returnează răspunsuri text fără filtrele de conținut obișnuite pentru subiecte adulte legale sau controversate.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Activați răspunsurile prin streaming

Setează stream: true pentru a primi token-uri pe măsură ce sunt generate. Acest lucru reduce latența percepută pentru output-uri lungi. Fiecare bucată conține text parțial și statistici de utilizare în evenimentul final.

Serverul trimite Server-Sent Events (SSE) către clientul tău. Gestionează stream-ul pentru a actualiza interfața utilizatorului în timp real, fără să aștepți răspunsul complet.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Configurați modul JSON pentru date structurate

Utilizare response_format pentru a forca modelul în modul JSON. Acest lucru asigură un output consistent și parsabil pentru aplicațiile dvs. Modelul respectă strict schema pe care o definiți în promptul de sistem.

Activează json_object garantarea faptului că răspunsul este JSON valid. Acest lucru este critic pentru integrarea programatică cu serviciile tale backend.

Implementați apelarea funcțiilor

Definește instrumentele în cerere pentru a activa apelarea funcțiilor. Modelul poate invoca funcții bazat pe contextul promptului tău. Trimite definițiile instrumentelor și lasă modelul să decidă ce funcție să apeleze.

Gestionați apelurile de instrumente în logica aplicației dvs. Executați funcția și alimentați rezultatul înapoi în conversație pentru o continuare coerentă.

Gestionați utilizarea și limitele token-urilor

Monitorizați-vă utilizarea pentru a evita întreruperile serviciului. Fereastra de context suportă 100,000 de tokeni pentru prompt și completare combinate. Ieșirea este limitată la 16,000 de tokeni per cerere.

Limitările de rată impun 300 de cereri pe minut per cheie. Dacă depășești această limită, vei primi o eroare 429. Erorile de autentificare returnează 401, iar creditul insuficient returnează 402. Erorile și refuzurile nu consumă tokeni, așa că plătești doar pentru generarea de conținut reușită.