Onbeperkte LLM API Snelstartgids

Vereisten: Installeer de OpenAI SDK

Installeer eerst de officiële OpenAI SDK voor uw voorkeurstaal. De clientbibliotheek verzorgt authenticatie en serialisatie automatisch. U heeft alleen de standaardbibliotheek nodig; er zijn geen extra afhankelijkheden nodig voor basis tekstgeneratie.

Zorg ervoor dat je omgeving moderne Python- of JavaScript-versies ondersteunt. De SDK abstrahert de HTTP-details, zodat je je kunt concentreren op prompt engineering.

Initialiseer de client met base_url

Wijs uw client naar ons dedicated eindpunt in plaats van de standaard OpenAI-URL. Deze enkele wijziging routeert alle verzoeken naar onze infrastructuur voor ongecensureerde modellen, terwijl het standaard OpenAI-compatibele formaat behouden blijft.

U gebruikt uw unieke API-sleutel voor authenticatie. De basis-URL zorgt ervoor dat uw app rechtstreeks met onze servers communiceert zonder via een andere leverancier te proxyen.

• Basis-URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Model-ID: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Stuur uw eerste chatcompletie

Maak een standaard POST aanvraag naar het chat-completie-eindpunt. Geef je systeemprompt en gebruikersbericht door in de standaard JSON-structuur. Het model retourneert tekstantwoorden zonder de gebruikelijke inhoudsfilters voor wettelijk volwassen of controversiële onderwerpen.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Schakel streaming-reacties in

Instellen stream: true om tokens te ontvangen zoals ze worden gegenereerd. Dit vermindert de latentie voor lange uitvoeren. Elke chunk bevat gedeeltelijke tekst en verbruiksstatistieken in het laatste evenement.

De server verzendt Server-Sent Events (SSE) naar je client. Verwerk de stream om je UI real-time bij te werken zonder te wachten op de volledige respons.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Configureer JSON-modus voor gestructureerde data

Gebruik response_format om het model in de JSON-modus te forceren. Dit zorgt voor consistente, parseerbare uitvoer voor uw applicaties. Het model houdt zich strikt aan het schema dat u in uw system prompt definieert.

Inschakelen json_object om te garanderen dat het antwoord geldige JSON is. Dit is kritiek voor programmeerbare integratie met je backendservices.

Implementeer function calling

Definieer tools in je request om function calling in te schakelen. Het model kan functies aanroepen op basis van de context van je prompt. Stuur de tool-definities mee en laat het model beslissen welke functie aangeroepen moet worden.

Verwerk de toolcalls in je applicatielogica. Voer de functie uit en feed het resultaat terug in het gesprek voor een coherent vervolg.

Verwerk tokenverbruik en limieten

Blijf uw verbruik bij om serviceonderbrekingen te voorkomen. Het contextvenster ondersteunt 100,000 tokens voor prompt en completion samen. Output is beperkt tot 16,000 tokens per verzoek.

Rate limits handhaven 300 verzoeken per minuut per sleutel. Als je dit overschrijdt, ontvang je een 429-fout. Authenticatiefouten retourneren 401, en onvoldoende krediet retourneert 402. Fouten en weigeringen verbruiken geen tokens, dus je betaalt alleen voor succesvolle contentgeneratie.