Guida rapida API LLM senza filtri

Prerequisiti: installa l'SDK OpenAI

Inizia installando l'SDK ufficiale di OpenAI per il tuo linguaggio preferito. La libreria client gestisce automaticamente l'autenticazione e la serializzazione. Hai bisogno solo della libreria standard; non sono richieste dipendenze aggiuntive per la generazione di testo di base.

Assicurati che il tuo ambiente supporti le versioni moderne di Python o JavaScript. L'SDK astrae i dettagli HTTP in modo che tu possa concentrarti sull'ingegneria dei prompt.

Inizializza il client con base_url

Indirizza il tuo client al nostro endpoint dedicato invece dell'URL predefinito di OpenAI. Questa singola modifica instrada tutte le richieste alla nostra infrastruttura del modello senza filtri mantenendo il formato standard compatibile con OpenAI.

Utilizzerai la tua chiave API univoca per l'autenticazione. L'URL di base garantisce che la tua app comunichi direttamente con i nostri server senza fare proxy attraverso un altro fornitore.

• URL Base: HTTPS://api.openrouteropenaicompatible.com/v1
• ID modello: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Invia la tua prima chat completion

Esegui una richiesta POST richiesta all'endpoint di completamento chat. Passa il tuo prompt di sistema e il messaggio dell'utente nella struttura JSON standard. Il modello restituisce risposte di testo senza i soliti filtri dei contenuti per argomenti adulti legali o controversi.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Abilita le risposte in streaming

Imposta stream: true per ricevere i token man mano che vengono generati. Questo riduce la latenza percepita per gli output lunghi. Ogni chunk contiene testo parziale e statistiche di utilizzo nell'evento finale.

Il server invia Server-Sent Events (SSE) al tuo client. Gestisci lo stream per aggiornare la tua interfaccia utente in tempo reale senza attendere la risposta completa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Configura la modalità JSON per dati strutturati

Usa response_format per forzare il modello in modalità JSON. Questo garantisce un output coerente e analizzabile per le tue applicazioni. Il modello aderisce rigorosamente allo schema che definisci nel tuo prompt di sistema.

Abilita json_object per garantire che la risposta sia JSON valido. Questo è critico per l'integrazione programmatica con i servizi backend.

Implementa la chiamata di funzioni

Definisci gli strumenti nella richiesta per abilitare il richiamo delle funzioni. Il modello può invocare funzioni in base al contesto del tuo prompt. Passa le definizioni degli strumenti e lascia che il modello decida quale funzione chiamare.

Gestisci le chiamate agli strumenti nella logica della tua applicazione. Esegui la funzione e fornisci il risultato di nuovo nella conversazione per un seguito coerente.

Gestisci l'utilizzo dei token e i limiti

Monitora il tuo utilizzo per evitare interruzioni del servizio. La finestra di contesto supporta 100,000 token per prompt e completamento combinati. L'output è limitato a 16,000 token per richiesta.

I limiti di frequenza impongono 300 richieste al minuto per chiave. Se superi questo limite, riceverai un errore 429. Gli errori di autenticazione restituiscono 401 e il credito insufficiente restituisce 402. Gli errori e i rifiuti non consumano token, quindi paghi solo per la generazione di contenuti riuscita.