Guide de démarrage rapide API LLM sans censure

Prérequis : installez le SDK OpenAI

Commencez par installer le SDK officiel OpenAI pour votre langage préféré. La bibliothèque client gère l'authentification et la sérialisation automatiquement. Vous n'avez besoin que de la bibliothèque standard ; aucune dépendance supplémentaire n'est requise pour la génération de texte de base.

Assurez-vous que votre environnement prend en charge les versions modernes de Python ou JavaScript. Le SDK masque les détails HTTP afin que vous puissiez vous concentrer sur l'ingénierie des prompts.

Initialiser le client avec l'URL de base

Pointez votre client vers notre point de terminaison dédié au lieu de l'URL OpenAI par défaut. Ce seul changement achemine toutes les requêtes vers l'infrastructure de notre modèle sans censure tout en conservant le format standard compatible OpenAI.

Vous utiliserez votre clé API unique pour l'authentification. L'URL de base garantit que votre application communique directement avec nos serveurs sans passer par un autre fournisseur.

• URL de base : HTTPS://api.openrouteropenaicompatible.com/v1
• ID du modèle : uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Envoyez votre première complétion de chat

Faites une demande standard POST requête vers le point de terminaison des complétions de chat. Transmettez votre invite système et le message utilisateur dans la structure JSON standard. Le modèle renvoie des réponses textuelles sans les filtres de contenu habituels pour les sujets adultes légaux ou controversés.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Activez les réponses en streaming

Définir stream: true pour recevoir des tokens au fur et à mesure de leur génération. Cela réduit la latence perçue pour les sorties longues. Chaque chunk contient du texte partiel et des statistiques d'utilisation dans l'événement final.

Le serveur envoie des événements envoyés par le serveur (SSE) à votre client. Gérez le flux pour mettre à jour votre interface utilisateur en temps réel sans attendre la réponse complète.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Configurer le mode JSON pour les données structurées

Utiliser response_format pour forcer le modèle en mode JSON. Cela garantit une sortie cohérente et analysable pour vos applications. Le modèle adhère strictement au schéma que vous définissez dans votre prompt système.

Activer json_object pour garantir que la réponse est un JSON valide. C'est critique pour l'intégration programmatique avec vos services backend.

Implémentez l'appel de fonctions

Définissez les outils dans votre requête pour activer l'appel de fonctions. Le modèle peut invoquer des fonctions en fonction du contexte de votre invite. Transmettez les définitions des outils et laissez le modèle décider quelle fonction appeler.

Gérez les appels d'outils dans la logique de votre application. Exécutez la fonction et alimentez le résultat dans la conversation pour une suite cohérente.

Gérer l'utilisation et les limites des jetons

Surveillez votre utilisation pour éviter les interruptions de service. La fenêtre de contexte prend en charge 100,000 tokens pour la somme de l'invite et de la complétion. La sortie est limitée à 16,000 tokens par requête.

Les limites de taux imposent 300 requêtes par minute par clé. Si vous dépassez cette limite, vous recevrez une erreur 429. Les erreurs d'authentification retournent 401, et un crédit insuffisant retourne 402. Les erreurs et les refus ne consomment pas de jetons, vous ne payez donc que pour la génération de contenu réussie.