Guía de inicio rápido de la API de LLM sin censura

Prerrequisitos: instala el SDK de OpenAI

Empieza instalando el SDK oficial de OpenAI para tu lenguaje preferido. La biblioteca cliente gestiona la autenticación y la serialización automáticamente. Solo necesitas la biblioteca estándar; no se requieren dependencias adicionales para la generación básica de texto.

Asegúrate de que tu entorno soporte versiones modernas de Python o JavaScript. El SDK abstrae los detalles de HTTP para que puedas centrarte en la ingeniería de prompts.

Inicializa el cliente con base_url

Apunta a nuestro cliente a nuestro endpoint dedicado en lugar de la URL predeterminada de OpenAI. Este único cambio enruta todas las solicitudes a la infraestructura de nuestro modelo uncensored mientras mantiene el formato estándar compatible con OpenAI.

Usarás tu clave de API única para la autenticación. La URL base asegura que tu aplicación se comunique directamente con nuestros servidores sin intermediarios.

• URL Base: HTTPS://api.openrouteropenaicompatible.com/v1
• ID del Modelo: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Envía tu primera finalización de chat

Realiza una solicitud estándar POST solicitud al endpoint de completado de chat. Pasa tu prompt del sistema y el mensaje del usuario en la estructura JSON estándar. El modelo devuelve respuestas de texto sin los filtros de contenido habituales para temas adultos legales o controversiales.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Habilita respuestas con streaming

Establecer stream: true para recibir tokens a medida que se generan. Esto reduce la latencia percibida en salidas largas. Cada fragmento contiene texto parcial y estadísticas de uso en el evento final.

El servidor envía Eventos Enviados por Servidor (SSE) a tu cliente. Maneja el flujo para actualizar tu interfaz de usuario en tiempo real sin esperar a la respuesta completa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Configura el modo JSON para datos estructurados

Usar response_format para forzar al modelo al modo JSON. Esto garantiza una salida consistente y analizable para tus aplicaciones. El modelo se adhiere estrictamente al esquema que defines en tu prompt del sistema.

Habilitar json_object para garantizar que la respuesta sea JSON válido. Esto es crítico para la integración programática con tus servicios backend.

Implementa la llamada de funciones

Define las herramientas en tu solicitud para habilitar la invocación de funciones. El modelo puede invocar funciones basándose en el contexto de tu prompt. Pasa las definiciones de las herramientas y deja que el modelo decida qué función invocar.

Maneja las llamadas a herramientas en la lógica de tu aplicación. Ejecuta la función y alimenta el resultado de vuelta en la conversación para una continuación coherente.

Maneja el uso de tokens y los límites

Monitorea tu uso para evitar interrupciones del servicio. La ventana de contexto admite 100,000 tokens para prompt y finalización combinados. La salida está limitada a 16,000 tokens por solicitud.

Los límites de tasa aplican 300 solicitudes por minuto por clave. Si superas este límite, recibirás un error 429. Los errores de autenticación devuelven 401, y el saldo insuficiente devuelve 402. Los errores y las denegaciones no consumen tokens, por lo que solo pagas por la generación de contenido exitosa.