Guia de início rápido da API LLM sem censura

Pré-requisitos: Instale o SDK OpenAI

Comece instalando o SDK oficial da OpenAI para a sua linguagem preferida. A biblioteca de cliente cuida da autenticação e da serialização automaticamente. Você precisa apenas da biblioteca padrão; não são necessárias dependências extras para geração básica de texto.

Certifique-se de que seu ambiente suporte versões modernas de Python ou JavaScript. O SDK abstrai os detalhes do HTTP para que você possa focar na engenharia de prompts.

Inicialize o cliente com base_url

Direcione seu cliente para nosso endpoint dedicado em vez da URL padrão do OpenAI. Esta única alteração roteia todas as solicitações para nossa infraestrutura de modelo sem censura, mantendo o formato padrão compatível com OpenAI.

Você usará sua chave de API exclusiva para autenticação. A URL base garante que seu aplicativo se comunique diretamente com nossos servidores sem fazer proxy por meio de outro fornecedor.

• URL Base: HTTPS://api.openrouteropenaicompatible.com/v1
• ID do Modelo: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Envie sua primeira conclusão de chat

Faça uma solicitação POST solicitação ao endpoint de conclusões de chat. Passe seu prompt de sistema e mensagem do usuário na estrutura JSON padrão. O modelo retorna respostas de texto sem os filtros de conteúdo usuais para tópicos adultos legais ou controversos.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ative respostas em streaming

Definir stream: true para receber tokens conforme são gerados. Isso reduz a latência percebida para saídas longas. Cada chunk contém texto parcial e estatísticas de uso no evento final.

O servidor envia Server-Sent Events (SSE) para o seu cliente. Gerencie o stream para atualizar sua interface do usuário em tempo real, sem aguardar a resposta completa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Configure o modo JSON para dados estruturados

Usar response_format para forçar o modelo para o modo JSON. Isso garante uma saída consistente e analisável para seus aplicativos. O modelo adere estritamente ao esquema que você define no prompt do sistema.

Habilitar json_object garantir que a resposta seja JSON válido. Isso é crítico para integração programática com seus serviços backend.

Implemente chamada de função

Defina ferramentas na solicitação para habilitar chamada de funções. O modelo pode invocar funções com base no contexto do seu prompt. Passe as definições de ferramentas e deixe o modelo decidir qual função chamar.

Manipule as chamadas de ferramenta na lógica da sua aplicação. Execute a função e alimente o resultado de volta na conversa para uma continuação coerente.

Manipule o uso de tokens e os limites

Monitore seu uso para evitar interrupções no serviço. A janela de contexto suporta 100.000 tokens para prompt e conclusão combinados. A saída é limitada a 16.000 tokens por solicitação.

Os limites de taxa impõem 300 solicitações por minuto por chave. Se você exceder isso, receberá um erro 429. Erros de autenticação retornam 401 e crédito insuficiente retorna 402. Erros e recusas não consomem tokens, então você paga apenas pela geração de conteúdo bem-sucedida.