Filtresiz LLM API Hızlı Başlangıç Rehberi

Önkoşullar: OpenAI SDK'sını Yükleyin

Tercih ettiğiniz dil için resmi OpenAI SDK'sını yükleyerek başlayın. İstemci kütüphanesi kimlik doğrulamasını ve serileştirmeyi otomatik olarak yönetir. Temel metin üretimi için ek bağımlılıklara gerek kalmadan standart kütüphaneye ihtiyacınız vardır.

Ortamınızın modern Python veya JavaScript sürümlerini desteklediğinden emin olun. SDK, HTTP ayrıntılarını soyutlar, böylece odaklanabileceğiniz şey prompt mühendisliğidir.

İstemciyi base_url ile başlatın

İstemcinizi varsayılan OpenAI URL'si yerine özel uç noktamıza yönlendirin. Bu tek değişiklik, standart OpenAI-uyumlu formatı korurken tüm istekleri sansürsüz model altyapımıza yönlendirir.

Kimlik doğrulama için benzersiz API anahtarınızı kullanırsınız. Temel URL, uygulamanızın bir vekil sunucu üzerinden değil, doğrudan sunucularımızla iletişim kurmasını sağlar.

• Temel URL: HTTPS://api.openrouteropenaicompatible.com/v1
• Model Kimliği: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

İlk sohbet tamamlamasını

Standart bir POST chat completions uç noktasına istek. Sistem prompt'unuzu ve kullanıcı mesajınızı standart JSON yapısında iletin. Model, yasal yetişkin veya tartışmalı konular için genellikle uygulanan içerik filtreleri olmadan metin yanıtları döndürür.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış yanıtlarını etkinleştirin

Ayarla stream: true Sunucu Tarafından Gönderilen Etkinlikler (SSE) aracılığıyla oluşturuldukları gibi tokenları almak için. Bu, uzun çıktılar için algılanan gecikmeyi azaltır. Her parça kısmi metn içerir ve son olayda kullanım istatistikleri yer alır.

Sunucu, SSE'leri istemcinize gönderir. Tam yanıtı beklemek yerine akışı işleyerek kullanıcı arayüzünüzü gerçek zamanlı olarak güncelleyin.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Yapısal veri için JSON modunu yapılandırın

Kullan response_format modeli JSON moduna zorlamak için. Bu, uygulamalarınız için tutarlı, ayrıştırılabilir çıktı sağlar. Model, sistem isteminde tanımladığınız şemaya sıkı sıkıya uyar.

Etkinleştir json_object yanıtın geçerli JSON olduğundan emin olmak için. Bu, arka uç hizmetlerinizle programatik entegrasyon için kritiktir.

İşlev çağrısını uygulayın

İşlev çağırma etkinleştirmek için istek gövnenize araçlar tanımlayın. Model, istem bağlamınıza göre işlevleri çağırabilir. Araç tanımlamalarını iletin ve modelin hangi işlevi çağırması gerektiğine karar vermesine izin verin.

Araç çağrılarını uygulama mantığınızda işleyin. İşlevi yürütün ve tutarlı bir devam eden konuşma için sonucu sohbete geri besleyin.

Token kullanımını ve limitleri yönetin

Hizmet kesintilerinden kaçınmak için kullanımınızı izleyin. Bağlam penceresi, istem ve tamamlama için birlikte 100.000 token destekler. Çıktı isteği başına 16.000 token ile sınırlıdır.

Rate limitler anahtar başına dakikada 300 istek uygular. Bunu aşarsanız 429 hatası alırsınız. Kimlik doğrulama hataları 401 döndürür ve yetersiz kredi 402 döndürür. Hatalar ve reddetmeler token tüketmez, bu nedenle yalnızca başarılı içerik üretimi için ödeme yaparsınız.