Panduan Cepat API LLM Tanpa Sensor

Prasyarat: Instal SDK OpenAI

Mulai dengan menginstal OpenAI SDK resmi untuk bahasa pilihan Anda. Pustaka klien menangani autentikasi dan serialisasi secara otomatis. Anda hanya memerlukan pustaka standar; tidak ada dependensi tambahan yang diperlukan untuk generasi teks dasar.

Pastikan lingkungan Anda mendukung versi Python atau JavaScript modern. SDK mengabstraksi detail HTTP sehingga Anda dapat fokus pada rekayasa prompt.

Inisialisasi klien dengan base_url

Arahkan klien Anda ke titik akhir khusus kami daripada URL OpenAI default. Perubahan tunggal ini mengalihkan semua permintaan ke infrastruktur model tanpa sensor kami sambil mempertahankan format yang kompatibel dengan OpenAI standar.

Anda akan menggunakan kunci API unik Anda untuk autentikasi. URL dasar memastikan aplikasi Anda berkomunikasi langsung dengan server kami tanpa memproksi melalui vendor lain.

• URL Dasar: HTTPS://api.openrouteropenaicompatible.com/v1
• ID Model: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kirim penyelesaian chat pertama Anda

Buat standar POST permintaan ke endpoint penyelesaian chat. Luluskan prompt sistem dan pesan pengguna Anda dalam struktur JSON standar. Model mengembalikan respons teks tanpa filter konten biasa untuk topik dewasa yang sah atau kontroversial.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aktifkan respons streaming

Atur stream: true untuk menerima token saat dihasilkan. Ini mengurangi latensi yang dirasakan untuk output panjang. Setiap potongan berisi teks parsial dan statistik penggunaan dalam peristiwa terakhir.

Server mengirimkan Server-Sent Events (SSE) ke klien Anda. Tangani aliran tersebut untuk memperbarui UI Anda secara real-time tanpa menunggu respons lengkap.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Konfigurasikan mode JSON untuk data terstruktur

Gunakan response_format untuk memaksa model ke mode JSON. Ini memastikan output yang konsisten dan dapat diuraikan untuk aplikasi Anda. Model mematuhi skema yang Anda tentukan dalam prompt sistem Anda dengan ketat.

Aktifkan json_object untuk menjamin respons adalah JSON yang valid. Ini sangat penting untuk integrasi terprogram dengan layanan backend Anda.

Terapkan pemanggilan fungsi

Tentukan alat dalam permintaan Anda untuk mengaktifkan pemanggilan fungsi. Model dapat memanggil fungsi berdasarkan konteks prompt Anda. Berikan definisi alat dan biarkan model memutuskan fungsi mana yang akan dipanggil.

Tangani panggilan alat dalam logika aplikasi Anda. Eksekusi fungsi dan masukkan hasilnya kembali ke percakapan untuk tindak lanjut yang koheren.

Tangani penggunaan token dan batas

Pantau penggunaan Anda untuk menghindari gangguan layanan. Jendela konteks mendukung 100.000 token untuk prompt dan penyelesaian gabungan. Output dibatasi hingga 16.000 token per permintaan.

Batas laju menerapkan 300 permintaan per menit per kunci. Jika Anda melebihi ini, Anda akan menerima kesalahan 429. Kesalahan autentikasi mengembalikan 401, dan kredit tidak cukup mengembalikan 402. Kesalahan dan penolakan tidak mengonsumsi token, jadi Anda hanya membayar untuk generasi konten yang berhasil.