راهنمای شروع سریع API مدل زبانی بزرگ بدون سانسور

پیش‌نیازها: نصب SDK OpenAI

ابتدا SDK رسمی OpenAI برای زبان مورد نظر خود را نصب کنید. کتابخانه کلاینت احراز هویت و سریال‌سازی را به‌طور خودکار مدیریت می‌کند. شما فقط به کتابخانه استاندارد نیاز دارید و برای تولید متن اولیه به وابستگی اضافی نیاز نیست.

اطمینان حاصل کنید که محیط شما از نسخه‌های مدرن Python یا JavaScript پشتیبانی می‌کند. SDK جزئیات HTTP را انتزاع می‌کند تا بتوانید بر مهندسی پرامپت تمرکز کنید.

کلاینت را با base_url مقداردهی اولیه کنید

مشتری خود را به نقطه پایانی اختصاصی ما به جای URL پیش‌فرض OpenAI هدایت کنید. این تغییر واحد تمام درخواست‌ها را به زیرساخت مدل بدون سانسور ما مسیریابی می‌کند در حالی که فرمت سازگار با OpenAI استاندارد را حفظ می‌کند.

برای احراز هویت از کلید API منحصر به فرد خود استفاده می‌کنید. URL پایه تضمین می‌کند که برنامه شما مستقیماً با سرورهای ما ارتباط برقرار می‌کند و از طریق واسط دیگری پروکسی نمی‌شود.

• URL پایه: HTTPS://api.openrouteropenaicompatible.com/v1
• شناسه مدل: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

اولین تکمیل چت

یک درخواست POST درخواست به نقطه پایانی تکمیل چت. دستور سیستم و پیام کاربر را در ساختار JSON استاندارد عبور دهید. مدل پاسخ‌های متنی را بدون فیلترهای محتوای معمول برای موضوعات بزرگسالان قانونی یا بحث‌برانگیز برمی‌گرداند.

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

پاسخ‌های جریان‌دار (Streaming) را فعال کنید.

تنظیم stream: true برای دریافت توکن‌ها همان‌طور که تولید می‌شوند. این کار تأخیر ادراک‌شده را برای خروجی‌های طولانی کاهش می‌دهد. هر قطعه حاوی متن جزئی و آمار مصرف در رویداد نهایی است.

سرور رویدادهای ارسالی سرور (SSE) را به کلاینت شما ارسال می‌کند. جریان داده را مدیریت کنید تا رابط کاربری خود را به صورت بلادرنگ به‌روزرسانی کنید، بدون اینکه منتظر پاسخ کامل بمانید.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

پیکربندی حالت JSON برای داده‌های ساختاریافته

استفاده response_format برای وارد کردن مدل به حالت JSON. این خروجی یکسان و قابل پارس برای برنامه‌های شما را تضمین می‌کند. مدل به‌شدت به طرحواره‌ای که در prompt سیستم خود تعریف می‌کنید پایبند می‌ماند.

فعال‌سازی json_object برای تضمین معتبر بودن JSON پاسخ. این مورد برای یکپارچه‌سازی برنامه‌نویسی با خدمات بک‌اند شما حیاتی است.

پیاده‌سازی فراخوانی تابع

ابزارها را در درخواست خود تعریف کنید تا قابلیت‌های فراخوانی تابع را فعال کنید. مدل می‌تواند توابع را بر اساس زمینه پرامپت شما فراخوانی کند. تعاریف ابزار را ارسال کنید و بگذارید مدل تصمیم بگیرد کدام تابع را فراخوانی کند.

فراخوانی‌های ابزار را در منطق برنامه خود مدیریت کنید. تابع را اجرا کنید و نتیجه را برای یک پیگیری منسجم به گفتگو بازگردانید.

مصرف و محدودیت‌های توکن را مدیریت کنید

برای جلوگیری از اختلال در سرویس، مصرف خود را پایش کنید. پنجره متن از مجموع ۱۰۰,۰۰۰ توکن برای پرامپت و تکمیل متن پشتیبانی می‌کند. خروجی به ۱۶,۰۰۰ توکن به ازای هر درخواست محدود است.

محدودیت‌های نرخ ۳۰۰ درخواست در دقیقه به ازای هر کلید را اعمال می‌کنند. اگر از این مقدار عبور کنید، خطای 429 دریافت خواهید کرد. خطاهای احراز هویت 401 و اعتبار ناکافی 402 را برمی‌گردانند. خطاها و رد شدن‌ها توکن مصرف نمی‌کنند، بنابراین فقط برای تولید محتوای موفق پرداخت می‌کنید.