अनकेंसरड LLM API क्विकस्टार्ट गाइड

आवश्यकताएँ: OpenAI SDK इंस्टॉल करें

अपनी पसंदीदा भाषा के लिए आधिकारिक OpenAI SDK को इंस्टॉल करें। क्लाइंट लाइब्रेरी प्रमाणीकरण और सीरियलाइज़ेशन को स्वचालित रूप से संभालती है। आपको केवल मानक लाइब्रेरी की आवश्यकता है; मूलभूत टेक्स्ट जनरेशन के लिए कोई अतिरिक्त निर्भरता की आवश्यकता नहीं है।

सुनिश्चित करें कि आपके एन्वायरिमेंट में आधुनिक Python या JavaScript वर्शंस सपोर्ट हों। SDK HTTP विवरनों को छुपा देता है ताकि आप प्रॉम्प्ट इंजीनियरिंग पर ध्यान केंद्रित कर सकें।

base_url के साथ क्लाइंट को इनिशियलाइज़ करें

अपने क्लाइंट को हमारे समर्पित एंडपॉइंट की ओर निर्देशित करें डिफ़ॉल्ट OpenAI URL के बजाय। यह एकल परिवर्तन सभी अनुरोधों को हमारे अनसेंसर्ड मॉडल इंफ्रास्ट्रक्चर की ओर रूट करता है जबकि मानक OpenAI-संगत प्रारूप को बनाए रखता है।

आप प्रमाणीकरण के लिए अपनी विशिष्ट API कुंजी का उपयोग करेंगे। बेस URL सुनिश्चित करता है कि आपका एप सीधे हमारे सर्वर से बात करे, बिना किसी अन्य विक्रेता के माध्यम से प्रॉक्सी किए गए।

• बेस URL: HTTPS://api.openrouteropenaicompatible.com/v1
• मॉडल ID: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

अपना पहला चैट कंप्लीशन

एक मानक POST चैट कंप्लीशंस एंडपॉइंट पर अनुरोध करें। मानक JSON संरचना में अपना सिस्टम प्रॉम्प्ट और यूजर मैसेज पास करें। मॉडल कानूनी वयस्क या विवादास्पद विषयों के लिए आमतौर पर कंटेंट फ़िल्टर्स के बिना टेक्स्ट प्रतिक्रियाएं लौटाता है।

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग प्रतिक्रियाएं सक्षम करें

सेट करें stream: true जनरेट होते हुए टोकन प्राप्त करें। यह लंबे आउटपुट के लिए अनुभूत विलंबता को कम करता है। प्रत्येक चंक में आंशिक टेक्स्ट और अंतिम इवेंट में उपयोग आंकड़े शामिल होते हैं।

सर्वर आपके क्लाइंट को सर्वर-संदेशित घटनाओं (SSE) भेजता है। पूरे उत्तर की प्रतीक्षा किए बिना अपने यूआई को रियल-टाइम में अपडेट करने के लिए स्ट्रीम को हैंडल करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

संरचित डेटा के लिए JSON मोड कॉन्फ़िगर करें

उपयोग करें response_format मॉडल को JSON मोड में बल देने के लिए। यह आपके अनुप्रयोगों के लिए स्थिर, पार्सेबल आउटपुट सुनिश्चित करता है। मॉडल आपके सिस्टम प्रॉम्प्ट में परिभाषित स्कीमा का कड़ाई से पालन करता है।

सक्षम करें json_object प्रतिक्रिया को मान्य JSON बनाने की गारंटी देने के लिए। यह आपके बैकएंड सेवाओं के साथ प्रोग्रामेटिक एकीकरण के लिए महत्वपूर्ण है।

फंक्शन कॉलिंग लागू करें

फंक्शन कॉलिंग सक्षम करने के लिए अपने रिक्वेस्ट में टूल्स परिभाषित करें। मॉडल आपके प्रॉम्प्ट संदर्भ के आधार पर फंक्शंस को इन्वोक कर सकता है। टूल डिफिनिशंस पास करें और मॉडल को यह तय करने दें कि किस फंक्शन को कॉल करना है।

अपने एप्लिकेशन लॉजिक में टूल कॉल्स हैंडल करें। फंक्शन को एक्जीक्यूट करें और सहज फॉलो-अप के लिए परिणाम को संवाद में वापस फीड करें।

टोकन उपयोग और सीमाओं हैंडल करें

सेवा विघटन से बचने के लिए अपने उपयोग की निगरानी करें। कॉन्टेक्स्ट विंडो प्रॉम्प्ट और पूर्णता के लिए मिलकर 100,000 टोकन का समर्थन करता है। आउटपुट प्रति अनुरोध 16,000 टोकन तक सीमित है।

रेट लिमिट्स प्रति कुंजी मिनट में 300 अनुरोध लागू करती हैं। यदि आप इससे अधिक भेजते हैं, तो आपको एक 429 त्रुटि मिलेगी। प्रमाणीकरण त्रुटियां 401 लौटाती हैं, और अपर्याप्त क्रेडिट 402 लौटाता है। त्रुटियां और अस्वीकृतियां टोकन खर्च नहीं करती हैं, इसलिए आप केवल सफल सामग्री उत्पादन के लिए भुगतान करते हैं।