คู่มือเริ่มต้นใช้งานอย่างรวดเร็ว API LLM แบบไม่เซ็นเซอร์

ข้อกำหนดเบื้องต้น: ติดตั้ง OpenAI SDK

เริ่มด้วยการติดตั้ง official OpenAI SDK สำหรับภาษาที่คุณต้องการ ไลบรารีไคลเอนต์จัดการการตรวจสอบสิทธิ์และการทำ serialization โดยอัตโนมัติ คุณต้องการเพียงไลบรารีมาตรฐาน ไม่ต้องการ dependencies เพิ่มเติมสำหรับการสร้างข้อความพื้นฐาน

ตรวจสอบให้แน่ใจว่าสภาพแวดล้อมของคุณรองรับเวอร์ชัน Python หรือ JavaScript ที่ทันสมัย SDK ช่วยจัดการรายละเอียด HTTP เพื่อให้คุณสามารถมุ่งเน้นไปที่การออกแบบ prompt ได้

เริ่มต้นใช้งาน client ด้วย base_url

ชี้ไคลเอนต์ของคุณไปยังเอนด์พอยต์เฉพาะแทน URL ของ OpenAI เริ่มต้น การเปลี่ยนแปลงเพียงครั้งเดียวนี้จะ routing คำขอทั้งหมดไปยังโครงสร้างพื้นฐานโมเดล uncensored ของเรา ในขณะที่คงรูปแบบที่เข้ากันได้กับ OpenAI มาตรฐาน

คุณจะใช้คีย์ API เฉพาะของคุณสำหรับการตรวจสอบสิทธิ์ URL พื้นฐานช่วยให้แอปของคุณสื่อสารกับเซิร์ฟเวอร์ของเราโดยตรงโดยไม่ผ่านตัวกลางจากผู้ขายรายอื่น

• URL ฐาน: HTTPS://api.openrouteropenaicompatible.com/v1
• ID โมเดล: uncensored

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouteropenaicompatible.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ส่งการเติมข้อความแชทครั้งแรกของคุณ

ส่งมาตรฐาน POST request ไปยัง chat completions endpoint ส่ง system prompt และ user message ของคุณในรูปแบบ JSON มาตรฐาน โมเดลจะส่งกลับข้อความตอบกลับโดยไม่มีตัวกรองเนื้อหาปกติสำหรับหัวข้อผู้ใหญ่ที่ถูกต้องตามกฎหมายหรือหัวข้อที่ถกเถกัน

Copycurl https://api.openrouteropenaicompatible.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all installed npm packages in current directory"}]
  }'

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouteropenaicompatible.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

เปิดใช้งานการตอบกลับแบบสตรีม

ตั้งค่า stream: true เพื่อรับโทเค็นเมื่อถูกสร้าง ซึ่งช่วยลดความล่าช้าที่ผู้ใช้รู้สึกสำหรับผลลัพธ์ยาว แต่ละชิ้นจะบรรทุกข้อความบางส่วนและสถิติการใช้งานในเหตุการณ์สุดท้าย

เซิร์ฟเวอร์ส่ง Server-Sent Events (SSE) ไปยังไคลเอนต์ของคุณ จัดการสตรีมเพื่ออัปเดต UI ของคุณแบบเรียลไทม์โดยไม่ต้องรอการตอบสนองทั้งหมด

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

กำหนดค่าโหมด JSON สำหรับข้อมูลที่มีโครงสร้าง

ใช้ response_format เพื่อบังคับให้โมเดลอยู่ในโหมด JSON ซึ่งช่วยให้มั่นใจได้ว่าเอาต์พุตจะสอดคล้องและแยกวิเคราะห์ได้สำหรับแอปพลิเคชันของคุณ โมเดลจะปฏิบัติตามสคีมาที่คุณกำหนดในคำสั่งระบบของคุณอย่างเคร่งครัด

เปิดใช้งาน json_object เพื่อรับประกันว่าการตอบกลับเป็น JSON ที่ถูกต้อง สิ่งนี้สำคัญสำหรับการผสานรวมแบบโปรแกรมกับบริการแบ็กเอนด์ของคุณ

เพิ่มการเรียกใช้ฟังก์ชัน

กำหนดเครื่องมือในคำขอเพื่อเปิดใช้งานการเรียกใช้ฟังก์ชัน โมเดลสามารถเรียกใช้ฟังก์ชันตามบริบทของคำใบ้ของคุณ ส่งคำจำกัดความของเครื่องมือและปล่อยให้โมเดลตัดสินใจว่าจะเรียกใช้ฟังก์ชันใด

จัดการการเรียกเครื่องมือในตรรกะแอปพลิเคชันของคุณ ดำเนินการฟังก์ชันและป้อนผลลัพธ์กลับเข้าสู่การสนทนาสำหรับการติดตามที่สอดคล้องกัน

จัดการการใช้งานโทเค็นและขีดจำกัด

ติดตามการใช้งานของคุณเพื่อหลีกเลี่ยงการหยุดชะงักของบริการ หน้าต่างบริบทรองรับโทเค็นได้ 100,000 โทเค็นสำหรับอินพุตและเอาต์พุตรวมกัน เอาต์พุตมีขีดจำกัดที่ 16,000 โทเค็นต่อคำขอ

อัตราจำกัดการส่งข้อมูลบังคับใช้ 300 คำขอต่อนาทีต่อคีย์ หากคุณเกินข้อจำกัดนี้ คุณจะได้รับข้อผิดพลาด 429 ข้อผิดพลาดการตรวจสอบสิทธิ์จะส่งกลับ 401 และเครดิตไม่เพียงพอจะส่งกลับ 402 ข้อผิดพลาดและการปฏิเสธไม่ใช้โทเค็น ดังนั้นคุณจึงจ่ายเฉพาะสำหรับการสร้างเนื้อหาที่สำเร็จเท่านั้น