เอกสาร API: Chat Completions

URL ฐานและการตรวจสอบสิทธิ์

URL ฐานคือ https://api.routeria.cc/v1. ส่งคีย์ API ของคุณใน Authorization header ข้อผิดพลาดและการปฏิเสธเป็นฟรี ดังนั้นคุณจ่ายเฉพาะโทเค็นที่สร้างเท่านั้น

• GET /v1/models lists available models
• POST /v1/chat/completions จัดการการสร้างข้อความ

การตรวจสอบสิทธิ์นั้นเข้มงวด ข้อผิดพลาด 401 หมายถึงคีย์ของคุณไม่ถูกต้องหรือหายไป ข้อผิดพลาด 402 บ่งชี้ถึงเครดิตที่ชำระล่วงหน้าไม่เพียงพอ คุณสามารถเติมเงินด้วย USDT (TRC20) หรือ USDC (Base)

คำขอครั้งแรกด้วย cURL

ส่งคำขอ POST ไปยัง endpoint chat completions รหัสโมเดลคือ uncensored. เป็นโมเดล open-weight ที่ปรับแต่งเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหา สำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย

คุณต้องตั้งค่า Content-Type header เพื่อ application/json. บอดี้ของคำขอประกอบด้วย ID ของโมเดลและอาร์เรย์ข้อความของคุณ

ข้อผิดพลาดไม่ใช้เครดิตของคุณ คุณสามารถตรวจสอบคีย์ของคุณโดยการเรียกใช้จุดสิ้นสุดของโมเดลก่อน

Copycurl https://api.routeria.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "explain how the router handles packet loss"}]
  }'

การผสานรวม SDK Python

ใช้ Python SDK ทางการของ OpenAI ตั้งค่า base URL ไปยัง https://api.routeria.cc/v1 และให้คีย์ API ของคุณ รหัสโมเดลยังคง uncensored.

แนวทางนี้รักษาโค้ดที่มีอยู่ของคุณไว้ คุณเปลี่ยนเฉพาะวัตถุการกำหนดค่า SDK จัดการการแปลงเป็น JSON และตรรกะการลองใหม่โดยอัตโนมัติ

รองรับการสตรีมผ่าน stream พารามิเตอร์ คุณได้รับชิ้นส่วนข้อความเมื่อถูกสร้าง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.routeria.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การใช้งาน Node SDK

เริ่มต้นใช้งาน client ด้วย base URL และ API key ที่ถูกต้อง ส่ง ID ของ model uncensored ในการเรียกการเติมข้อความ

SDK Node มีโครงสร้างคล้ายการนำไปใช้ของ Python คุณสามารถสตรีมการตอบกลับหรือรอการ completion เต็มจำนวน การใช้งาน token จะรายงานใน chunk สุดท้าย

ตรวจสอบให้แน่ใจว่าตัวแปรสภาพแวดล้อมของคุณเก็บคีย์อย่างปลอดภัย API key จะแสดงทันทีหลังจากสมัครสมาชิกผ่าน Google หรืออีเมล

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.routeria.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การใช้งานโทเค็นและการสตรีม

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในการร้องขอของคุณ คุณได้รับ Server-Sent Events (SSE) สำหรับแต่ละโทเค็น

ส่วนสุดท้ายประกอบด้วยสถิติการใช้โทเค็นทั้งหมด โทเค็นอินพุตคิดค่าที่ $0.15 ต่อ 1M โทเค็น โทเค็นเอาต์พุตคิดค่าที่ $0.50 ต่อ 1M โทเค็น

การสตรีมช่วยลดความล่าช้า คุณสามารถแสดงข้อความเมื่อได้รับข้อมูล หน้าต่างบริบทรองรับ 100,000 โทเค็นรวม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling และโหมด JSON

เปิดใช้งานการเรียกใช้ฟังก์ชันพร้อม tools พารามิเตอร์ โมเดลรองรับ tool_choice สำหรับการควบคุมอย่างเข้มงวด ใช้ response_format: {"type": "json_object"} สำหรับผลลัพธ์ที่มีโครงสร้าง

สิ่งนี้ช่วยให้การแยกวิเคราะห์ข้อมูลเป็นไปอย่างสอดคล้องในแอปพลิเคชันของคุณ โมเดลได้รับการปรับให้เหมาะสมสำหรับการตอบกลับที่ชัดเจนและมีโครงสร้าง

คุณสามารถรวมการใช้เครื่องมือ (tools) กับสตรีม โมเดลจะเรียกใช้ฟังก์ชันเมื่อจำเป็น พารามิเตอร์ทั้งหมดเช่น temperature และ top_p รองรับ

พารามิเตอร์: Temperature, Top-P, Stop

ปรับ temperature สำหรับความคิดสร้างสรรค์ ค่าที่ต่ำกว่าทำให้ผลลัพธ์มีความแน่นอนมากขึ้น top_p ควบคุมการสุ่มแบบ nucleus ตั้งค่า stop ลำดับเพื่อหยุดการสร้าง

พารามิเตอร์ที่รองรับอื่นๆ ได้แก่ seed, presence_penalty, และ frequency_penalty. ตัวเลือกเหล่านี้ช่วยให้คุณปรับแต่งสไตล์ของผลลัพธ์

ค่า max output เริ่มต้นคือ 2,048 tokens คุณสามารถเพิ่มค่านี้ได้สูงสุด 16,000 tokens ต่อคำขอ ขนาดหน้าต่างบริบทรวมคือ 100,000 tokens

ขีดจำกัดและโควตา

คีย์ API แต่ละตัวจำกัดอยู่ที่ 300 คำขอต่อนาที คุณสามารถมีคำขอพร้อมกันได้ 8 คำขอต่อคีย์ ขนาด body คำขอจำกัดสูงสุดที่ 8 MB

รหัสข้อผิดพลาด 429 ระบุว่าคุณเกินขีดจำกัดอัตราแล้ว รอก่อนลองใหม่ แต่ละบัญชีมีคีย์ที่ใช้งานอยู่หนึ่งคีย์; คีย์ใหม่จะแทนที่คีย์เก่า

รหัสโมเดลคือ always uncensored. ไม่ใช่โมเดลของ GPT, Claude หรือผู้จัดจำหน่ายรายอื่น เป็นโมเดล open-weight ที่รันบนเซิร์ฟเวอร์ของเรา