คู่มือเริ่มต้นใช้งาน LLM API | LLM API Source

URL ฐานและการตรวจสอบสิทธิ์

เพื่อใช้ llm api ให้ชี้ไคลเอนต์ของคุณไปที่ https://api.llmapisource.com/v1 การตรวจสอบสิทธิ์ใช้คีย์ API มาตรฐานที่ส่งผ่านในเฮดเดอร์ Authorization: Bearer <key> คุณสามารถสร้างหรือหมุนคีย์บนแดชบอร์ดได้; การเพิกถอนคีย์จะทำให้คีย์เก่าใช้ไม่ได้ทันที

• ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์หรือบัตรเครดิตสำหรับการทดลองใช้
• แต่ละบัญชีมีคีย์ที่ใช้งานอยู่ได้เพียงหนึ่งคีย์ในขณะใดเวลาหนึ่ง
• พรอมต์ไม่ถูกนำไปใช้ในการฝึกฝน

คำขอแรก

ส่งคำขอ chat completion ง่ายๆ เพื่อตรวจสอบการเชื่อมต่อ เอนด์พอยต์รองรับโครงสร้าง JSON มาตรฐานของ OpenAI แทนที่ค่าตัวแปรด้วยคีย์จริงของคุณ

Copycurl https://api.llmapisource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

หากคีย์ไม่ถูกต้อง คุณจะรับข้อผิดพลาด 401 หากไม่มีเครดิตแบบเติมเงินล่วงหน้า คุณจะรับข้อผิดพลาด 402 ตัวระบุโมเดลคือ uncensored เสมอ

Python SDK

ติดตั้งแพ็กเกจ OpenAI อย่างเป็นทางการและกำหนดค่า base_url เพื่อเปลี่ยนเส้นทางคำขอไปยังโครงสร้างพื้นฐานของเรา วิธีนี้ใช้งานได้กับไคลเอนต์ Python ที่เข้ากันได้กับ OpenAI ทุกรุ่น

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapisource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตรวจสอบให้แน่ใจว่า base_url รวมเส้นทางเต็มไปยัง /v1 ชื่อโมเดลต้องตั้งค่าเป็น uncensored เพื่อเข้าถึงอินสแตนซ์เฉพาะ

Node SDK

สำหรับสภาพแวดล้อม Node.js ให้กำหนดค่าไคลเอนต์ในทำนองเดียวกัน โครงสร้างจะคล้ายกับอินเทอร์เฟซ OpenAI มาตรฐาน ทำให้การย้ายข้อมูลเป็นเรื่องง่าย

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapisource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ส่ง apiKey และตั้งค่า basePath เป็น https://api.llmapisource.com/v1 สิ่งนี้ทำให้การสร้างข้อความทั้งหมดถูกเปลี่ยนเส้นทางไปยังโมเดลแบบไม่เซ็นเซอร์ของเรา

เปิดใช้สตรีมมิง

ตั้งค่า stream: true ในคำขอของคุณเพื่อรับ Server-Sent Events (SSE) สิ่งนี้ช่วยให้คุณประมวลผลโทเคนเมื่อสร้างเสร็จ ช่วยลดเวลาแฝงที่รับรู้สำหรับการตอบกลับที่ยาวนาน

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการเหตุการณ์สตรีมเพื่ออัปเดต UI ของคุณแบบเรียลไทม์ แต่ละชิ้นมีข้อมูลย่อยบางส่วนของการสร้างข้อความ

ขีดจำกัด ข้อผิดพลาด และบริบท

โครงสร้างพื้นฐานของเราบังคับใช้ขีดจำกัดเฉพาะเพื่อให้มั่นใจถึงความเสถียร หน้าต่างบริกรรองรับโทเคนได้สูงสุด 100,000 โทเคนสำหรับพรอมต์และการสร้างข้อความรวมกัน

• ขีดจำกัดอัตรา: 300 คำขอต่อนาทีต่อคีย์ (ส่งคืน 429)
• ขนาดร่างกาย: สูงสุด 8 MB ต่อคำขอ
• ราคา: $0.25/1M โทเคนอินพุต, $1.00/1M โทเคนเอาต์พุต

คำขอที่มีเนื้อหาทางเพศที่เกี่ยวข้องกับเด็กจะถูกบล็อก เนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมายอื่นๆ อนุญาตได้