Hướng dẫn nhanh LLM API | LLM API Source

URL cơ bản và Xác thực

Để sử dụng API LLM, hãy trỏ client của bạn đến https://api.llmapisource.com/v1. Xác thực sử dụng khóa API tiêu chuẩn được truyền trong tiêu đề Authorization: Bearer <key>. Bạn có thể tạo hoặc xoay khóa trên bảng điều khiển; việc thu hồi khóa sẽ vô hiệu hóa khóa cũ ngay lập tức.

• Không cần số điện thoại hoặc thẻ tín dụng cho bản dùng thử.
• Mỗi tài khoản chỉ giữ một khóa hoạt động tại một thời điểm.
• Các prompt không được sử dụng để huấn luyện.

Yêu cầu đầu tiên

Gửi một yêu cầu chat completion đơn giản để xác minh kết nối. Endpoint này hỗ trợ các cấu trúc JSON tiêu chuẩn của OpenAI. Thay thế phần giữ chỗ bằng khóa thực tế của bạn.

Copycurl https://api.llmapisource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Nếu khóa không hợp lệ, bạn sẽ nhận lỗi 401. Nếu bạn không có tín dụng trả trước, bạn sẽ nhận lỗi 402. Định danh mô hình luôn là uncensored.

SDK Python

Cài đặt gói OpenAI chính thức và định cấu hình base_url để định tuyến các yêu cầu đến cơ sở hạ tầng của chúng tôi. Điều này hoạt động với bất kỳ client Python tương thích OpenAI nào.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapisource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Đảm bảo base_url bao gồm đường dẫn đầy đủ đến /v1. Tên mô hình phải được đặt thành uncensored để truy cập phiên bản chuyên dụng.

SDK Node.js

Đối với môi trường Node.js, hãy định cấu hình client tương tự. Cấu trúc này giống với giao diện OpenAI tiêu chuẩn, giúp việc di chuyển trở nên dễ dàng.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapisource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Truyền apiKey và đặt basePath thành https://api.llmapisource.com/v1. Điều này đảm bảo tất cả các kết quả hoàn thành được định tuyến đến mô hình không kiểm duyệt của chúng tôi.

Bật truyền phát

Đặt stream: true trong yêu cầu của bạn để nhận Sự kiện được gửi bởi máy chủ (SSE). Điều này cho phép bạn xử lý các token khi chúng được tạo, giảm độ trễ cảm nhận được cho các phản hồi dài.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý các sự kiện stream để cập nhật giao diện người dùng theo thời gian thực. Mỗi chunk chứa một phần delta của kết quả hoàn thành.

Giới hạn, Lỗi và Ngữ cảnh

Cơ sở hạ tầng của chúng tôi áp dụng các giới hạn cụ thể để đảm bảo sự ổn định. Cửa sổ ngữ cảnh hỗ trợ tối đa 100.000 token cho prompt và kết quả hoàn thành cộng lại.

• Giới hạn tốc độ: 300 yêu cầu mỗi phút trên mỗi khóa (trả về 429).
• Kích thước nội dung: Tối đa 8 MB mỗi yêu cầu.
• Giá cả: $0.25/1M token đầu vào, $1.00/1M token đầu ra.

Các yêu cầu liên quan đến nội dung khiêu dâm với trẻ vị thành niên sẽ bị chặn. Tất cả các nội dung người lớn hợp pháp khác đều được phép.