LLM API त्वरित प्रारंभ गाइड | LLM API Source

बेस URL और प्रमाणीकरण

llm api का उपयोग करने के लिए, अपने https://api.llmapisource.com/v1 क्लाइंट को पॉइंट करें। प्रमाणीकरण में Authorization: Bearer <key> हेडर में एक मानक API कुंजी भेजी जाती है। आप डैशबोर्ड पर कुंजियाँ जनरेट या रोटेट कर सकते हैं; एक कुंजी रद्द करने पर पुरानी तुरंत अमान्य हो जाती है।

• ट्रायल के लिए फोन नंबर या क्रेडिट कार्ड की आवश्यकता नहीं है।
• प्रत्येक खाते में एक समय में ठीक एक सक्रिय कुंजी होती है।
• प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।

पहला अनुरोध

कनेक्टिविटी की जाँच करने के लिए एक साधारण चैट पूरक भेजें। एंडपॉइंट मानक OpenAI JSON संरचनाओं का समर्थन करता है। अपने वास्तविक कुंजी के साथ स्थानापन्न को बदलें।

Copycurl https://api.llmapisource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

यदि कुंजी अमान्य है, तो आपको 401 त्रुटि मिलती है। यदि आपके पास प्रीपेड क्रेडिट नहीं है, तो आपको 402 त्रुटि मिलती है। मॉडल पहचानकर्ता हमेशा uncensored होता है।

Python SDK

औपचारिक OpenAI पैकेज को इंस्टॉल करें और अनुरोधों को हमारी इंफ्रास्ट्रक्चर की ओर रूट करने के लिए बेस URL को कॉन्फ़िगर करें। यह किसी भी OpenAI संगत Python क्लाइंट के साथ काम करता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapisource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

base_url में /v1 की पूर्ण पथ शामिल होनी चाहिए। समर्पित इंस्टेंस तक पहुँचने के लिए मॉडल नाम को uncensored पर सेट किया जाना चाहिए।

Node SDK

Node.js वातावरण के लिए, क्लाइंट को इसी तरह कॉन्फ़िगर करें। संरचना मानक OpenAI इंटरफ़ेस की नकल करती है, जिससे माइग्रेशन सरल हो जाता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapisource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

apiKey पास करें और https://api.llmapisource.com/v1 के लिए basePath सेट करें। यह सुनिश्चित करता है कि सभी कंप्लीशन हमारे बिना सेंसर मॉडल की ओर रूट किए जाएं।

स्ट्रीमिंग सक्षम करें

सर्वर-सेंट इवेंट्स (SSE) प्राप्त करने के लिए अपने अनुरोध में stream: true सेट करें। इससे आपको टोकन जनरेट होते ही उन्हें प्रोसेस करने की अनुमति मिलती है, जिससे लंबे उत्तरों के लिए अनुभूत विलंबता कम हो जाती है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

रियल-टाइम में अपनी UI को अपडेट करने के लिए स्ट्रीम इवेंट्स हैंडल करें। प्रत्येक चंक में पूरक का एक आंशिक डेल्टा होता है।

सीमाएँ, त्रुटियाँ और संदर्भ

हमारी इंफ्रास्ट्रक्चर स्थिरता सुनिश्चित करने के लिए विशिष्ट सीमाएँ लागू करती है। कॉन्टेक्स्ट विंडो प्रॉम्प्ट और पूर्णता को मिलाकर 100,000 टोकन तक का समर्थन करती है।

• रेट लिमिट: प्रति कुंजी प्रति मिनट 300 अनुरोध (429 लौटाता है)।
• बॉडी साइज़: प्रति अनुरोध अधिकतम 8 MB।
• मूल्य: $0.25/1M इनपुट टोकन, $1.00/1M आउटपुट टोकन।

किशोरों के साथ यौन सामग्री वाले अनुरोध अवरुद्ध हो जाते हैं। अन्य सभी कानूनी वयस्क सामग्री की अनुमति है।