मुख्य पृष्ठगाइड
क्या कोई LLM मुफ़्त API देता है? मुफ़्त लागत क्या है
हाँ, कुछ LLM APIs का मुफ़्त तरीका है, लेकिन मुफ़्त अनलिमिटेड API वाला टियर दुर्लभ है। यहाँ बताया गया है कि ट्रायल क्या कवर करता है और समाप्त होने के बाद वास्तविक उपयोग की लागत क्या है।
अद्यतन
संक्षिप्त उत्तर
यदि आप क्या कोई LLM है जिसकी API मुफ़्त है एक्सेस के बारे में पूछ रहे हैं, तो ईमानदार जवाब तीन भागों में है। कुछ प्रदाता सीमित रेट लिमिट के साथ मुफ़्त स्तर प्रकाशित करते हैं। कुछ ओपन-वेट मॉडल को अपने हार्डवेयर पर चलाया जा सकता है, जिसमें बिल/इनवॉइस की जगह बिजली और GPU की लागत आती है। और कुछ होस्टेड APIs, जिनमें यह भी शामिल है, आपको छोटा ट्रायल बैलेंस देते हैं ताकि आप भुगतान करने से पहले परीक्षण कर सकें।
इस सेवा में कोई मुफ़्त अनलिमिटेड टियर नहीं है। आपको जो मिलता है वह $0.50 का एक बार का ट्रायल क्रेडिट है, जो साइन-अप के बाद API कुंजी पेज पर एक क्लिक से दावा किया जाता है। इसमें कार्ड की आवश्यकता नहीं है, यह 7 दिनों के लिए मान्य है, और यह प्रति व्यक्ति केवल एक बार सीमित है। उसके बाद आपको टॉप-अप करना होता है और टोकन के लिए भुगतान करना होता है। इस आलेख का शेष भाग दोनों चरणों पर संख्याएँ रखता है ताकि आप यह निर्णय ले सकें कि $0.50 आपके टेस्ट के लिए पर्याप्त है या नहीं, और वास्तविक उपयोग के एक महीने का खर्च कितना होगा।
ट्रायल आपको क्या देता है
ट्रायल का उद्देश्य एक ही काम के लिए है: आपको यह पुष्टि करने देना कि API उसी तरह व्यवहार करता है जैसा आप चाहते हैं, इससे पहले कि आप कुछ भी खर्च करें। आप Google के साथ साइन इन करें, या ईमेल और पासवर्ड से, API कुंजी पेज खोलें, और क्रेडिट दावा करें। कुंजी उसी एंडपॉइंट और उसी मॉडल ID (uncensored) के साथ काम करती है, जैसे कि एक पेड कुंजी करती है।
ट्रायल कुंजी पर दो अंतर लागू होते हैं। इसमें 2 समानांतर अनुरोध और प्रति मिनट 60 अनुरोध की अनुमति है, जबकि पूर्ण कुंजी 8 समानांतर और प्रति मिनट 300 की अनुमति देती है। और शेष राशि 7 दिनों के बाद समाप्त हो जाती है। यदि आप क्लाइंट, स्क्रिप्ट या छोटे बॉट को कनेक्ट कर रहे हैं, तो ये सीमाएं पर्याप्त हैं। यदि आप समानांतर वर्करों के साथ लोड टेस्टिंग करने की योजना बनाते हैं, तो आपको concurrency त्रुटि कोड के साथ HTTP 429 जल्दी मिलेगा, जो एक बग नहीं बल्कि टॉप-अप करने का संकेत है।
असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए एक अनुरोध जिसमें त्रुटि आती है, आपका ट्रायल बैलेंस खत्म नहीं करता। प्रत्येक प्रतिक्रिया में एक X-Balance-USD हेडर भी होता है, जो आपको टेस्ट करते समय बैलेंस कम होते हुए देखने की अनुमति देता है।
$0.50 कितने टोकन तक जाता है: टोकन गणना
कीमतें 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 हैं। एक मिलियन से भाग देने पर आपको टोकन प्रति लागत मिलती है: इनपुट के लिए $0.00000015 और आउटपुट के लिए $0.0000005। आउटपुट की लागत इनपुट से थोड़ी अधिक तीन गुना होती है, इसलिए लंबे जवाब बिल को लंबे प्रॉम्प्ट की तुलना में अधिक प्रभावित करते हैं।
एक छोटा चैट संदेश
एक अनुरोध लें जिसमें 1,000 इनपुट टोकन (एक सिस्टम प्रॉम्प्ट और कुछ टर्न्स) और 500 आउटपुट टोकन हों।
- इनपुट: 1,000 x $0.15 / 1,000,000 = $0.00015
- आउटपुट: 500 × $0.50 / 1,000,000 = $0.00025
- कुल: $0.0004 प्रति अनुरोध
$0.50 को $0.0004 से विभाजित करने पर 1,250 अनुरोध मिलते हैं। यह मैन्युअल टेस्टिंग के लिए एक संपूर्ण दोपहर है, या एक छोटा स्क्रिप्ट कई बार चलाना है।
एक भारी अनुरोध
अब 4,000 इनपुट टोकन और 1,000 आउटपुट टोकन, जो एक लंबी बातचीत का इतिहास है जिसमें एक विस्तृत जवाब है।
- इनपुट: 4,000 x $0.15 / 1,000,000 = $0.0006
- आउटपुट: 1,000 x $0.50 / 1,000,000 = $0.0005
- कुल: प्रति अनुरोध $0.0011
$0.50 को $0.0011 से भाग देने पर लगभग 454 अनुरोध मिलते हैं।
पूरी कॉन्टेक्स्ट विंडो भरना
कॉन्टेक्स्ट विंडो 100,000 टोकन का है, प्रॉम्प्ट और कंप्लीशन सहित। 98,000 टोकन इनपुट और 2,000 आउटपुट वाले एक अनुरोध की लागत इनपुट के लिए 98,000 x $0.15 / 1,000,000 = $0.0147 और आउटपुट के लिए 2,000 x $0.50 / 1,000,000 = $0.001 होती है, इसलिए कुल $0.0157 होती है। ट्रायल इनमें से लगभग 31 को कवर करता है। लंबे संदर्भ वाले कार्य वे हैं जहाँ ट्रायल बैलेंस सबसे तेजी से खत्म होता है, इसलिए इसे लूप के बजाय कुछ अनुरोधों से टेस्ट करें।
ट्रायल के बाद क्या होता है
जब $0.50 खत्म हो जाए या 7 दिन पूरे हो जाएं, तो आप प्रीपेड क्रेडिट पर चले जाते हैं। कोई सब्सक्रिप्शन या मासिक न्यूनतम नहीं है। आप एक बार क्रेडिट जोड़ते हैं, और अनुरोध ऊपर दी गई प्रति-टोकन कीमतों पर उसे कम करते हैं। क्रेडिट कभी समाप्त नहीं होता, इसलिए यदि आप धीरे-धीरे टॉप-अप का उपयोग करते हैं तो वह कम नहीं होता।
टॉप-अप $20 से $500 तक किसी भी पूर्ण राशि पर होते हैं। बड़ी राशियों पर अतिरिक्त बोनस मिलता है: $50 पर 5%, $100 पर 10% और $200 पर 15%। व्यावहारिक रूप से इसका रूप कुछ इस प्रकार है:
| आप भुगतान करते हैं | बोनस | आपको क्रेडिट मिलता है |
|---|---|---|
| $20 | कोई | $20.00 |
| $50 | +5% | $52.50 |
| $100 | +10% | $110.00 |
| $200 | +15% | $230.00 |
आप कार्ड (Visa, Mastercard, Apple Pay, Google Pay) या क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। मूल्य निर्धारण पेज पर वर्तमान टॉप-अप विवरण दिए गए हैं।
एक वास्तविक महीने का रूप
एक ट्रायल आपको बताता है कि API काम करता है। यह सवाल यह है कि स्थिर उपयोग की लागत क्या है, जो निर्धारित करता है कि क्या आप इसका उपयोग जारी रखेंगे। यहाँ दो स्केच हैं, दोनों एक ही कीमतों से गणना किए गए हैं।
एक छोटा साथी या चैट बॉट। मान लीजिए कि एक महीने में 10,000 संदेश भेजे जाते हैं, प्रत्येक में 1,500 इनपुट टोकन और 400 आउटपुट टोकन हैं। इनपुट 10,000 x 1,500 = 15,000,000 टोकन है, जो 15 x $0.15 = $2.25 है। आउटपुट 10,000 x 400 = 4,000,000 टोकन है, जो 4 x $0.50 = $2.00 है। महीने की लागत $4.25 है, इसलिए $20 का टॉप-अप उस गति से पांच महीनों से भी कम समय के लिए पर्याप्त होता है।
बैच जॉब। मान लीजिए कि आप 2,000 दस्तावेज़ प्रोसेस कर रहे हैं, जिनमें से प्रत्येक 3,000 इनपुट टोकन और 600 आउटपुट टोकन है। इनपुट 6,000,000 टोकन या $0.90 है। आउटपुट 1,200,000 टोकन या $0.60 है। पूरे बैच की लागत $1.50 है। आपकी स्वयं की परीक्षण की एक धीमी शाम पर उसी जॉब की लागत कुछ पैसे होती है, इसलिए ट्रायल आमतौर पर निर्णय लेने के लिए पर्याप्त होता है।
ये उदाहरण हैं, आपकी वर्कलोड के बारे में वादा नहीं। आपकी अपनी संख्याएँ प्रॉम्प्ट की लंबाई, आप कितना इतिहास भेजते हैं और जवाब कितने लंबे हैं, इस पर निर्भर करती हैं। प्रत्येक प्रतिक्रिया में usage फ़ील्ड सटीक टोकन गणना देती है, इसलिए आप उपयोग के बाद स्वयं गुणा करके महीने का अनुमान लगा सकते हैं।
LLM प्राप्त करने के अन्य तरीके बिना भुगतान किए
यदि $0.50 पर्याप्त नहीं है और आप अभी भुगतान नहीं करना चाहते, तो अन्य मार्ग हैं, जिनकी लागत एक इन्वॉइस पर नहीं आती।
- अन्य प्रदाताओं से मुफ़्त टियर। कई प्रदाता सीमित मुफ़्त उपयोग प्रदान करते हैं। सीमाएँ, मॉडल और नियम अक्सर बदलते रहते हैं, इसलिए किसी पर निर्माण करने से पहले उनकी वर्तमान कीमत और नियमों की जाँच करें।
- स्वयं मॉडल चलाना। ओपन-वेट मॉडल Ollama या llama.cpp जैसे टूल्स के साथ स्थानीय रूप से चलाए जा सकते हैं। आप हार्डवेयर और सेटअप समय के लिए भुगतान करते हैं, और बड़े मॉडलों को शक्तिशाली GPU की आवश्यकता होती है। जब गोपनीयता या शून्य मार्जिन लागत गति से अधिक महत्वपूर्ण होती है, तो स्थानीय मॉडल एक अच्छा विकल्प है।
- प्रॉक्सी के माध्यम से स्व-होस्टिंग। यदि आप पहले से LiteLLM जैसे गेटवे चला रहे हैं, तो आप इसे एक OpenAI-संगत एंडपॉइंट पर पॉइंट कर सकते हैं। LiteLLM तुलना इस बात पर चर्चा करती है कि कब गेटवे मदद करता है और कब सीधा कनेक्शन सरल है।
फ्री एक्सेस के ट्रेड-ऑफ्स होते हैं जो आसानी से छूट सकते हैं: एक फ्री टियर उस कंटेंट को रिफ्यूज कर सकता है जिसकी आपको एक कानूनी वयस्क उपयोग के लिए आवश्यकता है, आपकी रेट को कुछ अनुरोध प्रति मिनट तक सीमित कर सकता है, या बिना सूचना के नियम बदल सकता है। यदि आपको एक एंडपॉइंट चाहिए जो बिना कंटेंट रिफ्यूज के जवाब दे, OpenAI-कम्पैटिबल हो और स्थिर प्राइसिंग हो, तो अपनी खुद की समय की गणना करने के बाद एक छोटा प्रीपेड बैलेंस अक्सर सस्ता पड़ता है। इस सेवा पर एक कठोर सीमा है: नाबालिगों से जुड़ा यौन कंटेंट नहीं है।
ट्रायल क्रेडिट का सही उपयोग
कुछ आदतें $0.50 की राशि को अधिक दूर तक ले जाती हैं और आपको एक अधिक सटीक परीक्षण अवधि प्रदान करती हैं।
- टेस्टिंग के दौरान
max_tokensसेट करें ताकि नियंत्रण से बाहर जवाब आपकी योजना से अधिक न खर्च कर सके। यह उत्पादन में वैकल्पिक है। - जब तक व्यवहार सही न हो जाए, प्रॉम्प्ट को छोटा रखें, फिर अपने असली प्रॉम्प्ट लंबाई के साथ एक बार टेस्ट करें।
- इंटरैक्टिव टेस्ट के लिए स्ट्रीमिंग का उपयोग करें। स्ट्रीमिंग अंत में उपयोग लौटाती है, इसलिए आप अभी भी टोकन काउंट देख सकते हैं।
- एक रन के बाद
X-Balance-USDहेडर की जाँच करें ताकि पुष्टि हो सके कि खर्च आपके हिसाब से मेल खाता है।
यह अनुरोध एक सेंट के अंश खर्च करता है और आपको रिस्पॉन्स शेप और हेडर दिखाता है:
curl -i https://api.llmapisource.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in one sentence."}],
"max_tokens": 50
}'
बेस URL और कुंजी बदलने के बाद वही कॉल किसी भी OpenAI SDK से काम करती है। quickstart में स्ट्रीमिंग और टूल कॉलिंग सहित Python और Node संस्करण दिखाए गए हैं।
अधिक गाइड
प्रश्न और उत्तर
क्या कोई फ्री अनलिमिटेड LLM API है?
यहाँ ऐसा नहीं है। नए उपयोगकर्ता $0.50 का ट्रायल क्रेडिट दावा कर सकते हैं, जो 7 दिनों के लिए मान्य है और जिसमें कार्ड की आवश्यकता नहीं है, और उसके बाद API प्रीपेड क्रेडिट से 'pay as you go' (आवश्यकतानुसार भुगतान) मोड में काम करता है।
क्या ट्रायल के लिए क्रेडिट कार्ड की आवश्यकता है?
नहीं। आप Google या ईमेल और पासवर्ड से साइन अप करते हैं, फिर API कुंजी पेज पर एक क्लिक के साथ ट्रायल दावा करते हैं। यह एक व्यक्ति के लिए एक बार है।
क्या विफल अनुरोधों के लिए मुझे शुल्क दिया जाता है?
नहीं। विफल या अस्वीकृत अनुरोधों के लिए भुगतान नहीं किया जाता है, इसलिए त्रुटि आपका ट्रायल या प्रीपेड बैलेंस खत्म नहीं करती।
ट्रायल के बाद इसे उपयोग करने का सबसे सस्ता तरीका क्या है?
न्यूनतम $20 का टॉप-अप करें और टोकन के लिए भुगतान करें। 1M इनपुट के लिए $0.15 और 1M आउटपुट के लिए $0.50 पर, 1,000 इनपुट टोकन और 500 आउटपुट टोकन वाले एक अनुरोध की लागत $0.0004 होती है, और क्रेडिट कभी खत्म नहीं होता।
