2025 के लिए रोलप्ले के लिए सर्वश्रेष्ठ LLM: क्या खोजना है

किसी मॉडल को रोलप्ले में अच्छा बनाने वाली बातें

यह पूछें कि 2025 के लिए रोलप्ले के लिए सर्वश्रेष्ठ LLM कौन सा है, और आपको हर फोरम विषयवस्तु से अलग उत्तर मिलेगा, क्योंकि लोग अलग-अलग चीज़ों को महत्व देते हैं। एक ऐसे विजेता को नामित करने के बजाय जिसे मैं सत्यापित नहीं कर सकता, यह अधिक उपयोगी है कि गुणों की सूची बनाई जाए जो तय करती है कि एक रोलप्ले सत्र काम करेगा या नहीं, और फिर किसी भी मॉडल की जाँच उन गुणों के आधार पर की जाए।

• कथा में बने रहने की इच्छा। एक मॉडल जो किरदार तोड़कर आपको उपदेश देता है, या एक दृश्य को अस्वीकार करता है जिसे एक उपन्यासकार लिख सकता है, प्रवाह को खराब कर देता है। यह कहानी कहने के लिए सामान्य सहायकों के बारे में सबसे आम शिकायत है।
• दृश्य की मेमोरी। नाम, स्थान, वादे और चोट दर्जनों टर्न के लिए टिके रहने चाहिए। यह कॉन्टेक्स्ट लंबाई और इतिहास को कैसे प्रबंधित करते हैं, इस पर निर्भर करता है।
• स्थिर आवाज़। किरदार की आवाज़ टर्न 80 पर वही होनी चाहिए जो टर्न 5 पर थी।
• प्रति टर्न लागत और गति। रोलप्ले का मतलब कई छोटे-छोटे आदान-प्रदान हैं। एक मॉडल जो प्रति टोकन सस्ता है, आपको लंबे इतिहास बनाए रखने देता है।
• नियंत्रण। तापमान, पेनल्टी और स्टॉप सीक्वेंस आपको रचनाशीलता को ट्यून करने और मॉडल को आपके किरदार की पंक्तियाँ लिखने से रोकने की अनुमति देते हैं।

कोई एक मॉडल पाँचों श्रेणियों में नहीं जीतता। बड़े स्वामित्व वाले मॉडल अक्सर अधिक परिष्कृत लेखन लिखते हैं; उनकी वर्तमान कीमत और सामग्री नियमों की जाँच करें और अपनी स्वयं की परीक्षण दृश्य से तुलना करें। एक होस्टेड ओपन-वेट मॉडल जो अस्वीकृतियों से बचने के लिए ट्यून्ड है, स्वतंत्रता और कम कीमत के लिए कुछ परिष्कार छोड़ देता है।

रोलप्ले के लिए यह API क्या प्रदान करता है

सेवा एक मॉडल को OpenAI-सुसंगत API के माध्यम से प्रकट करती है, जिसे एक स्वतंत्र प्रदाता चलाता है। यह एक ओपन-वेट मॉडल है जिसे कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृतियों के उत्तर देने के लिए ट्यून्ड किया गया है। यह किसी बड़े विक्रेता की आधिकारिक API नहीं है और न ही यह मॉडल के बीच चयन करने वाला एक रूटर है, इसलिए जो आप परीक्षण करते हैं वही आपको मिलता है।

रोलप्ले के लिए वे तथ्य जो मायने रखते हैं:

• मॉडल ID uncensored https://api.llmapisource.com/v1 पर, POST /v1/chat/completions का उपयोग करके।
• प्रॉम्प्ट और कंप्लीशन द्वारा साझा किया गया 100,000-टोकन कॉन्टेक्स्ट विंडो। यह प्रॉम्प्ट में एक बहुत लंबे दृश्य को रखने के लिए पर्याप्त लंबा है।
• SSE के माध्यम से स्ट्रीमिंग, ताकि जवाब लिखे जाते हुए प्रकट हों।
• तापमान, top_p, स्टॉप, सीड और फ्रीक्वेंसी और प्रेजेंस पेनल्टी पास कर दिए जाते हैं।
• प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।

सीमाएँ समान रूप से स्पष्ट हैं। यह केवल पाठ है: कोई इमेज जनरेशन नहीं, कोई आवाज़ नहीं, कोई वीडियो नहीं। कोई फाइन-ट्यूनिंग नहीं है, इसलिए आप प्रॉम्प्ट के साथ किरदार को आकार देते हैं। और एक नियम निश्चित है: नाबालिगों से जुड़ी यौन सामग्री नहीं, किसी भी फ्रेमिंग में। सेवा वयस्कों के लिए कथा, रोलप्ले और कंपैनियन ऐप्स के लिए है।

एक कार्यशील सेटअप

रोलप्ले की गुणवत्ता आपके सिस्टम प्रॉम्प्ट पर किसी भी स्विच से अधिक निर्भर करती है। एक अच्छा छोटा, ठोस और फॉर्मेट बताता है। यहाँ एक नोयर मिस्ट्री के लिए एक पैटर्न है, जिसमें नियमों को सादे निर्देशों के रूप में लिखा गया है:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.llmapisource.com/v1",
    api_key="YOUR_KEY",
)

SYSTEM = (
    "You are the narrator and all non-player characters in a 1940s detective story. "
    "Write in second person for the player, present tense, 2 to 4 short paragraphs. "
    "Never write the player's actions or dialogue. "
    "Keep track of clues, names and injuries. "
    "End each turn with a situation the player can respond to. "
    "Stay in the fiction; do not add disclaimers."
)

history = [{"role": "system", "content": SYSTEM}]

def turn(player_text):
    history.append({"role": "user", "content": player_text})
    reply = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.9,
        top_p=0.95,
        frequency_penalty=0.3,
        presence_penalty=0.3,
        stop=["Player:"],
    )
    text = reply.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    return text

print(turn("I step into the office and close the door behind me."))

stop सीक्वेंस मॉडल द्वारा प्लेयर की अगली पंक्ति लिखने के खिलाफ एक सस्ता गार्ड है। पेनल्टी दोहराए गए वाक्यों को कम करती हैं, जो लंबे सत्रों को खराब होने का सामान्य तरीका है। यदि आप प्रॉम्प्ट को संपादित करते समय एक दृश्य को बिल्कुल दोहराना चाहते हैं, तो एक निश्चित seed पास करें।

महत्वपूर्ण सेटिंग्स

सेटिंग	शुरुआती मान	यह क्या बदलता है
तापमान	0.8 से 1.0	उच्चतर अधिक आश्चर्यजनक प्रोज़ और दृश्य के तथ्यों से अधिक विचलन देता है
top_p	0.9 से 0.95	असंभावित शब्दों को काटता है; यदि जवाब अजीब हो जाएं तो इसे कम करें
frequency_penalty	0.2 से 0.5	दोहराए गए शब्दों और वाक्य की शुरुआत को काटता है
presence_penalty	0.2 से 0.5	नए विषयों और विवरणों की ओर हल्का संकेत
बंद	एक वक्ता लेबल	मॉडल को आपके लिए बोलने से रोकता है
max_tokens	वैकल्पिक	एकल उत्तर की लंबाई को सीमित करता है

ये शुरुआती बिंदु हैं, परीक्षणित इष्टतम नहीं। एक बार में एक बदलें और उसी दृश्य को एक निश्चित बीज के साथ फिर से चलाएँ ताकि आप प्रभाव देख सकें। यदि आप SillyTavern जैसी एक फ्रंट एंड का उपयोग करते हैं, जो आपको एक OpenAI-compatible एंडपॉइंट जोड़ने देती है, तो बेस URL, कुंजी और मॉडल ID uncensored दर्ज करें, और फिर सेटिंग्स में समान सैम्पलर मान पेस्ट करें। quickstart में ऊपर दिए गए कॉल के लिए curl और Node संस्करण हैं।

मेमोरी और 100k कॉन्टेक्स्ट विंडो

एक लाख टोकन कहानी की काफी लंबाई है, लगभग एक छोटे उपन्यास के बराबर, लेकिन यह अनंत नहीं है और यह निःशुल्क भी नहीं है। हर टर्न पर पूरी इतिहास फिर से भेजी जाती है, इसलिए सत्र बढ़ने के साथ लागत और लेटेंसी बढ़ती है। तीन आदतें इसे नियंत्रित में रखती हैं।

1. एक पिन किया गया सारांश बनाए रखें। हर 20 से 30 टर्न पर, तथ्यों, नामों और खुले विषयों का एक छोटा सारांश लिखने के लिए मॉडल से कहें, फिर सबसे पुराने टर्न को इससे बदल दें।
2. एक कैरेक्टर शीट को सिस्टम प्रॉम्प्ट में रखें। उसका रूप, उद्देश्य, बोलने की आदतें और राज़ वहीं होने चाहिए, 60 टर्न पीछे दबे हुए नहीं।
3. बातचीत कम करें। चरित्र से बाहर टिप्पणियाँ और पुनः उत्पन्न की गई प्रतिक्रियाओं को इतिहास में बनाए रखने की आवश्यकता नहीं है।

मॉडल बहुत लंबे प्रॉम्प्ट में गहराई में विवरण खो सकता है, इसलिए यह न मानें कि पूरा विंडो आदर्श रिकॉल का अर्थ है। यदि कोई तथ्य मायने रखता है, तो उसे सारांश में दोहराएं।

जब प्रॉम्प्ट और कंप्लीशन मिलकर 100,000 टोकन से अधिक हो जाते हैं, तो एक अनुरोध अस्वीकृत कर दिया जाता है, इसलिए यदि आप बिना ट्रिम किए सत्र को बढ़ने देते हैं, तो आपको अंततः इतिहास को काटना ही पड़ेगा।

अपने स्टाइल के लिए मॉडल का परीक्षण

समीक्षाएं यह नहीं बता सकतीं कि क्या कोई मॉडल आपकी पसंद के अनुकूल है, इसलिए एक छोटा परीक्षण बनाएं जिसे आप दोहरा सकें। तीन दृश्यों का चयन करें जो अलग-अलग कौशल को तनाव में डालें: एक रहस्य के साथ तनावपूर्ण संवाद, एक लंबा एक्शन बीट, और एक शांत दृश्य जहां कैरेक्टर को पहले कही गई किसी बात को याद करना है। प्रत्येक को फिक्स्ड सीड और समान सिस्टम प्रॉम्प्ट के साथ चलाएं, फिर उन विफलताओं के लिए आउटपुट पढ़ें जिनकी आपको परवाह है: टूटा हुआ कैरेक्टर, आपके लिए लिखी गई लाइनें, दोहराया गया वाक्यांश, भुलाए गए विवरण।

जो आप देखते हैं, उसके नोट्स रखें, और किसी भी अन्य मॉडल पर जो आप विचार कर रहे हैं, उसी तीन दृश्यों को चलाएं। इसमें एक घंटे से कम समय लगता है और यह किसी और की पसंद के लिए लिखे रैंकिंग से अधिक बताता है। क्योंकि यह API OpenAI-कम्पैटिबल है, स्क्रिप्ट में बेस URL और मॉडल ID बदलना तुलना के लिए एकमात्र बदलाव है।

एक सत्र की लागत

मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, प्रीपेड क्रेडिट से। चूंकि इनपुट हर टर्न पर फिर से भेजा जाता है, लंबे सत्र में इनपुट बिल का प्रमुख हिस्सा होता है। यहाँ एक यथार्थवादी उदाहरण है।

200 टर्न का एक सत्र, जिसमें औसत प्रॉम्प्ट 6,000 टोकन और औसत उत्तर 300 टोकन है:

• इनपुट: 200 x 6,000 = 1,200,000 टोकन, जो 1.2 x $0.15 = $0.18 है
• आउटपुट: 200 x 300 = 60,000 टोकन, जो 0.06 x $0.50 = $0.03 है
• कुल: $0.21

अब चरम मामला। इनपुट के 90,000 टोकन और आउटपुट के 400 वाले एक टर्न की लागत इनपुट के लिए 90,000 x $0.15 / 1,000,000 = $0.0135 और आउटपुट के लिए 400 x $0.50 / 1,000,000 = $0.0002 होती है, इसलिए $0.0137। उस आकार के 100 टर्न चलाने की लागत $1.37 है। प्रॉम्प्ट को छोटा रखने के लिए सारांश बनाना उस लागत को कम करने का मुख्य तरीका है।

साइन-इन करने के बाद, एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें, जिसके लिए कार्ड की आवश्यकता नहीं है और जो 7 दिनों के लिए मान्य है, ताकि आप भुगतान करने से पहले कुछ पूर्ण दृश्य चला सकें। टॉप-अप $20 से शुरू होते हैं, $50 पर 5%, $100 पर 10% और $200 पर 15% बोनस मिलता है, और क्रेडिट कभी समाप्त नहीं होता। भुगतान के विकल्पों, जिसमें कार्ड और क्रिप्टो शामिल है, के लिए मूल्य निर्धारण पृष्ठ देखें, या एक कुंजी प्राप्त करें और इसे आजमाएं।

कहाँ कोई अन्य विकल्प बेहतर बैठता है

ट्रेड-ऑफ के बारे में यथार्थवादी रहें। यदि आप अपने कैरेक्टर की छवियां, आवाज़ें या एक परिष्कृत मोबाइल ऐप चाहते हैं, तो एक टेक्स्ट-ओनली API केवल इंजन है और आपको बाकी बनाना है। यदि आपको सर्वोत्तम साहित्यिक प्रोस चाहिए और आप कंटेंट फिल्टर्स की परवाह नहीं करते हैं, तो एक बड़ा प्रोप्राइटरी मॉडल कुछ दृश्यों के लिए बेहतर लग सकता है। यदि आप सब कुछ अपने कंप्यूटर पर निजी रूप से चलाना चाहते हैं, तो एक लोकल मॉडल सही विकल्प है, जब तक कि आपका हार्डवेयर उसे संभाल सके।

एक होस्टेड uncensored एंडपॉइंट एक संकीर्ण मामले के लिए उपयुक्त है: आप बड़े लोगों के लिए बिना रिफ्यूज़ल के फिक्शन और कंपैनियन-स्टाइल चैट चाहते हैं, आप एक ऐसा OpenAI-कम्पैटिबल API चाहते हैं जिससे आपके मौजूदा टूल्स पहले से बात करते हैं, और आप एक प्रति-टोकन मूल्य चाहते हैं जो लंबे सत्रों को सस्ता बनाता है। यदि यह मेल खाता है, तो सबसे तेज़ परीक्षण ट्रायल क्रेडिट के साथ अपने सबसे कठिन दृश्य को इसके माध्यम से चलाना है।

अधिक गाइड

• क्या कोई LLM मुफ़्त API के साथ है? मुफ़्त लागत क्या है
• AnythingLLM API कुंजी: एक कस्टम OpenAI एंडपॉइंट कनेक्ट करें
• LiteLLM बनाम डायरेक्ट अनसेंस्ड LLM API