Najlepszy LLM do odgrywania ról 2025: na co zwracać uwagę

Co sprawia, że model jest dobry w odgrywaniu ról

Zapytaj, jaki jest najlepszy LLM do odgrywania ról w 2025 roku, a otrzymasz inną odpowiedź z każdego wątku na forum, bo ludzie cenią różne rzeczy. Zamiast wskazywać zwycięzcę, którego nie mogę zweryfikować, bardziej przydatne jest wymienienie cech, które decydują o tym, czy sesja odgrywania ról się powiedzie, a następnie sprawdzenie dowolnego modelu pod kątem tych kryteriów.

• Gotowość do utrzymania się w fikcji. Model, który wychodzi z roli, by Cię pouczyć, lub odrzuca scenę, którą mógłby napisać powieściopisarz, psuje płynność. To najczęstsza skarga na ogólnych asystentów używanych do opowiadania historii.
• Pamięć sceny. Imiona, miejsca, obietnice i obrażenia muszą przetrwać dziesiątki tur. Zależy to od długości kontekstu i sposobu zarządzania historią.
• Spójny głos. Postać powinna brzmieć tak samo na turze 80 jak na turze 5.
• Koszt i szybkość na turę. Odgrywanie ról oznacza wiele krótkich wymian. Model tani za token pozwala Ci utrzymać długie historie.
• Kontrola. Temperatura, kary i sekwencje stop pozwalają dostrajać kreatywność i zapobiegać pisaniu przez model linii Twojej postaci.

Żaden pojedynczy model nie wygrywa we wszystkich pięciu kategoriach. Większe modele zamknięte często piszą bardziej dopracowaną prozę; sprawdź ich bieżące ceny i zasady dotyczące treści oraz porównaj z własną sceną testową. Hostowany model o otwartych wagach dostrojony do unikania odrzuceń rezygnuje z części dopracowania na rzecz wolności i niskiej ceny.

Co to API oferuje do odgrywania ról

Usługa udostępnia jeden model przez API kompatybilne z OpenAI, obsługiwane przez niezależnego dostawcę. Jest to model o otwartych wagach dostrojony do odpowiadania bez odrzuceń treści dla dozwolonego użytku przez osoby pełnoletnie. Nie jest to oficjalne API żadnego dużego dostawcy i nie jest to router wybierający między modelami, więc to, co przetestujesz, to to, co otrzymasz.

Fakty mające znaczenie dla odgrywania ról:

• ID modelu uncensored na https://api.llmapisource.com/v1, używając POST /v1/chat/completions.
• Okno kontekstu 100 000 tokenów dzielone przez prompt i uzupełnienie. To wystarczająco dużo miejsca, aby utrzymać bardzo długą scenę w promptcie.
• Strumieniowanie przez SSE, dzięki czemu odpowiedzi pojawiają się w miarę ich pisania.
• Temperatura, top_p, stop, seed oraz kary częstotliwości i obecności są przekazywane dalej.
• Prompty nie są używane do trenowania.

Limity są równie jasne. To tylko tekst: bez generowania obrazów, bez głosu, bez wideo. Nie ma dostrajania, więc kształtujesz postać za pomocą promptu. I jedna reguła jest stała: brak treści seksualnych z udziałem nieletnich w dowolnej formie. Usługa jest przeznaczona dla dorosłych do fikcji, odgrywania ról i aplikacji towarzyskich.

Działająca konfiguracja

Jakość odgrywania ról zależy bardziej od Twojego promptu systemowego niż od jakiejkolwiek przełącznika. Dobry jest krótki, konkretny i określa format. Oto szablon dla mrocznej zagadki z zasadami zapisanymi jako zwykłe instrukcje:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.llmapisource.com/v1",
    api_key="YOUR_KEY",
)

SYSTEM = (
    "You are the narrator and all non-player characters in a 1940s detective story. "
    "Write in second person for the player, present tense, 2 to 4 short paragraphs. "
    "Never write the player's actions or dialogue. "
    "Keep track of clues, names and injuries. "
    "End each turn with a situation the player can respond to. "
    "Stay in the fiction; do not add disclaimers."
)

history = [{"role": "system", "content": SYSTEM}]

def turn(player_text):
    history.append({"role": "user", "content": player_text})
    reply = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.9,
        top_p=0.95,
        frequency_penalty=0.3,
        presence_penalty=0.3,
        stop=["Player:"],
    )
    text = reply.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    return text

print(turn("I step into the office and close the door behind me."))

Sekwencja stop to tani sposób na zabezpieczenie przed pisaniem przez model kolejnej linii gracza. Kary redukują powtarzające się frazy, co jest zwykłą przyczyną, że długie sesje stają się nudne. Jeśli chcesz odtworzyć scenę dokładnie podczas edycji prompta, przekaż stały seed.

Kluczowe ustawienia

Ustawienie	Wartość startowa	Co to zmienia
temperatura	0,8 do 1,0	Wyższa wartość daje bardziej zaskakującą prozę i większe odejście od faktów sceny
top_p	0,9 do 0,95	Odrzuca mało prawdopodobne słowa; obniż ją, jeśli odpowiedzi stają się dziwne
frequency_penalty	0,2 do 0,5	Ogranicza powtarzające się słowa i początki zdań
presence_penalty	0,2 do 0,5	Skłania do nowych tematów i szczegółów
stop	etykieta mówiącego	Zapobiega mówieniu przez model za Ciebie
max_tokens	opcjonalny	Ogranicza długość pojedynczej odpowiedzi

To są punkty wyjścia, a nie przetestowane optimum. Zmieniaj po jednym i odtwarzaj tę samą scenę ze stałym seedem, aby zobaczyć efekt. Jeśli używasz interfejsu takiego jak SillyTavern, który pozwala dodać endpoint kompatybilny z OpenAI, wprowadź base URL, klucz i ID modelu uncensored, a następnie wklej te same wartości samplerów w jego ustawieniach. quickstart zawiera wersje curl i Node powyższego wywołania.

Pamięć i okno kontekstu 100k

Sto tysięcy tokenów to dużo historii, mniej więcej długość krótkiej powieści, ale nie jest nieskończone i nie jest darmowe. Każda tura wysyła całą historię, więc koszt i opóźnienia rosną wraz z trwaniem sesji. Trzy nawyki pozwalają to kontrolować.

1. Utrzymuj przypięte podsumowanie. Co 20 do 30 tur poproś model o napisanie krótkiego podsumowania faktów, imion i otwartych wątków, a następnie zastąp najstarsze tury tym podsumowaniem.
2. Utrzymuj kartę postaci w systemowym promptcie. Wygląd, cele, nawyki mowy i sekrety powinny tam być, a nie być ukryte 60 tur wcześniej.
3. Przycinaj gadulstwo. Komentarze spoza postaci i ponownie wygenerowane odpowiedzi nie muszą pozostawać w historii.

Model może nadal tracić szczegóły głęboko w bardzo długim promptcie, więc nie zakładaj, że pełne okno oznacza doskonałą pamięć. Jeśli fakt jest ważny, powtórz go w podsumowaniu.

Zapytanie zostanie odrzucone, gdy prompt plus uzupełnienie przekroczą 100 000 tokenów, więc jeśli pozwolisz sesji rosnąć bez przycinania, i tak będziesz musiał w końcu przyciąć historię.

Testowanie modelu pod swój styl

Recenzje nie powiedzą Ci, czy model pasuje do Twojego gustu, więc zbuduj mały test, który możesz powtórzyć. Wybierz trzy sceny, które obciążą różne umiejętności: napiętą rozmowę z sekretem, długą akcję i cichą scenę, w której postać musi pamiętać coś powiedzianego wcześniej. Uruchom każdą z nich ze stałym seedem i tym samym systemowym promptem, a następnie przeczytaj wyjście pod kątem błędów, na których Ci zależy: złamana postać, linie napisane za Ciebie, powtarzające się frazy, zapomniane szczegóły.

Prowadź notatki na temat tego, co widzisz, i uruchom te same trzy sceny na dowolnym innym modelu, który rozważasz. Zajmie to mniej niż godzinę i powie Ci więcej niż ranking napisany dla czyichś gustów. Ponieważ to API jest kompatybilne z OpenAI, zamiana podstawowego adresu URL i identyfikatora modelu w powyższym skrypcie to jedyna zmiana potrzebna do porównania.

Koszt sesji

Cennik to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych z przedpłaconego kredytu. Ponieważ dane wejściowe są wysyłane ponownie w każdej turze, dane wejściowe dominują w rachunku w długiej sesji. Oto realistyczny przykład.

Sesja 200 tur ze średnim promptem 6000 tokenów i średnią odpowiedzią 300 tokenów:

• Wejście: 200 x 6 000 = 1 200 000 tokenów, co daje 1,2 x $0,15 = $0,18
• Wyjście: 200 x 300 = 60 000 tokenów, co to 0.06 x $0.50 = $0.03
• Razem: $0.21

Teraz skrajny przypadek. Tura z 90 000 tokenami wejściowymi i 400 wyjściowymi kosztuje 90 000 × $0,15 / 1 000 000 = $0,0135 za wejście i 400 × $0,50 / 1 000 000 = $0,0002 za wyjście, czyli łącznie $0,0137. Uruchomienie 100 tur o takim rozmiarze kosztuje $1,37. Główną metodą obniżenia kosztów jest podsumowywanie, aby skrócić prompty.

Nowi użytkownicy mogą uzyskać $0.50 darmowego kredytu próbnego jednym kliknięciem po rejestracji, bez karty i ważny przez 7 dni, więc możesz zagrać kilka pełnych scen przed płatnością. Doładowania zaczynają się od $20, z bonusami 5% od $50, 10% od $100 i 15% od $200, a kredyt nigdy nie wygasa. Zobacz stronę z cenami, aby zobaczyć opcje płatności, w tym kartą i kryptowalutami, lub uzyskaj klucz, aby przetestować.

Gdzie lepszą opcję znajdzie inna usługa

Bądź realistyczny co do kompromisów. Jeśli chcesz generować obrazy swoich postaci, głosy lub dopracowaną aplikację mobilną, API tekstowe to tylko silnik, a resztę budujesz sam. Jeśli potrzebujesz najlepszej prozy literackiej i nie przeszkadzają ci filtry treści, duży model zamknięty może lepiej sprawdzać się w niektórych scenach. Jeśli chcesz uruchomić wszystko prywatnie na własnym komputerze, lokalny model jest właściwym wyborem, pod warunkiem że twój sprzęt sobie z tym poradzi.

Hostowany endpoint bez cenzury pasuje do węższego przypadku: chcesz tworzyć fikcję i rozmowy w stylu towarzyskim dla dorosłych bez odmów, chcesz API kompatybilne z OpenAI, które obsługują już twoje istniejące narzędzia, i chcesz cenę za token, która sprawia, że długie sesje są opłacalne. Jeśli to do ciebie pasuje, najszybszym testem jest uruchomienie swojej najtrudniejszej sceny za pomocą kredytu próbnego.

Więcej przewodników

• Czy istnieją modele LLM z darmowym API? Ile kosztuje darmowe użycie
• Klucz API AnythingLLM: Podłącz niestandardowy endpoint OpenAI
• LiteLLM vs Bezpośrednie API LLM bez cenzury