LLM API streaming

Copycurl https://api.llmapisource.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapisource.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapisource.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Compatibilità OpenAI pronta all'uso

La nostra API implementa l'endpoint standard /v1/chat/completions. Puoi utilizzare gli SDK ufficiali di OpenAI per Python, Node.js e Go semplicemente modificando il base_url e fornendo la tua chiave API. Funziona con qualsiasi client compatibile con OpenAI, inclusi framework popolari come LangChain e LlamaIndex. Supportiamo lo streaming tramite Server-Sent Events (SSE) e la chiamata di strumenti/funzioni. Ciò significa che puoi integrare il nostro modello senza censura nella tua infrastruttura esistente senza riscrivere la logica della tua applicazione.

Prestazioni del modello senza censura

ospitiamo un singolo modello open-weight dedicato sui nostri server GPU. Questo modello è ottimizzato per rispondere senza rifiuti di contenuti per l'uso adulto legale, scenari di finzione, ricerche di sicurezza o argomenti controversi. Non è GPT, Claude, Gemini, Grok o alcun altro modello di un fornitore. Il modello supporta una finestra di contesto di 100.000 token, consentendoti di elaborare documenti di grandi dimensioni o mantenere cronologie di conversazioni lunghe. Nota che non offriamo embeddings, generazione di immagini, audio o video. Ci concentriamo esclusivamente sulla generazione di testo di alta qualità.

Tariffazione pensata per gli sviluppatori

Addebitiamo $0,25 per 1M di token di input e $1,00 per 1M di token di output. Non ci sono fee di abbonamento, costi mensili o fee di routing del modello. Acquisti credito prepagato a partire da $10 tramite criptovalute (USDT o USDC). Sono disponibili crediti bonus per ricariche più grandi: +5% da $50 e +10% da $100. Il credito pagato non scade mai. Ogni nuovo account riceve $0,50 di credito di prova valido per 7 giorni, senza bisogno di carta. Questo modello di pagamento a consumo elimina i costi generali dei contratti enterprise.

A chi non è rivolta

Questa API non fa per te se hai bisogno di routing multi-modello, embeddings, generazione di immagini o fine-tuning. Non offriamo garanzie SLA, certificazioni SOC2 o deployment on-prem. Se richiedi un modello specifico di un fornitore come GPT-4 o Claude, o se devi aggregare centinaia di modelli tramite un gateway, il nostro approccio a modello singolo potrebbe non adattarsi alla tua architettura. Siamo un servizio indipendente, non un rivenditore di modelli di terze parti. Blocchiamo anche le richieste che coinvolgono contenuti sessuali con minori, che è un limite rigido applicato a tutte le richieste.