BerandaPanduan
Apakah Ada LLM dengan API Gratis? Apa Biaya Gratisnya
Ya, beberapa API LLM memiliki cara masuk gratis, tetapi API tanpa batas gratis itu jarang. Berikut adalah apa yang dicakup uji coba dan berapa biaya penggunaan nyata setelah berakhir.
Diperbarui
Jawaban singkat
Jika Anda bertanya apakah ada LLM dengan API gratis, jawaban jujur memiliki tiga bagian. Beberapa penyedia mempublikasikan tier gratis dengan batas laju yang ketat. Beberapa model bobot terbuka dapat dijalankan di perangkat keras Anda sendiri, yang membutuhkan biaya listrik dan GPU, bukan faktur. Dan beberapa API yang di-host, termasuk ini, memberikan saldo uji coba kecil agar Anda dapat menguji sebelum membayar.
Layanan ini tidak memiliki tier gratis tanpa batas. Yang Anda dapatkan adalah uji coba satu kali senilai $0,50 dalam kredit, diklaim dengan satu klik di halaman kunci API setelah masuk. Ini tidak memerlukan kartu, berlaku selama 7 hari, dan dibatasi satu per orang. Setelah itu Anda mengisi ulang dan membayar per token. Sisa artikel ini memberikan angka pada kedua tahap sehingga Anda dapat menilai apakah $0,50 cukup untuk pengujian Anda dan berapa biaya satu bulan penggunaan nyata.
Apa yang diberikan uji coba
Uji coba dimaksudkan untuk satu tujuan: memungkinkan Anda mengonfirmasi API berfungsi sesuai kebutuhan Anda sebelum mengeluarkan uang. Anda masuk dengan Google, atau dengan email dan kata sandi, buka halaman kunci API, dan klaim kredit. Kunci berfungsi dengan endpoint yang sama dan ID model yang sama (uncensored) seperti kunci berbayar.
Dua perbedaan berlaku untuk kunci uji coba. Kunci ini diizinkan 2 permintaan konkuren dan 60 permintaan per menit, di mana kunci penuh mendapatkan 8 permintaan konkuren dan 300 per menit. Dan saldo berakhir setelah 7 hari. Jika Anda menghubungkan klien, skrip, atau bot kecil, batas-batas ini sudah cukup. Jika Anda berencana melakukan pengujian beban dengan pekerja paralel, Anda akan terkena HTTP 429 dengan kode kesalahan concurrency dengan cepat, yang merupakan sinyal untuk mengisi saldo, bukan bug.
Permintaan yang gagal atau ditolak tidak dikenakan biaya, jadi permintaan yang error tidak menghabiskan saldo uji coba Anda. Setiap respons juga membawa header X-Balance-USD, yang memungkinkan Anda memantau saldo turun saat Anda menguji.
Seberapa jauh $0,50 berjalan: matematika token yang dihitung
Harga $0.15 per 1M token input dan $0.50 per 1M token output. Bagi dengan satu juta dan Anda mendapatkan biaya per token: $0.00000015 untuk input dan $0.0000005 untuk output. Biaya output sedikit lebih dari tiga kali lipat input, sehingga jawaban panjang menaikkan tagihan lebih daripada prompt panjang.
Pesan obrolan pendek
Ambil permintaan dengan 1.000 token input (prompt sistem ditambah beberapa giliran) dan 500 token output.
- Input: 1.000 x $0,15 / 1.000.000 = $0,00015
- Output: 500 x $0,50 / 1.000.000 = $0,00025
- Total: $0,0004 per permintaan
$0.50 dibagi $0.0004 adalah 1.250 permintaan. Itu adalah satu sore penuh pengujian manual, atau skrip kecil yang dijalankan berkali-kali.
Permintaan yang lebih berat
Sekarang 4.000 token input dan 1.000 token output, yang merupakan riwayat percakapan panjang dengan balasan terperinci.
- Input: 4.000 x $0,15 / 1.000.000 = $0,0006
- Output: 1.000 x $0,50 / 1.000.000 = $0,0005
- Total: $0,0011 per permintaan
$0,50 dibagi dengan $0,0011 adalah sekitar 454 permintaan.
Mengisi seluruh jendela konteks
Jendela konteks adalah 100.000 token, prompt plus completion. Permintaan dengan 98.000 token input dan 2.000 output biayanya 98.000 x $0.15 / 1.000.000 = $0.0147 untuk input ditambah 2.000 x $0.50 / 1.000.000 = $0.001 untuk output, sehingga $0.0157 secara total. Uji coba mencakup sekitar 31 dari permintaan tersebut. Pekerjaan konteks panjang adalah di mana saldo uji coba menghilang paling cepat, jadi ujilah dengan beberapa permintaan, bukan loop.
Apa yang terjadi setelah uji coba
Saat $0.50 habis atau 7 hari berakhir, Anda beralih ke saldo prabayar. Tidak ada langganan dan tidak ada minimum bulanan. Anda menambahkan kredit sekali, dan permintaan menguranginya sesuai harga per token di atas. Saldo tidak pernah habis, sehingga isi saldo yang Anda gunakan perlahan tidak menyusut.
Isi ulang adalah jumlah bulat apa pun dari $20 hingga $500. Yang lebih besar menambahkan bonus di atas: 5% dari $50, 10% dari $100 dan 15% dari $200. Dalam praktiknya terlihat seperti ini:
| Anda membayar | Bonus | Kredit yang Anda dapatkan |
|---|---|---|
| $20 | tidak ada | $20.00 |
| $50 | +5% | $52.50 |
| $100 | +10% | $110.00 |
| $200 | +15% | $230.00 |
Anda dapat membayar dengan kartu (Visa, Mastercard, Apple Pay, Google Pay) atau dengan kripto (USDT di TRC20, USDC di Base). Halaman harga memiliki detail isi ulang saat ini.
Contoh penggunaan bulanan
Uji coba memberi tahu Anda API berfungsi. Pertanyaan yang menentukan apakah Anda terus menggunakannya adalah berapa biaya penggunaan stabil. Berikut adalah dua sketsa, keduanya dihitung dari harga yang sama.
Asisten kecil atau bot chat. Katakan 10.000 pesan dalam sebulan, masing-masing dengan 1.500 token input dan 400 token output. Input adalah 10.000 x 1.500 = 15.000.000 token, yang merupakan 15 x $0.15 = $2.25. Output adalah 10.000 x 400 = 4.000.000 token, yang merupakan 4 x $0.50 = $2.00. Bulan itu biayanya $4.25, sehingga isi saldo $20 mencakup sedikit di bawah lima bulan pada kecepatan itu.
Proses batch. Katakan Anda memproses 2.000 dokumen, masing-masing 3.000 token input dan 600 token output. Input adalah 6.000.000 token, atau $0.90. Output adalah 1.200.000 token, atau $0.60. Seluruh batch biayanya $1.50. Pekerjaan yang sama pada sore lambat pengujian Anda sendiri biayanya beberapa sen, itulah sebabnya uji coba biasanya cukup untuk memutuskan.
Ini adalah contoh, bukan janji tentang beban kerja Anda. Angka Anda sendiri bergantung pada panjang prompt, seberapa banyak riwayat yang Anda kirim ulang dan seberapa panjang balasan berjalan. Bidang usage dalam setiap respons memberikan jumlah token yang tepat, sehingga Anda dapat mengalikan sendiri setelah sehari penggunaan dan memproyeksikan bulan tersebut.
Cara lain mendapatkan LLM tanpa membayar
Jika $0,50 tidak cukup dan Anda belum ingin membayar, ada rute lain, masing-masing dengan biaya yang tidak ada di faktur.
- Paket gratis dari penyedia lain. Beberapa penyedia menawarkan akses gratis terbatas. Batas, model, dan ketentuan sering berubah, jadi periksa harga dan aturan terbaru mereka sebelum membangun di atasnya.
- Menjalankan model sendiri. Model bobot terbuka dapat dijalankan secara lokal dengan alat seperti Ollama atau llama.cpp. Anda membayar dalam perangkat keras dan waktu pengaturan, dan model yang lebih besar membutuhkan GPU serius. Model lokal adalah kecocokan yang baik ketika privasi atau biaya marjinal nol lebih penting daripada kecepatan.
- Meng-host sendiri di balik proxy. Jika Anda sudah menjalankan gateway seperti LiteLLM, Anda dapat mengarahkannya ke endpoint yang kompatibel dengan OpenAI. Perbandingan LiteLLM mencakup kapan gateway membantu dan kapan koneksi langsung lebih sederhana.
Akses gratis memiliki trade-off yang mudah dilewatkan: tier gratis mungkin menolak konten yang dibutuhkan kasus penggunaan dewasa yang sah, mungkin membatasi Anda pada beberapa permintaan per menit, atau dapat mengubah ketentuan tanpa pemberitahuan. Jika Anda membutuhkan endpoint yang menjawab tanpa penolakan konten, kompatibel dengan OpenAI dan memiliki harga stabil, saldo prabayar kecil sering kali jalur yang lebih murah setelah Anda menghitung waktu Anda sendiri. Satu batas keras pada layanan ini adalah tidak ada konten seksual yang melibatkan anak di bawah umur.
Menggunakan kredit uji coba dengan baik
Beberapa kebiasaan memperpanjang $0,50 lebih jauh dan memberikan pengujian yang lebih jujur.
- Atur
max_tokenssaat pengujian agar balasan tak terkendali tidak menghabiskan biaya lebih dari yang Anda rencanakan. Pengaturan ini opsional dalam lingkungan produksi. - Jaga prompt tetap pendek hingga perilakunya sesuai, lalu uji dengan panjang prompt asli Anda sekali saja.
- Gunakan streaming untuk pengujian interaktif. Streaming mengembalikan penggunaan di akhir, sehingga Anda masih melihat jumlah token.
- Periksa header
X-Balance-USDsetelah eksekusi untuk mengonfirmasi bahwa pengeluaran sesuai dengan perhitungan Anda.
Permintaan ini menghabiskan pecahan sen dan menunjukkan bentuk respons dan header:
curl -i https://api.llmapisource.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in one sentence."}],
"max_tokens": 50
}'
Panggilan yang sama dapat digunakan dari SDK OpenAI apa pun setelah URL dasar dan kunci diubah. panduan awal menunjukkan versi Python dan Node, termasuk streaming dan pemanggilan alat.
Panduan lainnya
Tanya jawab
Apakah ada API LLM gratis tanpa batas?
Tidak di sini. Pengguna baru dapat mengklaim kredit uji coba senilai $0,50 yang berlaku selama 7 hari tanpa memerlukan kartu, dan setelah itu API menggunakan sistem bayar sesuai penggunaan dari saldo prabayar.
Apakah uji coba memerlukan kartu kredit?
Tidak. Anda masuk dengan Google atau dengan email dan kata sandi, lalu klaim uji coba dengan satu klik di halaman kunci API. Ini satu per orang.
Apakah saya dikenakan biaya untuk permintaan yang gagal?
Tidak. Permintaan yang gagal atau ditolak tidak dikenakan biaya, sehingga kesalahan tidak menghabiskan kuota uji coba atau saldo prabayar Anda.
Bagaimana cara termurah untuk terus menggunakannya setelah masa uji coba?
Isi saldo minimal $20 dan bayar per token. Dengan harga $0,15 per 1 juta token input dan $0,50 per 1 juta token output, permintaan dengan 1.000 token input dan 500 token output biayanya $0,0004, dan kredit tidak pernah kedaluwarsa.
