Trang chủHướng dẫn
Có LLM nào có API miễn phí không? Chi phí cho gói miễn phí là gì
Có, một số API LLM có cách tiếp cận miễn phí, nhưng một API miễn phí không giới hạn thì hiếm. Dưới đây là những gì gói dùng thử bao gồm và chi phí sử dụng thực tế khi hết hạn.
Cập nhật
Câu trả lời ngắn gọn
Nếu bạn đang hỏi có LLM nào có API miễn phí không, câu trả lời trung thực gồm ba phần. Một số nhà cung cấp cung cấp miễn phí với giới hạn tốc độ chặt. Một số mô hình trọng số mở có thể chạy trên phần cứng của bạn, tốn điện và GPU thay vì hóa đơn. Và một số API được lưu trữ, bao gồm API này, cung cấp một số dư dùng thử nhỏ để bạn kiểm tra trước khi trả tiền.
Dịch vụ này không có gói miễn phí không giới hạn. Những gì bạn nhận được là một lần dùng thử với $0.50 tín dụng, được nhận chỉ với một cú nhấp chuột trên trang khóa API sau khi đăng ký. Nó không cần thẻ, có hiệu lực trong 7 ngày và giới hạn một lần cho mỗi người. Sau đó bạn nạp tiền và trả theo token. Phần còn lại của bài viết này đưa ra các con số cho cả hai giai đoạn để bạn có thể đánh giá xem $0.50 có đủ cho bài kiểm tra của bạn và một tháng sử dụng thực tế sẽ tốn bao nhiêu.
Gói dùng thử mang lại cho bạn những gì
Dùng thử nhằm cho một nhiệm vụ: cho phép bạn xác nhận API hoạt động như bạn cần trước khi bạn chi tiêu bất cứ thứ gì. Bạn đăng ký với Google, hoặc với email và mật khẩu, mở trang khóa API, và nhận tín dụng. Khóa hoạt động với cùng endpoint và cùng model ID (uncensored) như một khóa trả phí.
Hai khác biệt áp dụng cho khóa dùng thử. Nó cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, trong khi khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút. Và số dư hết hạn sau 7 ngày. Nếu bạn đang kết nối một máy khách, một tập lệnh hoặc một bot nhỏ, những giới hạn này là đủ. Nếu bạn dự định kiểm tra tải với các worker song song, bạn sẽ gặp mã lỗi concurrency HTTP 429 nhanh chóng, đây là tín hiệu để bạn nạp tiền thay vì một lỗi.
Các yêu cầu bị lỗi hoặc từ chối không bị tính phí, nên một yêu cầu bị lỗi không làm hao hụt số dư dùng thử của bạn. Mỗi phản hồi cũng bao gồm tiêu đề X-Balance-USD, cho phép bạn theo dõi số dư giảm dần khi bạn kiểm tra.
$0.50 dùng được bao nhiêu: tính toán token thực tế
Giá là $0.15 cho 1M token đầu vào và $0.50 cho 1M token đầu ra. Chia cho một triệu và bạn có chi phí trên mỗi token: $0.00000015 cho đầu vào và $0.0000005 cho đầu ra. Chi phí đầu ra cao hơn đầu vào hơn ba lần một chút, vì vậy câu trả lời dài tăng hóa đơn nhiều hơn prompt dài.
Một tin nhắn trò chuyện ngắn
Hãy lấy một yêu cầu với 1.000 token đầu vào (một prompt hệ thống cộng vài lượt) và 500 token đầu ra.
- Đầu vào: 1.000 x $0,15 / 1.000.000 = $0,00015
- Đầu ra: 500 x $0,50 / 1.000.000 = $0,00025
- Tổng cộng: $0.0004 cho mỗi yêu cầu
$0.50 chia cho $0.0004 là 1.250 yêu cầu. Đó là một buổi chiều đầy đủ để kiểm tra thủ công, hoặc một script nhỏ chạy nhiều lần.
Một yêu cầu nặng hơn
Bây giờ là 4.000 token đầu vào và 1.000 token đầu ra, đây là lịch sử hội thoại dài với câu trả lời chi tiết.
- Đầu vào: 4.000 x $0,15 / 1.000.000 = $0,0006
- Đầu ra: 1.000 x $0,50 / 1.000.000 = $0,0005
- Tổng cộng: $0.0011 cho mỗi yêu cầu
$0.50 chia cho $0.0011 là khoảng 454 yêu cầu.
Điền đầy đủ cửa sổ ngữ cảnh
Cửa sổ ngữ cảnh là 100,000 token, prompt cộng với completion. Một yêu cầu với 98,000 token đầu vào và 2,000 đầu ra tốn 98,000 x $0.15 / 1,000,000 = $0.0147 cho đầu vào cộng 2,000 x $0.50 / 1,000,000 = $0.001 cho đầu ra, vậy $0.0157 tổng cộng. Dùng thử bao gồm khoảng 31 trong số đó. Công việc ngữ cảnh dài là nơi số dư dùng thử biến mất nhanh nhất, vì vậy hãy kiểm tra nó với một vài yêu cầu thay vì một vòng lặp.
Điều gì xảy ra sau khi hết thời gian dùng thử
Khi $0.50 hết hoặc 7 ngày hết hạn, bạn chuyển sang tín dụng trả trước. Không có đăng ký và không có mức tối thiểu hàng tháng. Bạn thêm tín dụng một lần, và các yêu cầu rút nó xuống theo giá trên mỗi token ở trên. Tín dụng không bao giờ hết hạn, vì vậy một lần nạp tiền bạn sử dụng chậm không bị suy giảm.
Các lần nạp tiền là bất kỳ số nguyên nào từ $20 đến $500. Các số lớn hơn thêm một phần thưởng: 5% từ $50, 10% từ $100 và 15% từ $200. Trong thực tế, điều đó trông như thế này:
| Bạn trả tiền | Tiền thưởng | Tín dụng bạn nhận được |
|---|---|---|
| $20 | không có | $20.00 |
| $50 | +5% | $52.50 |
| $100 | +10% | $110.00 |
| $200 | +15% | $230.00 |
Bạn có thể thanh toán bằng thẻ (Visa, Mastercard, Apple Pay, Google Pay) hoặc bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Trang giá cả có chi tiết nạp tiền hiện tại.
Một tháng sử dụng thực tế trông như thế nào
Một gói dùng thử cho bạn biết API hoạt động. Câu hỏi quyết định việc bạn có tiếp tục sử dụng hay không là chi phí sử dụng ổn định là bao nhiêu. Dưới đây là hai bản phác thảo, cả hai đều được tính toán từ cùng một mức giá.
Một người bạn nhỏ hoặc bot trò chuyện. Hãy nói 10,000 tin nhắn trong một tháng, mỗi tin với 1,500 token đầu vào và 400 token đầu ra. Đầu vào là 10,000 x 1,500 = 15,000,000 token, đó là 15 x $0.15 = $2.25. Đầu ra là 10,000 x 400 = 4,000,000 token, đó là 4 x $0.50 = $2.00. Tháng đó tốn $4.25, vì vậy một lần nạp tiền $20 bao gồm hơi dưới năm tháng ở tốc độ đó.
Một công việc batch. Giả sử bạn xử lý 2.000 tài liệu, mỗi tài liệu đầu vào 3.000 token và đầu ra 600 token. Đầu vào là 6.000.000 token, tương đương $0.90. Đầu ra là 1.200.000 token, tương đương $0.60. Toàn bộ công việc tốn $1.50. Cùng một công việc vào một buổi chiều chậm chạp khi bạn tự kiểm thử chỉ tốn vài xu, đó là lý do tại sao gói dùng thử thường đủ để bạn đưa ra quyết định.
Đây là các ví dụ, không phải lời hứa về khối lượng công việc của bạn. Số liệu của riêng bạn phụ thuộc vào độ dài prompt, lượng lịch sử bạn gửi lại và độ dài của các câu trả lời. Trường usage trong mỗi phản hồi đưa ra số đếm token chính xác, vì vậy bạn có thể nhân nó ra sau một ngày sử dụng và dự báo cho cả tháng.
Các cách khác để có LLM mà không phải trả tiền
Nếu $0.50 không đủ và bạn không muốn trả tiền ngay, có các tuyến khác, mỗi tuyến có một chi phí không xuất hiện trên hóa đơn.
- Cấp miễn phí từ các nhà cung cấp khác. Một số nhà cung cấp cung cấp quyền truy cập miễn phí có giới hạn. Các giới hạn, các mô hình và các điều khoản thay đổi thường xuyên, vì vậy hãy kiểm tra giá và quy tắc hiện tại của họ trước khi xây dựng dựa trên một trong số đó.
- Chạy mô hình của riêng bạn. Các mô hình trọng số mở có thể chạy cục bộ với các công cụ như Ollama hoặc llama.cpp. Bạn trả tiền bằng phần cứng và thời gian thiết lập, và các mô hình lớn hơn cần một GPU mạnh. Một mô hình cục bộ là một lựa chọn tốt khi quyền riêng tư hoặc chi phí biên bằng không quan trọng hơn tốc độ.
- Tự lưu trữ qua proxy. Nếu bạn đã chạy gateway như LiteLLM, hãy trỏ nó vào endpoint tương thích OpenAI. So sánh LiteLLM cho biết khi nào gateway hữu ích và khi nào kết nối trực tiếp đơn giản hơn.
Quyền truy cập miễn phí có những sự đánh đổi dễ bị bỏ qua: một gói miễn phí có thể từ chối nội dung mà một trường hợp sử dụng hợp pháp của người trưởng thành cần, có thể giới hạn bạn ở vài yêu cầu mỗi phút, hoặc có thể thay đổi các điều khoản mà không cần thông báo. Nếu bạn cần một endpoint trả lời mà không từ chối nội dung, tương thích OpenAI và có giá ổn định, một số dư trả trước nhỏ thường là con đường rẻ hơn khi bạn tính đến thời gian của chính mình. Giới hạn cứng duy nhất trên dịch vụ này là không có nội dung khiêu dâm liên quan đến người chưa thành niên.
Sử dụng tín dụng dùng thử hiệu quả
Một vài thói quen kéo dài $0.50 xa hơn và mang lại cho bạn một bài kiểm tra trung thực hơn.
- Đặt
max_tokenskhi kiểm thử để phản hồi chạy dài không tiêu tốn nhiều hơn bạn dự định. Tùy chọn khi đưa vào sản xuất. - Giữ các prompt ngắn cho đến khi hành vi đúng, sau đó kiểm tra với độ dài prompt thực tế của bạn một lần.
- Sử dụng truyền phát cho các bài kiểm tra tương tác. Truyền phát trả lại thông tin sử dụng ở cuối, vì vậy bạn vẫn có thể xem số đếm token.
- Kiểm tra tiêu đề
X-Balance-USDsau khi chạy để xác nhận chi phí khớp với tính toán của bạn.
Yêu cầu này tiêu tốn một phần nhỏ của một xu và cho bạn thấy hình dạng phản hồi và các tiêu đề:
curl -i https://api.llmapisource.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in one sentence."}],
"max_tokens": 50
}'Cuộc gọi tương tự hoạt động từ bất kỳ SDK OpenAI nào sau khi đổi base URL và khóa. Hướng dẫn nhanh hiển thị phiên bản Python và Node.js, bao gồm truyền phát và gọi hàm.
Hướng dẫn khác
Hỏi đáp
Có API LLM miễn phí không giới hạn nào không?
Không ở đây. Người dùng mới có thể nhận $0.50 tín dụng dùng thử, có giá trị trong 7 ngày và không cần thẻ, sau đó API hoạt động theo hình thức trả theo mức sử dụng từ tín dụng trả trước.
Thời gian dùng thử có cần thẻ tín dụng không?
Không. Bạn đăng ký với Google hoặc với email và mật khẩu, sau đó nhận gói dùng thử chỉ với một cú nhấp chuột trên trang khóa API. Mỗi người chỉ được một lần.
Tôi có bị tính phí cho các yêu cầu thất bại không?
Không. Các yêu cầu bị lỗi hoặc từ chối không bị tính phí, nên lỗi không làm hao hụt tín dụng dùng thử hoặc số dư trả trước của bạn.
Cách rẻ nhất để tiếp tục sử dụng nó sau thời gian dùng thử là gì?
Nạp tiền tối thiểu $20 và trả tiền theo token. Ở mức $0.15 cho 1M đầu vào và $0.50 cho 1M đầu ra, một yêu cầu 1.000 đầu vào và 500 đầu ra tốn $0.0004, và tín dụng không bao giờ hết hạn.
