Gateway LLM tích hợp ngay
API LLM không giới hạn cho nhà phát triển
Kết nối bất kỳ khách hàng tương thích OpenAI nào với một mô hình không kiểm duyệt được thiết kế riêng. Thay đổi base URL và khóa API; giữ nguyên mã của bạn.
API chat không kiểm duyệt tích hợp ngay
Thử chỉ với một yêu cầu
curl https://api.openllmgateway.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);https://api.openllmgateway.com/v1uncensored
API chat tương thích OpenAI
Cửa sổ ngữ cảnh 100.000 token
Tín dụng trả trước trả theo mức sử dụng
Những gì bạn nhận được
Tương thích tích hợp ngay
Sử dụng các SDK chính thức của OpenAI mà không cần thay đổi mã. Chỉ trỏ khách hàng của bạn đến base URL của chúng tôi và cung cấp khóa API.
Đầu ra không kiểm duyệt
Mô hình trả lời mà không có các từ chối nội dung tiêu chuẩn cho các chủ đề người trưởng thành hợp pháp, hư cấu hoặc nghiên cứu. Nội dung tình dục liên quan đến trẻ vị thành niên bị chặn.
Cửa sổ ngữ cảnh dài
Xử lý tới 100.000 token dữ liệu prompt và kết hợp trong một yêu cầu duy nhất để duy trì ngữ cảnh sâu.
Truyền phát & Công cụ
Hỗ trợ Server-Sent Events cho phản hồi truyền phát và gọi công cụ/hàm có cấu trúc cho các quy trình làm việc của agent.
Giá cả minh bạch
Chỉ trả tiền cho token đã sử dụng. $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Không có phí hàng tháng.
Giới hạn đơn giản
300 yêu cầu mỗi phút mỗi khóa với giới hạn thân yêu cầu 8 MB. Khóa có thể thu hồi và tạo lại ngay lập tức.
Cách hoạt động
Đăng ký
Tạo tài khoản chỉ với email và mật khẩu để nhận khóa API và tín dụng dùng thử ngay lập tức.
Cấu hình khách hàng
Cập nhật base URL của ứng dụng của bạn thành https://api.openllmgateway.com/v1 và chèn khóa API mới của bạn.
Gửi yêu cầu
Thực hiện các yêu cầu POST đến /v1/chat/completions bằng cách sử dụng mã tích hợp SDK OpenAI hiện có của bạn.
Những gì mọi người xây dựng với nó
Agent AI
Triển khai các agent tự trị yêu cầu ít hạn chế nội dung hơn để khám phá các đường hướng suy luận rộng hơn. Hỗ trợ gọi công cụ cho phép các quy trình làm việc nhiều bước phức tạp mà không có từ chối bất ngờ.
Tạo nội dung
Tạo văn sáng tạo hoặc kịch bản nhập vai mà không có các tuyên bố miễn trừ tiêu chuẩn. Bản chất không kiểm duyệt cho phép các phong cách đầu ra trực tiếp và đa dạng hơn.
Nghiên cứu bảo mật
Kiểm tra hành vi của mô hình đối với các prompt vượt tường lửa hoặc các chủ đề gây tranh cãi mà không bị chặn ngay lập tức. Hữu ích để đánh giá độ bền của mô hình trong các ngữ cảnh đa dạng.
Tích hợp kế thừa
Di chuyển các ứng dụng hiện có được xây dựng trên cơ sở hạ tầng OpenAI sang nhà cung cấp mô hình khác mà không cần viết lại logic khách hàng. Lý tưởng để thử nghiệm A/B nhanh chóng.
Tương thích OpenAI tích hợp ngay
Hầu hết các gateway LLM tổng hợp nhiều nhà cung cấp, thêm độ trễ và độ phức tạp vào logic định tuyến của bạn. Chúng tôi cung cấp một endpoint chuyên dụng duy nhất cho mô hình không kiểm duyệt của chúng tôi. Điều này loại bỏ nhu cầu về middleware tùy chỉnh hoặc bộ định tuyến đa mô hình. Ứng dụng của bạn sử dụng endpoint /v1/chat/completions tiêu chuẩn và hỗ trợ truyền phát qua Server-Sent Events (SSE) cũng như gọi công cụ/hàm.
Tích hợp chỉ yêu cầu hai thay đổi: cập nhật base_url thành https://api.openllmgateway.com/v1 và thay thế khóa API của bạn. Tất cả các tham số khác, bao gồm prompt hệ thống và cấu trúc tin nhắn, vẫn giống hệt với đặc tả OpenAI. Cách tiếp cận này đảm bảo cơ sở mã của bạn vẫn sạch và di động.
Lưu ý: Chúng tôi không cung cấp embeddings, tạo hình ảnh, xử lý âm thanh hoặc tinh chỉnh. Nếu ứng dụng của bạn dựa trên đầu vào đa phương tiện hoặc yêu cầu định tuyến mô hình giữa các nhà cung cấp khác nhau, API này không phải là lựa chọn phù hợp.
Nội dung không kiểm duyệt cho mục đích hợp pháp
Mô hình được tinh chỉnh để trả lời mà không có các từ chối nội dung tiêu chuẩn cho nội dung người trưởng thành hợp pháp, tường thuật hư cấu và các chủ đề gây tranh cãi. Điều này làm cho nó lý tưởng cho các ứng dụng nơi tự do sáng tạo được ưu tiên hơn các bộ lọc an toàn doanh nghiệp. Ví dụ, các agent khám phá các đường hướng suy luận đa dạng hoặc nhà văn tạo ra các chủ đề trưởng thành có thể hoạt động mà không bị chặn bất ngờ.
Chúng tôi duy trì một giới hạn nội dung cứng: nội dung tình dục liên quan đến trẻ vị thành niên luôn bị chặn. Các yêu cầu chứa danh mục cụ thể này sẽ bị từ chối. Các nội dung người trưởng thành hoặc gai góc khác vẫn có thể truy cập để sử dụng hợp pháp. Sự cân bằng này cho phép sử dụng sáng tạo và phân tích rộng rãi trong khi duy trì ranh giới rõ ràng về các loại nội dung bị cấm cụ thể.
Mô hình không phải là GPT, Claude, Gemini, Grok hay DeepSeek. Đó là một mô hình trọng số mở chạy trên các máy chủ GPU của riêng chúng tôi, được thiết kế đặc biệt cho hành vi không kiểm duyệt này.
Cửa sổ ngữ cảnh 100.000 token
API của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100.000 token, bao gồm cả prompt và kết quả. Điều này cho phép bạn xử lý các tài liệu lớn, duy trì lịch sử hội thoại rộng rãi hoặc đưa các hướng dẫn hệ thống đáng kể vào một yêu cầu duy nhất. Đối với các ứng dụng yêu cầu duy trì ngữ cảnh sâu hoặc xử lý hàng loạt các văn bản dài, khả năng này giảm nhu cầu về các chiến lược phân đoạn phức tạp.
Kích thước thân yêu cầu bị giới hạn ở 8 MB, phù hợp với khả năng token cho hầu hết các đầu vào dựa trên văn bản. Phản hồi truyền phát được hỗ trợ, cho phép bạn xử lý token khi chúng được tạo ra thay vì chờ đợi kết quả đầy đủ. Điều này giảm độ trễ cảm nhận cho các đầu ra dài và cải thiện trải nghiệm người dùng cho các ứng dụng thời gian thực.
Giá trả tiền theo mức sử dụng
Chúng tôi tính phí dựa trên lượng token thực tế, không có gói đăng ký hàng tháng hay phí ẩn. Token đầu vào có giá $0,15 cho mỗi 1 triệu token, và token đầu ra có giá $0,50 cho mỗi 1 triệu token. Bạn trả trước để lấy tín dụng, và nó không bao giờ hết hạn. Mô hình này đảm bảo bạn chỉ trả tiền cho những gì bạn sử dụng, giúp tiết kiệm chi phí cho cả các trường hợp sử dụng không thường xuyên và các tác vụ sản xuất có khối lượng lớn.
Các khoản nạp tiền bắt đầu từ $20 bằng thẻ (Visa, Mastercard, Apple Pay, Google Pay) hoặc crypto (USDT hoặc USDC). Chúng tôi cung cấp tín dụng bổ sung cho các khoản mua lớn hơn: +5% từ $50, +10% từ $100, +15% từ $200. Tài khoản mới nhận được $0,50 tín dụng dùng thử có giá trị trong 7 ngày, không yêu cầu thẻ tín dụng. Rào cản gia nhập thấp này cho phép bạn kiểm tra hiệu suất và độ tin cậy của API trước khi cam kết nạp một số dư lớn hơn. Nhận tín dụng này chỉ với một cú nhấp chuột trên trang khóa API của bạn.
Hướng dẫn
Bài viết thực tế về cài đặt, giá và tích hợp.
LLM Gateway in Python: Calling a Backend EndpointBuild an llm gateway python service with FastAPI and httpx: auth tokens, retries, concurrency cap, and streaming passthrough to an…
LLM Gateway vs OpenRouter: Which Do You Need?LLM gateway vs OpenRouter explained: hosted routers, self-run gateways and single endpoints compared, with notes on when each one is the right choice.
Cổng LLM là gì? Giải thích đơn giảnLLM gateway là lớp trung gian giữa ứng dụng của bạn và API mô hình. Tìm hiểu cách hoạt động, khi nào cần dùng và vai trò của endpoint tương thích…
Danh sách kiểm tra AI Gateway: 7 bước để tích hợp sẵn sàng sản xuấtKiểm tra API LLM không giới hạn cho production: tương thích, streaming, giá rẻ. Bắt đầu tích hợp ngay.Hỏi đáp
API này có tương thích với SDK của OpenAI không?
Có. API tuân theo thông số kỹ thuật chat completions của OpenAI. Bạn có thể sử dụng các SDK chính thức của OpenAI bằng cách thay đổi base URL thành https://api.openllmgateway.com/v1 và cung cấp khóa API của bạn. Tất cả các tham số tiêu chuẩn như messages, temperature và streaming đều hoạt động như mong đợi.
Mô hình có từ chối nội dung không?
Mô hình không kiểm duyệt và thường không từ chối các chủ đề người trưởng thành hợp pháp, hư cấu hoặc gây tranh cãi. Tuy nhiên, nội dung liên quan đến trẻ em dưới độ tuổi vị thành niên luôn bị chặn. Các hạn chế nội dung khác rất hạn chế so với các mô hình thương mại tiêu chuẩn.
Kích thước cửa sổ ngữ cảnh là bao nhiêu?
Cửa sổ ngữ cảnh là 100.000 token, bao gồm cả prompt đầu vào và kết quả đầu ra được tạo. Điều này cho phép xử lý các tài liệu lớn hoặc lịch sử hội thoại dài trong một yêu cầu duy nhất.
Việc thanh toán hoạt động như thế nào?
Thanh toán theo mức sử dụng dựa trên token. Token đầu vào là $0,15 cho mỗi 1 triệu, và token đầu ra là $0,50 cho mỗi 1 triệu. Bạn trả trước tín dụng, và nó không bao giờ hết hạn. Không có phí hàng tháng hoặc gói đăng ký.
Đây có phải là dịch vụ định tuyến cho nhiều mô hình không?
Không. Chúng tôi cung cấp một endpoint duy nhất, dành riêng cho mô hình không kiểm duyệt của chúng tôi. Chúng tôi không định tuyến giữa các nhà cung cấp như GPT-4 hay Claude, cũng như không cung cấp nhiều lựa chọn mô hình. Nếu bạn cần định tuyến đa mô hình, gateway này không phải là giải pháp phù hợp.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi base URL. Đó là toàn bộ quy trình thiết lập.
