即插即用 LLM 閘道器
為開發者設計的簡易無審查 LLM 閘道器
將任何 OpenAI 相容的用戶端連接到單一專屬的無審查模型。更改基礎 URL 和 API 金鑰;保留您的程式碼。
即插即用無審查聊天 API
一個請求即可試用
curl https://api.openllmgateway.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);https://api.openllmgateway.com/v1uncensored
OpenAI 相容聊天 API
100,000 token 上下文視窗
按量計費預付額度
您將獲得
即插即用相容性
無需修改程式碼即可使用官方 OpenAI SDK。將您的用戶端指向我們的基礎 URL 並提供 API 金鑰。
無審查輸出
模型針對合法成人、虛構或研究主題不會給出標準的內容拒絕。未成年人性內容會被封鎖。
長上下文視窗
在單一請求中處理最多 100,000 token 的提示詞與補全 token 組合資料,以保留深度上下文。
串流輸出與工具
支援伺服器發送事件(SSE)以進行串流輸出,並支援結構化工具/函式呼叫以用於代理工作流程。
透明定價
僅為使用的 token 付費。輸入 token 每 1M $0.15,輸出 token 每 1M $0.50。無月費。
簡單限制
每支金鑰每分鐘 300 次請求,請求主體上限為 8 MB。金鑰可立即撤銷並重新生成。
運作方式
註冊
僅使用電子郵件和密碼建立帳戶,即可立即獲得 API 金鑰和試用額度。
設定用戶端
將應用程式的基礎 URL 更新為 https://api.openllmgateway.com/v1 並插入新的 API 金鑰。
發送請求
使用現有的 OpenAI SDK 整合程式碼,向 /v1/chat/completions 發送 POST 請求。
人們用它建構什麼
AI 代理
部署需要較少內容限制的自主代理,以探索更廣泛的推理路徑。函式呼叫支援可實現複雜的多步驟工作流程,且不會出現意外的拒絕。
內容生成
生成創意寫作或角色扮演場景,無需標準的免責聲明。無審查的特性允許更直接和多樣化的輸出風格。
安全研究
針對越獄提示詞或爭議性主題測試模型行為,而不會立即被封鎖。有助於評估模型在不同情境下的韌性。
舊系統整合
將基於 OpenAI 基礎架構建構的現有應用程式遷移至不同的模型供應商,而無需重寫用戶端邏輯。非常適合快速進行 A/B 測試。
即插即用 OpenAI 相容性
大多數 LLM 閘道器會聚合多個供應商,為您的路由邏輯增加延遲和複雜度。我們提供單一專屬端點來運行我們的無審查模型。這消除了對自定義中介軟體或多模型路由器的需求。您的應用程式使用標準的 /v1/chat/completions 端點,並支援透過伺服器端事件(SSE)的串流輸出以及工具/函式呼叫。
整合僅需兩項變更:將 base_url 更新為 https://api.openllmgateway.com/v1,並替換你的 API 金鑰。所有其他參數(包括系統提示詞和訊息結構)均與 OpenAI 規範完全相同。此方法可確保程式碼庫保持簡潔且具可攜性。
注意: 我們不提供嵌入、圖像生成、音訊處理或微調。如果您的應用程式依賴多模態輸入或需要在不同供應商之間進行模型路由,此 API 並非合適選擇。
合法用途的無審查內容
該模型經過調整,可針對合法成人內容、虛構敘事和爭議性主題給出無標準內容拒絕的回答。這使其非常適合那些將創作自由置於企業安全過濾之上的應用程式。例如,探索多種推理路徑的代理程式或生成成熟主題的作家,可以無預期阻礙地運作。
我們維持一項硬性內容限制:涉及未成年人的性內容一律會被封鎖。包含此特定類別的請求將被拒絕。其他成人或邊緣內容對於合法用途仍保持可存取。這種平衡在保持對特定禁止內容類型明確界限的同時,提供了廣泛的創意和分析實用性。
該模型不是 GPT、Claude、Gemini、Grok 或 DeepSeek。它是一個開放權重模型,運行在我們自己的 GPU 伺服器上,專門為這種無審查行為而設計。
100,000 Token 上下文視窗
我們的 API 支援 100,000 token 的上下文視窗,涵蓋提示詞與補全內容。這使您能夠處理大型文件、維持廣泛的對話歷史,或在單一請求中注入大量的系統指令。對於需要深度上下文保留或批量處理長文字串的應用程式,此容量可降低對複雜分塊策略的需求。
請求主體大小限制為 8 MB,這與大多數基於文本的輸入的 token 容量相符。支援串流輸出,允許您在生成 token 時進行處理,而不是等待完整的補全。這減少了長輸出的感知延遲,並改善了即時應用程式的使用者體驗。
簡單的即用即付計費方式
我們根據實際 token 用量收費,沒有月費或隱藏費用。輸入 token 每 100 萬個 token 收費 $0.15,輸出 token 每 100 萬個 token 收費 $0.50。您預付額度,且永不過期。此模式確保您只為實際使用的部分付費,對於偶發性使用和高量產環境都非常具成本效益。
儲值最低為 20 美元,可透過信用卡(Visa, Mastercard, Apple Pay, Google Pay)或加密貨幣(USDT 或 USDC)進行。我們針對較大購買額提供額外額度:50 美元起贈送 5%,100 美元起贈送 10%,200 美元起贈送 15%。新帳戶可獲得 0.50 美元的試用額度,有效期為 7 天,無需信用卡。這種低門檻讓你在承諾存入較大金額之前,能夠測試 API 的性能與可靠性。在 API key 頁面只需一鍵即可領取此額度。
指南
關於接入、價格和整合的實用文章。
LLM Gateway in Python: Calling a Backend EndpointBuild an llm gateway python service with FastAPI and httpx: auth tokens, retries, concurrency cap, and streaming passthrough to an…
LLM Gateway vs OpenRouter: Which Do You Need?LLM gateway vs OpenRouter explained: hosted routers, self-run gateways and single endpoints compared, with notes on when each one is the right choice.
什麼是 LLM 閘道器?直白說明LLM 閘道器是應用程式與模型 API 之間的中介層。了解它的功能、何時需要,以及託管的 OpenAI 相容端點如何配合運作。
AI Gateway 檢查清單:7 個步驟實現生產環境整合託管 LLM API 的生產環境檢查清單。具備 100k 上下文的按量付費 LLM API。立即開始整合。問答
此 API 是否相容 OpenAI SDK?
是的。API 遵循 OpenAI 聊天補全規範。您可以透過將 base URL 更改為 https://api.openllmgateway.com/v1 並提供您的 API 金鑰,來使用官方的 OpenAI SDK。所有標準參數如 messages、temperature 和串流輸出均可正常運作。
該模型會拒絕特定內容嗎?
該模型為無審查,通常不會拒絕合法成人、虛構或爭議性主題。然而,涉及未成年人的色情內容一律會被封鎖。與其他標準商業模型相比,其他內容限制非常少。
上下文視窗的大小是多少?
上下文視窗為 100,000 token,涵蓋輸入提示詞與生成結果。這使您能夠在單一請求中處理大型文件或長對話歷史。
計費方式為何?
計費方式為即用即付,根據 token 用量計算。輸入 token 每 100 萬個收費 $0.15,輸出 token 每 100 萬個收費 $0.50。您預付額度,且永不過期。沒有月費或訂閱費。
這是多模型的流量轉送服務嗎?
否。我們為自己的無審查模型提供單一專屬端點。我們不會在 GPT-4 或 Claude 等供應商之間進行路由轉送,也不提供多種模型選擇。如果您需要多模型路由,此閘道器並非合適的解決方案。
只差一張表單,即可取得金鑰
建立帳戶、複製金鑰、更改 base URL。這就是完整的設定。