ड्रॉप-इन LLM गेटवे
अनसेंसर्ड LLM API
किसी भी OpenAI-संगत क्लाइंट को एक अकेले, विशेष रूप से बनाए गए बिना सेंसर मॉडल से कनेक्ट करें। अपनी बेस URL और API कुंजी बदलें; अपना कोड रखें।
ड्रॉप-इन बिना सेंसर चैट API
एक ही अनुरोध में आज़माएँ
curl https://api.openllmgateway.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);https://api.openllmgateway.com/v1uncensored
OpenAI-संगत चैट API
100,000 टोकन कॉन्टेक्स्ट विंडो
पे-एज़-यू-गो प्रीपेड क्रेडिट
आपको क्या मिलता है
ड्रॉप-इन संगतता
शून्य कोड बदलाव के साथ आधिकारिक OpenAI SDKs का उपयोग करें। अपने क्लाइंट को हमारी बेस URL पर पॉइंट करें और अपनी API कुंजी प्रदान करें।
बिना सेंसर आउटपुट
मॉडल कानूनी वयस्क, काल्पनिक या शोध विषयों के लिए मानक सामग्री अस्वीकृति के बिना उत्तर देता है। किशोरों की यौन सामग्री ब्लॉक है।
लंबा कॉन्टेक्स्ट विंडो
गहरे संदर्भ को बनाए रखने के लिए एकल अनुरोध में प्रॉम्प्ट और पूर्णता डेटा के 100,000 टोकन तक प्रक्रिया करें।
स्ट्रीमिंग और टूल्स
एजेंट वर्कफ़्लो के लिए स्ट्रीमिंग प्रतिक्रियाओं के लिए SSE और संरचित फ़ंक्शन कॉलिंग का समर्थन करता है।
पारदर्शी प्राइसिंग
केवल उपयोग किए गए टोकन के लिए भुगतान करें। 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50। कोई मासिक शुल्क नहीं।
सरल सीमाएँ
प्रति कुंजी प्रति मिनट 300 अनुरोध, 8 MB अनुरोध बॉडी सीमा के साथ। कुंजियाँ तुरंत रद्द और पुनः उत्पन्न की जा सकती हैं।
यह कैसे काम करता है
साइन अप करें
केवल एक ईमेल और पासवर्ड के साथ एक खाता बनाएँ ताकि आपको तुरंत अपनी API कुंजी और मुफ़्त ट्रायल क्रेडिट प्राप्त हो सके।
क्लाइंट कॉन्फ़िगर करें
अपने अनुप्रयोग का बेस URL https://api.openllmgateway.com/v1 पर अपडेट करें और अपनी नई API कुंजी दर्ज करें।
अनुरोध भेजें
अपने मौजूदा OpenAI SDK इंटीग्रेशन कोड का उपयोग करके /v1/chat/completions पर POST अनुरोध करें।
लोग इसके साथ क्या बनाते हैं
AI एजेंट्स
स्वतंत्र एजेंट्स तैनात करें जिन्हें कम सामग्री प्रतिबंधों की आवश्यकता होती है। फ़ंक्शन कॉलिंग सपोर्ट अप्रत्याशित अस्वीकृतियों के बिना जटिल मल्टी-स्टेप वर्कफ़्लो को सक्षम बनाता है।
सामग्री जनरेशन
मानक बॉयलरप्लेट डिस्क्लेमर के बिना रचनात्मक लेखन या रोलप्ले परिदृश्य जनरेट करें। बिना सेंसर प्रकृति अधिक सीधी और विविध आउटपुट शैलियों की अनुमति देती है।
सुरक्षा अनुसंधान
जेलब्रेक प्रॉम्प्ट या विवादास्पद विषयों के खिलाफ मॉडल व्यवहार का परीक्षण करें। विविध संदर्भों में मॉडल की मजबूती का मूल्यांकन करने के लिए उपयोगी।
विरासत इंटीग्रेशन
OpenAI इंफ्रास्ट्रक्चर पर बनाए गए मौजूदा एप्लिकेशन को क्लाइंट लॉजिक को फिर से लिखे बिना अलग मॉडल प्रदाता में माइग्रेट करें। A/B टेस्टिंग के लिए आदर्श।
ड्रॉप-इन OpenAI संगतता
अधिकांश LLM गेटवे कई प्रदाताओं को एग्रीगेट करते हैं, जिससे आपके रूटिंग लॉजिक में विलंबता और जटिलता बढ़ती है। हम अपने बिना सेंसर मॉडल के लिए एकल, समर्पित एंडपॉइंट प्रदान करते हैं। यह कस्टम मध्यवर्ती या मल्टी-मॉडल राउटर की आवश्यकता को समाप्त करता है। आपका अनुप्रमान मानक /v1/chat/completions एंडपॉइंट का उपयोग करता है और सर्वर-सेंट इवेंट्स (SSE) के माध्यम से स्ट्रीमिंग और टूल/फ़ंक्शन कॉलिंग का समर्थन करता है।
इंटीग्रेशन में केवल दो बदलाव की आवश्यकता है: अपने base_url को https://api.openllmgateway.com/v1 पर अपडेट करें और अपनी API कुंजी बदलें। सिस्टम प्रॉम्प्ट और संदेश संरचना सहित अन्य सभी पैरामीटर OpenAI स्पेसिफिकेशन के समान रहते हैं। यह दृष्टिकोण सुनिश्चित करता है कि आपका कोडबेस स्वच्छ और पोर्टेबल रहे।
नोट: हम एम्बेडिंग, इमेज जनरेशन, ऑडियो प्रोसेसिंग या फाइन-ट्यूनिंग प्रदान नहीं करते हैं। यदि आपका अनुप्रयोग मल्टीमोडल इनपुट पर निर्भर है या विभिन्न विक्रेताओं के बीच मॉडल रूटिंग की आवश्यकता है, तो यह API आपके लिए सही नहीं है।
कानूनी उपयोग के लिए बिना सेंसर सामग्री
मॉडल को कानूनी वयस्क सामग्री, काल्पनिक कथाओं और विवादास्पद विषयों के लिए मानक सामग्री अस्वीकृति के बिना उत्तर देने के लिए ट्यून किया गया है। यह उन अनुप्रयोगों के लिए आदर्श है जहाँ रचनात्मक स्वतंत्रता को कॉर्पोरेट सुरक्षा फिल्टरों से प्राथमिकता दी जाती है। उदाहरण के लिए, विविध तर्क पथों का अन्वेषण करने वाले एजेंट या परिपक्क्त थीम उत्पन्न करने वाले लेखक अप्रत्याशित ब्लॉकेज के बिना काम कर सकते हैं।
हम एक कठोर सामग्री सीमा बनाए रखते हैं: किशोरों से संबंधित यौन सामग्री हमेशा ब्लॉक की जाती है। इस विशिष्ट श्रेणी वाले अनुरोध अस्वीकार कर दिए जाएंगे। अन्य वयस्क या एज्डी सामग्री कानूनी उपयोग के लिए सुलभ रहती है। यह संतुलन व्यापक रचनात्मक और विश्लेषणात्मक उपयोगिता को बनाए रखते हुए विशिष्ट प्रतिबंधित सामग्री प्रकारों पर एक स्पष्ट सीमा बनाए रखने की अनुमति देता है।
मॉडल GPT, Claude, Gemini, Grok या DeepSeek नहीं है। यह एक ओपन-वेट मॉडल है जो हमारे स्वयं के GPU सर्वर पर चलाया जाता है, विशेष रूप से इस बिना सेंसर व्यवहार के लिए डिज़ाइन किया गया है।
100,000 टोकन कॉन्टेक्स्ट विंडो
हमारी API 100,000 टोकन कॉन्टेक्स्ट विंडो का समर्थन करती है, जिसमें प्रॉम्प्ट और पूर्णता दोनों शामिल हैं। यह आपको एकल अनुरोध में बड़े दस्तावेजों को संसाधित करने, व्यापक बातचीत के इतिहास को बनाए रखने या महत्वपूर्ण सिस्टम निर्देशों को इंजेक्ट करने की अनुमति देता है। गहरे संदर्भ को बनाए रखने या लंबे टेक्स्ट के बैच प्रोसेसिंग की आवश्यकता वाले अनुप्रयोगों के लिए, यह क्षमता जटिल चंकिंग रणनीतियों की आवश्यकता को कम करती है।
अनुरोध बॉडी का आकार 8 MB तक सीमित है, जो अधिकांश टेक्स्ट-आधारित इनपुट के लिए टोकन क्षमता से मेल खाता है। स्ट्रीमिंग प्रतिक्रियाएँ समर्थित हैं, जिससे आप टोकन को जनरेट होने पर संसाधित कर सकते हैं, पूर्ण पूर्णता का प्रतीक्षा करने के बजाय। यह लंबे आउटपुट के लिए अनुभूत विलंबता को कम करता है और रियल-टाइम अनुप्रयोगों के लिए उपयोगकर्ता अनुभव को बेहतर बनाता है।
सरल पे-एज़-यू-गो मूल्य निर्धारण
हम वास्तविक टोकन उपयोग के आधार पर चार्ज करते हैं, बिना मासिक सदस्यता या छिपे शुल्क के। इनपुट टोकन की लागत 1 मिलियन टोकन के लिए $0.15 है, और आउटपुट टोकन की लागत 1 मिलियन टोकन के लिए $0.50 है। आप क्रेडिट के लिए प्रीपे करते हैं, और यह कभी समाप्त नहीं होता है। यह मॉडल सुनिश्चित करता है कि आप केवल उसी के लिए भुगतान करते हैं जिसका आप उपयोग करते हैं, जो विरल उपयोग और उच्च-वॉल्यूम उत्पादन वॉर्कलोड दोनों के लिए लागत प्रभावी बनाता है।
टॉप-अप $20 से कार्ड (Visa, Mastercard, Apple Pay, Google Pay) या क्रिप्टो (USDT या USDC) के माध्यम से शुरू होता है। हम बड़ी खरीदारी के लिए बोनस क्रेडिट प्रदान करते हैं: $50 से +5%, $100 से +10%, और $200 से +15%। नए खातों को 7 दिनों के लिए वैध $0.50 ट्रायल क्रेडिट प्राप्त होता है, जिसके लिए कोई क्रेडिट कार्ड की आवश्यकता नहीं है। अपनी API कुंजी पेज पर एक क्लिक से इस क्रेडिट को क्लेम करें। यह प्रवेश की कम बाधा आपको API की प्रदर्शन और विश्वसनीयता को परीक्षण करने की अनुमति देती है, बड़े बैलेंस के लिए प्रतिबद्ध होने से पहले।
गाइड
सेटअप, कीमत और इंटीग्रेशन पर व्यावहारिक लेख।
LLM Gateway in Python: Calling a Backend EndpointBuild an llm gateway python service with FastAPI and httpx: auth tokens, retries, concurrency cap, and streaming passthrough to an…
LLM Gateway vs OpenRouter: Which Do You Need?LLM gateway vs OpenRouter explained: hosted routers, self-run gateways and single endpoints compared, with notes on when each one is the right choice.
LLM गेटवे क्या है? सरल व्याख्याएक LLM गेटवे आपकी एप्लिकेशन और मॉडल API के बीच एक परत है। जानें कि यह क्या करता है, आपको इसकी कब आवश्यकता है, और एक होस्टेड OpenAI-संगत एंडपॉइंट…
AI गेटवे चेकलिस्ट: 7 चरण उत्पादन-तैयार इंटीग्रेशन के लिएप्रोडक्शन के लिए होस्टेड LLM API चेकलिस्ट। 100k कॉन्टेक्स्ट के साथ पे-एज-यू-गो LLM API। आज ही इंटीग्रेट करना शुरू करें।प्रश्न और उत्तर
क्या यह API OpenAI SDK के साथ संगत है?
हाँ। API OpenAI चैट पूर्णता स्पेसिफिकेशन का पालन करता है। आप बेस URL को https://api.openllmgateway.com/v1 पर बदलकर और अपनी API कुंजी प्रदान करके आधिकारिक OpenAI SDK का उपयोग कर सकते हैं। संदेश, तापमान और स्ट्रीमिंग जैसे सभी मानक पैरामीटर अपेक्षानुसार काम करते हैं।
क्या मॉडल सामग्री को अस्वीकार करता है?
मॉडल बिना सेंसर है और आमतौर पर कानूनी वयस्क, काल्पनिक या विवादास्पद विषयों को अस्वीकार नहीं करता है। हालांकि, किशोरों से संबंधित यौन सामग्री हमेशा ब्लॉक की जाती है। अन्य सामग्री प्रतिबंध मानक वाणिज्यिक मॉडल की तुलना में न्यूनतम हैं।
कॉन्टेक्स्ट विंडो का आकार क्या है?
कॉन्टेक्स्ट विंडो 100,000 टोकन का है, जो इनपुट प्रॉम्प्ट और जनरेटेड आउटपुट दोनों को कवर करता है। यह एक ही अनुरोध में बड़े दस्तावेजों या लंबी बातचीत के इतिहास को संभालने की अनुमति देता है।
बिलिंग कैसे काम करता है?
बिलिंग टोकन उपयोग के आधार पर पे-एज़-यू-गो है। इनपुट टोकन प्रति 1M के लिए $0.15 हैं, और आउटपुट टोकन प्रति 1M के लिए $0.50 हैं। आप प्रीपेड क्रेडिट भरेते हैं, जो कभी खत्म नहीं होता। कोई मासिक शुल्क या सदस्यता नहीं है।
क्या यह कई मॉडल के लिए एक रूटिंग सेवा है?
नहीं। हम अपने स्वयं के बिना सेंसर मॉडल के लिए एकल, समर्पित एंडपॉइंट प्रदान करते हैं। हम GPT-4 या Claude जैसे विक्रेताओं के बीच रूटिंग नहीं करते हैं, न ही हम कई मॉडल विकल्प प्रदान करते हैं। यदि आपको मल्टी-मॉडल रूटिंग की आवश्यकता है, तो यह गेटवे सही समाधान नहीं है।
आपकी कुंजी बस एक फ़ॉर्म दूर है
एक खाता बनाएं, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।