Doğrudan Entegre LLM Ağ Geçidi

özgür LLM gateway

Q: Bu API, OpenAI SDK'si ile uyumlu mu?

Evet. API, OpenAI chat completions spesifikasyonunu takip eder. Base URL'yi https://api.openllmgateway.com/v1 olarak değiştirerek ve API anahtarınızı sağlayarak resmi OpenAI SDK'larını kullanabilirsiniz. messages, temperature ve streaming gibi tüm standart parametreler beklendiği şekilde çalışır.

Q: Model içerik reddeder mi?

Model sansürsüzdür ve genel olarak yasal yetişkin, kurgusal veya tartışmalı konuları reddetmez. Ancak, çocuklarla ilgili cinsel içerik her zaman engellenir. Diğer içerik kısıtlamaları, standart ticari modellere kıyasla oldukça azdır.

Q: Bağlam penceresi boyutu nedir?

Bağlam penceresi 100,000 token'dır ve hem girdi istemini hem de oluşturulan çıktıyı kapsar. Bu, tek bir istekte büyük belgeleri veya uzun konuşma geçmişlerini işlemenize olanak tanır.

Q: Faturalandırma nasıl çalışır?

Faturalandırma token kullanımına dayalı olarak kullandıkça öde (pay-as-you-go) esasına göre yapılır. Girdi tokenları 1M başına $0.15, çıktı tokenları ise 1M başına $0.50'dır. Ön ödemeli kredi yaparsınız ve bu kredi hiç sona ermez. Aylık ücret veya abonelik yoktur.

Q: Bu, birden fazla model için bir yönlendirme servisi mi?

Hayır. Kendi sansürsüz modelimiz için tek bir, özel uç nokta sağlıyoruz. GPT-4 veya Claude gibi sağlayıcılar arasında yönlendirme yapmıyoruz ve birden fazla model seçeneği sunmuyoruz. Çoklu model yönlendirmesi gerekiyorsa, bu ağ geçidi doğru çözüm değildir.

Herhangi bir OpenAI uyumlu istemciyi tek bir, özel amaçlı sansürsüz modele bağlayın. Base URL'nizi ve API anahtarınızı değiştirin; kodunuzu koruyun.

API anahtarı al Dokümantasyonu oku

Doğrudan entegre sansürsüz sohbet API'si

Tek bir istekle deneyin

curl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

from openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

https://api.openllmgateway.com/v1uncensored

OpenAI uyumlu sohbet API'si

100.000 token bağlam penceresi

Kullanım bazlı ön ödemeli kredi

0,15 $1M girdi tokenı başına

0,50 $Çıktı tokenları / 1M

100.000token bağlamı

0,50 $deneme kredisi

300dakikada istekler

Ne alırsınız

Doğrudan Uyumluluk

Sıfır kod değişikliği ile resmi OpenAI SDK'larını kullanın. İstemcinizi base URL'mize yönlendirin ve API anahtarınızı sağlayın.

Sansürsüz Çıktı

Model, yasal yetişkin, kurgusal veya araştırma konuları için standart içerik reddi olmadan yanıt verir. Küçük yaşta çocuklarla ilgili cinsel içerik engellenir.

Uzun Bağlam Penceresi

Derin bağlam koruması için tek bir istekte birleştirilmiş istem ve tamamlama verilerinin {{100.000}} token'ını işleyin.

Akış ve Araçlar

Agent iş akışları için akış yanıtları için Sunucu Tarafı Olayları (SSE) desteği ve yapılandırılmış araç/fonksiyon çağırma desteği sağlar.

Şeffaf Fiyatlandırma

Sadece kullanılan tokenlar için ödeme yapın. 1M girdi tokenı başına 0,15 $ ve 1M çıktı tokenı başına 0,50 $. Aylık ücret yoktur.

Basit Limitler

Anahtar başına dakikada 300 istek ve 8 MB istek gövdesi limiti. Anahtarlar anında iptal edilebilir ve yeniden oluşturulabilir.

Nasıl çalışır

Kaydol

Hemen API anahtarınızı ve deneme kredinizi almak için yalnızca e-posta ve şifre ile bir hesap oluşturun.

İstemciyi Yapılandır

Uygulamanızın base URL'sini https://api.openllmgateway.com/v1 olarak güncelleyin ve yeni API anahtarınızı girin.

İstek Gönder

Mevcut OpenAI SDK entegrasyon kodunuzu kullanarak /v1/chat/completions POST istekleri yapın.

İnsanların onunla ne inşa ettiği

AI Agentları

Daha geniş akıl yürütme yollarını keşfetmek için daha az içerik kısıtlaması gerektiren otonom ajanları dağıtın. Araç çağırma desteği, beklenmeyen reddetmeler olmadan karmaşık çok adımlı iş akışlarını mümkün kılar.

İçerik Üretimi

Standart uyarı metinleri olmadan yaratıcı yazım veya rol yapma senaryoları oluşturun. Sansürsüz doğası, daha doğrudan ve çeşitli çıktı stillerine olanak tanır.

Güvenlik Araştırması

Model davranışını jailbreak istemlerine veya tartışmalı konulara karşı test edin. Çeşitli bağlamlarda model sağlamlığını değerlendirmek için faydalıdır.

Eski Entegrasyon

Mevcut istemci mantığını yeniden yazmadan OpenAI altyapısı üzerine inşa edilmiş mevcut uygulamaları farklı bir model sağlayıcısına taşıyın. Hızlı A/B testleri için idealdir.

Doğrudan OpenAI Uyumluluğu

Çoğu LLL geçidi birden fazla sağlayıcıyı birleştirir ve yönlendirme mantığınıza gecikme ve karmaşıklık ekler. Sansürsüz modelimiz için tek bir özel uç nokta sağlarız. Bu, özel ara yazılım veya çoklu model yönlendiricilerine olan ihtiyacı ortadan kaldırır. Uygulamanız standart /v1/chat/completions uç noktasını kullanır ve SSE (Sunucu Tarafı Olayları) aracılığıyla akış ile fonksiyon çağırma desteği sunar.

Entegrasyon yalnızca iki değişiklik gerektirir: base_url değerini https://api.openllmgateway.com/v1 olarak güncelleyin ve API anahtarınızı değiştirin. Sistem istemleri ve mesaj yapıları dahil olmak üzere diğer tüm parametreler OpenAI spesifikasyonuyla aynı kalır. Bu yaklaşım, kod tabanınızın temiz ve taşınabilir kalmasını sağlar.

Not: Gömme (embedding), görüntü oluşturma, ses işleme veya ince ayar sunmuyoruz. Uygulamanız çok modlu girdilere bağlıysa veya farklı tedarikçiler arasında model yönlendirmesi gerekiyorsa, bu API doğru seçim değildir.

Yasal Kullanım İçin Sansürsüz İçerik

Model, yasal yetişkin içerikler, kurgusal anlatılar ve tartışmalı konular için standart içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır. Bu, yaratıcı özgürlüğün kurumsal güvenlik filtrelerinden önce geldiği uygulamalar için idealdir. Örneğin, çeşitli akıl yürütme yollarını keşfederek ajanlar veya olgun temalar üreten yazarlar, beklenmedik engellemeler olmadan çalışabilir.

Tek bir katı içerik limiti koruyoruz: küçük yaşta çocuklarla ilgili cinsel içerik her zaman engellenir. Bu belirli kategoriye sahip istekler reddedilecektir. Diğer yetişkin veya sert içerikler yasal kullanım için erişilebilir kalır. Bu denge, belirli yasaklanmış içerik türlerinde net bir sınır korurken geniş yaratıcı ve analitik kullanım olanakı sağlar.

Model GPT, Claude, Gemini, Grok veya DeepSeek değildir. Kendi GPU sunucularımızda çalışan ve özellikle bu sansürsüz davranış için tasarlanmış açık ağırlıklı bir modeldir.

100.000 Token Bağlam Penceresi

API'miz hem istemi hem de tamamlamayı kapsayan 100.000 tokenlık bir bağlam penceresi destekler. Bu, büyük belgeleri işlemenize, kapsamlı konuşma geçmişlerini sürdürmenize veya tek bir istekte önemli sistem talimatları enjekte etmenize olanak tanır. Derin bağlam koruma veya uzun metinlerin toplu işlenmesi gerektiren uygulamalar için bu kapasite, karmaşık parçalama stratejilerine duyulan ihtiyacı azaltır.

İstek gövdesi boyutu 8 MB ile sınırlıdır ve bu, çoğu metin tabanlı girdi için token kapasitesiyle uyumludur. Akış yanıtları desteklenir, bu da tamamlamanın tamamlanmasını beklemek yerine tokenları oluşturulurken işlememenizi sağlar. Bu, uzun çıktılar için algılanan gecikmeyi azaltır ve gerçek zamanlı uygulamalar için kullanıcı deneyimini iyileştirir.

Basit Kullandıkça Ödeme Fiyatlandırması

Gizli ücretler veya aylık abonelikler olmadan, gerçek token kullanımına göre ücretlendirme yapıyoruz. Giriş tokenları 1 milyon token başına $0,15, çıkış tokenları ise 1 milyon token başına $0,50'dır. Kredi için peşin ödeme yaparsınız ve kredi süresi dolmaz. Bu model, yalnızca kullandığınız şey için ödeme yapmanızı sağlar; bu da hem aralıklı kullanımlar hem de yüksek hacimli üretim iş yükleri için maliyet etkin bir çözüm sunar.

Yüklemeler kart (Visa, Mastercard, Apple Pay, Google Pay) veya kripto (USDT veya USDC) ile $20'dan başlar. Daha büyük alımlar için bonus kredi sunuyoruz: $50'den itibaren +%5, $100'den itibaren +%10, $200'den itibaren +%15. Yeni hesaplar, kredi kartı gerektirmeden 7 gün boyunca geçerli $0,50 deneme kredisi alır. Bu düşük giriş bariyeri, daha büyük bir bakiye taahhüt etmeden önce API'nin performansını ve güvenilirliğini test etmenizi sağlar. Bu krediyi API anahtarları sayfanızda tek tıkla talep edin.

Rehberler

Kurulum, fiyatlandırma ve entegrasyon üzerine pratik yazılar.

LLM Gateway in Python: Calling a Backend EndpointBuild an llm gateway python service with FastAPI and httpx: auth tokens, retries, concurrency cap, and streaming passthrough to an…

LLM Gateway vs OpenRouter: Which Do You Need?LLM gateway vs OpenRouter explained: hosted routers, self-run gateways and single endpoints compared, with notes on when each one is the right choice.

LLM Ağ Geçidi Nedir? Sade AçıklamaLLM ağ geçidi nedir? Uygulamanız ile model API'leri arasındaki katmanın ne işe yaradığını, ne zaman gerektiğini ve barındırılan uç noktanın yerini…

AI Ağ Geçidi Kontrol Listesi: Üretim Ortamına Hazır Entegrasyon İçin 7 AdımKısıtsız LLM API ve OpenAI alternatif API seçenekleri. Entegrasyon kontrol listesini inceleyip hemen kullanmaya başlayın.

Tüm rehberler →

Sorular ve cevaplar

Bu API OpenAI SDK'sı ile uyumlu mu?

Evet. API, OpenAI sohbet tamamlama spesifikasyonunu takip eder. Temel URL'yi https://api.openllmgateway.com/v1 olarak değiştirerek ve API anahtarınızı sağlayarak resmi OpenAI SDK'larını kullanabilirsiniz. Mesajlar, sıcaklık ve akış gibi tüm standart parametreler beklendiği şekilde çalışır.

Model içerik reddeder mi?

Model sansürsüzdür ve genellikle yasal yetişkin, kurgusal veya tartışmalı konuları reddetmez. Ancak, küçüklerle ilgili cinsel içerik her zaman engellenir. Diğer içerik kısıtlamaları, standart ticari modellere kıyasla oldukça azdır.

Bağlam penceresi boyutu nedir?

Bağlam penceresi 100.000 token olup hem giriş istemini hem de oluşturulan çıktıyı kapsar. Bu, tek bir istekte büyük belgeleri veya uzun konuşma geçmişlerini işlemeyi sağlar.

Faturalandırma nasıl çalışır?

Faturalandırma, token kullanımına dayalı kullandıkça ödemeye göre yapılır. Giriş tokenları 1M başına $0,15, çıkış tokenları ise 1M başına $0,50'dır. Kredi peşin ödenir ve süresi dolmaz. Aylık ücret veya abonelik yoktur.

Bu birden fazla model için bir yönlendirme servisi mi?

Hayır. Kendi sansürsüz modelimiz için tek bir özel uç nokta sağlıyoruz. GPT-4 veya Claude gibi sağlayıcılar arasında yönlendirme yapmıyoruz ve birden fazla model seçeneği sunmuyoruz. Çoklu model yönlendirmesi gerekiyorsa, bu ağ geçidi sizin için doğru çözüm değildir.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın, temel URL'yi değiştirin. Kurulumun tamamı bu kadar.

API anahtarı al