Hızlı Başlangıç: Sansürsüz LLM Ağ Geçidini Entegre Etme

Önkoşullar

İstekleri doğrulamak için bir API anahtarına ihtiyacınız vardır. Sadece bir e-posta ve şifre ile API anahtarı al sayfasında kaydolun. Başlamak için kredi kartı gerekmez; yeni hesaplar 7 gün geçerli $0,50 deneme kredisi alır. Bu krediyi API anahtarları sayfanızda tek tıkla talep edin. API anahtarınız kayıttan hemen sonra gösterilir.

Gereksinimler: Aktif bir API anahtarı ve desteklenen bir programlama dili ortamı. Ağ geçidi, standart OpenAI uyumlu istemcileri kabul eder, bu nedenle gerekli araçların zaten yüklü olma ihtimali yüksektir.

SDK'yı Yükleyin

Ham HTTP isteklerini kullanabilmenize rağmen, bir SDK kullanmak JSON yüklerini ve akış yanıtlarıyla ilgilenmeyi kolaylaştırır. Resmi openai Python paketini veya openai Node.js paketini kullanmanızı öneririz.

• Python: pip install openai
• Node.js: npm install openai

Bu kütüphaneler, doğru yapılandırıldığında kimlik doğrulamasını ve istek biçimlendirmesini otomatik olarak yönetir.

Temel URL'yi Yapılandırın

Bu llm ağ geçidinin temel avantajı, doğrudan uyumluluktur. Kod mantığınızı değiştirmenize gerek yoktur, yalnızca yapılandırmayı değiştirin. SDK istemcinizi temel URL'mize yönlendirin ve API anahtarınızı sağlayın.

Temel URL: https://api.openllmgateway.com/v1

Model Kimliği: uncensored

Bu uç nokta standart chat/completions formatını destekler. Yalnızca bu iki değeri değiştirerek mevcut uygulamalarınız, tedarikçi kilidinden kurtulmadan sansürsüz modelimize yönlenebilir.

Sohbet Tamamlama Gönderin

Yanıt almak için basit bir metin istemi gönderin. Model metin girdisini işler ve metin çıktısı döndürür. messages dizisine konuşma geçmişini ekleyebilirsiniz.

İstek gövdenizin 8 MB altında kaldığından emin olun. Model, hem istem hem de tamamlama için birlikte 100.000 token'lık bir bağlam penceresi destekler.

İşte cURL kullanan temel bir örnek:

Kopyalacurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

$OPENLLM_API_KEY değerini kendi gerçek anahtarınızla değiştirin. Yanıt, oluşturulan metin choices[0].message.content içinde olmak üzere JSON formatında döndürülecektir.

Akışı Etkinleştirin

Gerçek zamanlı kullanıcı deneyimleri için isteğinizde stream: true ayarlayarak akışı etkinleştirin. API, kısmi yanıtların Sunucu Tarafı Olayları (SSE) akışını döndürür.

Akış, algılanan gecikmeyi azaltır, çünkü tokenlar oluşturulur oluşturulmaz iletilir. Bu, uzun formatlı içerikler veya etkileşimli uygulamalar için özellikle yararlıdır.

Python SDK kullanan örnek:

Kopyalafrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Her parçaya erişmek için yanıt nesnesi üzerinde yineleme yapın. Model, tamamlana kadar veya token limitine ulaşana kadar üretmeye devam eder.

Araç Çağrısını Kullanın

API, modelin kullanıcının istemine dayanarak dış araçları ne zaman çağıracağını belirlemesine olanak tanıyan fonksiyon çağırma'yı destekler. İşlevlerinizi tools parametresinde tanımlayın.

Model bir aracın kullanılmasına karar verdiğinde, yanıtta bir tool_calls dizisi döndürür. İşlevi çalıştırın ve sonucu bir sonraki mesajda modele gönderin.

Node.js SDK kullanan örnek:

Kopyalaimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Bu, standart OpenAI uyumlu arayüzü terk etmeden karmaşık ajan iş akışlarını etkinleştirir.

Mevcut Modelleri Kontrol Edin

Mevcut modelleri ve meta verilerini doğrulamak için GET /v1/models uç noktasını sorgulayın. Bu, hata ayıklama veya modelleri dinamik olarak seçmek için yararlıdır.

Kopyalastream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Yanıt, uncensored modelini listeleyecektir. Bu ağ geçidinin gömme (embedding), görsel oluşturma veya ses işleme sunmadığını unutmayın. Bu yalnızca metin tabanlı bir sohbet tamamlama API'sidir.

Limitler, Hatalar ve Bağlam

Hız Limitleri: Her API anahtarı için dakikada 300 istekle sınırlısınız. Bu sınırı aşarsanız, 429 Too Many Requests hatası alırsınız.

Kimlik Doğrulama: 401 Unauthorized hatası, geçersiz veya eksik bir API anahtarı olduğunu gösterir. Gerekirse anahtarınızı panelden yeniden oluşturun.

Faturalandırma: Ön ödemeli krediniz tükendiğinde 402 Payment Required hatası oluşur. Bakiye yükleme işlemleri 20 $'dan başlar; daha büyük para yatırma işlemlerine bonus kredi eklenir.

Bağlam Penceresi: Model 100.000 token destekler. İstem ve tamamlama uzunluklarınızı bu sınırlar içinde tutun. 8 MB'ı aşan istekler reddedilir.