Schnellstart: Unzensiertes LLM-Gateway integrieren

Voraussetzungen

Du benötigst einen API-Schlüssel zur Authentifizierung. Registriere dich auf der Seite API-Schlüssel erhalten mit nur E-Mail und Passwort. Für den Start wird keine Kreditkarte benötigt; neue Konten erhalten $0,50 Testguthaben, das 7 Tage gültig ist. Klicke mit einem Klick auf deiner API-Schlüssel-Seite, um dieses Guthaben zu beanspruchen. Dein API-Schlüssel wird direkt nach der Anmeldung angezeigt.

Voraussetzungen: Ein aktiver API-Schlüssel und eine unterstützte Programmiersprachen-Umgebung. Das Gateway akzeptiert standardmäßige OpenAI-kompatible Clients, sodass du die notwendigen Tools wahrscheinlich bereits installiert hast.

SDK installieren

Während du rohe HTTP-Anfragen verwenden kannst, vereinfacht ein SDK die Handhabung von JSON-Payloads und Streaming-Antworten. Wir empfehlen das offizielle openai Python-Paket oder das openai Node.js-Paket.

• Python: pip install openai
• Node.js: npm install openai

Diese Bibliotheken übernehmen die Authentifizierung und Formatierung der Anfragen automatisch, wenn sie korrekt konfiguriert sind.

Basis-URL konfigurieren

Der Hauptvorteil dieses LLM-Gateways ist die sofortige Kompatibilität. Du musst deine Code-Logik nicht ändern, nur die Konfiguration. Richte deinen SDK-Client auf unsere Basis-URL und gib deinen API-Schlüssel ein.

Basis-URL: https://api.openllmgateway.com/v1

Modell-ID: uncensored

Dieser Endpunkt unterstützt das Standardformat chat/completions. Durch die Änderung nur dieser beiden Werte können deine bestehenden Anwendungen über unser unzensiertes Modell geleitet werden, ohne Anbieterbindung.

Chat-Abschluss senden

Sende einen einfachen Text-Prompt, um eine Antwort zu erhalten. Das Modell verarbeitet Texteingaben und gibt Textausgaben zurück. Du kannst Konversationsverläufe in das messages-Array aufnehmen.

Stelle sicher, dass dein Anfragekörper 8 MB nicht überschreitet. Das Modell unterstützt ein Kontextfenster von 100.000 Token für Prompt und Abschluss zusammen.

Hier ist ein einfaches Beispiel mit cURL:

Kopierencurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Ersetze $OPENLLM_API_KEY durch deinen tatsächlichen Schlüssel. Die Antwort wird im JSON-Format zurückgegeben, wobei der generierte Text in choices[0].message.content steht.

Streaming aktivieren

Für Echtzeit-Nutzererfahrungen aktiviere das Streaming, indem du stream: true in deiner Anfrage festlegst. Die API gibt einen Server-Sent Events (SSE)-Stream von Teilantworten zurück.

Streaming reduziert die wahrgenommene Latenz, da Token sofort geliefert werden, sobald sie generiert sind. Dies ist besonders nützlich für lange Texte oder interaktive Anwendungen.

Beispiel mit dem Python-SDK:

Kopierenfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Iteriere über das Antwortobjekt, um auf jeden Chunk zuzugreifen. Das Modell generiert weiter, bis es abgeschlossen ist oder das Tokenlimit erreicht.

Tool-Aufrufe nutzen

Die API unterstützt Function Calling, wodurch das Modell entscheiden kann, wann externe Tools basierend auf dem Prompt des Nutzers aufgerufen werden sollen. Definiere deine Funktionen im Parameter tools.

Wenn das Modell entscheidet, dass ein Tool verwendet werden soll, gibt es ein tool_calls-Array in der Antwort zurück. Du führst die Funktion aus und sendest das Ergebnis in einer nachfolgenden Nachricht an das Modell zurück.

Beispiel mit dem Node.js-SDK:

Kopierenimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Dies ermöglicht komplexe agentenbasierte Workflows, ohne die Standard-Schnittstelle zu verlassen.

Verfügbare Modelle prüfen

Führe eine Abfrage am Endpunkt GET /v1/models durch, um verfügbare Modelle und deren Metadaten zu überprüfen. Dies ist nützlich für Debugging oder die dynamische Modellauswahl.

Kopierenstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Die Antwort listet das Modell uncensored auf. Beachte, dass dieses Gateway keine Embeddings, Bildgenerierung oder Audioverarbeitung anbietet. Es ist streng eine Text-basierte Chat-Completion-API.

Limits, Fehler und Kontext

Ratenlimits: Du bist auf 300 Anfragen pro Minute pro API-Schlüssel begrenzt. Wenn du dieses Limit überschreitest, erhältst du einen 429 Too Many Requests-Fehler.

Authentifizierung: Ein 401 Unauthorized-Fehler deutet auf einen ungültigen oder fehlenden API-Schlüssel hin. Generiere deinen Schlüssel im Dashboard bei Bedarf neu.

Abrechnung: Ein 402 Payment Required-Fehler tritt auf, wenn dein Prepaid-Guthaben aufgebraucht ist. Aufladungen beginnen ab 20 $, mit Bonusguthaben für größere Einzahlungen.

Kontextfenster: Das Modell unterstützt 100.000 Token. Verwalte die Länge deiner Prompts und Completions, um innerhalb dieses Limits zu bleiben. Anfragen, die 8 MB überschreiten, werden abgelehnt.