Démarrage rapide : Intégration de la passerelle LLM sans censure

Prérequis

Vous avez besoin d'une clé API pour authentifier les requêtes. Inscrivez-vous sur la page Obtenir une clé API avec simplement un e-mail et un mot de passe. Aucune carte bancaire n'est requise pour démarrer ; les nouveaux comptes reçoivent 0,50 $ de crédit d'essai valable 7 jours. Réclamez ce crédit en un clic sur votre page de clé API. Votre clé API s'affiche immédiatement après l'inscription.

Prérequis : Une clé API active et un environnement de langage de programmation pris en charge. La passerelle accepte les clients OpenAI standards, vous avez donc probablement déjà les outils nécessaires installés.

Installer le SDK

Bien que vous puissiez utiliser des requêtes HTTP brutes, l'utilisation d'un SDK simplifie la gestion des charges utiles JSON et du streaming des réponses. Nous recommandons d'utiliser le package Python openai officiel ou le package Node.js openai.

• Python : pip install openai
• Node.js : npm install openai

Ces bibliothèques gèrent l'authentification et le formatage des requêtes automatiquement lorsqu'elles sont configurées correctement.

Configurer l'URL de base

L'avantage principal de cette passerelle LLM est la compatibilité prêt à l'emploi. Vous n'avez pas besoin de modifier la logique de votre code, seulement la configuration. Pointez votre client SDK vers notre URL de base et fournissez votre clé API.

URL de base : https://api.openllmgateway.com/v1

ID du modèle : uncensored

Cet endpoint prend en charge le format standard chat/completions. En modifiant uniquement ces deux valeurs, vos applications existantes peuvent router via notre modèle sans censure sans dépendance à un fournisseur.

Envoyer une complétion de chat

Envoyez un prompt texte simple pour recevoir une réponse. Le modèle traite l'entrée texte et retourne une sortie texte. Vous pouvez inclure l'historique de la conversation dans le tableau messages.

Assurez-vous que le corps de votre requête reste inférieur à 8 Mo. Le modèle prend en charge une fenêtre de contexte de 100 000 tokens pour le prompt et la complétion combinés.

Voici un exemple de base utilisant cURL :

Copiercurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Remplacez $OPENLLM_API_KEY par votre clé réelle. La réponse sera retournée au format JSON avec le texte généré dans choices[0].message.content.

Activer le streaming

Pour des expériences utilisateur en temps réel, activez le streaming en définissant stream: true dans votre requête. L'API retourne un flux Server-Sent Events (SSE) de réponses partielles.

Le streaming réduit la latence perçue, car les tokens sont livrés dès qu'ils sont générés. Cela est particulièrement utile pour le contenu long ou les applications interactives.

Exemple utilisant le SDK Python :

Copierfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Itérez sur l'objet de réponse pour accéder à chaque chunk. Le modèle continue de générer jusqu'à ce qu'il ait terminé ou atteint la limite de tokens.

Utiliser l'appel de fonctions

L'API prend en charge l'appel de fonctions, permettant au modèle de décider quand invoquer des outils externes en fonction du prompt de l'utilisateur. Définissez vos fonctions dans le paramètre tools.

Lorsque le modèle détermine qu'un outil doit être utilisé, il retourne un tableau tool_calls dans la réponse. Vous exécutez la fonction et envoyez le résultat au modèle dans un message ultérieur.

Exemple utilisant le SDK Node.js :

Copierimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Cela permet des workflows agents complexes sans quitter l'interface compatible OpenAI standard.

Vérifier les modèles disponibles

Interrogez l'endpoint GET /v1/models pour vérifier les modèles disponibles et leurs métadonnées. Cela est utile pour le débogage ou la sélection dynamique de modèles.

Copierstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

La réponse listera le modèle uncensored. Notez que cette passerelle n'offre pas d'embeddings, de génération d'images ni de traitement audio. Il s'agit strictement d'une API de complétion de chat basée sur le texte.

Limites, erreurs et contexte

Limites de débit : Vous êtes limité à 300 requêtes par minute par clé API. Si vous dépassez ce seuil, vous recevrez une erreur 429 Too Many Requests.

Authentification : Une erreur 401 Unauthorized indique une clé API invalide ou manquante. Régénérez votre clé dans le tableau de bord si nécessaire.

Facturation : Une erreur 402 Payment Required survient lorsque votre crédit prépayé est épuisé. Les recharges débutent à 20 $, avec des crédits bonus pour les dépôts plus importants.

Fenêtre de contexte : Le modèle prend en charge 100 000 tokens. Gérez la longueur de votre prompt et de la complétion pour rester dans cette limite. Les requêtes dépassant 8 Mo seront rejetées.