クイックスタート：無検閲LLMゲートウェイの統合

前提条件

リクエストの認証にはAPIキーが必要です。メールアドレスとパスワードだけでAPIキーの取得ページにサインアップしてください。開始時にクレジットカードは不要で、新規アカウントには7日間有効な$0.50の無料トライアルクレジットが付与されます。APIキーページでワンクリックでこのクレジットを請求してください。APIキーはサインアップ直後に表示されます。

前提条件： 有効なAPIキーと、対応するプログラミング言語の環境が必要です。ゲートウェイは標準的なOpenAI互換クライアントを受け付けるため、必要なツールはすでにインストールされている可能性があります。

SDKのインストール

生のHTTPリクエストを使用することもできますが、SDKを使用するとJSONペイロードとストリーミングレスポンスの処理が簡素化されます。公式のopenai Pythonパッケージまたはopenai Node.jsパッケージの使用を推奨します。

• Python： pip install openai
• Node.js： npm install openai

これらのライブラリは、正しく設定されると認証とリクエストフォーマットを自動的に処理します。

ベースURLの設定

このLLMゲートウェイの最大の利点は、そのまま置き換え可能な互換性です。コードロジックを変更する必要はなく、設定のみを変更します。SDKクライアントを当社のベースURLに指し、APIキーを提供してください。

ベースURL： https://api.openllmgateway.com/v1

モデルID： uncensored

このエンドポイントは標準的なchat/completions形式をサポートしています。これらの2つの値のみを変更することで、既存のアプリケーションはベンダーロックインなしで当社の無検閲モデル経由でルーティングできます。

チャット完了のリクエスト送信

簡単なテキストプロンプトを送信してレスポンスを受け取ります。モデルはテキスト入力を処理し、テキスト出力を返します。messages配列に会話履歴を含めることができます。

リクエストボディが8 MB以下であることを確認してください。モデルはプロンプトと完了の合計で100,000トークンのコンテキストウィンドウをサポートしています。

cURLを使用した基本的な例：

コピーcurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

$OPENLLM_API_KEYを実際のキーに置き換えてください。レスポンスはJSON形式で返され、生成されたテキストはchoices[0].message.contentに含まれます。

ストリーミングの有効化

リアルタイムのユーザー体験のために、リクエストでstream: trueを設定してストリーミングを有効にします。APIは部分的なレスポンスのServer-Sent Events (SSE)ストリームを返します。

ストリーミングは体感レイテンシを低減します。トークンは生成され次第配信されるためです。これは長文のコンテンツやインタラクティブなアプリケーションにおいて特に有用です。

Python SDKを使用した例：

コピーfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

レスポンスオブジェクトをイテレートして各チャンクにアクセスします。モデルは完了するかトークン制限に達するまで生成を続けます。

ツール呼び出しの使用

APIは関数呼び出しをサポートしており、モデルはユーザーのプロンプトに基づいて外部ツールをいつ呼び出すかを判断できます。関数はtoolsパラメータで定義します。

モデルがツールの使用が必要と判断すると、レスポンスにtool_calls配列を返します。関数を実行し、結果を後続のメッセージでモデルに送信します。

Node.js SDKを使用した例：

コピーimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

これにより、標準的なOpenAI互換インターフェースから離れることなく、複雑なエージェントワークフローが可能になります。

利用可能なモデルの確認

利用可能なモデルとそのメタデータを検証するためにGET /v1/modelsエンドポイントをクエリします。これはデバッグやモデルの動的選択に有用です。

コピーstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

レスポンスにはuncensoredモデルがリストされます。このゲートウェイは埋め込み、画像生成、音声処理を提供しないことに注意してください。これは厳密にテキストベースのチャット完了APIです。

制限、エラー、コンテキスト

レート制限： APIキーごとに1分間あたり300リクエストに制限されます。これを超えると、429 Too Many Requestsエラーが発生します。

認証： 401 Unauthorizedエラーは、無効または欠落したAPIキーを示します。必要に応じてダッシュボードでキーを再生成してください。

請求： 前払いクレジットが枯渇すると、402 Payment Required エラーが発生します。チャージの最小額は20ドルで、大口チャージにはボーナスクレジットが付与されます。

コンテキストウィンドウ： モデルは100,000トークンをサポートしています。プロンプトと完了の長さを管理してこの制限内に収めてください。8 MBを超えるリクエストは拒否されます。