快速入门：集成无审查 LLM 网关

前提条件

你需要 API 密钥来验证请求。只需邮箱和密码即可在 获取 API 密钥 页面注册。无需信用卡即可开始；新账户将获得有效期为 7 天的 $0.50 试用额度。在 API 密钥页面只需点击一下即可领取此额度。注册完成后会立即显示你的 API 密钥。

前提条件： 有效的 API 密钥和支持的编程语言环境。该网关接受标准的 OpenAI 兼容客户端，因此你可能已安装所需工具。

安装 SDK

虽然你可以使用原始 HTTP 请求，但使用 SDK 可以简化处理 JSON 数据和流式响应。我们建议使用官方的 openai Python 包或 openai Node.js 包。

• Python： pip install openai
• Node.js： npm install openai

配置正确时，这些库会自动处理认证和请求格式化。

配置基础 URL

该llm 网关的核心优势是即插即用兼容性。你无需更改代码逻辑，只需更改配置。将 SDK 客户端指向我们的基础 URL 并提供 API 密钥。

基础 URL： https://api.openllmgateway.com/v1

模型 ID： uncensored

此接口支持标准的 chat/completions 格式。仅更改这两个值，现有应用即可通过我们的无审查模型进行路由，且无厂商锁定。

发送聊天补全

发送简单的文本提示词以接收响应。模型处理文本输入并返回文本输出。你可以在 messages 数组中包含对话历史。

确保请求体不超过 8 MB。该模型支持 100,000 token 的上下文窗口，用于提示词和补全的总和。

以下是使用 cURL 的基本示例：

复制curl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

将 $OPENLLM_API_KEY 替换为你的实际密钥。响应将以 JSON 格式返回，生成的文本位于 choices[0].message.content 中。

启用流式输出

为了获得实时用户体验，请在请求中设置 stream: true 以启用流式输出。API 返回服务器发送事件 (SSE) 的部分响应流。

流式输出降低了感知延迟，因为 token 在生成后立即交付。这对于长文本内容或交互式应用特别有用。

使用 Python SDK 的示例：

复制from openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

遍历响应对象以访问每个块。模型将继续生成，直到完成或达到 token 限制。

使用工具调用

API 支持函数调用，允许模型根据用户的提示词决定何时调用外部工具。在 tools 参数中定义你的函数。

当模型确定应使用工具时，它会在响应中返回一个 tool_calls 数组。你执行函数并将结果在后续消息中发送回模型。

使用 Node.js SDK 的示例：

复制import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

这使得在不离开标准 OpenAI 兼容接口的情况下实现复杂的代理工作流成为可能。

查看可用模型

查询 GET /v1/models 接口以验证可用模型及其元数据。这对于调试或动态选择模型很有用。

复制stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

响应将列出 uncensored 模型。请注意，该网关不提供嵌入、图像生成或音频处理。它严格是一个基于文本的聊天补全 API。

限制、错误与上下文

速率限制： 你每个 API 密钥每分钟限制为 300 次请求。如果超出此限制，你将收到 429 Too Many Requests 错误。

认证： 401 Unauthorized 错误表示 API 密钥无效或缺失。如有必要，请在仪表板中重新生成密钥。

计费： 当你的预付额度耗尽时，会出现 402 Payment Required 错误。充值从 $20 开始，大额存款有额外赠送额度。

上下文窗口： 该模型支持 100,000 token。管理你的提示词和补全长度以在此限制内。超过 8 MB 的请求将被拒绝。