Hướng dẫn nhanh: Tích hợp Cổng LLM Không kiểm duyệt

Yêu cầu tiên quyết

Bạn cần một khóa API để xác thực yêu cầu. Đăng ký trên trang Lấy khóa API chỉ với email và mật khẩu. Không cần thẻ tín dụng để bắt đầu; tài khoản mới nhận được $0,50 tín dụng dùng thử có hiệu lực trong 7 ngày. Nhận tín dụng này chỉ với một cú nhấp chuột trên trang khóa API của bạn. Khóa API của bạn được hiển thị ngay sau khi đăng ký.

Yêu cầu tiên quyết: Một khóa API hoạt động và môi trường ngôn ngữ lập trình được hỗ trợ. Cổng chấp nhận các máy khách tương thích OpenAI tiêu chuẩn, vì vậy bạn có thể đã có các công cụ cần thiết được cài đặt.

Cài đặt SDK

Mặc dù bạn có thể sử dụng các yêu cầu HTTP thô, việc sử dụng SDK giúp đơn giản hóa việc xử lý tải trọng JSON và phản hồi truyền phát. Chúng tôi khuyên bạn nên sử dụng gói Python openai chính thức hoặc gói Node.js openai.

• Python: pip install openai
• Node.js: npm install openai

Các thư viện này xử lý xác thực và định dạng yêu cầu tự động khi được cấu hình đúng.

Cấu hình URL cơ sở

Lợi thế cốt lõi của llm gateway này là khả năng tương thích plug-and-play. Bạn không cần thay đổi logic mã nguồn, chỉ cần cấu hình. Hãy trỏ SDK client của bạn đến base URL của chúng tôi và cung cấp khóa API của bạn.

URL cơ sở: https://api.openllmgateway.com/v1

ID mô hình: uncensored

Endpoint này hỗ trợ định dạng chat/completions tiêu chuẩn. Bằng cách chỉ thay đổi hai giá trị này, các ứng dụng hiện có của bạn có thể định tuyến qua mô hình không kiểm duyệt của chúng tôi mà không bị khóa nhà cung cấp.

Gửi hoàn thành trò chuyện

Gửi một prompt văn bản đơn giản để nhận phản hồi. Mô hình xử lý đầu vào văn bản và trả về đầu ra văn bản. Bạn có thể bao gồm lịch sử hội thoại trong mảng messages.

Đảm bảo thân yêu cầu của bạn dưới 8 MB. Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token cho cả prompt và hoàn thành kết hợp.

Dưới đây là một ví dụ cơ bản sử dụng cURL:

Sao chépcurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Thay thế $OPENLLM_API_KEY bằng khóa thực tế của bạn. Phản hồi sẽ được trả về ở định dạng JSON với văn bản được tạo trong choices[0].message.content.

Bật truyền phát

Để có trải nghiệm người dùng thời gian thực, hãy bật truyền phát bằng cách đặt stream: true trong yêu cầu của bạn. API trả về luồng Sự kiện được máy chủ gửi (SSE) của các phản hồi từng phần.

Truyền phát giảm độ trễ cảm nhận, vì các token được cung cấp ngay khi chúng được tạo. Điều này đặc biệt hữu ích cho nội dung dài hoặc các ứng dụng tương tác.

Ví dụ sử dụng SDK Python:

Sao chépfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Duyệt qua đối tượng phản hồi để truy cập từng phần. Mô hình tiếp tục tạo cho đến khi hoàn thành hoặc đạt giới hạn token.

Sử dụng gọi công cụ

API hỗ trợ gọi hàm, cho phép mô hình quyết định khi nào gọi các công cụ bên ngoài dựa trên prompt của người dùng. Xác định các hàm của bạn trong tham số tools.

Khi mô hình xác định một công cụ nên được sử dụng, nó trả về mảng tool_calls trong phản hồi. Bạn thực thi hàm và gửi kết quả trở lại mô hình trong một thông báo tiếp theo.

Ví dụ sử dụng SDK Node.js:

Sao chépimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Điều này cho phép các quy trình làm việc agentic phức tạp mà không rời khỏi giao diện tương thích OpenAI tiêu chuẩn.

Kiểm tra mô hình khả dụng

Truy vấn endpoint GET /v1/models để xác minh các mô hình khả dụng và siêu dữ liệu của chúng. Điều này hữu ích để gỡ lỗi hoặc chọn mô hình động.

Sao chépstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Phản hồi sẽ liệt kê mô hình uncensored. Lưu ý rằng cổng này không cung cấp nhúng, tạo hình ảnh hoặc xử lý âm thanh. Nó đơn giản là một API hoàn thành trò chuyện dựa trên văn bản.

Giới hạn, Lỗi và Ngữ cảnh

Giới hạn tốc độ: Bạn được giới hạn ở 300 yêu cầu mỗi phút cho mỗi khóa API. Nếu vượt quá giới hạn này, bạn sẽ nhận được lỗi 429 Too Many Requests.

Xác thực: Lỗi 401 Unauthorized cho biết khóa API không hợp lệ hoặc bị thiếu. Hãy tạo lại khóa của bạn trong bảng điều khiển nếu cần thiết.

Thanh toán: Lỗi 402 Payment Required xảy ra khi tín dụng trả trước của bạn đã hết. Các khoản nạp tiền bắt đầu từ $20, kèm theo tín dụng bonus cho các khoản gửi lớn hơn.

Cửa sổ ngữ cảnh: Mô hình hỗ trợ 100.000 token. Quản lý độ dài prompt và hoàn thành của bạn để nằm trong giới hạn này. Các yêu cầu vượt quá 8 MB sẽ bị từ chối.