เริ่มต้นใช้งาน: บูรณาการเกตเวย์ LLM แบบไม่เซ็นเซอร์

ข้อกำหนดเบื้องต้น

คุณต้องการคีย์ API เพื่อตรวจสอบความถูกต้องของคำขอ สมัครสมาชิกที่หน้า รับคีย์ API โดยใช้เพียงอีเมลและรหัสผ่าน ไม่จำเป็นต้องใช้บัตรเครดิตเพื่อเริ่มต้น บัญชีใหม่จะได้รับเครดิตทดลองใช้มูลค่า $0.50 ซึ่งมีอายุการใช้งาน 7 วัน รับเครดิตนี้ด้วยการคลิกเพียงครั้งเดียวที่หน้าคีย์ API คีย์ API ของคุณจะแสดงทันทีหลังจากสมัครสมาชิก

ข้อกำหนดเบื้องต้น: คีย์ API ที่ใช้งานอยู่และสภาพแวดล้อมภาษาโปรแกรมที่รองรับ เกตเวย์รองรับไคลเอนต์มาตรฐานที่เข้ากันได้กับ OpenAI ดังนั้นคุณอาจมีเครื่องมือที่จำเป็นติดตั้งไว้แล้ว

ติดตั้ง SDK

แม้ว่าคุณจะสามารถใช้คำขอ HTTP ดิบได้ แต่การใช้ SDK จะช่วยจัดการโหลด JSON และการตอบสนองแบบสตรีมมิงได้ง่ายขึ้น เราแนะนำให้ใช้แพ็คเกจ Python openai หรือแพ็คเกจ Node.js openai

• Python: pip install openai
• Node.js: npm install openai

ไลบรารีเหล่านี้จัดการการตรวจสอบความถูกต้องและการจัดรูปแบบคำขอโดยอัตโนมัติเมื่อกำหนดค่าถูกต้อง

กำหนดค่า URL พื้นฐาน

ข้อได้เปรียบหลักของเกตเวย์ llm นี้คือความเข้ากันได้แบบเสียบและเล่น คุณไม่จำเป็นต้องเปลี่ยนตรรกะโค้ดของคุณ เพียงเปลี่ยนการกำหนดค่า ชี้ไคลเอนต์ SDK ของคุณไปยัง URL พื้นฐานของเราและระบุคีย์ API ของคุณ

URL พื้นฐาน: https://api.openllmgateway.com/v1

รหัสโมเดล: uncensored

เอนด์พอยต์นี้รองรับรูปแบบ chat/completions มาตรฐาน โดยการเปลี่ยนค่าเพียงสองค่านี้ แอปพลิเคชันที่มีอยู่ของคุณสามารถเปลี่ยนเส้นทางผ่านโมเดลไม่เซ็นเซอร์ของเราได้โดยไม่ต้องถูกผูกมัดกับผู้จัดจำหน่าย

ส่งการเสร็จสิ้นการสนทนา

ส่งพรอมต์ข้อความง่ายๆ เพื่อรับคำตอบ โมเดลประมวลผลข้อความนำเข้าและส่งกลับข้อความส่งออก คุณสามารถรวมประวัติการสนทนาในอาร์เรย์ messages ได้

ตรวจสอบให้แน่ใจว่าเนื้อหาคำขอของคุณมีขนาดไม่เกิน 8 MB โมเดลรองรับหน้าต่างบริบทขนาด 100,000 โทเคนสำหรับทั้งพรอมต์และการสร้างข้อความรวมกัน

นี่คือตัวอย่างพื้นฐานโดยใช้ cURL:

คัดลอกcurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

แทนที่ $OPENLLM_API_KEY ด้วยคีย์จริงของคุณ การตอบสนองจะถูกส่งกลับในรูปแบบ JSON พร้อมข้อความที่สร้างไว้ใน choices[0].message.content

เปิดใช้งานสตรีมมิง

เพื่อประสบการณ์ผู้ใช้แบบเรียลไทม์ ให้เปิดใช้งานสตรีมมิงโดยการตั้งค่า stream: true ในคำขอของคุณ API จะส่งคืนสตรีมมิงเหตุการณ์ที่ส่งโดยเซิร์ฟเวอร์ (SSE) ของการตอบสนองบางส่วน

สตรีมมิงช่วยลดความล่าช้าที่รับรู้ได้ เนื่องจากโทเคนจะถูกส่งทันทีที่สร้างเสร็จ สิ่งนี้มีประโยชน์อย่างยิ่งสำหรับเนื้อหาแบบยาวหรือแอปพลิเคชันแบบโต้ตอบ

ตัวอย่างโดยใช้ SDK Python:

คัดลอกfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วนซ้ำผ่านวัตถุการตอบสนองเพื่อเข้าถึงแต่ละชิ้น โมเดลจะสร้างต่อไปจนกว่าจะเสร็จสิ้นหรือถึงขีดจำกัดโทเคน

ใช้การเรียกใช้เครื่องมือ

API รองรับฟังก์ชันการเรียกใช้ ซึ่งอนุญาตให้โมเดลตัดสินใจเมื่อเรียกใช้เครื่องมือภายนอกโดยขึ้นอยู่กับพรอมต์ของผู้ใช้ กำหนดฟังก์ชันของคุณในพารามิเตอร์ tools

เมื่อโมเดลกำหนดว่าควรใช้เครื่องมือ มันจะส่งกลับอาร์เรย์ tool_calls ในการตอบสนอง คุณดำเนินการเรียกใช้ฟังก์ชันและส่งผลลัพธ์กลับไปยังโมเดลในข้อความถัดไป

ตัวอย่างโดยใช้ SDK Node.js:

คัดลอกimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

สิ่งนี้เปิดใช้งานเวิร์กโฟลว์เอเจนต์ที่ซับซ้อนโดยไม่ต้องออกจากอินเทอร์เฟซที่เข้ากันได้กับ OpenAI มาตรฐาน

ตรวจสอบโมเดลที่มีอยู่

สอบถามเอนด์พอยต์ GET /v1/models เพื่อตรวจสอบโมเดลที่มีอยู่และเมตาดาต้าของโมเดล สิ่งนี้มีประโยชน์สำหรับการแก้ไขข้อบกพร่องหรือการเลือกโมเดลแบบไดนามิก

คัดลอกstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การตอบสนองจะแสดงรายการโมเดล uncensored โปรดทราบว่าเกตเวย์นี้ไม่เสนอการฝังตัว การสร้างภาพ หรือการประมวลผลเสียง เป็น API การเสร็จสิ้นการสนทนาแบบข้อความเท่านั้น

ขีดจำกัด ข้อผิดพลาด และบริบท

ขีดจำกัดอัตรา: คุณมีจำกัดที่ 300 คำขอต่อนาทีต่อคีย์ API หากเกินขีดจำกัดนี้ คุณจะได้รับข้อผิดพลาด 429 Too Many Requests

การตรวจสอบสิทธิ์: ข้อผิดพลาด 401 Unauthorized บ่งชี้ว่าคีย์ API ไม่ถูกต้องหรือหายไป ให้สร้างคีย์ใหม่ในแดชบอร์ดหากจำเป็น

การเรียกเก็บเงิน: ข้อผิดพลาด 402 Payment Required จะเกิดขึ้นเมื่อเครดิตแบบเติมเงินล่วงหน้าของคุณหมดลง การเติมเงินเริ่มต้นที่ $20 พร้อมเครดิตโบนัสสำหรับการฝากเงินจำนวนมากขึ้น

หน้าต่างบริบท: โมเดลรองรับ 100,000 โทเคน จัดการความยาวของพรอมต์และการเสร็จสิ้นของคุณเพื่อให้อยู่ในขีดจำกัดนี้ คำขอที่มีขนาดเกิน 8 MB จะถูกปฏิเสธ