Szybki start: Integracja z bramą LLM bez cenzury

Wymagania wstępne

Potrzebujesz klucza API do uwierzytelniania zapytań. Zarejestruj się na stronie Pobierz klucz API podając tylko adres e-mail i hasło. Nie jest wymagana karta kredytowa do rozpoczęcia; nowe konta otrzymują $0,50 w darmowym kredycie próbnym ważnym przez 7 dni. Zdobądź ten kredyt jednym kliknięciem na stronie klucza API. Twój klucz API jest wyświetlany natychmiast po rejestracji.

Wymagania wstępne: Aktywny klucz API i środowisko wspieranego języka programowania. Brama akceptuje standardowych klientów kompatybilnych z OpenAI, więc prawdopodobnie masz już zainstalowane niezbędne narzędzia.

Zainstaluj SDK

Choć możesz używać surowych żądań HTTP, użycie SDK upraszcza obsługę ładunków JSON i strumieniowania odpowiedzi. Zalecamy użycie oficjalnego pakietu Python openai lub pakietu Node.js openai.

• Python: pip install openai
• Node.js: npm install openai

Te biblioteki obsługują uwierzytelnianie i formatowanie żądań automatycznie po poprawnej konfiguracji.

Skonfiguruj bazowy URL

Główną zaletą tej bramy llm jest kompatybilność typu plug-and-play. Nie musisz zmieniać logiki swojego kodu, tylko konfigurację. Wskaż klientowi SDK nasz bazowy URL i podaj swój klucz API.

Bazowy URL: https://api.openllmgateway.com/v1

Identyfikator modelu: uncensored

Ten endpoint obsługuje standardowy format chat/completions. Zmieniając tylko te dwie wartości, Twoje istniejące aplikacje mogą kierować ruch przez nasz model bez cenzury bez blokowania dostawcy.

Wyślij uzupełnienie czatu

Wyślij prosty prompt tekstowy, aby otrzymać odpowiedź. Model przetwarza wejście tekstowe i zwraca wyjście tekstowe. Możesz dołączyć historię rozmowy w tablicy messages.

Upewnij się, że ciało żądania mieści się w limicie 8 MB. Model obsługuje okno kontekstu 100 000 tokenów dla promptu i uzupełnienia łącznie.

Oto podstawowy przykład użycia cURL:

Kopiujcurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Zamień $OPENLLM_API_KEY na swój właściwy klucz. Odpowiedź zostanie zwrócona w formacie JSON z wygenerowanym tekstem w choices[0].message.content.

Włącz strumieniowanie

Dla doświadczeń w czasie rzeczywistym włącz strumieniowanie, ustawiając stream: true w żądaniu. API zwraca strumień zdarzeń wysłanych przez serwer (SSE) z częściowymi odpowiedziami.

Strumieniowanie zmniejsza postrzeganą opóźnienie, ponieważ tokeny są dostarczane natychmiast po ich wygenerowaniu. Jest to szczególnie przydatne dla treści długich lub aplikacji interaktywnych.

Przykład użycia SDK Python:

Kopiujfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Iteruj po obiekcie odpowiedzi, aby uzyskać dostęp do każdego fragmentu. Model kontynuuje generowanie, aż do zakończenia lub osiągnięcia limitu tokenów.

Użyj wywoływania narzędzi

API obsługuje wywoływanie funkcji, pozwalając modelowi decydować, kiedy wywołać zewnętrzne narzędzia na podstawie promptu użytkownika. Zdefiniuj swoje funkcje w parametrze tools.

Gdy model uzna, że narzędzie powinno zostać użyte, zwraca tablicę tool_calls w odpowiedzi. Wykonujesz funkcję i wysyłasz wynik z powrotem do modelu w kolejnej wiadomości.

Przykład użycia SDK Node.js:

Kopiujimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

To umożliwia złożone przepływy pracy agentyczne bez opuszczania standardowego interfejsu kompatybilnego z OpenAI.

Sprawdź dostępne modele

Zapytaj endpoint GET /v1/models, aby zweryfikować dostępne modele i ich metadane. Jest to przydatne przy debugowaniu lub dynamicznym wybieraniu modeli.

Kopiujstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Odpowiedź wylistuje model uncensored. Pamiętaj, że ta brama nie oferuje osadzania (embeddings), generowania obrazów ani przetwarzania audio. Jest to ściłe API uzupełniania czatu oparte na tekście.

Limity, błędy i kontekst

Limity zapytań: Jesteś ograniczony do 300 zapytań na minutę na klucz API. Jeśli przekroczysz ten limit, otrzymasz błąd 429 Too Many Requests.

Uwierzytelnianie: Błąd 401 Unauthorized wskazuje na nieprawidłowy lub brakujący klucz API. Wygeneruj klucz ponownie w panelu, jeśli to konieczne.

Rozliczenia: Błąd 402 Payment Required występuje, gdy wyczerpiesz przedpłacony kredyt. Doładowania zaczynają się od $20, z bonusowymi kredytami za większe wpłaty.

Okno kontekstu: Model obsługuje 100 000 tokenów. Zarządzaj długością promptu i uzupełnienia, aby mieścić się w tym limicie. Żądania przekraczające 8 MB zostaną odrzucone.