Início rápido: integre o gateway LLM sem censura

Pré-requisitos

Você precisa de uma chave de API para autenticar requisições. Cadastre-se na página Obter chave de API com apenas um e-mail e senha. Não é necessário cartão de crédito para começar; novas contas recebem $0,50 em crédito de teste válido por 7 dias. Reivindique este crédito com um clique na sua página de chave de API. Sua chave de API é exibida imediatamente após o cadastro.

Pré-requisitos: Uma chave de API ativa e um ambiente de linguagem de programação suportado. O gateway aceita clientes padrão compatíveis com OpenAI, então você provavelmente já tem as ferramentas necessárias instaladas.

Instale o SDK

Embora você possa usar requisições HTTP brutas, usar um SDK simplifica o manuseio de payloads JSON e respostas em streaming. Recomendamos usar o pacote Python openai oficial ou o pacote Node.js openai.

• Python: pip install openai
• Node.js: npm install openai

Essas bibliotecas lidam com autenticação e formatação de requisições automaticamente quando configuradas corretamente.

Configure a URL base

A principal vantagem deste gateway LLM é a compatibilidade pronta para usar. Você não precisa alterar a lógica do seu código, apenas a configuração. Aponte o cliente do seu SDK para nossa URL base e forneça sua chave de API.

URL base: https://api.openllmgateway.com/v1

ID do modelo: uncensored

Este endpoint suporta o formato padrão chat/completions. Ao alterar apenas esses dois valores, seus aplicativos existentes podem rotear através do nosso modelo sem censura sem lock-in de fornecedor.

Envie uma conclusão de chat

Envie um prompt de texto simples para receber uma resposta. O modelo processa entrada de texto e retorna saída de texto. Você pode incluir histórico de conversa no array messages.

Certifique-se de que o corpo da requisição fique abaixo de 8 MB. O modelo suporta uma janela de contexto de 100.000 tokens para prompt e conclusão combinados.

Aqui está um exemplo básico usando cURL:

Copiarcurl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Substitua $OPENLLM_API_KEY pela sua chave real. A resposta será retornada em formato JSON com o texto gerado em choices[0].message.content.

Ative o streaming

Para experiências em tempo real, ative o streaming definindo stream: true na sua requisição. A API retorna um stream de Server-Sent Events (SSE) com respostas parciais.

O streaming reduz a latência percebida, pois os tokens são entregues assim que são gerados. Isso é particularmente útil para conteúdo de longo formato ou aplicativos interativos.

Exemplo usando o SDK Python:

Copiarfrom openai import OpenAI

client = OpenAI(base_url="https://api.openllmgateway.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Itere sobre o objeto de resposta para acessar cada chunk. O modelo continua gerando até concluir ou atingir o limite de tokens.

Use chamada de funções

A API suporta chamada de funções, permitindo que o modelo decida quando invocar ferramentas externas com base no prompt do usuário. Defina suas funções no parâmetro tools.

Quando o modelo determina que uma ferramenta deve ser usada, ele retorna um array tool_calls na resposta. Você executa a função e envia o resultado de volta ao modelo em uma mensagem subsequente.

Exemplo usando o SDK Node.js:

Copiarimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openllmgateway.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Isso permite fluxos de trabalho agênticos complexos sem sair da interface padrão compatível com OpenAI.

Verifique os modelos disponíveis

Consulte o endpoint GET /v1/models para verificar os modelos disponíveis e seus metadados. Isso é útil para depuração ou seleção dinâmica de modelos.

Copiarstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

A resposta listará o modelo uncensored. Observe que este gateway não oferece embeddings, geração de imagens ou processamento de áudio. É estritamente uma API de conclusão de chat baseada em texto.

Limites, erros e contexto

Limites de taxa: Você está limitado a 300 requisições por minuto por chave de API. Se você exceder isso, receberá um erro 429 Too Many Requests.

Autenticação: Um erro 401 Unauthorized indica uma chave de API inválida ou ausente. Regere sua chave no painel se necessário.

Faturamento: Um erro 402 Payment Required ocorre quando seu crédito pré-pago se esgota. Recargas começam em $20, com créditos bônus para depósitos maiores.

Janela de contexto: O modelo suporta 100.000 tokens. Gerencie os comprimentos do seu prompt e conclusão para permanecer dentro deste limite. Requisições que excedam 8 MB serão rejeitadas.