LLM Gateway vs OpenRouter: ¿Cuál necesitas?

La respuesta corta

Cuando la gente pregunta sobre llm gateway vs openrouter, generalmente está comparando dos cosas diferentes. OpenRouter es un router alojado: una API y una cuenta que te permiten elegir entre muchos modelos de muchos proveedores. Un gateway LLM es una capa que colocas delante de uno o más endpoints de modelos para gestionar autenticación, reintentos, registro, presupuestos y enrutamiento. Algunos gateways están alojados, otros los ejecutas tú mismo.

Cuál necesitas depende de tu problema. Si quieres cambiar libremente entre modelos de muchos proveedores, un router está diseñado para eso. Si quieres control sobre el tráfico hacia endpoints que ya usas, quieres un gateway. Si solo necesitas un modelo sin censura detrás de una API estándar, quizás no necesites ninguno, porque un único endpoint compatible con OpenAI ya es la capa más simple. Este artículo expone las diferencias para que elijas y muestra dónde encaja nuestro endpoint. La explicación sobre gateways LLM cubre los conceptos básicos si el término es nuevo.

Tres cosas que la gente llama gateway

1. Un router o agregador de modelos

Un endpoint, muchos modelos, generalmente una sola factura. Eliges el modelo por nombre en la petición y el servicio lo reenvía al proveedor que lo aloje. OpenRouter es un ejemplo conocido. El valor es la amplitud: puedes probar muchos modelos sin abrir muchas cuentas. La contrapartida es que tu tráfico, disponibilidad y políticas dependen del router y de cada proveedor upstream detrás de él, y cada modelo mantiene sus propias reglas de contenido.

2. Un gateway que operas tú

Este es un proxy que se sitúa dentro de tu infraestructura. Proyectos de código abierto como LiteLLM cumplen este rol. Apuntas tus aplicaciones al proxy y el proxy habla con uno o varios proveedores. Obtienes un lugar único para claves, límites de peticiones, seguimiento de gastos y conmutación por error, y controlas dónde van los registros. El costo es que ahora ejecutas un servicio.

3. Un endpoint directo

Un proveedor, un modelo, una URL que habla el protocolo de OpenAI. No hay decisión de enrutamiento que tomar. Esa es la categoría en la que está nuestra API: https://api.openllmgateway.com/v1 sirve un único modelo de pesos abiertos bajo el ID uncensored. No es un router entre proveedores ni la API oficial de ningún proveedor de modelos.

Comparación lado a lado

Para cualquier consulta sobre los precios, tarifas o lista de modelos de un enrutador específico, consulta su página de precios y documentación actual. Esos datos cambian a menudo y no los indicamos aquí.

Cuándo un router es la mejor opción

Elige un router cuando la pregunta sea "¿cuál modelo es mejor para esta tarea?" y esperes que la respuesta cambie. Un router te permite comparar muchos proveedores cambiando una cadena. También es adecuado para prototipos donde aún no sabes qué necesitas y aplicaciones que quieren permitir a los usuarios elegir de un catálogo.

Ten en cuenta lo que un router no te ofrece. El comportamiento del modelo sigue siendo el del modelo de origen. Si un modelo rechaza una petición válida, el router reenvía el rechazo. Enrutarse entre varios modelos también puede hacer que las salidas sean menos consistentes para un producto que necesita el mismo tono cada vez.

Cuándo quieres una capa de gateway

Un gateway demuestra su valor cuando tienes varios backends o varios equipos. Razones típicas: presupuestos por equipo, almacenamiento central de claves para que las aplicaciones nunca vean las claves del proveedor, registro de peticiones en tu propio almacenamiento, reintentos y tiempos de espera en un solo lugar, y conmutación por error de un endpoint a otro.

Nuestro endpoint funciona como uno de esos backends. Cualquier gateway que pueda reenviar a una URL compatible con OpenAI puede usarlo con la URL base y una clave bearer. Una verificación mínima del lado del cliente para comprobar que el backend es accesible:

Copycurl https://api.openllmgateway.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

curl https://api.openllmgateway.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 5}'

Si planeas ejecutar un gateway en producción, la lista de verificación de producción para gateways de IA enumera qué cubrir: tiempos de espera, reintentos, límites, secretos y monitoreo.

Cuándo no necesitas ninguno

Muchas aplicaciones tienen un requisito de modelo único: un producto de chat, una herramienta de escritura, un compañero de roleplay para adultos, un clasificador por lotes. Para esos casos, añadir un enrutador o puerta de enlace añade un salto y un punto de fallo sin aportar valor. El SDK de OpenAI ya gestiona reintentos y tiempos de espera, y el endpoint ya devuelve los encabezados que necesitas para la monitorización: X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests y X-RateLimit-Limit-Concurrency.

Los límites son sencillos. Una clave completa admite 8 peticiones simultáneas y 300 por minuto; una clave de prueba admite 2 y 60. Al superar un límite, recibes un HTTP 429 con el código rate_limited o concurrency. Una sobrecarga temporal también devuelve 429 con Retry-After: 5. Una petición en streaming ocupa su espacio de concurrencia hasta que finaliza el streaming.

Las funciones que normalmente añadirías en un gateway ya están presentes: streaming sobre SSE, llamadas a funciones, modo JSON y una ventana de contexto de 100 000 tokens. Lo que no está presente: generación de imágenes, audio o vídeo, incrustaciones y fine-tuning. Si necesitas esas funciones, combina este endpoint con otro servicio, que es el único caso en el que un gateway empieza a tener sentido incluso para proyectos pequeños.

Costo y primeros pasos

El endpoint es pago por uso desde crédito prepago: $0,15 por cada 1M de tokens de entrada y $0,50 por cada 1M de tokens de salida, sin suscripción, crédito que no caduca y sin cargo por peticiones fallidas o rechazadas. Como ejemplo práctico, una petición con 2.000 tokens de entrada y 500 tokens de salida cuesta 2.000 x $0,15 / 1M más 500 x $0,50 / 1M, que es $0,0003 más $0,00025, o $0,00055. Consulta la página de precios para montos de recarga y bonificaciones. Se aceptan pagos con tarjeta y cripto.

Para probarlo, reclama el crédito de prueba de $0,50 con un solo clic en la página de clave de API tras registrarte con Google o correo electrónico. Luego sigue la documentación para apuntar tu cliente o puerta de enlace a la URL base. Los prompts no se utilizan para entrenamiento.

Más guías

• Puerta de enlace LLM en Python: llamar a un endpoint de backend
• Lista de verificación de AI Gateway: API de LLM sin censura