Migrar OpenAI al Router de la UE

Por qué migrar al Router de la UE

El Router de la UE es una pasarela de inferencia compatible con OpenAI y Anthropic que ejecuta modelos abiertos en GPUs europeas. Sus prompts y respuestas nunca salen de la UE, no hay ningún proveedor de nube estadounidense en la cadena y usted paga por token desde un único saldo de crédito prepago. Como la API es compatible de forma directa, en el código de su aplicación solo cambian la URL base y la clave de API.

Qué necesita

• Una cuenta de HostYourAI con algo de crédito
• Una clave de API con el formato hyai-..., creada en Router dentro de su panel
• Su SDK actual de OpenAI o Anthropic, sin instalar ninguna biblioteca nueva

Paso 1: cree una clave de API

En su panel, vaya a Router y cree una clave nueva. Copie la clave hyai- enseguida; solo se muestra una vez. Esta clave sustituye a su clave de OpenAI.

Paso 2: apunte su cliente al Router

Configure la URL base como https://hostyourai.com/api/v1 y utilice su clave de HostYourAI. En Python con el SDK de OpenAI, el resto de su código no cambia:

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",   # your HostYourAI key
)

resp = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Resume este contrato."}],
)
print(resp.choices[0].message.content)

En Node.js con el mismo SDK:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://hostyourai.com/api/v1",
  apiKey: process.env.HOSTYOURAI_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "llama-3.3-70b",
  messages: [{ role: "user", content: "Resume este contrato." }],
});
console.log(resp.choices[0].message.content);

O directamente desde curl para una prueba rápida:

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{"model":"llama-3.3-70b","messages":[{"role":"user","content":"Hola"}]}'

Paso 3: elija un modelo abierto

Donde usaría gpt-4o en OpenAI, elija aquí un modelo abierto del Model Garden, por ejemplo una variante de Llama, Qwen, Mistral o DeepSeek. Utilice el slug del modelo exactamente como aparece en el Model Garden como valor de model. El streaming funciona igual: establezca stream=True y recibirá eventos enviados por el servidor (SSE).

¿Usa el SDK de Anthropic?

También funciona. El Router expone una capa de compatibilidad en /v1/messages. Configure la URL base como https://hostyourai.com y pase su clave hyai- como x-api-key:

from anthropic import Anthropic

client = Anthropic(
    base_url="https://hostyourai.com",
    api_key="hyai-...",
)

msg = client.messages.create(
    model="llama-3.3-70b",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hola"}],
)
print(msg.content[0].text)

Paso 4: verifique y pase a producción

Pruebe su primera solicitud en el Playground o desde su código y siga el uso, los tokens y la latencia de cada solicitud en su registro de actividad. Hay dos cosas a tener en cuenta al migrar: los nombres de los modelos son distintos (use slugs de modelos abiertos, no gpt-*), y se paga por token en lugar de mediante una suscripción de OpenAI.

¿Necesita un rendimiento predecible?

El Router compartido es ideal para empezar. Si desea aislamiento o capacidad garantizada, promueva un modelo a una instancia dedicada en su propia GPU de la UE. Su código sigue siendo el mismo, solo cambia el slug del modelo o el endpoint.

Referencia: qué cambia exactamente

Esta tabla pone los ajustes uno al lado del otro. Para más información sobre la propia pasarela, consulte la página EU Inference Router.

Solución de problemas

Recibo un error 401 Unauthorized

Compruebe que su clave empieza por hyai- y que se copió completa. Una clave de OpenAI (sk-...) no funciona en el Router. Cree una clave nueva en Router si es necesario.

Mis solicitudes devuelven 404 o nunca llegan

Casi siempre la URL base es incorrecta. Debe ser exactamente https://hostyourai.com/api/v1. Asegúrese de que su SDK no añada por sí solo otro /v1 a la URL.

El modelo responde despacio o parece no estar disponible

No todos los modelos están activos de forma permanente. El Model Garden muestra, para cada modelo, si está activo ("warm") o aún se está calentando. Elija un modelo activo o espere un momento; después, las respuestas serán rápidas como de costumbre.

El streaming se comporta de forma distinta con el SDK de Anthropic

La capa /v1/messages utiliza streaming con búfer y solo admite texto. Si necesita streaming token a token, utilice la ruta de OpenAI en /api/v1/chat/completions.

Preguntas sobre esta guía

¿Tengo que reescribir el código de mi aplicación?

No. Solo cambia la URL base y la clave de API. Todo lo demás, incluidos el streaming y la estructura de los mensajes, sigue igual.

¿Qué modelos puedo usar después de migrar?

Modelos abiertos como Llama, Qwen, Mistral, DeepSeek y Gemma. El catálogo actual con su estado en tiempo real está en el Model Garden.

¿Cuánto cuesta usar el Router?

Se paga por token, por uso, desde un único saldo de crédito prepago, sin suscripción. Consulte la página de precios.

¿Mis datos permanecen en Europa?

Sí. Los modelos se ejecutan en GPUs de centros de datos europeos y sus prompts y respuestas nunca salen de la UE.

¿Puedo pasar más adelante a hardware propio?

Sí. Para obtener aislamiento o capacidad garantizada, traslade un modelo a una instancia de GPU dedicada. Su clave y su URL base siguen funcionando.