AISIX es la puerta de enlace de IA de código abierto para LLM y agentes. Ponga una sola API compatible con OpenAI delante de cada modelo: lleve funciones de IA a producción en días y escale después las que muevan sus cifras.
Núcleo Apache-2.0 · más de 100 proveedores · escrito en Rust · Documentación · Ver precios
from openai import OpenAI client = OpenAI( base_url="https://your-aisix-gateway/v1", # point to AISIX api_key="AISIX_API_KEY", ) # your existing OpenAI code — unchanged resp = client.chat.completions.create( model="gpt-4o", # or claude, gemini, deepseek… 100+ messages=[{"role": "user", "content": "Hello"}], )
El primer prompt es fácil. El servicio número 50, el décimo modelo y el primer incidente delante de sus clientes no lo son. Toda esa complejidad es la que asume una puerta de enlace, para que su equipo siga entregando.
Apunte su SDK de OpenAI a AISIX y llegue a todos los grandes proveedores: sin reescrituras, sin SDK por proveedor, sin dependencia.
/v1/messages compatible con Anthropic.Peticiones, latencia, errores, gasto y estado de los modelos, en directo y en todos los entornos, sin construir un solo panel.
Del primer prototipo a la escala de producción: una plataforma, con todos los controles incorporados.
Publique y cambie modelos sin reescribir. Asigne cualquier modelo a cualquier proveedor —OpenAI, Anthropic, Bedrock, Vertex, Groq— con balanceo ponderado, conmutación automática por error, comprobaciones de estado y enrutamiento semántico y óptimo en coste.
Escale a tráfico de producción sin sorpresas. Límites de peticiones (RPM / RPD) y de tokens (TPM / TPD) por ventana deslizante, más topes de concurrencia, aplicados por clave, equipo o cuenta de proveedor y sincronizados entre réplicas mediante Redis.
Ponga la IA ante sus clientes con confianza. Comprobaciones antes de la entrada y después de la salida: listas de bloqueo por palabra clave o regex, ocultación de PII (Presidio), inyección de prompts y moderación (Lakera, OpenAI Moderation, Llama-Guard) y control de acceso a modelos por clave.
Invierta en lo que funciona. Gasto del mes en curso por entorno, clave y miembro, con presupuestos por clave y de organización, alertas al 75 / 90 / 100 %, seguimiento de coste por modelo y topes de parada en firme.
La mayoría de puertas de enlace de IA son una capa de lenguaje de scripting en su ruta crítica. AISIX es infraestructura de gateway, reconstruida para la IA.
Sobrecarga inferior al milisegundo, sin pausas por recolección de basura y un plano de datos sin estado que escala horizontalmente con su tráfico.
Aloje usted mismo la puerta de enlace completa como un único binario: gratis, para siempre, sin dependencia. O ejecútela totalmente gestionada en AISIX Cloud.
Más de cinco años construyendo gateways en producción en API7.ai, creadores de Apache APISIX, ahora reconstruidos para LLM y agentes.
Empiece en minutos en la nube gestionada, o despliegue el plano de control y los planos de datos íntegramente dentro de su infraestructura.
Compatible con OpenAI: apunte su SDK a AISIX y empiece a entregar. Gratis para empezar, sin tarjeta de crédito.