Todo lo que necesitas para gestionar el tráfico de IA
Un gateway AISIX de grado de producción, impulsado por Rust, diseñado para el rendimiento, la gobernanza y la observabilidad.
Alto Rendimiento
Increíblemente rápido, construido con Rust
El plano de datos nativo de Rust ofrece una sobrecarga de proxy inferior al milisegundo con una huella de memoria mínima. Maneja millones de solicitudes por segundo sin despeinarse.
Gobernanza Unificada
Una API, todos tus LLMs
Gestiona todos tus proveedores de LLM a través de una única API compatible con OpenAI. Configuración centralizada, autenticación y aplicación de políticas en todo tu stack de IA.
Equilibrio de Carga Inteligente
Equilibrio de Carga Multi-LLM
Distribuye dinámicamente el tráfico entre múltiples proveedores de LLM según la latencia, el costo y la disponibilidad. Round-robin ponderado, menos conexiones y estrategias personalizadas.
Limitación de Velocidad Precisa
Limitación de Velocidad de Tokens y Solicitudes
Limitación de velocidad detallada por tokens, solicitudes o dimensiones personalizadas. Políticas por consumidor, por ruta y para todo el clúster para controlar costos y prevenir abusos.
Barreras de Seguridad
Seguridad de Grado Empresarial
Protege tu pipeline de IA con detección de inyección de prompts, moderación de contenido, redacción de PII y registros de auditoría completos para cumplimiento normativo.
Rica Observabilidad
Observabilidad Full-Stack
Rastrea cada token, monitorea las distribuciones de latencia y analiza los patrones de tráfico en tiempo real. Integración nativa con Prometheus, Grafana y ClickHouse.
Grado de Producción,
Arquitectura Cloud-Native
La separación del Plano de Control y el Plano de Datos garantiza una alta escalabilidad, actualizaciones sin tiempo de inactividad y fiabilidad de nivel empresarial.
Plano de Datos sin Estado
Escalable horizontalmente con estado cero: añade o elimina nodos al instante sin migración de datos.
Configuración basada en etcd
Gestión de configuración centralizada con propagación en tiempo real y capacidades de recarga en caliente.
Separación de Responsabilidades
El Plano de Control gestiona la administración; el Plano de Datos gestiona el tráfico. Escalado y actualizaciones independientes.
Despliega en minutos, no en semanas
API compatible con OpenAI. Listo para producción desde el primer día.
Seguridad de grado empresarial integrada en cada solicitud
- Limitación de velocidad TPM / RPM: limita los tokens por minuto y las solicitudes por minuto por clave y por modelo
- Barreras de seguridad: bloquea la inyección de prompts, la fuga de PII y el contenido tóxico antes de que llegue al modelo
- Control de acceso por clave: restringe qué modelos puede llamar cada clave de API
- Límites de concurrencia: evita que consumidores individuales monopolicen la capacidad
Más de 100 proveedores de LLM, un Gateway
Conéctate a cualquier proveedor importante de LLM a través de una interfaz unificada compatible con OpenAI. Sin dependencia de proveedores, nunca.
Los mejores planes de precios
Empieza gratis con nuestro núcleo de código abierto. Escala a nivel empresarial cuando estés listo.
Open Source
Todo lo que necesitas para empezar con AISIX
- Conecta más de 100 proveedores de LLM
- Equilibrio de carga + límites RPM/TPM
- Gestión de claves virtuales
- OpenTelemetry, Prometheus, Jaeger
- Barreras de seguridad para modelos
Enterprise
En la nube o auto-alojado. Para equipos que gestionan tráfico de IA a escala.
- Incluye todas las funciones de código abierto
- Soporte prioritario + SLAs personalizados
- Presupuestos, equipos y RBAC
- Logs de auditoría y cumplimiento
- Funciones empresariales completas