AISIX est la passerelle IA open source pour les LLM et les agents. Placez une seule API compatible OpenAI devant chaque modèle : mettez des fonctionnalités d'IA en production en quelques jours, puis passez à l'échelle celles qui font bouger vos chiffres.
Cœur Apache-2.0 · plus de 100 fournisseurs · écrit en Rust · Documentation · Voir les tarifs
from openai import OpenAI client = OpenAI( base_url="https://your-aisix-gateway/v1", # point to AISIX api_key="AISIX_API_KEY", ) # your existing OpenAI code — unchanged resp = client.chat.completions.create( model="gpt-4o", # or claude, gemini, deepseek… 100+ messages=[{"role": "user", "content": "Hello"}], )
Le premier prompt est facile. Le 50e service, le 10e modèle et le premier incident devant vos clients ne le sont pas. C'est cette complexité qu'absorbe une passerelle, pour que votre équipe continue de livrer.
Pointez votre SDK OpenAI existant vers AISIX et atteignez tous les grands fournisseurs — sans réécriture, sans SDK par éditeur, sans enfermement.
/v1/messages compatible Anthropic.Requêtes, latence, erreurs, dépenses et santé des modèles — en direct sur tous les environnements, sans aucun tableau de bord à construire.
Du premier prototype à l'échelle de production — une plateforme, tous les contrôles intégrés.
Livrez et changez de modèle sans réécrire. Associez n'importe quel modèle à n'importe quel fournisseur — OpenAI, Anthropic, Bedrock, Vertex, Groq — avec répartition de charge pondérée, bascule automatique, contrôles de santé et routage sémantique et optimisé en coût.
Absorbez le trafic de production sans surprise. Limites de requêtes (RPM / RPD) et de tokens (TPM / TPD) en fenêtre glissante, plus des plafonds de concurrence — appliqués par clé, équipe ou compte fournisseur, et synchronisés entre réplicas via Redis.
Mettez l'IA face à vos clients en confiance. Contrôles en amont de l'entrée et en aval de la sortie — listes de blocage par mot-clé ou regex, masquage des données personnelles (Presidio), injection de prompt et modération (Lakera, OpenAI Moderation, Llama-Guard), et contrôle d'accès aux modèles par clé.
Investissez là où ça marche. Dépenses du mois en cours par environnement, clé et membre — avec budgets par clé et par organisation, alertes à 75 / 90 / 100 %, suivi des coûts par modèle et plafonds bloquants.
La plupart des passerelles IA ne sont qu'une couche de langage de script sur votre chemin critique. AISIX est une infrastructure de passerelle, reconstruite pour l'IA.
Un surcoût inférieur à la milliseconde, aucune pause de ramasse-miettes et un plan de données sans état qui s'étend horizontalement avec votre trafic.
Hébergez vous-même la passerelle complète sous forme d'un binaire unique — gratuitement, pour toujours, sans enfermement. Ou exécutez-la entièrement gérée sur AISIX Cloud.
Plus de cinq ans d'ingénierie de passerelles en production chez API7.ai, créateurs d'Apache APISIX — désormais repensée pour les LLM et les agents.
Démarrez en quelques minutes sur le cloud géré, ou déployez le plan de contrôle et les plans de données entièrement dans votre infrastructure.
Compatible OpenAI — pointez votre SDK vers AISIX et lancez-vous. Gratuit pour démarrer, sans carte bancaire.