New

Débloquez l'avenir de l'IA avec APISIX – La passerelle IA entièrement open-source pour les agents IA et LLMs !En Savoir Plus

En Savoir Plus

API7 API Gateway & AI Gateway

API Gateway et AI GatewayConçus pour
Gestion de l'API
Gestion de l'API

Conçu par les créateurs originaux d'Apache APISIX. Gérez chaque API avec l'API7 API Gateway, et gouvernez le trafic de vos LLM et agents IA avec AISIX, notre passerelle IA open source.

Obtenir une démo
Background pattern
Gestion de l'API

AISIX · Passerelle IA

Connectez-vous à n'importe quel modèle. Contrôlez chaque appel.

AISIX est notre passerelle IA open source, écrite en Rust. Pointez votre application vers une seule API compatible OpenAI et routez, sécurisez et observez chaque appel de modèle : hébergez tout vous-même, ou utilisez AISIX Cloud comme plan de contrôle managé tandis que la passerelle continue de fonctionner dans votre propre environnement.

Routage intelligent

  • Ensembles de modèles

    Diffusez une requête vers un panel de modèles, puis laissez un modèle juge synthétiser la réponse unique la plus solide.

  • Routage sémantique

    Classez l'intention de chaque prompt au niveau de la passerelle et dirigez-le vers le modèle choisi pour ce type de tâche.

Infrastructure d'agents

  • Passerelle MCP

    Servez vos serveurs MCP via un point d'entrée unique et gouverné, avec les clés, politiques d'accès et télémétrie de la passerelle.

  • Passerelle d'agents A2A

    Routez le trafic entre agents via la passerelle, avec la même authentification, les mêmes contrôles et les mêmes relevés d'usage.

Gouvernance du trafic

  • Équilibrage de charge et failover

    Pondérez le trafic entre fournisseurs et modèles, avec contrôles de santé, nouvelles tentatives automatiques et failover.

  • Plafonnez la consommation de tokens avant qu'elle n'atteigne votre facture et stoppez tôt les usages incontrôlés.

  • Filtrez prompts et réponses dans les deux sens avec des contrôles fournis par des services dédiés ou vos propres règles.

  • Tokens, latence et coût de chaque requête, exposés en métriques et logs pour votre stack existante.

Explorer la passerelle IAVoir AISIX sur GitHub