API7 API Gateway & AI Gateway
API Gateway と AI Gatewayあらゆる用途に対応API管理
API管理
Apache APISIX のオリジナル開発者によって構築されました。 API7 API Gateway であらゆる API を管理し、オープンソースの AI ゲートウェイ AISIX で LLM と AI エージェントのトラフィックを統制します。
AISIX · AI ゲートウェイ
あらゆるモデルに接続。すべての呼び出しを制御。
AISIX は Rust で書かれた当社のオープンソース AI ゲートウェイです。アプリを 1 つの OpenAI 互換 API に向けるだけで、すべてのモデル呼び出しをルーティング、保護、観測できます。すべてをセルフホストするか、ゲートウェイは自社環境で稼働させたまま、AISIX Cloud をマネージドコントロールプレーンとして利用できます。
スマートルーティング
モデルアンサンブル
1 つのリクエストを複数モデルのパネルに展開し、ジャッジモデルが最も優れた 1 つの回答に統合します。
セマンティックルーティング
ゲートウェイでプロンプトの意図を分類し、その用途に選んだモデルへ振り分けます。
エージェントインフラ
MCP ゲートウェイ
MCP サーバーを 1 つの統制されたエンドポイントで提供し、ゲートウェイのキー、アクセスポリシー、テレメトリを適用します。
A2A エージェントゲートウェイ
エージェント間トラフィックをゲートウェイ経由にし、モデル呼び出しと同じ認証、制御、使用記録を適用します。
トラフィックガバナンス
プロバイダーやモデル間でトラフィックを重み付けし、ヘルスチェック、自動リトライ、フェイルオーバーを備えます。
トークン消費が請求に反映される前に上限を設け、暴走した使用を早期に止めます。
プロバイダー連携またはルールベースの検査で、プロンプトとレスポンスを双方向にスクリーニングします。
リクエストごとのトークン数、レイテンシ、コストをメトリクスとログとして既存のスタックに公開します。