API7 API Gateway 性能基准测试:P99 = 2.3 毫秒 & 160k QPS

Yilia Lin

Yilia Lin

June 7, 2024

Products

API7 Enterprise は、Apache APISIX を基盤としたフルAPIライフサイクル管理ソリューションです。DevOps や CI/CD ワークフローとシームレスに統合し、優れた製品性能とセキュリティを提供しながら、地域を跨いだエンタープライズレベルのデプロイ要件をサポートします。

私たちは、詳細なパフォーマンスベンチマークテストとパフォーマンステストスイートを提供し、ユーザーがパフォーマンス評価を行い、具体的で信頼性の高い実用的なデータ指標を取得できるよう支援します。さらに、標準化されたテスト手順、方法、およびパフォーマンス最適化技術を提供し、ユーザーが私たちの設定とシナリオを参考にすることで一貫したテスト結果を得られるようにします。

私たちは、単一ルーティング、複数ルーティング、認証、レート制限などの主要機能に対してターゲットを絞ったテストを実施しました。テスト結果は、API7 Enterprise が同時リクエスト数や応答遅延などの重要な指標で非常に優れたパフォーマンスを発揮し、高同時アクセスを容易に処理し、エンタープライズレベルのAPI管理を保護できることを示しています。

パフォーマンステストベンチマーク

テストは AWS Kubernetes 環境で実施され、API7 Gateway のパフォーマンスを、プラグインが有効でない場合、レート制限または認証プラグインのみが有効な場合、および複数のプラグインが同時に有効な場合など、いくつかの典型的なシナリオで包括的に評価しました。

API7 Gateway のパフォーマンス指標を正確に評価するために、まずベースラインテストを実施し、結果を収集しました。ベースラインテストでは、1つの worker_process、NGINX アップストリーム、および負荷テストツール wrk を同じマシン上にデプロイし、ホストネットワークモードを使用して通信を行いました。詳細な結果は How to Establish Performance Benchmarks で確認できます。ネットワークのない環境の干渉下で、API7 Gateway は単一コアの QPS(1秒あたりのクエリ数)で 23,652.91 を達成し、単一ルーティング設定での遅延を 0.1ミリ秒未満 に維持しました。

その後、ユーザーの本番環境でのデプロイ方法をシミュレートするために、デプロイアーキテクチャを変更しました。具体的には、API7 Gateway、NGINX アップストリーム、および負荷テストツール wrk を Kubernetes クラスター内の異なるノードにデプロイしました。

テスト結果は、単一ルーティング設定のシナリオで、API7 Gateway が 167,019.37 リクエスト/秒の QPS をサポートし、クライアントリクエストの遅延の 95%2.16ミリ秒以下 であることを示しています。さらに、100ルートと100コンシューマ の複雑なシナリオで、認証とレート制限プラグインが同時に有効な場合でも、QPS は 133,782.95 に達し、クライアントリクエストの遅延の 95%2.3ミリ秒以下 でした。

このデータは、API7 Gateway が複雑なシナリオでも高いパフォーマンスと安定性を維持できることを十分に示しています。基本的なシナリオでも複雑なシナリオでも、API7 Gateway は効率的で信頼性の高い API 管理サービスを提供できます。

パフォーマンスベンチマーク結果

テストシナリオルート数/コンシューマ数アップストリームへの転送QPSP99 (MS)P95 (MS)
mocking プラグインのみ有効1ルート, 0コンシューマFalse310,392.071.161.08
プラグイン無効1ルート, 0コンシューマTrue167,019.372.32.16
プラグイン無効100ルート, 0コンシューマTrue162,753.172.312.16
limit-count プラグインのみ有効1ルート, 0コンシューマTrue145,370.102.432.24
limit-count プラグインのみ有効100ルート, 0コンシューマTrue143,108.402.452.25
key-auth プラグインのみ有効1ルート, 0コンシューマTrue147,869.492.412.22
key-auth プラグインのみ有効100ルート, 0コンシューマTrue145,070.932.432.25
key-authlimit-count プラグインを同時に有効1ルート, 0コンシューマTrue136,725.472.432.26
key-authlimit-count プラグインを同時に有効100ルート, 0コンシューマTrue133,782.952.482.3

デプロイトポロジ

Typology of Deployment

パフォーマンステストスイート

私たちは、APIゲートウェイにとってパフォーマンスが重要であることを認識しているため、API7 Enterprise のパフォーマンスを継続的に最適化し、改善していきます。パフォーマンステストベンチマーク を参照するだけでなく、API7 Enterprise の公開されている パフォーマンスベンチマークリポジトリ にもアクセスできます。このリポジトリには、テストに使用されたリソースデプロイ設定の詳細な記録と、さまざまなテストシナリオの具体的な設定情報が含まれています。このリポジトリを通じて、提供されたガイドラインに基づいて API7 Gateway のパフォーマンスベンチマークテストを実施し、そのパフォーマンスをより包括的に理解することができます。

テストを実施する前に、テストしている パフォーマンスベースライン が公式に公開されたテスト条件と一致していることを確認することを強くお勧めします。AWS EKS の環境準備と詳細なテスト手順については、ドキュメント How to Prepare for the AWS EKS Environment を参照することをお勧めします。これには、詳細な環境準備とテスト手順が含まれています。提供されたパフォーマンステストベンチマーク、関連リポジトリ、およびテストガイドラインを通じて、API7 Enterprise のパフォーマンスをより適切に評価し、より情報に基づいた意思決定を行うことができると信じています。

パフォーマンステストレポートの利点

パフォーマンステストベンチマークは、企業が API7 Enterprise を選択、デプロイ、最適化する際に包括的なパフォーマンス参照を提供し、システムの安定した運用を確保するための重要な基盤となります。これにより、製品の応答時間、スループット、同時アクセス能力などの具体的なパフォーマンス指標を示し、企業が製品が自社のビジネスニーズを満たすかどうかを客観的に評価するのに役立ちます。

さらに、パフォーマンステストベンチマークのデータは、企業が API7 Enterprise のハードウェアリソース構成とクラスター規模を計画するための信頼性の高いガイダンスを提供します。これらのベンチマークは、企業がシステムのボトルネックを事前に特定し、対応策を策定してビジネスの中断を回避するのに役立ちます。

API7 Enterprise との旅を始めましょう

API7 Enterprise は、包括的なデジタルツールとソリューションを提供し、企業がビジネスのデジタル化を容易に実現できるよう支援します。統一されたデータ管理と分析を可能にし、視覚化されたビジネスプロセスとコラボレーション機能を提供し、強力なセキュリティとコンプライアンス管理を備えています。

API7 Enterprise は柔軟なデプロイ方法をサポートし、既存の IT インフラストラクチャとシームレスに統合します。その強力な機能と幅広いアプリケーションシナリオにより、企業は競争力と適応力を高め、より良いデジタル未来への扉を開くことができます。

今すぐ API7 Enterprise を体験し、デジタルトランスフォーメーションの旅を始めましょう!

Tags: