Benchmark Kinerja API7 API Gateway: P99 = 2.3 ms & 160k QPS

Yilia Lin

Yilia Lin

June 7, 2024

Products

API7 Enterprise adalah solusi manajemen siklus hidup API lengkap berbasis Apache APISIX. Ini terintegrasi dengan mulus ke dalam alur kerja DevOps dan CI/CD, memberikan kinerja produk dan keamanan yang luar biasa, sekaligus mendukung kebutuhan penyebaran tingkat perusahaan di berbagai wilayah.

Kami menyediakan tes benchmark kinerja yang rinci dan rangkaian pengujian kinerja untuk membantu pengguna melakukan evaluasi kinerja dan mendapatkan metrik data yang spesifik, dapat diandalkan, dan layak. Selain itu, kami menawarkan prosedur pengujian yang terstandarisasi, metode, dan teknik optimasi kinerja untuk memastikan bahwa pengguna dapat mencapai hasil pengujian yang konsisten dengan mengambil referensi konfigurasi dan skenario kami.

Kami melakukan tes yang ditargetkan pada fitur-fitur kunci seperti routing tunggal, routing ganda, autentikasi, dan pembatasan laju. Hasil tes menunjukkan bahwa API7 Enterprise berkinerja sangat baik dalam metrik kritis seperti permintaan bersamaan dan latensi respons, dengan mudah menangani akses konkurensi tinggi dan melindungi manajemen API tingkat perusahaan.

Benchmark Pengujian Kinerja

Tes dilakukan dalam lingkungan Kubernetes AWS dan mengevaluasi secara komprehensif kinerja API7 Gateway dalam beberapa skenario tipikal, termasuk tanpa plugin yang diaktifkan, hanya dengan plugin pembatasan laju atau autentikasi yang diaktifkan, dan dengan beberapa plugin yang diaktifkan secara bersamaan.

Untuk mengevaluasi metrik kinerja API7 Gateway secara akurat, kami pertama-tama melakukan tes dasar dan mengumpulkan hasilnya. Dalam tes dasar, kami menyebarkan API7 Gateway dengan 1 worker_process, upstream NGINX, dan alat pengujian beban wrk pada mesin yang sama, menggunakan mode jaringan host untuk komunikasi. Hasil rinci dapat ditemukan di Cara Menetapkan Benchmark Kinerja. Di bawah gangguan lingkungan tanpa jaringan, API7 Gateway mencapai QPS (queries per second) inti tunggal sebesar 23,652.91 dan mempertahankan latensi kurang dari 0,1 milidetik dalam konfigurasi routing tunggal.

Selanjutnya, kami mengubah arsitektur penyebaran untuk mensimulasikan metode penyebaran di lingkungan produksi pengguna. Secara khusus, kami menyebarkan API7 Gateway, upstream NGINX, dan alat pengujian beban wrk pada node yang berbeda dalam kluster Kubernetes.

Hasil tes menunjukkan bahwa dalam skenario konfigurasi dengan routing tunggal, API7 Gateway dapat mendukung QPS hingga 167,019.37 permintaan per detik, dengan 95% latensi permintaan klien di bawah 2,16 milidetik. Bahkan dalam skenario kompleks dengan 100 rute dan 100 konsumen, dan dengan plugin autentikasi dan pembatasan laju yang diaktifkan secara bersamaan, QPS masih mencapai 133,782.95, dengan 95% latensi permintaan klien di bawah 2,3 milidetik.

Data ini sepenuhnya menunjukkan bahwa API7 Gateway dapat mempertahankan kinerja dan stabilitas tinggi bahkan dalam skenario kompleks. Baik dalam skenario dasar maupun kompleks, API7 Gateway dapat menyediakan layanan manajemen API yang efisien dan dapat diandalkan.

Hasil Benchmarking Kinerja

Skenario PengujianJumlah Rute/KonsumenMeneruskan ke UpstreamQPSP99 (MS)P95 (MS)
Hanya mengaktifkan plugin mocking1 rute, 0 konsumenFalse310,392.071.161.08
Tidak ada plugin yang diaktifkan1 rute, 0 konsumenTrue167,019.372.32.16
Tidak ada plugin yang diaktifkan100 rute, 0 konsumenTrue162,753.172.312.16
Hanya mengaktifkan plugin limit-count1 rute, 0 konsumenTrue145,370.102.432.24
Hanya mengaktifkan plugin limit-count100 rute, 0 konsumenTrue143,108.402.452.25
Hanya mengaktifkan plugin key-auth1 rute, 0 konsumenTrue147,869.492.412.22
Hanya mengaktifkan plugin key-auth100 rute, 0 konsumenTrue145,070.932.432.25
Mengaktifkan kedua plugin key-auth dan limit-count1 rute, 0 konsumenTrue136,725.472.432.26
Mengaktifkan kedua plugin key-auth dan limit-count100 rute, 0 konsumenTrue133,782.952.482.3

Topologi Penyebaran

Topologi Penyebaran

Rangkaian Pengujian Kinerja

Kami menyadari pentingnya kinerja untuk sebuah gateway API, sehingga kami akan terus mengoptimalkan dan meningkatkan kinerja API7 Enterprise. Selain merujuk pada Benchmark Pengujian Kinerja, Anda juga dapat mengakses Repositori Benchmark Kinerja yang tersedia secara publik untuk API7 Enterprise. Repositori ini menyediakan catatan rinci tentang konfigurasi penyebaran sumber daya yang digunakan untuk pengujian dan informasi konfigurasi spesifik untuk berbagai skenario pengujian. Melalui repositori ini, Anda dapat melakukan pengujian benchmark kinerja pada API7 Gateway berdasarkan panduan yang disediakan untuk mendapatkan pemahaman yang lebih komprehensif tentang kinerjanya.

Sebelum melakukan pengujian, kami sangat menyarankan untuk memastikan bahwa Baseline Kinerja yang Anda uji konsisten dengan kondisi pengujian yang dipublikasikan secara resmi untuk memastikan keakuratan hasil pengujian. Untuk persiapan lingkungan dan langkah-langkah pengujian rinci untuk AWS EKS, kami merekomendasikan untuk merujuk pada dokumen Cara Mempersiapkan Lingkungan AWS EKS, yang mencakup persiapan lingkungan dan langkah-langkah pengujian yang rinci. Dengan benchmark pengujian kinerja yang disediakan, repositori terkait, dan panduan pengujian, kami yakin Anda akan dapat mengevaluasi kinerja API7 Enterprise dengan lebih baik dan membuat keputusan yang lebih tepat.

Manfaat Laporan Pengujian Kinerja

Benchmark pengujian kinerja memberikan referensi kinerja yang komprehensif bagi perusahaan dalam memilih, menyebarkan, dan mengoptimalkan API7 Enterprise, menjadi dasar penting untuk memastikan operasi sistem yang stabil. Mereka menunjukkan metrik kinerja spesifik produk dalam aspek seperti waktu respons, throughput, dan kemampuan akses bersamaan, membantu perusahaan menilai secara objektif apakah produk dapat memenuhi kebutuhan bisnis mereka.

Selain itu, data dalam benchmark pengujian kinerja memberikan panduan yang dapat diandalkan bagi perusahaan untuk merencanakan konfigurasi sumber daya perangkat keras dan skala kluster API7 Enterprise. Benchmark ini dapat membantu perusahaan mengidentifikasi kemacetan sistem lebih awal dan merumuskan langkah-langkah respons untuk menghindari gangguan bisnis.

Mulai Perjalanan dengan API7 Enterprise

API7 Enterprise menyediakan alat dan solusi digital yang komprehensif untuk membantu perusahaan dengan mudah mencapai digitalisasi bisnis. Ini memungkinkan manajemen dan analisis data yang terpadu, menawarkan proses bisnis yang divisualisasikan dan fungsi kerja kolaboratif, serta memiliki kontrol keamanan dan kepatuhan yang kuat.

API7 Enterprise mendukung metode penyebaran yang fleksibel dan terintegrasi dengan mulus ke dalam infrastruktur TI yang ada. Dengan fitur yang kuat dan berbagai skenario aplikasi, perusahaan dapat meningkatkan daya saing dan adaptabilitas mereka, membuka pintu menuju masa depan digital yang lebih baik.

Coba API7 Enterprise sekarang dan mulailah perjalanan transformasi digital Anda!

Tags: