Cara Menentukan Sumber Daya yang Dibutuhkan untuk API Gateway Anda?

Latar Belakang

API gateway berfungsi sebagai pintu masuk terpadu untuk layanan eksternal perusahaan, yang menekankan pentingnya yang tidak dapat disangkal. Gangguan apa pun pada ketersediaan API gateway itu sendiri secara langsung memengaruhi semua layanan yang disediakan oleh perusahaan—sebuah bencana yang tidak dapat diterima. Oleh karena itu, sangat penting untuk menentukan skala penyebaran yang tepat untuk API gateway dalam skenario produksi.

Menentukan sumber daya yang dibutuhkan sangat penting untuk memastikan kinerja, ketersediaan, dan stabilitas API gateway, mengoptimalkan pemanfaatan sumber daya dan efektivitas biaya. Sumber daya yang tidak memadai dapat menyebabkan masalah seperti waktu tunggu permintaan, kemacetan, dan kehilangan paket, yang memengaruhi pengalaman pengguna dan kualitas layanan. Sebaliknya, sumber daya yang berlebihan dapat mengakibatkan pemborosan sumber daya, meningkatkan kompleksitas operasional, menaikkan biaya, dan risiko.

Oleh karena itu, menentukan sumber daya yang dibutuhkan untuk API gateway adalah langkah penting, yang memerlukan perencanaan yang matang dan penyesuaian berdasarkan kebutuhan bisnis, perkiraan lalu lintas, dan pengujian kinerja. Artikel ini, berdasarkan praktik terbaik dari berbagai industri, menguraikan proses tiga langkah untuk referensi:

• Pemilihan Gateway: QPS inti tunggal
• Jenis Bisnis: Layanan keuangan atau non-keuangan
• Persyaratan Ketersediaan Tinggi

Pemilihan Gateway

Hambatan untuk komponen dasar API gateway biasanya terletak pada CPU, bukan jaringan, disk, atau memori. Pemrosesan CPU inti tunggal dari API gateway secara signifikan menunjukkan apakah itu bagus atau tidak. Ketika konsumsi sumber daya lebih rendah untuk lalu lintas permintaan API yang sama, itu berarti lebih sedikit mesin yang dibutuhkan, menyederhanakan manajemen operasional dan meningkatkan ketersediaan layanan.

Apache APISIX, sebuah API gateway sumber terbuka, secara konservatif memperkirakan bahwa CPU inti tunggal dapat mendukung setidaknya 10.000 QPS ketika plugin perusahaan umum untuk pemantauan, pembatasan laju, dll., diaktifkan. Perusahaan dapat melakukan tes tertentu untuk mengumpulkan hasil dengan mempertimbangkan perbedaan dalam plugin yang diaktifkan, lingkungan perangkat keras, kondisi jaringan, dan karakteristik permintaan API.

Jenis Bisnis

Sebagian besar perusahaan non-keuangan dapat mengontrol penggunaan sumber daya CPU dalam API gateway dalam kisaran 20-30% di lingkungan produksi, yang merupakan skenario ideal. Bahkan dengan peningkatan 3-5 kali lipat dalam panggilan layanan, mereka dapat menanganinya dengan efektif. Industri seperti berita, hiburan, dan internet dapat menggunakan beban ini.

Namun, untuk industri seperti perbankan, keuangan, dan sekuritas, di mana nilai API tinggi, mempertahankan beban CPU harian pada 5-10% adalah ideal. Ini memungkinkan API gateway untuk menangani lonjakan lalu lintas tiba-tiba 10-20 kali lebih tinggi dari biasanya.

Persyaratan untuk Ketersediaan Tinggi

Untuk persyaratan ketersediaan yang lebih tinggi, instance proxy API gateway harus memiliki minimal 2 node.

Contoh Praktis

Pengguna dari Sektor Layanan Keuangan

Contoh Perusahaan:

• QPS untuk panggilan API harian adalah 100.000
• Beban harian API gateway adalah 10%
• Pemilihan gateway: Apache APISIX (QPS inti tunggal: 10.000)

Berdasarkan informasi di atas, jumlah CPU yang dibutuhkan adalah 100.000 / 10.000 / 10% = 100. Jika menggunakan mesin dengan 4 inti CPU, diperlukan 25 mesin; dengan 8 inti CPU, diperlukan 13 mesin.

Pengguna dari Sektor Layanan Non-Keuangan

Contoh Perusahaan:

• QPS untuk panggilan API harian adalah 100.000
• Beban harian API gateway adalah 25%
• Pemilihan gateway: Apache APISIX (QPS inti tunggal: 10.000)

Berdasarkan informasi di atas, jumlah CPU yang dibutuhkan adalah 100.000 / 10.000 / 25% = 40. Jika menggunakan mesin dengan 4 inti CPU, diperlukan 10 mesin; dengan 8 inti CPU, diperlukan 5 mesin.

Kesimpulan

Dalam penggunaan praktis, lalu lintas bersifat kompleks dan bervariasi, memerlukan penyesuaian yang fleksibel terhadap rata-rata. Dengan mengadopsi API gateway yang bagus seperti APISIX dan mengatur sumber daya perangkat keras dengan bijaksana, perusahaan dapat lebih baik menyeimbangkan biaya dan persyaratan layanan, memastikan paparan API perusahaan yang aman, stabil, dan efisien kepada pengguna akhir.