Perbandingan Kinerja Server Berbasis ARM di GCP, AWS, dan Azure
Shirui Zhao
August 12, 2022
Latar Belakang
Desain arsitektur mikroprosesor RISC menggunakan set instruksi yang sangat dioptimalkan untuk memungkinkan prosesor kecil menangani tugas-tugas kompleks dengan efisien. ARM telah menjadi landasan ekosistem komputasi terbesar di dunia dan perangkat mobile, dan dianggap oleh banyak ahli sebagai masa depan komputasi awan karena konsumsi daya yang rendah, lisensi yang fleksibel, dan biaya yang rendah.
Oleh karena itu, vendor awan utama yang dipimpin oleh AWS, Google Cloud Platform (GCP), dan Azure telah meluncurkan server dengan arsitektur ARM. Di antara mereka, AWS meluncurkan prosesor server pertama berbasis arsitektur ARM, AWS Graviton, pada tahun 2018.
AWS Graviton
AWS Graviton adalah seri prosesor server berbasis arsitektur ARM yang dirilis oleh AWS pada tahun 2018. Generasi pertama prosesor AWS Graviton menggunakan chip kustom dan inti Neoverse 64-bit.
Dirilis pada tahun 2020, prosesor AWS Graviton2 menunjukkan lompatan besar dalam kinerja dan fungsionalitas dibandingkan dengan prosesor AWS Graviton generasi pertama. Kinerja 7x lebih cepat, 4x lebih banyak inti, cache 2x lebih besar, memori 5x lebih cepat, dan lainnya.
Prosesor AWS Graviton3 terbaru yang akan dirilis pada akhir Mei 2022 didasarkan pada desain Neoverse V1 yang lebih canggih, menawarkan kinerja floating point hingga dua kali lipat, kinerja kriptografi dua kali lipat, dan kinerja ML tiga kali lipat dibandingkan dengan prosesor AWS Graviton2, termasuk dukungan untuk bfloat16. Gambar berikut menunjukkan model utama yang dilengkapi dengan prosesor AWS Graviton3:
Google Cloud Platform T2A
Google Cloud Platform (GCP) Tau T2A VM adalah pratinjau dari mesin virtual berbasis ARM pertama Google pada Juli 2022, didukung oleh prosesor Ampere® Altra® Arm yang didasarkan pada desain Neoverse N1. Tau T2A VM hadir dalam berbagai bentuk VM yang telah ditentukan dengan hingga 48 vCPU per VM dan 4GB memori per vCPU.
Mereka menawarkan bandwidth jaringan hingga 32 Gbps dan berbagai opsi penyimpanan yang terhubung ke jaringan, membuat Tau T2A VM cocok untuk beban kerja skala-out termasuk server web, layanan mikro yang dikontainerisasi, pemrosesan data rekaman, transkoding media, dan aplikasi Java. Model utamanya adalah sebagai berikut:
Mesin Virtual Berbasis ARM Azure
Pada bulan April, Microsoft mengumumkan pratinjau dari keluarga mesin virtual Azure berbasis prosesor Ampere® Altra® Arm. VM baru ini dirancang untuk menjalankan beban kerja skala-out, server web, server aplikasi, database open source, aplikasi cloud-native dan .NET yang kaya, aplikasi Java, server game, server media, dan lainnya dengan efisien. Seri VM baru ini mencakup VM umum Dpsv5 dan VM yang dioptimalkan untuk memori Epsv5. Model utamanya adalah sebagai berikut:
Uji Kinerja Server ARM Tiga Vendor Awan
Dalam artikel ini, kami akan mencerminkan kinerja keseluruhan setiap server dengan menguji kinerja single-core. Di sini, gateway API yang intensif IO jaringan, Apache APISIX, dipilih untuk mengikat satu inti CPU untuk pengujian stres pada tiga model: AWS c7g.large, GCP t2a-standard-2, dan Azure D2ps v5 (milik seri Dpsv5, CPU dual-core), dan menganalisis kinerja server melalui dua indikator QPS dan respons delay.
Apache APISIX adalah gateway API cloud-native, berkinerja tinggi, dan dapat diskalakan. Berdasarkan NGNIX + LuaJIT dan etcd, APISIX memiliki karakteristik routing dinamis dan pemuatan plugin panas dibandingkan dengan gateway API tradisional, yang sangat cocok untuk manajemen API di bawah arsitektur cloud native.
Selanjutnya, kami akan menggunakan skrip pengujian kinerja open source resmi APISIX untuk pengujian.
Kasus Uji
Kami akan menguji kinerja Apache APISIX di bawah dua skenario tipikal untuk mendapatkan data uji yang lebih realistis dan kaya:
- Skenario 1: Single upstream. Dalam skenario ini, satu upstream (tanpa plugin apa pun) digunakan untuk menguji kinerja APISIX dalam mode proxy murni kembali ke asal.
- Skenario 2: Single upstream + multiple plugins. Skenario ini menggunakan satu upstream dengan beberapa plugin dan dua plugin digunakan di sini. Ini terutama menguji kinerja APISIX ketika dua plugin inti yang mengonsumsi kinerja,
limit-countdanprometheus, diaktifkan.
Hasil Uji
Gambar di bawah ini adalah hasil uji QPS (queries per second) dan semakin tinggi angkanya, semakin baik kinerjanya.
Gambar di bawah ini adalah hasil uji respons delay dalam milidetik. Semakin kecil angkanya, semakin baik kinerjanya.
Dari perspektif QPS dan respons delay, di bawah gateway API yang intensif IO jaringan seperti Apache APISIX, AWS C7g memiliki peningkatan kinerja 100% dibandingkan dengan GCP T2A, dan Azure Dpsv5 memiliki keunggulan kinerja sekitar 15% dibandingkan dengan GCP T2A.
Perbandingan Biaya-Kinerja
Karena artikel ini hanya berfokus pada pengujian kinerja mesin ARM dari vendor awan yang berbeda, kami akan mengabaikan perubahan "jumlah inti CPU yang sama dengan memori yang berbeda", dan menganalisis rasio biaya-kinerja AWS Graviton3 dan GCP T2A hanya dari perspektif jumlah inti CPU.
Dalam skenario uji saat ini, rasio biaya-kinerja dapat dipahami sebagai: QPS/biaya.
Tabel di bawah ini membandingkan harga server per jam untuk inti yang berbeda untuk AWS C7g (US East Ohio), GCP T2A (us-central1), dan Azure Dpsv5 (East US):
| Seri VM / vCPU | 1 | 2 | 4 | 8 | 16 | 32 | 64 |
|---|---|---|---|---|---|---|---|
| AWS C7g | $0.0361 | $0.0723 | $0.1445 | $0.289 | $0.5781 | $1.1562 | $1.7342 |
| GCP T2A | $0.0385 | $0.077 | $0.154 | $0.308 | $0.616 | $1.232 | $1.848 |
| Azure Dpsv5 | * | $0.077 | $0.154 | $0.308 | $0.616 | $1.232 | $1.848 |
Tabel berikut merangkum biaya dan rasio biaya-kinerja AWS c7g.large dan GCP t2a-standard-2 yang berjalan selama satu tahun, merujuk pada data QPS untuk single upstream dalam pengujian kinerja Apache APISIX. Semakin besar angkanya, semakin tinggi QPS yang dapat diperoleh pada harga satuan.
| Biaya Tahunan | Rasio Biaya-Kinerja (QPS/biaya) | |
|---|---|---|
| AWS c7g.large | $633.3 | 36.3 |
| GCP t2a-standard-2 | $674.5 | 16.8 |
| Azure D2ps v5 | $398.0（41% off) | 33.6 |
Dari hasil uji, AWS C7g lebih hemat biaya dibandingkan dengan GCP T2A dan Azure Dpsv5. Meskipun Azure Dpsv5 hanya memiliki peningkatan kinerja 15% dibandingkan dengan GCP T2A, rasio biaya-kinerjanya hampir dua kali lipat.
Ringkasan
AWS meluncurkan prosesor berbasis ARM pertama, AWS Graviton, pada tahun 2018. Ini sekitar 4 tahun lebih awal dari GCP untuk penyebaran server berbasis ARM. Sekarang prosesor AWS Graviton telah berkembang hingga generasi ketiga.
Melalui hasil uji kinerja dan analisis rasio harga-kinerja Apache APISIX, kita dapat melihat bahwa AWS Graviton3 memiliki kinerja dan rasio biaya-kinerja yang lebih tinggi dibandingkan dengan GCP T2A dan Azure Dpsv5. Ini tidak terlepas dari fakta bahwa AWS telah lama terlibat dalam bidang server berbasis ARM.
Selain itu, kami menggunakan pengujian single-core yang terikat Apache APISIX selama pengujian kami, dan rasio biaya-kinerja AWS Graviton 3 mungkin akan lebih meningkat jika menggunakan beberapa inti.