Tingkatkan Pengembangan Model AI dengan Machine Learning
“Sebagai API gateway yang matang dan siap pakai, APISIX membantu kami dengan efisiensi pengembangan yang tinggi. Dari mulai dari nol hingga melewati POC, kami hanya membutuhkan waktu satu minggu.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Tantangan
Tencent Cloud TI Platform adalah platform layanan pembelajaran mesin satu atap yang dirancang untuk insinyur AI. Platform ini memberdayakan pengembangan AI sepanjang proses, mulai dari pra-pemrosesan data hingga pembuatan model, pelatihan, evaluasi, dan layanan.
Tencent Cloud TI Platform menghadapi beberapa tantangan teknis akibat pertumbuhan bisnis yang cepat.
-
Layanan tingkat platform yang tersebar di berbagai komponen atau layanan
-
Keterkaitan layanan tingkat platform dengan layanan backend mengurangi efisiensi pengembangan
-
Kesulitan dalam menangani skenario konkurensi tinggi dan hambatan kinerja
-
Kemampuan pemantauan yang tidak memadai menghambat efisiensi operasional dan observabilitas sistem
Solusi
Untuk mengatasi hambatan teknisnya, Tencent Cloud TI Platform menggunakan APISIX sebagai modul gateway terpadu untuk menerima dan memproses semua lalu lintas masuk, menyederhanakan arsitektur dan meningkatkan efisiensi. Platform ini memanfaatkan sistem plugin fleksibel APISIX untuk mengonfigurasi fitur seperti routing, kontrol akses, dan pemantauan. Selain itu, dukungan APISIX terhadap berbagai protokol meningkatkan adaptabilitas dan skalabilitas platform.
Keunggulan Solusi Kami
Kinerja Sangat Tinggi
Apache APISIX mendukung Queries Per Second (QPS) inti tunggal sebesar 23.000 dengan rata-rata penundaan hanya 0,6 milidetik, yang memungkinkan Tencent Cloud TI Platform untuk menangani skenario konkurensi tinggi.
Ketersediaan Tinggi
Tencent Cloud TI Platform memilih APISIX karena menggunakan etcd sebagai pusat konfigurasinya, yang lebih mendukung ringan dan ketersediaan tinggi sistem.
Ramah Pengembang
Dengan menggunakan OpenResty dan Lua sebagai dasar teknis, APISIX mudah digunakan dan ramah bagi pengembang untuk kustomisasi. Pengembang tanpa pengalaman sebelumnya dalam OpenResty dan Lua dapat dengan cepat bergabung dan memanfaatkan APISIX, memberdayakan tim mereka untuk dengan cepat memenuhi kebutuhan pengembangan kustom untuk proyek bisnis dalam waktu singkat.
Routing yang Fleksibel
Fleksibilitas routing yang luar biasa dan algoritma pencocokan routing yang efisien dari APISIX adalah faktor kunci bagi Tencent Cloud TI Platform untuk memilihnya. APISIX memiliki algoritma pencocokan routing yang dioptimalkan, yang berlaku dalam waktu 1 ms. Ini juga mendukung penggunaan variabel NGINX apa pun sebagai kondisi routing, memungkinkan pengembang untuk mengatur aturan routing untuk memenuhi kebutuhan berbagai skenario aplikasi.
Hasil
Peningkatan Efisiensi Pengembangan
Pengembang dapat fokus pada pengembangan fitur inti dengan mengkonsolidasikan layanan tingkat platform ke dalam gateway API dan memisahkannya dari layanan backend.
Observabilitas yang Komprehensif
Pemantauan tingkat permintaan yang komprehensif diimplementasikan, termasuk pencatatan dan pemantauan rinci berbagai metrik inti seperti QPS, latensi, dan tingkat kesalahan.
Kinerja API yang Luar Biasa
APISIX memberdayakan Tencent Cloud TI Platform untuk mengalokasikan sumber daya secara dinamis berdasarkan lalu lintas aktual, dengan mudah memenuhi skenario panggilan API langsung oleh banyak pengguna.
More Customer Stories
Temukan Nilai dari Games, Wujudkan Kebahagiaan yang Mungkin
Per Mei 2021, Tencent OTeam yang menggunakan Apache APISIX telah menerapkannya di lebih dari 10 tim di dalam Tencent, dengan proyek terbesar menangani lebih dari 1 miliar permintaan harian.
Satu Klik untuk Layanan Pasar Real-Time
APISIX telah membantu kami meningkatkan kualitas layanan secara signifikan di bawah arsitektur active-active. Fitur pemantauan yang lengkapnya telah mendukung pemecahan masalah dengan efektif, dan memperbarui daftar layanan menjadi sangat mudah.
Membangun Platform Streaming dengan 513 Juta MAU
Setelah membandingkan beberapa produk gateway mainstream, kami menemukan bahwa latency respons Apache APISIX lebih dari 50% lebih rendah dibandingkan gateway lainnya, dan Apache APISIX masih dapat berjalan dengan stabil saat CPU mencapai lebih dari 70%.