APISIX Memberdayakan Operasi dan Kontrol Lalu Lintas dalam Interaksi Manusia-Mesin

Ikhtisar

Tentang CVTE dan Seewo

CVTE adalah pemimpin global dalam teknologi LCD (Liquid Crystal Display), khususnya dalam papan utama LCD, panel interaktif cerdas, perangkat medis, dan perangkat keras cerdas terkait. Didirikan pada tahun 2005, perusahaan ini memegang 31% pangsa pasar dalam kategori papan utama LCD TV. Keahlian ini telah menghasilkan pendirian beberapa merek industri terkemuka, termasuk Seewo, penyedia alat dan layanan pendidikan digital, dan MAXHUB, platform kolaborasi cerdas yang canggih, yang telah memberdayakan kolaborasi pendidikan dan komunikasi perusahaan.

Dengan lebih dari 6.500 karyawan, panel datar interaktif Seewo dari CVTE digunakan di 1 juta ruang kelas di seluruh dunia. Dengan keahlian dalam driver tampilan, pemrosesan sinyal, manajemen daya, interaksi manusia-komputer, pengembangan aplikasi, dan integrasi sistem, perusahaan ini berdedikasi untuk meningkatkan pengalaman komunikasi dalam elektronik konsumen dan komersial melalui inovasi teknologi yang berkelanjutan.

Tantangan

• Ekspansi bisnis yang cepat sering memicu reloading dalam arsitektur gateway dua lapis Seewo, memengaruhi kinerja dan stabilitas sistem serta menyebabkan pengalaman pengguna yang kurang optimal.
• Gateway Seewo mengalami kesulitan dalam mengoordinasikan kontrol lalu lintas secara efisien, mengakibatkan penurunan efisiensi operasional dan kemampuan kontrol lalu lintas yang terbatas.
• Gateway Seewo harus mengelola banyak domain dengan berbagai persyaratan konfigurasi yang dipersonalisasi, memerlukan manajemen yang cermat dan kontrol yang disesuaikan.

Hasil

• APISIX menyediakan metode pembaruan konfigurasi yang lebih fleksibel dan mulus, memungkinkan Seewo untuk dengan mudah memperbarui rute dan sertifikat sesuai kebutuhan, yang pada akhirnya meningkatkan efisiensi operasional dan stabilitas sistem Seewo.
• Setelah menerapkan APISIX, Seewo telah memperkuat kemampuan pemutusan sirkuit dan pembatasan laju, yang telah meningkatkan kontrol lalu lintas dan semakin memperkuat proses bisnis intinya.
• Skalabilitas yang kuat dan kinerja plugin yang luar biasa dari gateway APISIX telah memberdayakan Seewo untuk mengembangkan plugin kustom, memperluas fungsionalitas gatewaynya untuk memenuhi tuntutan bisnis yang terus berkembang.

Latar Belakang

Gateway Seewo telah berkembang melalui beberapa iterasi, menunjukkan perjalanan yang ditandai dengan inovasi teknologi yang konstan dan dedikasi tim yang gigih. Dengan setiap rilis, kami berusaha untuk meningkatkan dan mengoptimalkan versi sebelumnya, memberikan pengguna pengalaman jaringan yang tidak hanya lebih efisien dan stabil tetapi juga dilengkapi dengan fitur yang lebih kaya.

• Gateway generasi pertama: Gateway awal Seewo dibangun menggunakan OpenResty dan NGINX dengan konfigurasi statis. Namun, gateway ini mengandalkan Secure Copy (SCP) untuk deployment, memerlukan bantuan operasional untuk memastikan rilis yang lancar.

• Gateway generasi kedua: Sistem generasi kedua memperkenalkan perbaikan dengan mengintegrasikan modul upsync dengan OpenResty dan menggabungkan Consul untuk penemuan layanan. Versi ini memberdayakan pengembang untuk merilis pembaruan secara mandiri, meskipun dukungan operasional tetap diperlukan untuk penskalaan.

• Gateway generasi ketiga: Sistem generasi ketiga Seewo dikembangkan pada Kubernetes (K8s). Meskipun adaptasi ini mengatasi tantangan deployment dan penskalaan sebelumnya, hal ini memperkenalkan kompleksitas baru. Menyadari bahwa beberapa aplikasi masih berada pada mesin host, arsitektur gateway menggabungkan Ingress NGINX pada K8s sebagai lapisan kedua, sambil mempertahankan OpenResty sebagai gateway lapisan pertama. Namun, pendekatan ini, meskipun meningkatkan skalabilitas, menyebabkan gangguan selama perubahan rute, memengaruhi aplikasi dengan koneksi persisten.

Pertumbuhan bisnis Seewo yang cepat telah meningkatkan standar stabilitas secara keseluruhan. Mengadopsi struktur gateway dua lapis ini menimbulkan masalah – setiap penyesuaian, baik itu reloading NGINX lapisan pertama atau modifikasi dalam rute gateway lapisan kedua, dapat menyebabkan gangguan pada koneksi yang bertahan lama. Hal ini dapat menjadi masalah yang signifikan, terutama dalam skenario di mana mempertahankan koneksi yang tidak terputus sangat penting. Misalnya, bayangkan situasi di mana perangkat lunak Seewo sedang dalam proses mengambil status pengajaran seorang guru, dan tiba-tiba, koneksi terputus. Gangguan ini tidak hanya mengganggu proses pengambilan status tetapi juga berdampak langsung pada kualitas pengalaman mengajar.

Kekurangan Sebelum Menggunakan APISIX

• Reloading yang Memakan Waktu dalam Arsitektur Dua Lapis: Dalam struktur gateway dua lapis, membuat penyesuaian kecil, seperti menambahkan domain, modifikasi konfigurasi, atau menerapkan aturan khusus, memerlukan reloading NGINX yang memakan waktu. Proses ini bisa merepotkan dan memengaruhi efisiensi operasional Seewo.

• Kontrol Lalu Lintas dan Pengalihan yang Tidak Terkelola: Menangani masalah kontrol lalu lintas yang kompleks dalam arsitektur Seewo, yang melayani lebih dari 10 juta pengguna, memerlukan perspektif holistik. Seewo telah menghadapi tantangan besar dalam mengoordinasikan komponen untuk kontrol lalu lintas, mengingat basis pengguna yang luas. Dalam masalah sisi klien, Seewo telah menghadapi risiko mengganggu operasi sisi server dan kegagalan berantai. Kurangnya kontrol lalu lintas yang kuat di tingkat gateway bahkan memperburuk dampak pada sistem backend Seewo. Selain itu, tantangan warisan yang terus-menerus dalam interaksi antara NGINX dan gateway Ingress telah menimbulkan hambatan untuk pengalihan lalu lintas Seewo di masa depan, memerlukan penyelesaian segera untuk operasi infrastruktur yang mulus.

• Kelebihan Domain dan Kustomisasi: Operasi Seewo melibatkan pengelolaan lebih dari 700 domain, masing-masing disertai dengan berbagai konfigurasi yang disesuaikan, termasuk pengalihan, daftar blokir, dan daftar izin. Menyesuaikan konfigurasi ini ke plugin APISIX memperkenalkan kompleksitas yang signifikan.

• DNS Dua Lapis yang Rumit: Seewo telah menghadapi kendala dengan arsitektur DNS dua lapisnya, menimbulkan ketidaknyamanan dalam prosedur rollback. Sementara itu, Seewo kurang memiliki optimasi yang diperlukan untuk panggilan jaringan internal yang efisien dalam infrastrukturnya.

Sebagai respons terhadap tantangan ini dan untuk meningkatkan efisiensi operasional, Seewo membuat keputusan strategis untuk mengadopsi solusi gateway APISIX.

Solusi Saat Bermigrasi ke APISIX

Mengoptimalkan Pembuatan Rute dan Arsitektur APISIX

Pada tahap awal proses migrasi, Seewo secara strategis merancang rute APISIX, langkah penting yang bertujuan untuk meningkatkan fungsionalitas sistem. Keputusan ini melibatkan penyederhanaan arsitektur yang ada dengan menghilangkan lapisan tambahan fungsi khusus seperti "rewrite" dan "set-header." Fungsi-fungsi ini terintegrasi dengan mulus ke dalam Ingress lapisan kedua, berkontribusi pada struktur keseluruhan yang lebih efisien dan disederhanakan. Secara khusus, Seewo dengan mulus menggabungkan plugin APISIX ke dalam konfigurasi NGINX, semakin menekankan kemampuan integrasi yang serbaguna dan mulus dari APISIX.

Memvalidasi Penerusan Rute dan Menilai Kinerja

Setelah menghasilkan rute, Seewo memfokuskan perhatiannya pada tugas memvalidasi seluruh proses penerusan, mengakui peran penting APISIX. Menggunakan alat goreplay untuk merekam dan memutar ulang, Seewo memastikan ketepatan penerusan rute—bukti dari fungsi integral APISIX dalam menjaga akurasi. Pengujian otomatis yang ketat kemudian diterapkan untuk memeriksa fungsionalitas plugin APISIX, memastikan operasinya yang mulus. Dengan fungsionalitas yang dikonfirmasi, Seewo secara strategis mengalihkan fokus untuk mengevaluasi seberapa baik APISIX selaras dengan persyaratan kinerja internalnya. Untuk memfasilitasi penilaian ini, plugin elastic-apm diperkenalkan, dan plugin tertentu yang memengaruhi QPS dioptimalkan, menyoroti kemampuan serbaguna APISIX dalam meningkatkan kinerja dan fungsionalitas sepanjang proses.

Menyederhanakan Pengalihan Lalu Lintas untuk Rollback yang Mulus

Migrasi gateway menghadapi tantangan terbesarnya selama pengalihan lalu lintas, yang secara langsung memengaruhi kualitas produksi. Meskipun memanfaatkan goreplay untuk merekam dan memutar ulang lalu lintas, kebutuhan akan solusi rollback yang andal menjadi prioritas utama. Dalam menghadapi anomali, seperti masalah penerusan atau crash APISIX akibat pengalihan lalu lintas, Seewo memerlukan mekanisme rollback yang cepat dan andal.

Untuk mengatasi tantangan ini, Seewo secara strategis memulai transisi lalu lintas jaringan publik, menekankan peran penting APISIX. Langkah strategis ini memberdayakan Seewo untuk secara efisien memodifikasi alamat sumber selama transisi, memastikan rollback lalu lintas yang cepat dalam situasi luar biasa. Seluruh proses pengalihan lalu lintas dalam kondisi luar biasa dapat dilakukan dalam hitungan detik, menunjukkan peran instrumental APISIX dalam memfasilitasi transisi yang cepat dan tidak terputus.

Mengatasi Tantangan SSL dan Pencocokan Rute dengan Deployment APISIX

Ketika Seewo pertama kali menerapkan APISIX, perusahaan ini menghadapi tantangan terkait handshake SSL. Misalnya, dalam sistem lama atau pustaka OpenSSL, ssl_ciphers tidak berpotongan dengan nilai default server, mengakibatkan handshake SSL yang gagal. Namun, tim APISIX secara aktif menangani masalah ini. Sambil menavigasi rintangan kompatibilitas dalam sistem lama Seewo dan meningkatkan versi, Seewo bekerja sama erat dengan tim APISIX untuk menemukan solusi yang efektif, merekomendasikan untuk memeriksa persimpangan handshake SSL sebelum deployment untuk migrasi yang mulus.

Sementara itu, peningkatan ke versi 2.15 LTS dari APISIX memperkenalkan beberapa tantangan baru, terutama dalam pencocokan rute. Meskipun menghadapi masalah, tim APISIX merespons dengan cepat dan menyelesaikannya di cabang master mereka. Penting untuk menekankan bahwa, terlepas dari tantangan ini, APISIX telah secara proaktif memberikan dukungan yang kuat. Kolaborasi ini melampaui ranah teknis, mewakili perjalanan bersama dalam mendorong pengembangan bisnis yang positif.

Pencapaian Setelah Menggunakan APISIX

Efisiensi Operasional yang Dioptimalkan

Setelah integrasi mulus APISIX ke dalam kerangka operasionalnya, Seewo telah mencapai tonggak penting dengan sepenuhnya menghilangkan tantangan terkait reload. Pencapaian ini secara signifikan memberdayakan Seewo, memungkinkannya untuk melakukan pembaruan rute dan sertifikat dengan mudah, menghasilkan alur kerja yang lebih efisien dan terstruktur untuk tim pengembangnya.

Peningkatan Kemampuan Manajemen Lalu Lintas

Berkat skalabilitas yang luar biasa dan kinerja plugin yang luar biasa dari APISIX, integrasi APISIX ke dalam infrastruktur Seewo secara signifikan meningkatkan kemampuan pemutusan sirkuit dan pembatasan laju. Implementasi strategis ini tidak hanya meningkatkan kemampuan Seewo untuk mengelola dan mengontrol lalu lintas secara efektif tetapi juga memperkuat proses bisnis intinya. Kekuatan bawaan APISIX berkontribusi pada ketahanan keseluruhan operasi Seewo, memastikan pengiriman layanan yang lebih lancar dan andal. Memanfaatkan skalabilitas kuat APISIX, Seewo secara proaktif terlibat dalam pengembangan plugin untuk lebih meningkatkan kemampuannya dan memenuhi kebutuhan yang berkembang.

Pengembangan Plugin Kustom untuk Peningkatan Gateway

Seewo telah memanfaatkan kemampuan APISIX, yang memiliki skalabilitas dan kinerja plugin yang andal, untuk terlibat dalam pengembangan plugin kustom. Salah satu contoh yang patut diperhatikan adalah integrasi mulus fitur autentikasi terpadu ke dalam APISIX, secara efektif menghilangkan kebutuhan untuk sistem autentikasi terpisah saat mengintegrasikan layanan baru. Pendekatan yang disederhanakan ini secara signifikan mempercepat proses iterasi produk Seewo, memungkinkan perusahaan untuk beradaptasi lebih cepat dengan perubahan persyaratan dan tuntutan pasar yang berkembang, sehingga menciptakan kerangka operasional yang lebih gesit dan responsif.

Arsitektur Efisien untuk Pengurangan Biaya

Langkah Seewo dalam penghematan biaya dan efisiensi operasional didorong oleh penghapusan lapisan NGINX yang berlebihan. Dalam struktur gateway dua lapis sebelumnya, pengembang menghadapi ketidakjelasan dengan lapisan NGINX awal. Namun, penggabungan dua lapisan gateway menjadi satu tidak hanya menghilangkan redundansi tetapi juga memberikan pandangan yang transparan kepada pengembang tentang konfigurasi arsitektur, mencakup rute, plugin, dan lainnya. Integrasi yang harmonis ini tidak hanya menyederhanakan pemecahan masalah dan penyelesaian masalah tetapi juga menyoroti peran instrumental APISIX dalam menumbuhkan kejelasan dan efisiensi dalam infrastruktur Seewo.

Ringkasan

Sejak menerapkan APISIX, Seewo secara signifikan telah meningkatkan efisiensi operasional dan kemampuan kontrol lalu lintas. Secara bersamaan, memperkuat fungsionalitas gateway juga telah mempercepat proses iterasi produknya, menghasilkan peningkatan efisiensi kerja secara keseluruhan dan pengurangan biaya. Sepanjang perjalanan ini, Seewo telah aktif berkontribusi kepada komunitas, mengirimkan total 8 pull request untuk menangani dan meningkatkan berbagai masalah terkait plugin ekosistem. Kontribusi ini termasuk menyempurnakan dukungan untuk URI kustom dalam fitur batch_request dan menerapkan validasi badan permintaan untuk plugin hmac-auth. Ke depan, Seewo bertujuan untuk sepenuhnya memanfaatkan dan mengeksplorasi fitur APISIX dalam praktik kami yang sedang berlangsung, mengantisipasi pengenalan lebih banyak fungsionalitas kolaboratif di masa depan.