Améliorer le développement de modèles d'IA avec le Machine Learning
“En tant que passerelle API mature et prête à l'emploi, APISIX nous aide à atteindre une efficacité de développement élevée. Du démarrage à partir de zéro jusqu'à la réussite du POC, cela ne nous a pris qu'une semaine.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Défis
Tencent Cloud TI Platform est une plateforme de services d'apprentissage automatique tout-en-un conçue pour les ingénieurs en IA. Elle facilite le développement de l'IA tout au long du processus, du prétraitement des données à la construction, à l'entraînement, à l'évaluation et au service des modèles.
Tencent Cloud TI Platform a rencontré plusieurs défis techniques en raison de sa croissance rapide.
-
Services de niveau plateforme dispersés entre différents composants ou services
-
Le couplage des services de niveau plateforme avec les services backend a réduit l'efficacité du développement
-
Difficulté à gérer les scénarios de haute concurrence et les goulots d'étranglement de performance
-
Des capacités de surveillance insuffisantes ont entravé l'efficacité opérationnelle et l'observabilité du système
Solution
Pour résoudre ses goulots d'étranglement techniques, Tencent Cloud TI Platform utilise APISIX comme module de passerelle unifié pour recevoir et traiter tout le trafic entrant, simplifiant ainsi l'architecture et améliorant l'efficacité. Elle tire parti du système de plugins flexible d'APISIX pour configurer des fonctionnalités telles que le routage, le contrôle d'accès et la surveillance. De plus, la prise en charge de divers protocoles par APISIX améliore l'adaptabilité et l'évolutivité de la plateforme.
Avantages concurrentiels de notre solution
Performance Ultra-Élevée
Apache APISIX supporte un QPS (Queries Per Second) de 23 000 par cœur avec un délai moyen de seulement 0,6 millisecondes, ce qui permet à Tencent Cloud TI Platform de gérer des scénarios de haute concurrence.
Haute Disponibilité
Tencent Cloud TI Platform a choisi APISIX car il utilise etcd comme centre de configuration, ce qui est plus propice à la légèreté et à la haute disponibilité du système.
Convivial pour les Développeurs
Basé sur OpenResty et Lua, APISIX est facile à utiliser et convivial pour les développeurs en termes de personnalisation. Les développeurs sans expérience préalable en OpenResty et Lua peuvent rapidement s'adapter et tirer parti d'APISIX, permettant à leurs équipes de répondre rapidement aux besoins de développement personnalisés pour les projets commerciaux dans un délai court.
Routage Flexible
La flexibilité exceptionnelle du routage et l'algorithme de correspondance de routage efficace d'APISIX sont des facteurs clés pour le choix de Tencent Cloud TI Platform. APISIX dispose d'un algorithme de correspondance de routage optimisé, qui prend effet en moins de 1 ms. Il supporte également l'utilisation de n'importe quelle variable NGINX comme condition de routage, permettant aux développeurs de définir des règles de routage pour répondre aux besoins de différents scénarios d'application.
Résultats
Amélioration de l'Efficacité du Développement
Les développeurs peuvent se concentrer sur le développement des fonctionnalités principales en consolidant les services de niveau plateforme dans la passerelle API et en découplant avec les services backend.
Observabilité Complète
Une surveillance complète au niveau des requêtes a été mise en place, incluant une journalisation détaillée et une surveillance de diverses métriques clés telles que le QPS, la latence et les taux d'erreur.
Excellente Performance des API
APISIX a permis à Tencent Cloud TI Platform d'allouer dynamiquement les ressources en fonction du trafic réel, répondant facilement aux scénarios d'appels API directs par plusieurs utilisateurs.
More Customer Stories
Créer une plateforme de streaming avec 513 millions d'utilisateurs actifs mensuels (MAU)
Après avoir comparé plusieurs produits de passerelle populaires, nous avons constaté que la latence de réponse d'Apache APISIX est plus de 50 % inférieure à celle des autres passerelles. De plus, Apache APISIX fonctionne toujours de manière stable lorsque l'utilisation du CPU dépasse 70 %.
Améliorer la qualité de vie à l'échelle mondiale
API7 Enterprise aide Hisense à construire une plateforme intégrée pour connecter les usines et les applications réparties dans le monde entier.
Créer un leader mondial de la fabrication de téléphones mobiles
La solution API7 fonctionne étonnamment bien dans les scénarios de production réels. Nous apprécions sa haute disponibilité, ses performances élevées et ses fonctionnalités riches, qui nous permettent de construire et de développer notre activité de manière cloud-native.