Verbessern Sie die Entwicklung von AI-Modellen mit Machine Learning
“Als ausgereifte und sofort einsatzbereite API-Gateway-Lösung unterstützt uns APISIX mit hoher Entwicklungseffizienz. Vom Start bei Null bis zum Bestehen des POC (Proof of Concept) dauerte es nur eine Woche.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Herausforderungen
Tencent Cloud TI Platform ist eine All-in-One-Machine-Learning-Serviceplattform, die speziell für KI-Ingenieure entwickelt wurde. Sie unterstützt die KI-Entwicklung in allen Phasen, von der Datenvorverarbeitung über den Modellaufbau, das Training, die Bewertung bis hin zum Service.
Aufgrund des rasanten Geschäftswachstums stand die Tencent Cloud TI Platform vor mehreren technischen Herausforderungen:
-
Verstreute plattformübergreifende Dienste über verschiedene Komponenten oder Services hinweg
-
Die Kopplung von plattformübergreifenden Diensten mit Backend-Services verringerte die Entwicklungseffizienz
-
Schwierigkeiten bei der Bewältigung von Hochlastszenarien und Leistungsengpässen
-
Unzureichende Überwachungsfähigkeiten behinderten die Betriebseffizienz und die Systembeobachtbarkeit
Lösung
Um die technischen Engpässe zu überwinden, nutzt die Tencent Cloud TI Platform APISIX als einheitliches Gateway-Modul, um den gesamten eingehenden Datenverkehr zu empfangen und zu verarbeiten. Dies vereinfacht die Architektur und verbessert die Effizienz. Die Plattform nutzt das flexible Plugin-System von APISIX, um Funktionen wie Routing, Zugriffskontrolle und Überwachung zu konfigurieren. Darüber hinaus verbessert die Unterstützung verschiedener Protokolle durch APISIX die Anpassungsfähigkeit und Skalierbarkeit der Plattform.
Wettbewerbsvorteile unserer Lösung
Ultrahohe Leistung
Apache APISIX unterstützt eine Einzelkern-Queries Per Second (QPS) von 23.000 mit einer durchschnittlichen Verzögerung von nur 0,6 Millisekunden. Dies ermöglicht es der Tencent Cloud TI Platform, Hochlastszenarien effizient zu bewältigen.
Hohe Verfügbarkeit
Tencent Cloud TI Platform hat sich für APISIX entschieden, da es etcd als Konfigurationszentrum verwendet, was die Leichtigkeit und hohe Verfügbarkeit des Systems fördert.
Entwicklerfreundlich
APISIX basiert auf OpenResty und Lua, was es einfach zu bedienen und für Entwickler anpassungsfreundlich macht. Entwickler ohne Vorkenntnisse in OpenResty und Lua können schnell einsteigen und APISIX nutzen, um ihre Teams zu befähigen, angepasste Entwicklungsanforderungen für Geschäftsprojekte in kurzer Zeit zu erfüllen.
Flexibles Routing
Die herausragende Routing-Flexibilität und der effiziente Routing-Matching-Algorithmus von APISIX sind entscheidende Faktoren für die Wahl durch die Tencent Cloud TI Platform. APISIX verfügt über einen optimierten Routing-Matching-Algorithmus, der innerhalb von 1 ms wirksam wird. Es unterstützt auch die Verwendung beliebiger NGINX-Variablen als Routing-Bedingung, was Entwicklern ermöglicht, Routing-Regeln für verschiedene Anwendungsszenarien einzurichten.
Ergebnisse
Verbesserte Entwicklungseffizienz
Entwickler können sich auf die Entwicklung von Kernfunktionen konzentrieren, indem plattformübergreifende Dienste in das API-Gateway integriert und von den Backend-Services entkoppelt werden.
Umfassende Beobachtbarkeit
Es wurde eine umfassende Überwachung auf Anfrageebene implementiert, einschließlich detaillierter Protokollierung und Überwachung verschiedener Kernmetriken wie QPS, Latenz und Fehlerraten.
Hervorragende API-Leistung
APISIX ermöglichte es der Tencent Cloud TI Platform, Ressourcen dynamisch basierend auf dem tatsächlichen Datenverkehr zuzuweisen, wodurch Szenarien mit direkten API-Aufrufen durch mehrere Benutzer problemlos bewältigt werden konnten.
More Customer Stories
Führender Hersteller von Mobiltelefonen schaffen
Die API7-Lösung schneidet in der Praxis in Produktionsszenarien überraschend gut ab. Wir schätzen ihre hohe Verfügbarkeit, hohe Leistung und umfangreiche Funktionalität, die es uns ermöglicht, unser Geschäft auf eine cloud-native Weise aufzubauen und zu erweitern.
Ermöglichen Sie globale Zahlungen ohne Grenzen
Airwallex hat dank der API7-Kommerziellunterstützung einen reibungslosen Übergang zu Multi-Cloud- und Microservices-Architekturen geschafft: eine hochoptimierte und skalierbare Plattform sowie die Unterstützung der Entwickler-Community!
Entdecken Sie den Wert von Games und machen Sie Glück möglich
Seit Mai 2021 hat das Tencent OTeam, das Apache APISIX verwendet, es bereits für mehr als 10 Teams innerhalb von Tencent eingesetzt, wobei das größte Projekt über 1 Milliarde tägliche Anfragen verarbeitet.