Verbessern Sie die Entwicklung von AI-Modellen mit Machine Learning
“Als ausgereifte und sofort einsatzbereite API-Gateway-Lösung unterstützt uns APISIX mit hoher Entwicklungseffizienz. Vom Start bei Null bis zum Bestehen des POC (Proof of Concept) dauerte es nur eine Woche.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Herausforderungen
Tencent Cloud TI Platform ist eine All-in-One-Machine-Learning-Serviceplattform, die speziell für KI-Ingenieure entwickelt wurde. Sie unterstützt die KI-Entwicklung in allen Phasen, von der Datenvorverarbeitung über den Modellaufbau, das Training, die Bewertung bis hin zum Service.
Aufgrund des rasanten Geschäftswachstums stand die Tencent Cloud TI Platform vor mehreren technischen Herausforderungen:
-
Verstreute plattformübergreifende Dienste über verschiedene Komponenten oder Services hinweg
-
Die Kopplung von plattformübergreifenden Diensten mit Backend-Services verringerte die Entwicklungseffizienz
-
Schwierigkeiten bei der Bewältigung von Hochlastszenarien und Leistungsengpässen
-
Unzureichende Überwachungsfähigkeiten behinderten die Betriebseffizienz und die Systembeobachtbarkeit
Lösung
Um die technischen Engpässe zu überwinden, nutzt die Tencent Cloud TI Platform APISIX als einheitliches Gateway-Modul, um den gesamten eingehenden Datenverkehr zu empfangen und zu verarbeiten. Dies vereinfacht die Architektur und verbessert die Effizienz. Die Plattform nutzt das flexible Plugin-System von APISIX, um Funktionen wie Routing, Zugriffskontrolle und Überwachung zu konfigurieren. Darüber hinaus verbessert die Unterstützung verschiedener Protokolle durch APISIX die Anpassungsfähigkeit und Skalierbarkeit der Plattform.
Wettbewerbsvorteile unserer Lösung
Ultrahohe Leistung
Apache APISIX unterstützt eine Einzelkern-Queries Per Second (QPS) von 23.000 mit einer durchschnittlichen Verzögerung von nur 0,6 Millisekunden. Dies ermöglicht es der Tencent Cloud TI Platform, Hochlastszenarien effizient zu bewältigen.
Hohe Verfügbarkeit
Tencent Cloud TI Platform hat sich für APISIX entschieden, da es etcd als Konfigurationszentrum verwendet, was die Leichtigkeit und hohe Verfügbarkeit des Systems fördert.
Entwicklerfreundlich
APISIX basiert auf OpenResty und Lua, was es einfach zu bedienen und für Entwickler anpassungsfreundlich macht. Entwickler ohne Vorkenntnisse in OpenResty und Lua können schnell einsteigen und APISIX nutzen, um ihre Teams zu befähigen, angepasste Entwicklungsanforderungen für Geschäftsprojekte in kurzer Zeit zu erfüllen.
Flexibles Routing
Die herausragende Routing-Flexibilität und der effiziente Routing-Matching-Algorithmus von APISIX sind entscheidende Faktoren für die Wahl durch die Tencent Cloud TI Platform. APISIX verfügt über einen optimierten Routing-Matching-Algorithmus, der innerhalb von 1 ms wirksam wird. Es unterstützt auch die Verwendung beliebiger NGINX-Variablen als Routing-Bedingung, was Entwicklern ermöglicht, Routing-Regeln für verschiedene Anwendungsszenarien einzurichten.
Ergebnisse
Verbesserte Entwicklungseffizienz
Entwickler können sich auf die Entwicklung von Kernfunktionen konzentrieren, indem plattformübergreifende Dienste in das API-Gateway integriert und von den Backend-Services entkoppelt werden.
Umfassende Beobachtbarkeit
Es wurde eine umfassende Überwachung auf Anfrageebene implementiert, einschließlich detaillierter Protokollierung und Überwachung verschiedener Kernmetriken wie QPS, Latenz und Fehlerraten.
Hervorragende API-Leistung
APISIX ermöglichte es der Tencent Cloud TI Platform, Ressourcen dynamisch basierend auf dem tatsächlichen Datenverkehr zuzuweisen, wodurch Szenarien mit direkten API-Aufrufen durch mehrere Benutzer problemlos bewältigt werden konnten.
More Customer Stories
Aufbau einer Automotive Intelligent Computing Platform
APISIX erfüllt unsere Anforderungen an die Beschleunigung von Entwicklung und Iteration. Was APISIX auszeichnet, sind seine umfangreichen Plugins, die sichtbare Konfiguration, die fein abgestimmte Überprüfung, die vielfältigen Funktionen, die aktive Community und die hohe Leistungsfähigkeit.
Streaming-Plattform mit 513 Millionen MAU einrichten
Nachdem wir einige Mainstream-Gateway-Produkte verglichen haben, stellen wir fest, dass die Antwortlatenz von Apache APISIX um mehr als 50 % niedriger ist als bei anderen Gateways. Darüber hinaus kann Apache APISIX auch dann stabil laufen, wenn die CPU-Auslastung mehr als 70 % erreicht.
Unterstützung von Blockchain as a Service
Apache APISIX unterstützt mehrere Protokolle, was erhebliche Entwicklungs- und Forschungskosten einspart und unserer Plattform unendliche Vitalität verleiht.