Eleva el desarrollo de modelos de IA con Machine Learning
“Como una API gateway madura y lista para usar, APISIX nos ayuda con una alta eficiencia de desarrollo. Desde comenzar desde cero hasta aprobar el POC, solo nos tomó una semana.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Desafíos
Tencent Cloud TI Platform es una plataforma de servicios de aprendizaje automático todo en uno diseñada para ingenieros de IA. Facilita el desarrollo de IA en todo el proceso, desde el preprocesamiento de datos hasta la construcción, entrenamiento, evaluación y servicio del modelo.
Debido a su rápido crecimiento empresarial, Tencent Cloud TI Platform enfrentó varios desafíos técnicos.
-
Servicios a nivel de plataforma dispersos en diferentes componentes o servicios
-
La integración de servicios a nivel de plataforma con los servicios backend redujo la eficiencia del desarrollo
-
Dificultad para manejar escenarios de alta concurrencia y cuellos de botella en el rendimiento
-
Capacidades de monitoreo insuficientes que obstaculizaron la eficiencia operativa y la observabilidad del sistema
Solución
Para abordar sus cuellos de botella técnicos, Tencent Cloud TI Platform utiliza APISIX como un módulo de puerta de enlace unificado para recibir y procesar todo el tráfico entrante, simplificando la arquitectura y mejorando la eficiencia. Aprovecha el sistema flexible de plugins de APISIX para configurar características como enrutamiento, control de acceso y monitoreo. Además, el soporte de APISIX para diversos protocolos mejora la adaptabilidad y escalabilidad de la plataforma.
Ventajas Competitivas de Nuestra Solución
Rendimiento Ultra Alto
Apache APISIX soporta un QPS (Consultas Por Segundo) de 23,000 por núcleo con un retraso promedio de solo 0.6 milisegundos, lo que permite a Tencent Cloud TI Platform manejar escenarios de alta concurrencia.
Alta Disponibilidad
Tencent Cloud TI Platform eligió APISIX porque utiliza etcd como su centro de configuración, lo que es más propicio para la ligereza y alta disponibilidad del sistema.
Amigable para Desarrolladores
Tomando OpenResty y Lua como base técnica, APISIX es fácil de usar y amigable para los desarrolladores en cuanto a personalización. Los desarrolladores sin experiencia previa en OpenResty y Lua pueden integrarse rápidamente y aprovechar APISIX, permitiendo a sus equipos abordar rápidamente los requisitos de desarrollo personalizado para proyectos empresariales en un corto período de tiempo.
Enrutamiento Flexible
La destacada flexibilidad de enrutamiento y el eficiente algoritmo de coincidencia de rutas de APISIX son factores clave para que Tencent Cloud TI Platform lo elija. APISIX tiene un algoritmo de coincidencia de rutas optimizado, que entra en vigor en menos de 1 ms. También permite usar cualquier variable de NGINX como condición de enrutamiento, lo que permite a los desarrolladores configurar reglas de enrutamiento para satisfacer las necesidades de diferentes escenarios de aplicación.
Resultados
Mejora en la Eficiencia del Desarrollo
Los desarrolladores pueden centrarse en desarrollar características principales al consolidar los servicios a nivel de plataforma en la puerta de enlace API y desacoplarlos de los servicios backend.
Observabilidad Integral
Se implementó un monitoreo integral a nivel de solicitud, incluyendo registro detallado y monitoreo de varias métricas clave como QPS, latencia y tasas de error.
Excelente Rendimiento de la API
APISIX permitió a Tencent Cloud TI Platform asignar recursos dinámicamente según el tráfico real, cumpliendo fácilmente con los escenarios de llamadas directas a la API por múltiples usuarios.
More Customer Stories
Establecer una plataforma de streaming con 513 millones de MAU
Después de comparar algunos productos de gateway principales, descubrimos que la latencia de respuesta de Apache APISIX es más de un 50% menor que la de otras pasarelas, y Apache APISIX puede seguir funcionando de manera estable incluso cuando el CPU alcanza más del 70%.
Construye una plataforma de redes sociales con contenido diverso
Para solucionar el problema de la gestión inconveniente de servicios y la costosa inversión en I+D, implementamos APISIX como nuestra puerta de enlace de API. El rendimiento dinámico de APISIX con etcd se alinea perfectamente con los requisitos del producto de Beeto.
Soporte para Blockchain como Servicio
Apache APISIX admite múltiples protocolos, lo que ahorra grandes costos de I+D y dota a nuestra plataforma de una vitalidad infinita.