Повышение уровня разработки AI-моделей с помощью Machine Learning
“Как зрелый и готовый к использованию API-шлюз, APISIX помогает нам достичь высокой эффективности разработки. От начала с нуля до прохождения POC нам потребовалась всего одна неделя.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Проблемы
Tencent Cloud TI Platform — это универсальная платформа для машинного обучения, предназначенная для инженеров по искусственному интеллекту. Она поддерживает весь процесс разработки ИИ, начиная с предварительной обработки данных и заканчивая созданием, обучением, оценкой и обслуживанием моделей.
Благодаря быстрому росту бизнеса Tencent Cloud TI Platform столкнулась с несколькими техническими проблемами.
-
Разрозненность сервисов на уровне платформы между различными компонентами или сервисами
-
Связь сервисов на уровне платформы с бэкенд-сервисами снижала эффективность разработки
-
Сложности в обработке сценариев с высокой нагрузкой и узкие места в производительности
-
Недостаточные возможности мониторинга ограничивали операционную эффективность и наблюдаемость системы
Решение
Для устранения технических узких мест Tencent Cloud TI Platform использует APISIX в качестве унифицированного шлюза для приема и обработки всего входящего трафика, что упрощает архитектуру и повышает эффективность. Платформа использует гибкую систему плагинов APISIX для настройки таких функций, как маршрутизация, контроль доступа и мониторинг. Кроме того, поддержка APISIX различных протоколов повышает адаптивность и масштабируемость платформы.
Преимущества нашего решения
Сверхвысокая производительность
Apache APISIX поддерживает 23 000 запросов в секунду (QPS) на одно ядро со средней задержкой всего 0,6 миллисекунды, что позволяет Tencent Cloud TI Platform справляться с высоконагруженными сценариями.
Высокая доступность
Tencent Cloud TI Platform выбрала APISIX, потому что он использует etcd в качестве центра конфигурации, что способствует легкости и высокой доступности системы.
Удобство для разработчиков
Используя OpenResty и Lua в качестве технической основы, APISIX прост в использовании и удобен для разработчиков при кастомизации. Разработчики без опыта работы с OpenResty и Lua могут быстро освоить APISIX и использовать его, что позволяет их командам оперативно решать задачи кастомизации для бизнес-проектов в короткие сроки.
Гибкая маршрутизация
Выдающаяся гибкость маршрутизации и эффективный алгоритм сопоставления маршрутов APISIX являются ключевыми факторами выбора Tencent Cloud TI Platform. APISIX имеет оптимизированный алгоритм сопоставления маршрутов, который вступает в силу в течение 1 мс. Он также поддерживает использование любой переменной NGINX в качестве условия маршрутизации, что позволяет разработчикам настраивать правила маршрутизации для удовлетворения потребностей различных сценариев применения.
Результаты
Повышение эффективности разработки
Разработчики могут сосредоточиться на создании ключевых функций, объединяя сервисы на уровне платформы в API-шлюз и отделяя их от бэкенд-сервисов.
Полная наблюдаемость
Была реализована полная мониторинговая система на уровне запросов, включая детальное логирование и мониторинг различных ключевых метрик, таких как QPS, задержка и частота ошибок.
Отличная производительность API
APISIX позволил Tencent Cloud TI Platform динамически распределять ресурсы на основе реального трафика, легко справляясь с сценариями прямых вызовов API множеством пользователей.
More Customer Stories
Поддержка Blockchain as A Service
Apache APISIX поддерживает множество протоколов, что значительно снижает затраты на разработку и придает нашей платформе бесконечную жизнеспособность.
Создание универсальной платформы для цифровых активов
Коммерческая поддержка API7 отлично подходит для контроля безопасности и комплексной поддержки. Мы выбрали API7 также потому, что он прекрасно поддерживает k8s.
Улучшение глобального качества жизни
API7 Enterprise помогает Hisense создать интегрированную платформу для соединения заводов и приложений, распределенных по всему миру.