Повышение уровня разработки AI-моделей с помощью Machine Learning
“Как зрелый и готовый к использованию API-шлюз, APISIX помогает нам достичь высокой эффективности разработки. От начала с нуля до прохождения POC нам потребовалась всего одна неделя.”
Diao Shoujun
,
Senior Developer at Tencent Cloud
Take only 1 week
from 0 to finish POC
Save > 80% time and costs
with an out-of-box API gateway
Проблемы
Tencent Cloud TI Platform — это универсальная платформа для машинного обучения, предназначенная для инженеров по искусственному интеллекту. Она поддерживает весь процесс разработки ИИ, начиная с предварительной обработки данных и заканчивая созданием, обучением, оценкой и обслуживанием моделей.
Благодаря быстрому росту бизнеса Tencent Cloud TI Platform столкнулась с несколькими техническими проблемами.
-
Разрозненность сервисов на уровне платформы между различными компонентами или сервисами
-
Связь сервисов на уровне платформы с бэкенд-сервисами снижала эффективность разработки
-
Сложности в обработке сценариев с высокой нагрузкой и узкие места в производительности
-
Недостаточные возможности мониторинга ограничивали операционную эффективность и наблюдаемость системы
Решение
Для устранения технических узких мест Tencent Cloud TI Platform использует APISIX в качестве унифицированного шлюза для приема и обработки всего входящего трафика, что упрощает архитектуру и повышает эффективность. Платформа использует гибкую систему плагинов APISIX для настройки таких функций, как маршрутизация, контроль доступа и мониторинг. Кроме того, поддержка APISIX различных протоколов повышает адаптивность и масштабируемость платформы.
Преимущества нашего решения
Сверхвысокая производительность
Apache APISIX поддерживает 23 000 запросов в секунду (QPS) на одно ядро со средней задержкой всего 0,6 миллисекунды, что позволяет Tencent Cloud TI Platform справляться с высоконагруженными сценариями.
Высокая доступность
Tencent Cloud TI Platform выбрала APISIX, потому что он использует etcd в качестве центра конфигурации, что способствует легкости и высокой доступности системы.
Удобство для разработчиков
Используя OpenResty и Lua в качестве технической основы, APISIX прост в использовании и удобен для разработчиков при кастомизации. Разработчики без опыта работы с OpenResty и Lua могут быстро освоить APISIX и использовать его, что позволяет их командам оперативно решать задачи кастомизации для бизнес-проектов в короткие сроки.
Гибкая маршрутизация
Выдающаяся гибкость маршрутизации и эффективный алгоритм сопоставления маршрутов APISIX являются ключевыми факторами выбора Tencent Cloud TI Platform. APISIX имеет оптимизированный алгоритм сопоставления маршрутов, который вступает в силу в течение 1 мс. Он также поддерживает использование любой переменной NGINX в качестве условия маршрутизации, что позволяет разработчикам настраивать правила маршрутизации для удовлетворения потребностей различных сценариев применения.
Результаты
Повышение эффективности разработки
Разработчики могут сосредоточиться на создании ключевых функций, объединяя сервисы на уровне платформы в API-шлюз и отделяя их от бэкенд-сервисов.
Полная наблюдаемость
Была реализована полная мониторинговая система на уровне запросов, включая детальное логирование и мониторинг различных ключевых метрик, таких как QPS, задержка и частота ошибок.
Отличная производительность API
APISIX позволил Tencent Cloud TI Platform динамически распределять ресурсы на основе реального трафика, легко справляясь с сценариями прямых вызовов API множеством пользователей.
More Customer Stories
Расширение возможностей лидера в области бытовой техники с помощью Federated API Management
Haier использует федеративное управление API от API7 Enterprise для управления различными API-шлюзами из разных направлений бизнеса (LOB), чтобы найти баланс между гибкостью и стабильностью.
Создайте платформу для социальных сетей с разнообразным контентом
Чтобы решить проблему неудобного управления сервисами и высоких затрат на исследования и разработки, мы внедрили APISIX в качестве нашего API-шлюза. Динамическая производительность APISIX с использованием etcd лучше всего соответствует требованиям продукта Beeto.
Создание ведущего производителя мобильных телефонов
Решение API7 демонстрирует удивительно высокую эффективность в реальных производственных сценариях. Нам нравится его высокая доступность, производительность и богатый функционал, что позволяет нам строить и развивать наш бизнес в облачно-ориентированном стиле.