API7 API Gateway Performance Benchmark: P99 = 2.3 мс & 160k QPS
API7 Enterprise — это комплексное решение для управления жизненным циклом API на основе Apache APISIX. Оно легко интегрируется с рабочими процессами DevOps и CI/CD, обеспечивая превосходную производительность и безопасность продукта, а также поддерживая требования к корпоративному развертыванию в различных регионах.
Мы предоставляем подробные тесты производительности и наборы для тестирования производительности, чтобы помочь пользователям провести оценку производительности и получить конкретные, надежные и выполнимые метрики данных. Кроме того, мы предлагаем стандартизированные процедуры тестирования, методы и техники оптимизации производительности, чтобы гарантировать, что пользователи смогут достичь согласованных результатов тестирования, используя наши конфигурации и сценарии в качестве ориентиров.
Мы провели целевые тесты для ключевых функций, таких как одиночная маршрутизация, множественная маршрутизация, аутентификация и ограничение скорости. Результаты тестов демонстрируют, что API7 Enterprise показывает исключительные результаты в критических метриках, таких как количество одновременных запросов и задержка ответа, легко справляясь с высоконагруженным доступом и обеспечивая безопасность корпоративного уровня для управления API.
Тесты производительности
Тесты проводились в среде AWS Kubernetes и всесторонне оценивали производительность API7 Gateway в нескольких типичных сценариях, включая тесты без включенных плагинов, с включенными только плагинами ограничения скорости или аутентификации, а также с одновременным включением нескольких плагинов.
Чтобы точно оценить метрики производительности API7 Gateway, мы сначала провели базовые тесты и собрали результаты. В базовых тестах мы развернули API7 Gateway с 1 worker_process, NGINX upstream и инструментом для нагрузочного тестирования wrk на одной машине, используя режим сетевого взаимодействия host. Подробные результаты можно найти в документе Как установить эталоны производительности. В условиях отсутствия сетевых помех API7 Gateway достиг однопроцессорного QPS (запросов в секунду) 23,652.91 и поддерживал задержку менее 0.1 миллисекунды в конфигурации с одной маршрутизацией.
Затем мы изменили архитектуру развертывания, чтобы имитировать метод развертывания в производственной среде пользователя. В частности, мы развернули API7 Gateway, NGINX upstream и инструмент для нагрузочного тестирования wrk на разных узлах внутри кластера Kubernetes.
Результаты тестов показывают, что в сценарии с одной маршрутизацией API7 Gateway может поддерживать QPS до 167,019.37 запросов в секунду, при этом 95% задержек клиентских запросов составляют менее 2.16 миллисекунд. Даже в сложных сценариях с 100 маршрутами и 100 потребителями, а также с одновременным включением плагинов аутентификации и ограничения скорости, QPS все еще достигает 133,782.95, а 95% задержек клиентских запросов составляют менее 2.3 миллисекунд.
Эти данные полностью демонстрируют, что API7 Gateway может поддерживать высокую производительность и стабильность даже в сложных сценариях. Независимо от того, используются ли базовые или сложные сценарии, API7 Gateway может предоставлять эффективные и надежные услуги управления API.
Результаты тестирования производительности
| Сценарии тестирования | Количество маршрутов/потребителей | Пересылка на upstream | QPS | P99 (МС) | P95 (МС) |
|---|---|---|---|---|---|
Только включен плагин mocking | 1 маршрут, 0 потребителей | False | 310,392.07 | 1.16 | 1.08 |
| Плагины не включены | 1 маршрут, 0 потребителей | True | 167,019.37 | 2.3 | 2.16 |
| Плагины не включены | 100 маршрутов, 0 потребителей | True | 162,753.17 | 2.31 | 2.16 |
Только включен плагин limit-count | 1 маршрут, 0 потребителей | True | 145,370.10 | 2.43 | 2.24 |
Только включен плагин limit-count | 100 маршрутов, 0 потребителей | True | 143,108.40 | 2.45 | 2.25 |
Только включен плагин key-auth | 1 маршрут, 0 потребителей | True | 147,869.49 | 2.41 | 2.22 |
Только включен плагин key-auth | 100 маршрутов, 0 потребителей | True | 145,070.93 | 2.43 | 2.25 |
Включены плагины key-auth и limit-count | 1 маршрут, 0 потребителей | True | 136,725.47 | 2.43 | 2.26 |
Включены плагины key-auth и limit-count | 100 маршрутов, 0 потребителей | True | 133,782.95 | 2.48 | 2.3 |
Топология развертывания
Набор для тестирования производительности
Мы понимаем важность производительности для API-шлюза, поэтому будем продолжать оптимизировать и улучшать производительность API7 Enterprise. Помимо ссылки на Тесты производительности, вы также можете получить доступ к публично доступному Репозиторию тестов производительности для API7 Enterprise. Этот репозиторий предоставляет подробные записи конфигураций ресурсов, используемых для тестирования, и конкретную информацию о конфигурациях для различных сценариев тестирования. С помощью этого репозитория вы можете провести тестирование производительности API7 Gateway на основе предоставленных рекомендаций, чтобы получить более полное представление о его производительности.
Перед проведением тестов мы настоятельно рекомендуем убедиться, что Базовые показатели производительности, которые вы тестируете, соответствуют официально опубликованным условиям тестирования, чтобы обеспечить точность результатов тестов. Для подготовки среды и подробных шагов тестирования для AWS EKS мы рекомендуем обратиться к документу Как подготовить среду AWS EKS, который включает подробные шаги подготовки среды и тестирования. С предоставленными тестами производительности, связанным репозиторием и рекомендациями по тестированию, мы уверены, что вы сможете лучше оценить производительность API7 Enterprise и принять более обоснованные решения.
Преимущества отчетов о тестировании производительности
Тесты производительности предоставляют всесторонние ориентиры для предприятий при выборе, развертывании и оптимизации API7 Enterprise, служа важной основой для обеспечения стабильной работы системы. Они демонстрируют конкретные метрики производительности продукта в таких аспектах, как время отклика, пропускная способность и возможность одновременного доступа, помогая предприятиям объективно оценить, соответствует ли продукт их бизнес-потребностям.
Кроме того, данные тестов производительности предоставляют надежные рекомендации для предприятий по планированию конфигурации аппаратных ресурсов и масштаба кластера API7 Enterprise. Эти тесты могут помочь предприятиям заранее выявить узкие места в системе и разработать меры реагирования, чтобы избежать перерывов в бизнесе.
Начните путешествие с API7 Enterprise
API7 Enterprise предоставляет комплексные цифровые инструменты и решения, чтобы помочь предприятиям легко достичь цифровизации бизнеса. Он позволяет осуществлять единое управление и анализ данных, предлагает визуализированные бизнес-процессы и функции совместной работы, а также обладает надежными средствами безопасности и контроля соответствия.
API7 Enterprise поддерживает гибкие методы развертывания и легко интегрируется с существующей ИТ-инфраструктурой. Благодаря своим мощным функциям и широкому спектру сценариев применения, предприятия могут повысить свою конкурентоспособность и адаптивность, открывая дверь в лучшее цифровое будущее.
Попробуйте API7 Enterprise прямо сейчас и начните свое путешествие в цифровую трансформацию!