“APISIX는 active-active 아키텍처 하에서 서비스 품질을 크게 향상시키는 데 큰 도움을 주었습니다. 완벽한 모니터링 기능은 문제 해결을 효과적으로 지원했으며, 서비스 목록 업데이트도 매우 간편해졌습니다.”
Wenjie Shi
,
Senior Development Engineer at Infra Team
of RPC calls per day easily
in web traffic peak period
2010년에 설립된 Snowball Finance는 투자 커뮤니티로 시작하여 현재 중국의 선도적인 온라인 금융 관리 플랫폼으로 성장했습니다.
현재, 이 플랫폼은 4,300만 명 이상의 사용자 기반을 확보했으며, 중국 시장 점유율의 24%를 차지하고 있습니다. 플랫폼의 월간 활성 사용자 수는 295만 명을 넘어섭니다.
Apache APISIX를 사용하기 전에는 시스템에 여러 가지 단점이 있었습니다.
복잡한 SDK 인증 모듈은 사용자 센터가 지역 간에 액세스될 때 시스템 복잡성과 보안 위험을 증가시킵니다. 이는 마켓 서비스 모듈에서만 액티브-액티브 아키텍처가 가능하기 때문입니다.
OpenResty는 관측 가능성을 위한 강력한 모니터링 시스템이 부족하며, 확장성을 달성하기 위해 맞춤형 스크립트가 필요하여 개발 및 운영 비용이 높습니다.
불완전한 NGINX 레지스트리 센터와 하트비트 메커니즘이 없어 가용성과 안정성이 낮아 시스템 장애를 신속하게 처리할 수 없습니다.
API 게이트웨이를 사용하여 인증을 통합 관리했습니다. Snowball Finance는 기존의 JWT 인증을 APISIX의 jwt-auth 플러그인으로 대체하고, grpc-transcode 플러그인을 사용하여 이전의 OAuth 2.0 관련 인증을 처리했습니다.
APISIX의 Prometheus 플러그인을 사용하여 다차원 모니터링을 구축했습니다. 이는 NGINX 연결 상태 및 입출력 트래픽, HTTP 오류 상태 코드 비율, APISIX 요청 지연 시간과 같은 지표를 포함합니다.
APISIX 공식 플러그인인 apisix-seed를 사용하여 ZooKeeper와 통합하여 서비스 디스커버리를 구현했습니다.
Snowball Finance 내에서 RPC 호출은 하루에 약 수십억 건에 달하며, 최대 50,000 QPS에 이를 수 있어 높은 지연 시간이 발생할 수 있습니다. 우리의 솔루션은 이러한 상황을 쉽게 완화할 수 있습니다. NGINX와 LuaJIT 위에 구축된 우리의 솔루션은 CPU 코어당 최대 18,000 QPS의 트래픽을 처리할 수 있으며, 지연 시간은 단 0.2 ms입니다.
기존 아키텍처에서는 통일된 인증 방법이 없어 확장성이 떨어지고 프로세스가 번거로웠습니다. Snowball Finance는 새로운 게이트웨이가 강력한 확장성을 갖기를 기대합니다. 우리의 솔루션은 100개 이상의 플러그인을 지원하여 Snowball Finance의 비즈니스 변화에 빠르게 적응할 수 있습니다.
Snowball Finance 내부의 주요 기술 스택은 gRPC와 관련이 있어, 게이트웨이 계층에서 서비스를 전달하고 호출할 수 있는 새로운 게이트웨이가 필요하며, 프로토콜 변환도 지원해야 합니다. 우리의 솔루션은 로드 밸런싱, 속도 제한, 인증과 같은 기능을 수행할 수 있으며, 프로토콜 간 변환을 통해 다양한 클라이언트를 지원할 수 있습니다.
Snowball Finance는 게이트웨이 계층에서 인증을 실현하고자 하며, 변환 비용이 상대적으로 낮기를 요구합니다. 우리의 솔루션은 Keycloak, OAuth, Okta와 같은 다양한 인증 방법을 지원하며, 운영이 간단하고 시각화되어 있어 Snowball Finance의 인증 비용을 효과적으로 절감할 수 있습니다.
Snowball Finance는 게이트웨이 계층에서 통합 인증, 서킷 브레이커, 속도 제한을 구현하여 시스템 결합도를 낮추고 이중 데이터 센터 시나리오에서 서비스 품질을 향상시켰습니다.
Snowball Finance는 APISIX의 Prometheus 플러그인을 활용하여 게이트웨이에서 서비스 계층까지 통합 모니터링 솔루션을 구축하고, 글로벌 문제 해결을 위한 탁월한 지원을 제공했습니다.
우리의 솔루션은 Snowball Finance에게 gRPC 프로토콜 변환 및 서비스 관리를 위한 우아한 구현 방식을 제공했습니다.
API7 솔루션은 실제 프로덕션 시나리오에서 놀라울 만큼 뛰어난 성능을 보여줍니다. 우리는 그 높은 가용성, 뛰어난 성능, 그리고 풍부한 기능을 사랑하며, 이를 통해 클라우드 네이티브 방식으로 비즈니스를 구축하고 성장시킬 수 있습니다.
Haier는 다양한 Line of Business(LOB)의 서로 다른 API gateway를 관리하기 위해 API7 Enterprise의 federated API management를 사용하여 민첩성과 안정성 사이의 균형을 찾고 있습니다.