New

APISIX로 AI의 미래를 열어보세요 – AI 에이전트와 LLM을 위한 완전 오픈소스 AI 게이트웨이!더 알아보기

더 알아보기

Apache APISIX를 처음 만든 팀이 선보입니다

무료로 시작하세요. AI가 성과를 만들기 시작하면 확장하세요.

첫 AI 기능은 무료로 출시하고, 트래픽이 늘면 관리형 클라우드에서 키우십시오 — 모두 밀리초 미만의 오버헤드로. 오픈 소스 코어이며, 필요해지는 순간 엔터프라이즈까지 준비돼 있습니다.

Sub-ms
프록시 오버헤드
100+
LLM 제공업체
100%
OpenAI-compatible
Apache-2.0
오픈 소스 코어

AI와 함께 성장하는 요금제

무료로 시작해 트래픽이 늘면 관리형 클라우드에서 키우십시오 — 원하시면 언제든 오픈 소스 코어를 직접 호스팅할 수도 있습니다.

Developer

첫 AI 기능을 출시하세요 — 무료, 완전 관리형.

$0/ 월
기록되는 요청 10만 건 / 월

10만 건을 넘어도 트래픽은 계속 흐릅니다 — 초과분이 기록되지 않을 뿐입니다.

무료로 시작하기
  • LLM 제공업체 직접 연결, OpenAI 호환
  • 1 환경 · 1 데이터 플레인 · 1 멤버
  • 요청 로그 (3일 보관)
  • API 키 교체, 소셜 로그인
  • 커뮤니티 지원
가장 인기
Team

성과를 낸 AI 기능을 프로덕션 규모로.

$149/ 월
기록되는 요청 100만 건 / 월

추가 100만 건마다 $100, 차단은 없습니다. 월 500만 건을 꾸준히 넘으면 Enterprise로 이동합니다.

시작하기
  • Developer의 모든 기능에 더해:
  • 모델 라우팅, 합의, 로드 밸런싱 & 페일오버
  • 예산, 속도 제한 & 가드레일
  • RBAC, 팀 & 응답 캐싱
  • 25 멤버 · 3 환경 · 3 데이터 플레인
  • 30일 보관 · 표준 SLA
Enterprise

조직 전체에 AI를 확산하세요 — 거버넌스, 컴플라이언스, 지원까지.

Custom
기록되는 요청 1,000만 건 이상 / 월

할당량, 초과 요금, 배포 방식, SLA를 모두 맞춤 설계합니다.

영업팀에 문의
  • Team의 모든 기능에 더해:
  • AWS Bedrock · Azure OpenAI · GCP Vertex AI
  • 조직 관리 · SSO · 감사 로그
  • 맞춤 가드레일 훅 · 시맨틱 캐시
  • SOC 2 Type II / ISO 27001 / GDPR / HIPAA
  • 프라이빗 / VPC 배포 · 전담 지원
오픈 소스 프로젝트이거나 투자를 받은 스타트업이신가요? Team 요금제를 무료로 이용하실 수 있습니다 — Team의 모든 기능을 무료로, 사용량 한도와 심사를 조건으로 제공합니다.
무료 이용 신청
직접 호스팅하고 싶으신가요? AISIX는 오픈 소스(Apache-2.0)입니다 — 게이트웨이 전체를 직접, 무료로, 계속 운영하실 수 있습니다.
GitHub에서 보기

'기록되는 요청'이란 무엇인가요?

오류를 포함해 게이트웨이를 거쳐 라우팅되고 기록된 모든 호출입니다. 스트리밍 응답 한 번은 요청 한 건으로 계산합니다.

무료 요금제도 차단하지 않습니다

Developer에서는 10만 건을 넘어도 트래픽이 계속 흐릅니다 — 초과분이 기록되거나 집계되지 않을 뿐입니다. 예고 없는 차단은 없습니다.

초과 요금은 예측 가능합니다

100만 건을 넘으면 추가 100만 건마다 $100가 월 청구서에 자동으로 더해집니다. 트래픽이 끊기는 일은 없습니다.

AI를 만들고, 출시하고, 확장하는 데 필요한 모든 것

밀어서 요금제 비교 →

기능 Developer$0 Team$149/mo EnterpriseCustom
사용량 및 한도
기록되는 요청 수 / 월100K1M10M+
멤버125무제한
환경13무제한
데이터 플레인13무제한
로그 보관 기간3일30일맞춤
메트릭 보관 기간30일90일맞춤
월간 초과분기록되지 않음$100 / 1M맞춤
AI 게이트웨이 코어
통합 OpenAI 호환 API
채팅 완성 + 스트리밍 (SSE)
Anthropic-compatible /v1/messages
임베딩 · 재순위
오디오 (음성 인식, TTS)
이미지 생성
제공업체 패스스루
Playground
단일 모델 직접 호출
가상 / 라우팅 모델
모델 합의 (합의 멤버 + 심사 모델)
MCP gateway
모델 제공업체
OpenAI · Anthropic · Gemini · DeepSeek
주요 20개 이상
OpenAI 호환으로 100개 이상
AWS Bedrock · Azure OpenAI · GCP Vertex AI
라우팅 및 안정성
가중치 로드 밸런싱
고정 카나리 / A-B 라우팅
태그 기반 조건부 라우팅 · 와일드카드 별칭
자동 재시도
오류 / 429 시 폴백
업스트림 헬스 체크
시맨틱 라우팅
비용 / 지연 시간 / 부하 기반 라우팅
속도 제한
요청 속도 제한 (RPM / RPD)
토큰 속도 제한 (TPM / TPD)
동시 처리 한도
팀별 / 멤버별 한도
비용 및 예산
키별 예산 (강제 중단 / 경고)
조직 / 환경 / 제공업체 예산
예산 알림 (75 / 90 / 100%)
모델별 비용 추적
캐싱
응답 캐시 (완전 일치)
메모리 + Redis 백엔드
절감 비용 텔레메트리
시맨틱 캐시
보안 및 가드레일
키워드 / 정규식 가드레일
클라우드 안전성 가드레일
개인정보 마스킹 · 콘텐츠 검열
맞춤 가드레일 훅
관측 가능성
요청 접근 로그
사용량 및 비용 분석 대시보드기본
Prometheus metrics
OpenTelemetry 트레이스 내보내기
알림
데이터 레이크 / 버킷 내보내기
접근 제어 및 조직
API 키 관리 + 교체
가상 키 및 모델 허용 목록
개인 액세스 토큰 (CLI / CI)
소셜 로그인 (GitHub / Google)
RBAC
조직 관리
SSO (SAML / OIDC)
감사 로그
배포 및 컴플라이언스
관리형 SaaS 호스팅
제공업체 키 저장 시 암호화
셀프 호스팅 / 온프레미스 옵션
프라이빗 / VPC 배포
SOC 2 Type II · ISO 27001 · GDPR · HIPAA
BAA · 데이터 격리
지원 및 SLA
지원커뮤니티표준전담
SLA표준맞춤

확장할 때를 대비한 엔터프라이즈급 보안

AISIX를 자체 클라우드나 VPC에서 운영하고, 조직 전체 정책을 적용하며, 컴플라이언스 기준을 충족하십시오 — 전담 팀과 SLA가 뒷받침합니다.

SOC 2 Type II ISO 27001 GDPR HIPAA
SSOSAML / OIDC
Private / VPC자체 클라우드에서 운영
조직 관리모든 팀에 일관된 정책
감사 로그모든 변경을 추적 가능하게
데이터 격리봉투 암호화된 키, BAA
전담 지원온보딩 + SLA

자주 묻는 질문

토큰이나 LLM 사용량에 대해 과금하나요?+

아니요. 제공업체 키는 직접 준비하시고 LLM 요금은 OpenAI, Anthropic 등에 직접 결제하십시오. AISIX Cloud는 요금제 구독료만 청구하며 토큰에 대한 추가 마진은 전혀 없습니다.

AISIX는 LLM API 릴레이나 토큰 재판매와 무엇이 다른가요?+

릴레이는 자체 계정과 서버를 통해 모델 접근 권한을 재판매합니다 — 프롬프트와 응답, API 키가 통제할 수 없는 제3자를 거치고, 그들의 마진과 공유 속도 제한, 상위 계정이 제한되거나 정지될 위험까지 함께 떠안게 됩니다. AISIX는 재판매업체가 아니라 고객의 게이트웨이입니다. 직접 보유한 제공업체 키를 연결하고 자체 클라우드나 VPC에서 운영하실 수 있으며(봉투 암호화된 키를 쓰는 관리형 플레인도 가능합니다), 트래픽과 데이터는 고객의 통제 아래 남습니다. 라우팅, 페일오버, 속도 제한, 가드레일, 예산, 완전한 관측 가능성을 모두 제공하고 제공업체에는 직접 결제하므로 토큰 마진이 없습니다. 오픈 소스(Apache-2.0, Rust로 구현)이면서 프로덕션 수준이고, 규모가 커지면 SOC 2 / ISO 27001 / GDPR / HIPAA까지 대응합니다.

월간 요청 할당량에는 무엇이 포함되나요?+

기록되는 요청 — 오류 응답을 포함해 게이트웨이를 거쳐 라우팅되고 기록된 모든 호출입니다. 스트리밍 응답 한 번은 요청 한 건으로 계산합니다.

한도에 도달하면 어떻게 되나요?+

Developer에서는 10만 건을 넘어도 트래픽이 계속 흐릅니다 — 초과분이 기록되지 않아 로그나 분석에 나타나지 않을 뿐, 차단되는 것은 없습니다. Team에서는 추가 100만 요청마다 $100가 자동으로 더해지며 트래픽이 끊기지 않습니다. 월 500만 건을 꾸준히 넘는다면 Enterprise로 옮길 시점입니다.

클라우드 대신 AISIX를 직접 호스팅할 수 있나요?+

예. AISIX는 Apache-2.0 오픈 소스입니다 — 게이트웨이 전체를 단일 Rust 바이너리로, 무료로, 커뮤니티 지원과 함께 운영하실 수 있습니다. 관리형 클라우드는 여기에 호스팅되는 컨트롤 플레인, 대시보드, 예산, RBAC, SLA를 더합니다. Enterprise에서는 관리형 스택 전체를 고객의 클라우드나 VPC 안에서 운영할 수도 있습니다.

어떤 LLM 제공업체를 지원하나요?+

하나의 OpenAI 호환 API로 100개가 넘는 제공업체를 지원하며, 주요 연동만 20종 이상입니다(OpenAI, Anthropic, Gemini, DeepSeek, Groq, Mistral, Cohere, Qwen, Together, Fireworks 등). 클라우드 제공업체인 AWS Bedrock, Azure OpenAI, GCP Vertex AI는 Enterprise에서 이용하실 수 있습니다.

SSO, 감사 로그, 컴플라이언스는 어떻게 동작하나요?+

조직 관리, SSO(SAML / OIDC), 감사 로그, 그리고 SOC 2 Type II / ISO 27001 / GDPR / HIPAA는 Enterprise에 포함됩니다. 요구 사항과 배포 모델은 영업팀과 함께 정리하십시오.

데이터는 어디에 저장되고 제공업체 키는 어떻게 보호되나요?+

AISIX Cloud에서는 제공업체 키가 저장 시 봉투 암호화되고 요청 시점에만 복호화됩니다. 각 데이터 플레인은 자기 환경의 키 공간으로 범위가 한정됩니다. 셀프 호스팅에서는 모든 데이터와 키가 전적으로 고객 인프라 안에 남습니다.

게이트웨이가 지연 시간을 늘리나요?+

데이터 플레인은 네이티브 Rust 프록시이며 공개된 성능 기준이 있습니다: 4 vCPU 포화 시 약 28,300 req/s, 낮은 부하에서 중간 부하까지 게이트웨이 p50 오버헤드는 1밀리초 미만, 스트리밍의 첫 토큰까지 걸리는 시간 증가는 약 0.65ms — LLM 추론 시간에 비하면 무시할 수 있는 수준입니다.

비즈니스를 키우는 AI를 출시하세요

OpenAI 호환 — 쓰던 SDK를 AISIX로 향하게 하면 바로 시작할 수 있습니다. 무료로 시작하며 신용카드도 필요 없습니다.