New

APISIX로 AI의 미래를 열어보세요 – AI 에이전트와 LLM을 위한 완전 오픈소스 AI 게이트웨이!더 알아보기

더 알아보기

API7 API Gateway & AI Gateway

API Gateway와 AI Gateway다음을 위해 구축
API 관리
API 관리

Apache APISIX의 원조 개발자들이 만들었습니다. API7 API Gateway로 모든 API를 관리하고, 오픈 소스 AI 게이트웨이 AISIX로 LLM 및 AI 에이전트 트래픽을 거버넌스하세요.

데모를 얻으십시오
Background pattern
API 관리

AISIX · AI 게이트웨이

어떤 모델에도 연결. 모든 호출을 제어.

AISIX는 Rust로 작성된 오픈 소스 AI 게이트웨이입니다. 앱을 하나의 OpenAI 호환 API로 연결하고 모든 모델 호출을 라우팅하고 보호하며 관측하세요. 모두 직접 셀프 호스팅하거나, 게이트웨이는 자체 환경에서 계속 실행하면서 AISIX Cloud를 관리형 컨트롤 플레인으로 사용할 수 있습니다.

스마트 라우팅

  • 모델 앙상블

    하나의 요청을 여러 모델 패널로 보내고, 저지 모델이 가장 강력한 하나의 응답으로 종합합니다.

  • 시맨틱 라우팅

    게이트웨이에서 프롬프트의 의도를 분류해, 그 작업에 지정한 모델로 라우팅합니다.

에이전트 인프라

  • MCP 게이트웨이

    MCP 서버를 하나의 통제된 엔드포인트로 제공하며, 게이트웨이의 키, 접근 정책, 텔레메트리를 적용합니다.

  • A2A 에이전트 게이트웨이

    에이전트 간 트래픽을 게이트웨이로 통과시켜 모델 호출과 동일한 인증, 제어, 사용 기록을 적용합니다.

트래픽 거버넌스

  • 로드 밸런싱과 페일오버

    프로바이더와 모델 간 트래픽에 가중치를 두고, 헬스 체크·자동 재시도·페일오버를 제공합니다.

  • 토큰 사용량이 청구서에 반영되기 전에 상한을 설정하고, 통제를 벗어난 사용을 조기에 차단합니다.

  • 프로바이더 연동 또는 규칙 기반 검사로 프롬프트와 응답을 양방향 검사합니다.

  • 요청별 토큰 수, 지연 시간, 비용을 메트릭과 로그로 기존 스택에 제공합니다.

AI 게이트웨이 살펴보기GitHub에서 AISIX 보기