New

Buka masa depan AI dengan APISIX – Gateway AI sepenuhnya open-source untuk Agen AI dan LLM!Pelajari Lebih Lanjut

Pelajari Lebih Lanjut

Dari para pencipta awal Apache APISIX

Mulai gratis. Skalakan saat AI mulai menggerakkan angka Anda.

Rilis fitur AI pertama Anda secara gratis, lalu bertumbuh di cloud terkelola seiring trafik naik — semuanya dengan overhead di bawah satu milidetik. Inti open source, siap untuk skala perusahaan begitu Anda sampai di sana.

Sub-ms
overhead proxy
100+
penyedia LLM
100%
OpenAI-compatible
Apache-2.0
inti open source

Harga yang tumbuh bersama AI Anda

Mulai gratis, lalu bertumbuh di cloud terkelola seiring trafik naik — atau host sendiri inti open source-nya kapan saja.

Developer

Rilis fitur AI pertama Anda — gratis dan terkelola sepenuhnya.

$0/ bulan
100 rb permintaan tercatat / bulan

Melewati 100 rb, trafik tetap mengalir — permintaan tambahan hanya tidak dicatat.

Mulai gratis
  • Penyedia LLM langsung, kompatibel OpenAI
  • 1 lingkungan · 1 data plane · 1 anggota
  • Log permintaan (retensi 3 hari)
  • Rotasi kunci API, login sosial
  • Dukungan komunitas
PALING POPULER
Team

Bawa fitur AI yang terbukti berhasil ke skala produksi.

$149/ bulan
1 jt permintaan tercatat / bulan

$100 per tambahan 1 jt, tanpa pemblokiran. Konsisten di atas 5 jt/bln berpindah ke Enterprise.

Mulai
  • Semua yang ada di Developer, ditambah:
  • Perutean model, ensemble, penyeimbangan beban & failover
  • Anggaran, batas laju & guardrail
  • RBAC, tim & caching respons
  • 25 anggota · 3 lingkungan · 3 data plane
  • Retensi 30 hari · SLA standar
Enterprise

Gulirkan AI ke seluruh organisasi — terkelola, patuh, dan didukung.

Custom
10 jt+ permintaan tercatat / bulan

Kuota, kelebihan pemakaian, penerapan, dan SLA yang disesuaikan.

Hubungi tim penjualan
  • Semua yang ada di Team, ditambah:
  • AWS Bedrock · Azure OpenAI · GCP Vertex AI
  • Pengelolaan organisasi · SSO · log audit
  • Hook guardrail kustom · cache semantik
  • SOC 2 Type II / ISO 27001 / GDPR / HIPAA
  • Penerapan privat / VPC · dukungan khusus
Proyek open source atau startup yang sudah didanai? Anda mungkin memenuhi syarat untuk paket Team gratis — seluruh fitur Team, gratis, dengan batas pemakaian dan setelah ditinjau.
Ajukan gratis
Lebih suka host sendiri? AISIX bersifat open source (Apache-2.0) — jalankan gateway lengkapnya sendiri, gratis, selamanya.
Lihat di GitHub

Apa itu permintaan tercatat?

Setiap panggilan yang dirutekan dan dicatat melalui gateway, termasuk error. Satu respons streaming dihitung sebagai satu permintaan.

Paket gratis tidak pernah memblokir

Di Developer, trafik tetap mengalir melewati 100 rb — permintaan tambahan itu hanya tidak dicatat atau dihitung. Tidak ada pemutusan mendadak.

Kelebihan pemakaian bisa diperkirakan

Melewati 1 jt, kami otomatis menambahkan $100 per tambahan 1 jt pada tagihan bulanan Anda. Trafik tidak pernah terputus.

Semua yang Anda perlukan untuk membangun, merilis & menskalakan AI

Geser untuk membandingkan paket →

Fitur Developer$0 Team$149/mo EnterpriseCustom
Penggunaan & batas
Permintaan tercatat / bulan100K1M10M+
Anggota125Tanpa batas
Lingkungan13Tanpa batas
Data plane13Tanpa batas
Retensi log3 hari30 hariDisesuaikan
Retensi metrik30 hari90 hariDisesuaikan
Kelebihan bulananTidak dicatat$100 / 1MDisesuaikan
Inti AI gateway
API universal kompatibel OpenAI
Chat completion + streaming (SSE)
Anthropic-compatible /v1/messages
Embedding · rerank
Audio (ucapan ke teks, TTS)
Pembuatan gambar
Passthrough ke penyedia
Playground
Model tunggal langsung
Model virtual / perutean
Ensemble model (panel + juri)
MCP gateway
Penyedia model
OpenAI · Anthropic · Gemini · DeepSeek
20+ penyedia populer
100+ lewat kompatibilitas OpenAI
AWS Bedrock · Azure OpenAI · GCP Vertex AI
Perutean & keandalan
Penyeimbangan beban berbobot
Perutean canary lengket / A-B
Perutean bersyarat berbasis tag · alias wildcard
Percobaan ulang otomatis
Fallback saat error / 429
Health check upstream
Perutean semantik
Perutean sadar biaya / latensi / beban
Pembatasan laju
Batas laju permintaan (RPM / RPD)
Batas laju token (TPM / TPD)
Batas konkurensi
Batas per tim / per anggota
Biaya & anggaran
Anggaran per kunci (hentikan / peringatkan)
Anggaran organisasi / lingkungan / penyedia
Peringatan anggaran (75 / 90 / 100%)
Pelacakan biaya per model
Caching
Cache respons (kecocokan persis)
Backend memori + Redis
Telemetri biaya yang dihemat
Cache semantik
Keamanan & guardrail
Guardrail kata kunci / regex
Guardrail keselamatan cloud
Penyamaran PII · moderasi konten
Hook guardrail kustom
Observabilitas
Log akses permintaan
Dasbor analitik penggunaan & biayaDasar
Prometheus metrics
Ekspor trace OpenTelemetry
Peringatan
Ekspor ke data lake / bucket
Kontrol akses & organisasi
Pengelolaan kunci API + rotasi
Kunci virtual & daftar model yang diizinkan
Token akses pribadi (CLI / CI)
Login sosial (GitHub / Google)
RBAC
Tim
Pengelolaan organisasi
SSO (SAML / OIDC)
Log audit
Penerapan & kepatuhan
Hosting SaaS terkelola
Enkripsi kunci penyedia saat disimpan
Opsi self-host / on-premise
Penerapan privat / VPC
SOC 2 Type II · ISO 27001 · GDPR · HIPAA
BAA · isolasi data
Dukungan & SLA
DukunganKomunitasStandarKhusus
SLAStandarDisesuaikan

Keamanan setara perusahaan, siap saat Anda menskalakan

Jalankan AISIX di cloud atau VPC Anda sendiri, terapkan kebijakan seluruh organisasi, dan penuhi standar kepatuhan — didukung tim khusus dan SLA.

SOC 2 Type II ISO 27001 GDPR HIPAA
SSOSAML / OIDC
Private / VPCJalankan di cloud Anda sendiri
Pengelolaan organisasiKebijakan untuk semua tim
Log auditSetiap perubahan bisa ditelusuri
Isolasi dataKunci dengan enkripsi amplop, BAA
Dukungan khususOnboarding + SLA

Pertanyaan yang sering diajukan

Apakah Anda menagih token atau penggunaan LLM?+

Tidak. Anda memakai kunci penyedia milik Anda sendiri dan membayar tagihan LLM langsung ke OpenAI, Anthropic, dan lainnya. AISIX Cloud hanya menagih langganan paket — tidak ada markup atas token Anda.

Apa bedanya AISIX dengan relay API LLM atau penjual ulang token?+

Relay menjual ulang akses ke model lewat akun dan servernya sendiri — prompt, respons, dan kunci API Anda melewati pihak ketiga yang tidak Anda kendalikan, dan Anda ikut menanggung markup mereka, batas laju bersama, serta risiko akun di hulu dibatasi atau diblokir. AISIX bukan penjual ulang, melainkan gateway milik Anda sendiri. Anda menghubungkan kunci penyedia Anda dan menjalankannya di cloud atau VPC Anda (atau di plane terkelola dengan kunci berenkripsi amplop), sehingga trafik dan data tetap dalam kendali Anda. Anda mendapat perutean, failover, batas laju, guardrail, anggaran, dan observabilitas penuh — dan membayar penyedia secara langsung, tanpa markup token. Semuanya open source (Apache-2.0, dibangun dengan Rust), siap produksi, serta siap SOC 2 / ISO 27001 / GDPR / HIPAA saat Anda menskalakan.

Apa saja yang dihitung dalam kuota permintaan bulanan saya?+

Permintaan tercatat — setiap panggilan yang dirutekan dan dicatat melalui gateway, termasuk respons error. Satu respons streaming dihitung sebagai satu permintaan.

Apa yang terjadi kalau saya mencapai batas?+

Di Developer, trafik Anda tetap mengalir melewati 100 rb — permintaan tambahan itu hanya tidak dicatat, jadi tidak muncul di log atau analitik Anda, dan tidak ada yang pernah diblokir. Di Team, kami otomatis menambahkan $100 per tambahan 1 jt permintaan — trafik tidak pernah terputus. Pemakaian yang konsisten di atas 5 jt/bln adalah saat yang tepat untuk pindah ke Enterprise.

Bisakah saya menjalankan AISIX sendiri alih-alih memakai cloud?+

Bisa. AISIX bersifat open source di bawah Apache-2.0 — jalankan gateway lengkapnya sebagai satu biner Rust, gratis, dengan dukungan komunitas. Cloud terkelola menambahkan control plane terhosting, dasbor, anggaran, RBAC, dan SLA di atasnya. Enterprise juga bisa menjalankan stack terkelola di dalam cloud / VPC Anda sendiri.

Penyedia LLM apa saja yang didukung?+

Lebih dari 100 penyedia melalui satu API yang kompatibel dengan OpenAI, termasuk 20+ integrasi populer (OpenAI, Anthropic, Gemini, DeepSeek, Groq, Mistral, Cohere, Qwen, Together, Fireworks, dan lainnya). Penyedia berbasis cloud — AWS Bedrock, Azure OpenAI, dan GCP Vertex AI — tersedia di Enterprise.

Bagaimana SSO, log audit, dan kepatuhan bekerja?+

Pengelolaan organisasi, SSO (SAML / OIDC), log audit, serta SOC 2 Type II / ISO 27001 / GDPR / HIPAA merupakan bagian dari Enterprise. Hubungi tim penjualan untuk merinci kebutuhan dan model penerapan Anda.

Di mana data saya disimpan, dan bagaimana kunci penyedia dilindungi?+

Di AISIX Cloud, kunci penyedia dienkripsi dengan enkripsi amplop saat disimpan dan hanya didekripsi pada saat permintaan; setiap data plane dibatasi pada keyspace lingkungannya sendiri. Pada mode self-host, seluruh data dan kunci tetap sepenuhnya berada di dalam infrastruktur Anda.

Apakah gateway menambah latensi?+

Data plane-nya adalah proxy Rust native dengan baseline performa yang dipublikasikan: sekitar 28.300 req/dtk saat jenuh pada 4 vCPU, overhead gateway p50 di bawah satu milidetik pada beban rendah hingga sedang, dan sekitar 0,65 md tambahan waktu ke token pertama untuk streaming — dapat diabaikan dibanding waktu inferensi LLM.

Rilis AI yang menumbuhkan bisnis Anda

Kompatibel dengan OpenAI — arahkan SDK Anda ke AISIX dan mulai merilis. Gratis untuk memulai, tanpa kartu kredit.