New

Buka masa depan AI dengan APISIX – Gateway AI sepenuhnya open-source untuk Agen AI dan LLM!Pelajari Lebih Lanjut

Pelajari Lebih Lanjut

API7 API Gateway & AI Gateway

API Gateway & AI GatewayDibangun untuk
Manajemen API
Manajemen API

Dibuat oleh para pencipta asli Apache APISIX. Kelola setiap API dengan API7 API Gateway, dan kelola lalu lintas LLM dan agen AI Anda dengan AISIX — AI Gateway open-source kami.

Dapatkan demo
Background pattern
Manajemen API

AISIX · AI Gateway

Terhubung ke model apa pun. Kendalikan setiap panggilan.

AISIX adalah AI Gateway open-source kami, yang ditulis dalam Rust. Arahkan aplikasi Anda ke satu API yang kompatibel dengan OpenAI dan rutekan, amankan, serta amati setiap panggilan model — host semuanya sendiri, atau gunakan AISIX Cloud sebagai control plane terkelola sementara gateway tetap berjalan di lingkungan Anda sendiri.

Routing cerdas

  • Model Ensemble

    Sebarkan satu permintaan ke panel model, lalu biarkan model juri menyintesis satu jawaban terkuat.

  • Routing Semantik

    Klasifikasikan maksud setiap prompt di gateway dan arahkan ke model yang Anda pilih untuk jenis tugas itu.

Infrastruktur agen

  • Gateway MCP

    Sajikan server MCP lewat satu endpoint yang terkelola, dengan kunci, kebijakan akses, dan telemetri gateway.

  • Gateway Agen A2A

    Rutekan trafik antar-agen melalui gateway dengan autentikasi, kontrol, dan catatan penggunaan yang sama.

Tata kelola trafik

  • Load Balancing dan Failover

    Beri bobot trafik lintas provider dan model, dengan health check, retry otomatis, dan failover.

  • Batasi konsumsi token sebelum masuk ke tagihan Anda, dan hentikan penggunaan yang tak terkendali sejak awal.

  • Periksa prompt dan respons di kedua arah dengan pemeriksaan berbasis provider atau aturan Anda sendiri.

  • Jumlah token, latensi, dan biaya setiap permintaan — tersedia sebagai metrik dan log untuk stack Anda.

Jelajahi AI GatewayLihat AISIX di GitHub