अक्सर पूछे जाने वाले प्रश्न
क्या आप टोकन या LLM उपयोग के लिए शुल्क लेते हैं?+
नहीं। आप अपनी ही प्रदाता कुंजियाँ लाते हैं और अपना LLM बिल सीधे OpenAI, Anthropic और दूसरों को चुकाते हैं। AISIX Cloud सिर्फ़ प्लान की सदस्यता लेता है — आपके टोकन पर कोई मार्कअप नहीं।
AISIX किसी LLM API रिले या टोकन पुनर्विक्रेता से कैसे अलग है?+
रिले अपने ही खातों और सर्वरों के ज़रिए मॉडलों तक पहुँच दोबारा बेचता है — आपके प्रॉम्प्ट, रिस्पॉन्स और API कुंजियाँ ऐसे तीसरे पक्ष से होकर जाती हैं जिस पर आपका नियंत्रण नहीं, और उसके साथ उसका मार्कअप, साझा दर सीमाएँ तथा ऊपरी खाते के थ्रॉटल या बैन होने का जोखिम भी आपके हिस्से आता है। AISIX पुनर्विक्रेता नहीं, आपका अपना गेटवे है। आप अपनी प्रदाता कुंजियाँ जोड़ते हैं और इसे अपने क्लाउड या VPC में चलाते हैं (या एन्वेलप-एन्क्रिप्टेड कुंजियों वाले प्रबंधित प्लेन पर), इसलिए ट्रैफ़िक और डेटा आपके नियंत्रण में रहते हैं। आपको रूटिंग, फ़ेलओवर, दर सीमाएँ, गार्डरेल, बजट और पूरी ऑब्ज़र्वेबिलिटी मिलती है — और आप प्रदाताओं को सीधे भुगतान करते हैं, बिना किसी टोकन मार्कअप के। यह ओपन सोर्स है (Apache-2.0, Rust में बना), प्रोडक्शन-स्तर का है, और स्केल करने पर SOC 2 / ISO 27001 / GDPR / HIPAA के लिए तैयार है।
मेरे मासिक अनुरोध कोटे में क्या गिना जाता है?+
दर्ज अनुरोध — गेटवे से होकर रूट और लॉग हुआ हर कॉल, त्रुटि रिस्पॉन्स सहित। एक स्ट्रीमिंग रिस्पॉन्स एक ही अनुरोध गिना जाता है।
सीमा तक पहुँचने पर क्या होता है?+
Developer में आपका ट्रैफ़िक 1 लाख के बाद भी चलता रहता है — वे अतिरिक्त अनुरोध बस दर्ज नहीं होते, इसलिए आपके लॉग या एनालिटिक्स में नहीं दिखते, और कुछ भी कभी ब्लॉक नहीं होता। Team में हम हर अतिरिक्त 10 लाख अनुरोध पर $100 अपने आप जोड़ देते हैं — ट्रैफ़िक कभी नहीं रुकता। लगातार 50 लाख/माह से ऊपर उपयोग हो तो Enterprise पर जाने का सही समय है।
क्या मैं क्लाउड के बजाय AISIX खुद होस्ट कर सकता हूँ?+
हाँ। AISIX, Apache-2.0 के तहत ओपन सोर्स है — पूरा गेटवे एक ही Rust बाइनरी के रूप में चलाइए, मुफ़्त, सामुदायिक सहायता के साथ। प्रबंधित क्लाउड इसके ऊपर होस्टेड कंट्रोल प्लेन, डैशबोर्ड, बजट, RBAC और SLA जोड़ता है। Enterprise में प्रबंधित स्टैक को आपके अपने क्लाउड / VPC के भीतर भी चलाया जा सकता है।
कौन-कौन से LLM प्रदाता समर्थित हैं?+
एक ही OpenAI-संगत API के ज़रिए 100 से ज़्यादा प्रदाता, जिनमें 20+ लोकप्रिय इंटीग्रेशन शामिल हैं (OpenAI, Anthropic, Gemini, DeepSeek, Groq, Mistral, Cohere, Qwen, Together, Fireworks और अन्य)। क्लाउड-होस्टेड प्रदाता — AWS Bedrock, Azure OpenAI और GCP Vertex AI — Enterprise में उपलब्ध हैं।
SSO, ऑडिट लॉग और अनुपालन कैसे काम करते हैं?+
संगठन प्रबंधन, SSO (SAML / OIDC), ऑडिट लॉग और SOC 2 Type II / ISO 27001 / GDPR / HIPAA — ये सब Enterprise का हिस्सा हैं। अपनी ज़रूरतें और परिनियोजन मॉडल तय करने के लिए सेल्स से बात कीजिए।
मेरा डेटा कहाँ रखा जाता है, और प्रदाता कुंजियाँ कैसे सुरक्षित रहती हैं?+
AISIX Cloud में प्रदाता कुंजियाँ संग्रहण के समय एन्वेलप-एन्क्रिप्टेड रहती हैं और सिर्फ़ अनुरोध के समय डिक्रिप्ट होती हैं; हर डेटा प्लेन अपने ही परिवेश के कीस्पेस तक सीमित रहता है। सेल्फ़-होस्ट में सारा डेटा और सारी कुंजियाँ पूरी तरह आपके अपने इन्फ़्रास्ट्रक्चर के भीतर रहती हैं।
क्या गेटवे विलंबता बढ़ाता है?+
डेटा प्लेन एक नेटिव Rust प्रॉक्सी है जिसका प्रदर्शन आधार सार्वजनिक है: 4 vCPU पर संतृप्ति के समय लगभग 28,300 req/s, कम से मध्यम भार पर एक मिलीसेकंड से कम p50 गेटवे ओवरहेड, और स्ट्रीमिंग में पहले टोकन तक का समय लगभग 0.65 ms अधिक — LLM के अनुमान समय के आगे नगण्य।