O AISIX é o gateway de IA de código aberto para LLMs e agentes. Coloque uma única API compatível com OpenAI na frente de todos os modelos: leve recursos de IA à produção em dias e depois escale os que movem seus números.
Núcleo Apache-2.0 · mais de 100 provedores · feito em Rust · Documentação · Ver preços
from openai import OpenAI client = OpenAI( base_url="https://your-aisix-gateway/v1", # point to AISIX api_key="AISIX_API_KEY", ) # your existing OpenAI code — unchanged resp = client.chat.completions.create( model="gpt-4o", # or claude, gemini, deepseek… 100+ messages=[{"role": "user", "content": "Hello"}], )
O primeiro prompt é fácil. O 50º serviço, o 10º modelo e o primeiro incidente diante dos clientes não são. É essa complexidade que o gateway absorve — para o seu time continuar entregando.
Aponte seu SDK da OpenAI para o AISIX e alcance todos os grandes provedores — sem reescritas, sem SDK por fornecedor, sem aprisionamento.
/v1/messages compatível com Anthropic.Requisições, latência, erros, gasto e saúde dos modelos — ao vivo em todos os ambientes, sem precisar construir painéis.
Do primeiro protótipo à escala de produção — uma plataforma, com todos os controles embutidos.
Publique e troque modelos sem reescrever. Aponte qualquer modelo para qualquer provedor — OpenAI, Anthropic, Bedrock, Vertex, Groq — com balanceamento ponderado, failover automático, verificações de integridade e roteamento semântico e otimizado por custo.
Escale para tráfego de produção sem surpresas. Limites de requisição (RPM / RPD) e de tokens (TPM / TPD) em janela deslizante, além de tetos de concorrência — aplicados por chave, time ou conta de provedor e sincronizados entre réplicas via Redis.
Leve a IA ao cliente com confiança. Verificações antes da entrada e depois da saída — listas de bloqueio por palavra-chave ou regex, ocultação de PII (Presidio), injeção de prompt e moderação (Lakera, OpenAI Moderation, Llama-Guard) e controle de acesso a modelos por chave.
Invista no que está funcionando. Gasto do mês corrente por ambiente, chave e integrante — com orçamentos por chave e da organização, alertas em 75 / 90 / 100%, acompanhamento de custo por modelo e tetos de bloqueio.
A maioria dos gateways de IA é uma camada de linguagem de script no seu caminho crítico. O AISIX é infraestrutura de gateway, reconstruída para IA.
Sobrecarga abaixo de um milissegundo, sem pausas de coleta de lixo e um data plane sem estado que escala horizontalmente com o seu tráfego.
Hospede o gateway completo como um único binário — grátis, para sempre, sem aprisionamento. Ou rode totalmente gerenciado no AISIX Cloud.
Mais de cinco anos de engenharia de gateways em produção na API7.ai, criadora do Apache APISIX — agora reconstruída para LLMs e agentes.
Comece em minutos na nuvem gerenciada ou implante o control plane e os data planes inteiramente dentro da sua infraestrutura.
Compatível com OpenAI — aponte seu SDK para o AISIX e comece a entregar. Gratuito para começar, sem cartão de crédito.