v0.2.0 已发布

守护每一次请求
省钱又省心的模型搭档

专为主流 AI 供应商而生,完全本地化。通过精确缓存节省用量,调度、切换、守护每一次请求。

Windows (.exe)* Windows 10/11 (x64)
ApplemacOS (.dmg)* macOS 12+ (Intel/Apple Silicon)
Linux (.deb)* Ubuntu 20.04+
LLM Admin Dashboard Preview
OpenAIOpenAI
AnthropicAnthropic
GeminiGemini
ZhipuZhipu
DeepSeekDeepSeek
MinimaxMinimax
DoubaoDoubao
MoonshotAIMoonshotAI
BaiLianBaiLian
OpenAIOpenAI
AnthropicAnthropic
GeminiGemini
ZhipuZhipu
DeepSeekDeepSeek
MinimaxMinimax
DoubaoDoubao
MoonshotAIMoonshotAI
BaiLianBaiLian

强大,不止所见

丰富的功能矩阵,总有一款适合你。

自定义路由

灵活配置您的流量路径,多样的路由选择,无惧 429 错误。

统一接口

文本生成、图像生成等能力一手掌控,告别多平台切换。

协议兼容

全面兼容 OpenAI 与 Anthropic 协议,无缝接入,保障极速响应。

多Key支持

单一供应商可同时配置多个API密钥,实现负载均衡与自动故障转移。

界面友好

直观且现代的用户交互界面,让复杂的操作变得简单自然。

用量统计

实时监控所有模型的输入输出数据,让每一笔消耗都清晰可见。

三步上手

无需复杂的配置,几分钟即可开始使用。

连接供应商Connect Providers
添加模型Add Models
指定路由Assign Routes
20%
节省 Token

通过智能优化显著降低成本

<5s
平均响应时间

极速流式传输,拒绝等待

100+
主流模型

一键集成全球顶尖 AI 能力

为什么选择我们

从代码到调度,每一环都为你的模型调用保驾护航。

完全开源透明代码公开可审计,安全可验证
数据本地处理无第三方泄露风险,保障您的隐私与合规性
全球供应商集成原生接入主流 AI 服务商,无需繁琐适配
强大的技术基座高性能架构,支持高并发,稳定支撑关键业务

最近更新

持续迭代,与你一起成长。

v0.2.0

新增

  • 反 Stego 检测与告警安全插件
  • 插件页面
  • 插件可一键开启

修复

  • 用量统计 fallback 时记入最终返回的供应商
v0.1.1

新增

  • 发布 macOS arm64 桌面端
v0.1.0

新增

  • Windows/Ubuntu/macOS 桌面端同步上线
  • 用量统计功能
  • 单一接口协议互转
  • 自定义路由功能

常见问题

什么是 LLM Admin?
怎么自定义路由?
统一接口是什么?
具体路由的规则是怎样的?

准备开始了吗?

立即下载 LLM Admin,守护你的每一次请求。

立即下载 Windows (.exe)* Windows 10/11 (x64)