OmniRoute

OmniRoute — 免费 AI 网关

项目动机

手动叠加多家 AI 提供商的免费额度非常痛苦：需要对接几十种 SDK、关注各自的速率限制，且很难直观看到剩余配额。OmniRoute 把 42 个提供方池 / 495 个模型 的官方免费额度聚合成一个统一数字，并在 /dashboard/free-tiers 仪表盘实时展示。每月约 15.1 亿免费 token，首月叠加注册奖励可达约 21.3 亿；该数据每两周重新审计一次，数字会随提供方调整而上下浮动。

核心特性

• 统一端点：本地 http://localhost:20128/v1 同时兼容 OpenAI、Anthropic、Gemini 和 Responses API，Claude Code、Cursor、Cline、Copilot 等 33 种编码工具可直接对接。
• 零配置开箱即用：内置 OpenCode Free 和 Felo 两个免密钥提供方，安装即可调用 auto 模型。
• 自动级联回退：四级回退机制 —— 订阅层（Claude Code / Codex / Copilot）→ API 密钥层（DeepSeek / Groq / xAI）→ 廉价层（GLM $0.5、MiniMax $0.2）→ 完全免费层（Kiro、Qoder 等）。
• 19 种路由策略：包括 priority、fill-first、weighted、round-robin、p2c、least-used、cost-optimized、headroom、reset-window、context-relay、cache-optimized、lkgp、auto、fusion、pipeline 等。
• 零配置 Auto 模型族：auto（平衡）、auto/coding（代码优先）、auto/fast（低延迟）、auto/cheap（最便宜）、auto/offline（剩余配额最多）、auto/smart（质量优先 + 10% 探索）。
• 三层自愈韧性：提供方级熔断器（408/5xx 触发，60s/30s/15s 半开探测）→ 单密钥冷却（基础 5s/3s，指数退避 ×2）→ 单模型锁定（仅隔离出问题的模型）。

快速开始

# 安装后立即可用，无需任何凭证
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'

也可直接调用指定免费后端，如 oc/<model>（OpenCode Free）或 felo/<model>（Felo）。

令牌压缩

RTK 与 Caveman 两套压缩引擎可叠加使用，在工具调用密集场景下平均节省约 89% 的 token（区间 15–95%），降低触达速率限制的概率。

部署形态

支持桌面端（Electron）、命令行、Docker、Termux、PWA 及自托管；密钥使用 AES-256-GCM 本地加密，MIT 协议开源。

技术架构概览

• 后端：Node.js 服务，监听 localhost:20128，对外暴露 OpenAI 兼容路径与 Anthropic 兼容路径。
• 路由层：Auto-Combo 引擎对每个候选按 14 个因子（健康度、配额、延迟、成本、成功率、新鲜度等）实时打分。
• MCP / A2A：内置 MCP 服务器提供 110 个工具，支持 A2A 代理协议、持久记忆、Guardrails 与云端代理。
• TLS 隐身：模拟主流客户端指纹，应对网络封锁场景。
• 测试规模：25000+ 测试用例。

仪表盘路由

• /dashboard/free-tiers：实时显示已用 / 剩余免费配额。
• 一键导入主流 CLI / IDE 配置；所有兼容工具共用同一端点。

同类对比亮点

对比 9router、OpenRouter、CLIProxyAPI、LiteLLM：OmniRoute 是唯一同时具备 348 个提供方、90+ 免费额度、19 种路由策略、12 引擎压缩、内置 MCP（110 工具）、A2A、记忆、Guardrails、TLS 隐身、桌面/Termux/PWA、43 种界面语言、MIT 自托管全栈能力的产品。