路由配置
配置如何将请求路由到不同的模型。同一套 Router 规则在 Unified 归一化之后
适用于所有聊天入站协议(Messages、Chat Completions、Responses)。
FIM 在独立流水线上使用 Router.fim — 见 FIM。
默认路由
为所有请求设置默认模型:
{
"Router": {
"default": "deepseek,deepseek-chat"
}
}
内置场景
后台任务
将后台任务路由到轻量级模型:
{
"Router": {
"background": "groq,llama-3.3-70b-versatile"
}
}
思考模式(计划模式)
将思考密集型任务路由到更强大的模型:
{
"Router": {
"think": "deepseek,deepseek-reasoner"
}
}
长上下文
路由长上下文请求:
{
"Router": {
"longContextThreshold": 100000,
"longContext": "gemini,gemini-2.5-pro"
}
}
网络搜索
路由网络搜索任务:
{
"Router": {
"webSearch": "gemini,gemini-2.5-flash"
}
}
FIM (fill-in-the-middle)
将 POST /v1/fim/completions 路由到支持 FIM 的提供商(必须使用 fim.* 转换器)。
Codestral:
{
"Router": {
"fim": "codestral-fim,codestral-latest"
}
}
本地 Qwen(LM Studio):
{
"Router": {
"fim": "lmstudio-qwen-fim,qwen/qwen2.5-coder-14b"
}
}
FIM 端点上的裸模型名经 Router.fim 解析,再回退到 Router.default。提供商 JSON
与客户端设置见英文文档 FIM Completions API。
图像任务
路由图像相关任务:
{
"Router": {
"image": "gemini,gemini-2.5-pro"
}
}
故障转移(Fallback)
当请求失败时,可以配置备用模型列表。系统会按顺序尝试每个模型,直到请求成功:
基本配置
{
"Router": {
"default": "deepseek,deepseek-chat",
"background": "ollama,qwen2.5-coder:latest",
"think": "deepseek,deepseek-reasoner",
"longContext": "openrouter,google/gemini-2.5-pro-preview",
"longContextThreshold": 60000,
"webSearch": "gemini,gemini-2.5-flash"
},
"fallback": {
"default": [
"aihubmix,Z/glm-4.5",
"openrouter,anthropic/claude-sonnet-4"
],
"background": [
"ollama,qwen2.5-coder:latest"
],
"think": [
"openrouter,anthropic/claude-3.7-sonnet:thinking"
],
"longContext": [
"modelscope,Qwen/Qwen3-Coder-480B-A35B-Instruct"
],
"webSearch": [
"openrouter,anthropic/claude-sonnet-4"
],
"fim": [
"codestral-fim,codestral-latest"
],
"subagent": [
"openrouter,anthropic/claude-sonnet-4"
]
}
}
工作原理
- 触发条件:当某个路由场景的模型请求失败时。符合条件的失败包括提供商 HTTP 错误响应,以及提供商网络/传输错误(例如连接重置或 fetch 失败)。客户端断开 / 取消不会触发 fallback。
- 退避等待:在首次 fallback 尝试之前(以及后续尝试之间),CCR 会优先使用上游
Retry-After响应头;若不存在,则使用指数退避。 - 自动切换:系统检查该场景的 fallback 配置。
- 顺序尝试:按照列表顺序依次尝试每个备用模型。如果在等待或尝试过程中客户端断开,剩余 fallback 会被取消。
- 成功返回:一旦某个模型成功响应,立即返回结果。
- 全部失败:如果所有备用模型都失败,返回原始错误。
配置说明
- 格式:每个备用模型格式为
provider,model - 验证:备用模型必须在
Providers配置中存在 - 灵活性:可以为不同场景配置不同的备用列表
- 可选性:如果某个场景不需要备用,可以不配置或使用空数组
- 子代理:
fallback.subagent可单独覆盖子代理路由的 fallback;若未设置,则为向后兼容自动继承fallback.default。 - 可中止:客户端在请求中途关闭时,会取消 fallback 等待与后续尝试
请求级错误规则
默认情况下,CCR 仅根据 HTTP 状态决定是否 fallback(408/409/425/429/5xx +
网络错误)。request_scoped_errors 用正文模式规则细化这一判断——支持按
提供商配置,也支持顶层全局配置。提供商规则优先求值,首个命中的规则生效。
{
"request_scoped_errors": [
{ "status": 400, "match": ["maximum_context_length"], "action": "stop" },
{ "status": 400, "match": ["server_is_overloaded"], "action": "continue" }
],
"Providers": [
{
"name": "codex",
"api_base_url": "https://chatgpt.com/backend-api/codex",
"api_key": "oauth_dummy_key",
"models": ["gpt-5"],
"transformer": { "use": ["openai-responses", "codex"] },
"request_scoped_errors": [
{ "status": 429, "match": ["usage_limit_reached"], "action": "continue-and-cooldown" }
]
}
]
}
- 匹配:
status(可选)必须等于错误状态;match子串(大小写不敏感)与match_regex模式在原始上游错误文本(前 16,384 个字符)及具体错误码上匹配。 有原始文本时,匹配使用它替代 CCR 脱敏后的消息及Error from provider(...)前缀;否则使用错误消息和已捕获的上游正文。CCR 通用的api_error类型与 兜底的provider_response_error错误码不会被额外加入匹配文本。没有正文 模式的规则仅按状态匹配。原始文本仅用于匹配;客户端和日志仍只看到脱敏后的 错误详情。 - 动作:
stop(终止——不再 fallback)、continue(强制 fallback,即使状态 本身不符合条件),以及stop-and-cooldown/continue-and-cooldown——后两者 还会将provider,model冷却一段时间(默认 60 秒,可按规则用cooldown_seconds覆盖,最小为 1)。冷却只作用于 fallback 候选项:fallback 循环会跳过处于冷却中 的模型,也不会为其等待 Retry-After/退避时间;作为主路由的模型仍会被尝试。 末尾的[1m]标记不影响冷却的标识。 - 校验:包含未知键(例如
matches)、action无效、status不是整数、 模式列表不是非空字符串数组、正则无效或cooldown_seconds小于 1 的规则会被 忽略,CCR 会记录一条警告,注明规则序号与原因。 - 键名写法:提供商与顶层均可使用
request_scoped_errors/requestScopedErrors/request-scoped-errors;使用任一写法更新提供商规则 都会替换存储的规范列表。match_regex/matchRegex/match-regex与cooldown_seconds/cooldownSeconds等价。
使用场景
场景一:主模型配额不足
{
"Router": {
"default": "openrouter,anthropic/claude-sonnet-4"
},
"fallback": {
"default": [
"deepseek,deepseek-chat",
"aihubmix,Z/glm-4.5"
]
}
}
当主模型配额用完时,自动切换到备用模型。
场景二:服务稳定性保障
{
"Router": {
"background": "volcengine,deepseek-v3-250324"
},
"fallback": {
"background": [
"modelscope,Qwen/Qwen3-Coder-480B-A35B-Instruct",
"dashscope,qwen3-coder-plus"
]
}
}
当主服务商出现故障时,自动切换到其他服务商。
日志监控
系统会记录详细的 fallback 过程:
[warn] Request failed for default, trying 2 fallback models
[info] Waiting 2000ms before first fallback attempt
[info] Trying fallback model: aihubmix,Z/glm-4.5
[warn] Fallback model aihubmix,Z/glm-4.5 failed: API rate limit exceeded
[info] Waiting 4000ms before next fallback attempt
[info] Trying fallback model: openrouter,anthropic/claude-sonnet-4
[info] Fallback model openrouter,anthropic/claude-sonnet-4 succeeded
日志与返回给客户端的上游失败信息会做隐私脱敏(主机名、IP、Bearer token、API key 等会被脱敏)。
注意事项
- 成本考虑:备用模型可能产生不同的费用,请合理配置
- 性能差异:不同模型的响应速度和质量可能有差异
- 配额管理:确保备用模型有足够的配额
- 测试验证:定期测试备用模型的可用性
- Retry-After:当提供商返回
Retry-After时,fallback 会在尝试下一个模型前遵守该等待时间
项目级路由
在 ~/.claude/projects/<project-id>/claude-code-router.json 中为每个项目配置路由:
{
"Router": {
"default": "groq,llama-3.3-70b-versatile"
}
}
项目级配置优先于全局配置。
自定义路由器
创建自定义 JavaScript 路由器函数:
- 创建路由器文件(例如
custom-router.js):
module.exports = async function(req, config) {
// 分析请求上下文
const userMessage = req.body.messages.find(m => m.role === 'user')?.content;
// 自定义路由逻辑
if (userMessage && userMessage.includes('解释代码')) {
return 'openrouter,anthropic/claude-3.5-sonnet';
}
// 返回 null 以使用默认路由
return null;
};
- 在
config.json中设置CUSTOM_ROUTER_PATH:
{
"CUSTOM_ROUTER_PATH": "/path/to/custom-router.js"
}
Token 计数
路由器使用 tiktoken (cl100k_base) 来估算请求 token 数量。这用于:
- 确定请求是否超过
longContextThreshold - 基于 token 数量的自定义路由逻辑
子代理路由
Claude Code 子代理请求可通过以下方式路由(优先级从高到低):
- 显式标签(可写在 system 或 message 文本中;发送上游前会移除该标签):
<CCR-SUBAGENT-MODEL>provider,model</CCR-SUBAGENT-MODEL>
请帮我分析这段代码...
也支持 provider/model,会规范化为 provider,model。
- 环境变量,用于 Claude Code 子代理请求(当 Claude Code 将请求标记为子代理时,例如通过其 billing helper header):
export CLAUDE_CODE_SUBAGENT_MODEL="provider,model"
- 若未设置标签或环境变量模型,则继续使用常规 Router 规则。
动态模型切换
在 Claude Code 中使用 /model 命令动态切换模型:
/model provider_name,model_name
示例:/model openrouter,anthropic/claude-3.5-sonnet
路由优先级
- 项目级配置
- 自定义路由器
- 内置场景路由
- 默认路由