路由配置
配置如何将请求路由到不同的模型。
默认路由
为所有请求设置默认模型:
{
"Router": {
"default": "deepseek,deepseek-chat"
}
}
内置场景
后台任务
将后台任务路由到轻量级模型:
{
"Router": {
"background": "groq,llama-3.3-70b-versatile"
}
}
思考模式(计划模式)
将思考密集型任务路由到更强大的模型:
{
"Router": {
"think": "deepseek,deepseek-reasoner"
}
}
长上下文
路由长上下文请求:
{
"Router": {
"longContextThreshold": 100000,
"longContext": "gemini,gemini-2.5-pro"
}
}
网络搜索
路由网络搜索任务:
{
"Router": {
"webSearch": "gemini,gemini-2.5-flash"
}
}
图像任务
路由图像相关任务:
{
"Router": {
"image": "gemini,gemini-2.5-pro"
}
}
故障转移(Fallback)
当请求失败时,可以配置备用模型列表。系统会按顺序尝试每个模型,直到请求成功: