“智能路由”是1Panel企业版AI网关的核心能力之一。简言之，AI网关的智能路由功能可以根据用户请求的复杂度，自动将请求分发到不同的模型组。该功能的价值体现在成本、用户体验和配置灵活性三方面。在成本优化方面，可以设置简单问题走低成本模型，复杂问题才调用高级模型，有效降低Token消耗；用户体验方面，实现零感知路由切换，客户端请求的model字段值为auto时，网关自动完成路由决策；配置灵活性方面，智能路由支持“样本匹配+规则判断”双引擎，用户可以自定义路由阈值和TopK参数。
一、工作原理
当客户端请求的model字段值为auto时，智能路由的执行流程如下：
1. 请求接入：客户端发送model=auto的Chat Completions请求至网关；
2. Embedding向量化：网关将用户输入文本通过Embedding模型转换为向量；
3. 语义相似度计算：与预置的“简单样本”和“复杂样本”进行向量相似度比对；
4. 路由决策：根据相似度和阈值判定为“简单”或者“复杂”，选择对应的模型组；
5. 请求转发：转发至目标模型组内的上游模型执行推理任务。
1Panel企业版AI网关的智能路由功能采用两种判定来源：
1. 样本匹配：请求与样本库中已标注“简单”或“复杂”的样本进行Embedding相似度计算。当最高相似度≥路由阈值（例如0.72）时，采用该样本标签作为路由结果；
2. 规则判断：当所有样本相似度均低于阈值时，系统基于内置规则（例如问题长度、关键词特征、多步骤表达等）进行兜底判定。
▲图1 1Panel企业版AI网关智能路由实现原理
二、配置示例
■ Embedding服务配置：Embedding服务是智能路由的语义理解基础，用于将用户请求和样本向量化后进行相似度计算。本示例使用的是硅基流动提供的Qwen3-Embedding-0.6B模型。
▲图2 1Panel企业版AI网关Embedding服务设置页面
■ 模型组配置：模型组定义了智能路由的两个出口，简单问题和复杂问题分别对应不同的上游模型组合。
▲图3 1Panel企业版AI网关模型组列表
■ 智能路由启动：在“设置”→“智能路由”中开启开关，分别绑定“简单模型组”和“复杂模型组”后智能路由即可生效。然后，在“智能路由”页面的“样本”标签页中维护简单问题与复杂问题的示例样本，并生成向量即可。
▲图4 1Panel企业版AI网关智能路由启停页面
▲图5 1Panel企业版AI网关智能路由样本管理页面
三、实测效果验证
智能网关配置完成后，我们来测试一下实际效果。在WorkBuddy中配置自定义模型，模型名称设为“auto”，Base URL指向1Panel AI网关的外部连接地址。随后分别发送不同复杂度的测试问题，例如：
简单问题：“你好”“今天天气怎么样”
复杂问题：“帮我设计一个微服务架构方案”“分析这段代码的性能瓶颈”
▲图6 在WorkBuddy中配置自定义模型
以下是1Panel企业版AI网关运行一段时间后的真实统计数据，展示了智能路由的分发效果。可以看到，智能路由已经实现了简单、复杂请求的有效分流，低成本模型稳定承接日常轻量级任务，样本匹配与规则判断双引擎协同运作，路由判定稳定可靠。
▲图7 智能路由统计信息页面
▲图8 智能路由决策日志页面
四、总结
我们总结一下1Panel企业版AI网关智能路由功能的优势。首先是自动分流，无需人工干预，客户端仅需在请求中将model字段设为auto，网关即可根据问题复杂度自动选择匹配的模型；然后是成本可控，使用Flash模型承担简单请求任务，Pro模型承担复杂任务；灵活性方面，支持通过调整路由阈值、TopK参数和样本来优化分发精度；可视化方面，AI网关提供了全链路可视化能力，统计信息提供标签、来源、模型、Token等多维度分布视图。