工程师多跑几轮代码任务,客服多处理一批咨询,内容团队多生成几版方案......这些日常AI调用,正成为企业AI支出增长最快的部分。当AI从试用工具变成生产力系统,选模型不能只看能力上限,更要看投入产出:简单任务交给轻量模型,复杂任务调用强模型。
网宿研发团队将边缘AI网关应用于日常AI编程,通过Auto智能路由和Fusion多模型协同,实现“降本不降质”,整体调用成本降低近三成,同时让最终代码质量接近前沿模型水平。
Auto智能路由
整体调用成本下降近三成
研发人员使用AI时,面对的任务有简单也有复杂。代码补全、函数查询等常规请求,轻量模型即可完成;复杂逻辑分析、多模块协同和疑难问题定位,则需要更强的模型支持。如果所有任务都调用强模型,不仅成本更高,也容易造成模型能力浪费。
Auto智能路由能够根据任务内容、上下文和复杂度,自动为请求匹配合适的模型:
简单、明确、重复性任务,优先交给轻量模型;
涉及复杂逻辑、多模块协同的任务,自动切换至强模型;
在降低调用成本的同时,减少因模型能力不足带来的反复修改与请求回流。
网宿研发团队基于真实使用数据开展测试,覆盖8,670个研发会话和85,899次Auto路由请求。结果显示,约三分之二的请求由轻量模型完成,约三分之一交由强模型处理;轻量模型处理的请求全部通过质量检查,未出现大规模回流。
与所有请求统一使用强模型相比,Auto智能路由让整体调用成本下降28.9%。也就是说,企业无需让每个任务都为最高模型能力买单,也能兼顾研发质量与使用效率。
Fusion多模型融合
五分之一成本媲美顶级模型效果
复杂研发任务并不只是生成代码,还需要准确理解需求、梳理模块依赖、识别潜在风险,并制定清晰可执行的实现方案。任何一个接口依赖或边界条件被遗漏,都可能导致后续反复修改,增加研发时间和模型调用成本。
针对这类任务,Fusion将需求分析、方案整合和代码执行拆分开来,由不同模型协同完成:
多模型分析:由3款主流国产开源模型分别理解需求、梳理依赖、识别风险,并提出实现方案;
强模型整合:由国际前沿推理模型对多个方案进行比较、补充和修正,形成更完整的任务计划;
统一模型执行:将最终计划交给同一个编码模型完成开发,减少因模型切换带来的理解偏差,提升代码输出的一致性。
Fusion并不是简单地叠加模型,而是让不同模型承担各自擅长的工作:用多个成本更低的模型完成前期分析,再将强模型用于关键的方案整合,从而减少对强模型的整体依赖。
网宿研发团队基于Java、Go和Python三种语言开展了35组实验。结果显示,Fusion的规划成本约为单独使用前沿模型的五分之一,最终代码质量达到前沿模型基准方案的98.7%。
这意味着,在复杂研发任务中,Fusion无需用低成本模型简单替代强模型,而是通过多模型协同,把有限的模型能力集中投入到最关键的环节,以更低的成本获得接近顶级模型的效果。
从简单任务的智能路由,到复杂任务的多模型融合,网宿边缘AI网关为企业提供统一的模型接入、智能调度和效果管理能力,帮助企业将AI真正融入研发、客服、运营等业务流程。在提升应用效果的同时,降低模型使用成本,推动AI从单点试用走向规模化落地。
如果您的企业正在推进AI应用,欢迎接入网宿边缘AI网关,统一管理模型、智能调度任务,切实降低AI应用成本,加速业务落地。
扫描下方二维码
申请体验网宿边缘AI网关
↓↓↓
股票
板块
用户
资讯
评论 (0)