端云协同,打通AI落地关键堵点

2026-10-25 21:41:24 来源: 科技日报 点击数:

科技日报记者 都芃

“未来可能60%的AI应用跑在本地、30%端云协同,10%由云端独立完成。”在10月22日举行的2026科大讯飞全球1024开发者节上,科大讯飞董事长刘庆峰给出了他对AI落地趋势的判断。

这一判断背后是行业对大模型安全与成本的持续关注。近年来,随着AI加快渗透进入生产生活各个角落,如何让模型安全、低成本、稳定地进入真实场景,已成为业界必须要面对的重要课题。而端云协同,成为被推向前台的一条关键路径。

平衡安全与成本

理解端云协同,首先要看到当前大模型落地中最现实的几个问题:安全、成本与稳定性。

当前,在真实生产场景中仍存在着大量“碰不到云”或网络条件不稳定的设备:内网环境中的办公电脑、工厂车间里的终端设备、偏僻道路上疾驰的汽车……面对它们的智能化需求,云端模型“远水难解近渴”。

端云协同的解题思路并不复杂,它让模型结合任务难度、自身能力和数据安全需求,判断任务由端侧、云端还是端云协同完成,各司其职,协同发力。

更可控的流程、更低的单次调用成本,以及更稳定的应用体验让端云协同逐渐成为行业共识,加大对该领域的布局争夺。

例如,苹果已明确在第三代Apple基础模型中采用了“2款端侧模型+3款云端模型”的架构,端侧负责毫秒级延迟的个人情境理解,云端承担工具调用与跨领域复杂推理。国产厂商荣耀打造的端云协同创新模式可根据端侧功耗、内存和时延要求,共同决定模型的能力边界,并按照智能体的认知回路将复杂推理、快速响应、具体执行等不同类型任务分配至不同模型。

协同关键在调度

端云协同其实不是新概念,但此前的端侧模型仅停留在文本补全和简单问答,一遇到多步工具调用、长文本理解就容易“掉链子”。而随着端侧模型的短板被快速补齐,端云协同也真正有了落地可能。

就在上周四,科大讯飞旗下大模型品牌词元星火发布了最新的星火X2.6-4B端侧通用大模型。作为一个大小仅4B的模型,它不仅原生支持最长100万词元上下文的模型,还大幅提升了智能体、代码、长文本、数学、推理、通用知识、指令跟随等能力。

“我们认为4B的参数规模是最合适的,它既是做智能体任务的最低规模,也是能在主流消费级硬件上跑起来的最大规模。这使得星火X2.6-4B可以轻松进入笔记本、车机、智能家居等多类存量硬件。”发布会上,刘庆峰揭晓了星火X2.6-4B更大的能力进步:将端侧模型能完成的智能体类型任务比例由业界主流的12.8%提升到41.9%,这使其可以解决更多工作流任务,大幅提升可用性,让端侧智能落地真正成为可能。

但只是端侧强还不够,协同的关键在于“会调度”。一项任务到底应该由谁来完成,直接关系着端云协同的落地效率和成本。

领导了星火X2.6-4B训练的词元星火CTO刘权介绍,该模型依托于星火大模型端云一体协同架构,通过精准路由与协同执行,提升任务分配准确性与端云协同效能,推动端侧模型与云端模型优势互补,可以实现“云指导端”和“端云分工”,需要上云时,数据会先在本地脱敏,经用户检查、修改并确认后上传;结果回到端侧后再还原敏感信息。

“我们引入了基于评语模型的端云路由协同训练机制,通过同一任务在端侧模型与云端模型上的多次采样,利用评语模型对端云组间结果进行质量对比并形成奖励反馈,持续优化任务路由,使得端云路由准确率大幅提升。”

刘权打了个比方,端云路由就像是“派单员”,负责分发任务;评语模型则充当“裁判员”,通过“裁判打分”的方式,反复训练一个智能“派单员”,让它越来越会判断任务到底该由端侧做、云端做,还是端云一起做,让端云真正实现“无感”协同。

拓展AI落地场景

端云协同更大的发展空间藏在许多此前云端模型难以触达的场景里。

活动上,科大讯飞列出了十大适合端云协同的典型任务,包括私域知识深度研究、敏感复杂数据分析、内部多源证据核验等。

以私域知识深度研究类任务为例,围绕一个技术问题,模型可以先在本地读取项目文档、实验记录、失败日志、设计图纸等保密材料,由端侧模型完成语义理解、证据筛选和时间线梳理;随后,云端只根据脱敏后的检索需求,去查找公开论文、技术标准、专利文献和行业资料,做跨来源的综合推理;结果返回后,再由端侧整理汇总结果,关联本地材料,还原脱敏信息,最终形成一份有出处、可回溯的研究结论。

“对研究团队来说,这意味着实验记录、项目资料等需要高度保密的数据不必离开本地,云端补足的是外部知识的广度,端侧守住的是敏感数据的边界和结论核验的最后一关。”刘权说,这类真实研究工作的任务更适合端云协同来完成。

例如,科大讯飞最新推出的讯飞晓法超级法律助手,便是基于端云协同架构打造的法律AI产品,可以实现本地算力和云端模型自动调度。端侧承担证据编目、涉密材料脱敏、本地加密存储,核心数据全程不出域,从架构上规避公网泄密风险;云端负责数据脱敏后的复杂任务推理、海量类案研判、权威知识库交叉核验,两者各司其职,律师无需手动区分。

从专业研究到律师办案,再到车机、机器人、工厂智能终端,端云协同正在开辟AI落地新路径,也为AI走进千行百业打开更广阔的想象空间。

(受访单位供图)

责任编辑:李梦一
网友评论
最热评论
没有更多评论了

抱歉,您使用的浏览器版本过低或开启了浏览器兼容模式,这会影响您正常浏览本网页

您可以进行以下操作:

1.将浏览器切换回极速模式

2.点击下面图标升级或更换您的浏览器

3.暂不升级,继续浏览

继续浏览