科技日报记者 江耘
AI正帮助越来越多的企业和个人提升效率,但Token费用、数据隐私等现实问题,让产业AI难以真正落地。端云协同,正成为产业重点探索的发展路径。
19日,在杭州举办的机械革命“大师之路,无限可能”新品发布会上,来自科研机构、硬件制造、人工智能领域的业内人士围绕企业AI落地展开探讨。大家普遍认为,产业AI已经进入价值兑现阶段,端云协同模式,正在为平衡数据安全与算力供给提供解题思路。

“多数企业认可AI的应用价值,但真正实现商业收益的占比并不高。”机械革命创始人潘春节说,AI发展上半场比拼模型参数能力,下半场核心是技术转化为生产力。“核心业务数据安全、云端使用成本不可控,是阻碍企业深度应用大模型的两大现实障碍。”
有招AI合伙人黄颖列举了行业现实困境:案件卷宗、患者病历、研发图纸、科研数据……都有严格的数据不出域要求。另外,企业深度使用公有云,Token消耗越多,部分企业遭遇AI使用成本激增的问题。
数据不能轻易出域,可端侧硬件算力存在上限,如何化解矛盾?产业给出的方向是端侧与云端分工协作:端侧运行本地大模型,处理文档解析、资料检索等敏感高频业务;云端智能体承接复杂规划、工程开发等高算力任务。
机械革命与阿里巴巴就此开展联合探索。会上,机械革命发布了大师之路X10企业级AI Box与AI SSD,将算力、模型部署于企业本地,依靠硬件技术创新突破端侧显存的桎梏。
“贴身的事情放在本地,更难的事情交给云端。”阿里巴巴Qoder产品线副总裁谢吉宝介绍,这套机制依靠意图识别做任务路由,敏感数据默认保留在本地,仅在用户明确授权后上传最小必要信息,兼顾隐私保护和算力优势。
云端AI处理能力十分成熟,本地端侧的AI能力又如何呢?
中国信通院两化所沉浸技术部主任陈磊指出,硬件迭代让端侧设备具备承载大参数模型的基础条件。AI正在从应用层下沉至系统底层,端云分工成为重要趋势:端侧更适合处理高频、低功耗、涉及本地隐私的任务,高算力、复杂推理任务交由云端完成。
“公有云好比酒店,适合短期临时使用;企业高频深度使用AI,则需要属于自己的算力底座,相当于安一个‘家’。”黄颖对端云的定位也十分形象。
现场多位嘉宾强调,算力硬件不等于业务价值。即便部署了端侧AI设备,还需要做好模型适配、行业智能体定制、员工能力培训等工作,才能把硬件算力转化成生产效率。
陈磊同时提醒,数据权责界定、智能体权限管理、端云调度机制、安全合规体系,仍是整个产业亟待补齐的短板。

网友评论