算力约束下科大讯飞押注“端云一体”
“未来应该让60%的工作就在本地完成,数据不出域,1分钱Token成本都不花;30%的应用通过云端协同;10%才是真正要在云端来独立处理的。”10月22日,全球1024开发者节上,董事长刘庆峰用这组数字定义了公司“端云一体”。
在云端大模型竞赛愈演愈烈的当下,选择了一条不同的路:与其在算力受限的云端赛道上硬拼,不如将更多任务交给本地设备。
长期在国产算力平台训练大模型。刘庆峰坦言,即便持续追赶,国产芯片与英伟达仍存在代际差距。在云端大模型赛道上,参数规模与Token消耗直接放大了这一劣势。
“国产算力训端侧模型已经足够。”刘庆峰算了一笔账:当模型压缩至4B参数级别时,训练和推理的算力需求呈指数级下降。这意味着,在端侧赛道上,算力差距被大幅削弱甚至抹平。
但这并非放弃云端。科大讯飞仍将293B参数的星火X2.6作为旗舰通用大模型,但刘庆峰明确表示“云端模型不会做得太大”。
“端云一体”的本质,是在算力受限的条件下找到一条更务实的落地路径:与其在云端用短板拼别人的长处,不如在端侧用足够用的算力建立差异化优势。
不过,端云协同也正在从技术选项演变为行业共识。端侧为主、云端为辅,优先在本地处理,解决不了再上云——这已经成为更多厂商的布局方向。
苹果公司已在第三代基础模型中采用“2款端侧模型+3款云端模型”架构,端侧负责毫秒级延迟的个人情境理解,云端承担工具调用与跨域复杂推理。荣耀与阿里千问合作,按任务类型分配算力。毕竟自动驾驶需要毫秒级响应,工业机器人要求断网可用,这些场景在云端往返在物理上无法满足。
此外,端云协同背后的驱动力是成本与合规的双重压力。云端Token消耗随模型规模飙升,企业面临成本压力;而出于个人信息保护,金融、医疗等行业要求数据“不出端”。
在行业集体转向的背景下,讯飞的“端云一体”也有自己的优势。此次发布的星火X2.6-4B,将智能体任务覆盖度从12.8%提升到41.9%,目标覆盖率60%以上。这意味着大部分日常AI任务可以在本地闭环完成。
而科大讯飞的硬件生态是端侧模型的天然载体。讯飞PG电子已布局AI学习机、智能办公本、AI录音笔、AIPC等消费硬件,其星火座舱端侧多模态大模型矩阵已落地30家主流车企,累计前装搭载8100万辆。讯飞把已有的硬件生态和车载场景作为端侧模型的落地土壤。
但端侧AI面临的挑战也是行业性的。比如,从商业模式上来看,端侧AI要如何形成持续收费模式,而非作为硬件免费附送的功能,还需要找到让消费者付费的理由。在这一点上,行业都还在摸索。




