科大讯飞开源端侧大模型:1M上下文跑在车上

科大讯飞今天开源了两款端侧大模型:星火 X2.5-4B 和星火 X2.5-1.7B。

名字里的 4B、1.7B 是参数规模——小模型,但原生支持最长 1M token 上下文窗口,重点提升智能体、数学和通用理解能力,面向车载、智能硬件、万物互联等端侧场景。

一周后(9 月 7 日),科大讯飞还将发布星火 X2.5(293B)基座模型。

端侧 AI 的开源战,正式打响了。

为什么"端侧"突然重要

过去两年大模型的主战场在云端:几千亿参数的大模型,跑在数据中心里,用户通过 API 调用。

但端侧 AI 的逻辑完全不同:模型直接跑在你的设备上——车机、手机、智能音箱、甚至家电。不上云、不联网、数据不出设备。

好处是明显的:响应快(没有网络延迟)、隐私好(数据不出门)、成本低(不用一直烧 API 费用)、离线可用。

坏处也明显:设备算力有限,模型做不大。所以端侧模型都在拼"小参数、高能力"——4B、1.7B 的模型,要做到接近大模型的效果。

1M 上下文在小模型上意味着什么

这次开源最值得注意的数字,是 1M token 上下文。

1M 上下文意味着模型能一次"记住"一整本书的内容。在小参数模型上实现 1M 上下文,说明工程上做了大量优化——这通常是旗舰模型才有的能力,现在下沉到了端侧。

对小模型来说,上下文长度比参数规模更影响实用体验:车载助手要理解整段对话,智能硬件要记住用户偏好,1M 上下文让这些场景真正可用。

顺带一提,端侧模型的另一个关键词是"智能体能力"。星火 X2.5 强调提升智能体能力,意味着小模型也要会调用工具、执行多步任务——不是只能聊天,而是要能"干活"。这是端侧 AI 从"语音助手"走向"本地智能体"的关键一步。

我的判断:端侧 AI 是下一个"卷"的战场

云端模型的竞争已经白热化,但端侧 AI 才刚起步——而它可能是更大的一块市场。

想想有多少设备:车、手机、家电、穿戴、工业设备。每一个"能跑模型的设备",都是端侧 AI 的落地场景。云端模型是"算力集中",端侧模型是"智能分发"——把 AI 能力塞进每一台设备,这才是万物互联的终局。

科大讯飞押注端侧不是偶然。它在语音、车载领域深耕多年,端侧场景是它的基本盘。开源 4B/1.7B 端侧模型,既能抢占开发者生态,又能拉动自家硬件和平台业务。

而且,端侧模型的商业模式和云端完全不同:云端靠 API 调用收费,端侧靠"预装授权 + 开发者生态 + 硬件溢价"。谁先占据开发者的端侧心智,谁就拿到了下一波设备的入场券。

对普通人的影响

对开发者来说,讯飞开源的意义是:做端侧 AI 应用有了免费的高质量底座。4B 模型在消费级设备上就能跑,1M 上下文覆盖绝大多数场景,MIT 类开源协议意味着可以商用。

对普通用户来说,端侧 AI 的普及意味着:你的下一台车、下一个智能音箱、下一部手机,里面的 AI 助手会"离线也能用"。不联网也能对话、也能理解复杂指令,数据留在本地,隐私更有保障。

大模型厂商的竞争已经从"谁参数大"延伸到"谁能把智能塞进最小的设备"。当 1M 上下文的模型能跑在车上,AI 离"无处不在"又近了一步。

端侧 AI 开源,你觉得会是又一个"安卓时刻"吗?

展开阅读全文

更新时间:2026-09-03

标签:科技   上下文   模型   智能   设备   星火   云端   参数   开发者   场景   离线

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302035593号

Top