都说开源遇冷,GLMFlash本地却被玩出花

这两天,一条唱衰中国开源模型的帖子在海外技术圈传开了。发帖的是一位长期在本地折腾大模型的开发者,她的判断很直白:今年开源模型那波高光,差不多到头了,接下来是一次明显的放缓。"冬天要来了,或者已经来了。"

她给出的理由不复杂。消息说下一代 GLM 5.5 参数量会冲到 2 到 3 万亿,会比现在的 GLM 5.3 更强、更大,但大概率没法在个人电脑上跑了。DeepSeek 后续的新模型也是同一个路子。换句话说,能自己在家跑的旗舰开源模型,可能就停在眼下这一代了。

这条帖子拿到三万多次浏览、四百多个赞,底下吵成一片。有人认同,有人反驳。但有意思的是,同一位开发者接下来发的几条帖子,画风完全变了:她正忙着测试一堆本地微调版 GLM-5.3-Flash,还把清单晒了出来。

一边喊冬天,一边把模型在本地玩出了花。这种反差,恰恰是这件事最值得说的地方。

主角是谁:一个能塞进家用电脑的千亿模型

要读懂这场热闹,先得认识 GLM-5.3-Flash。

它是智谱今年 8 月 26 日放出来的原生多模态模型,满血版参数 3200 亿,但用了混合专家结构,每个 token 只唤醒大约 180 亿参数。这个设计的关键在于:能力强,跑起来却不算贵。上下文窗口给到了 100 万 token,能读图、能看视频,还挂了一个几乎没什么限制的 MIT 许可证,随便商用、随便微调、随便分发。

价格更是狠。官方 API 每百万 token 输入一毛五美元、输出五毛美元,输出价大约是同门旗舰 GLM-5.3 的九分之一,是某些西方顶尖模型的一百分之一。有开发者爆料,它早期曾在 OpenRouter 上以匿名代号霸榜一周,很多人先被它的效果圈粉,后来才知道背后是哪家。

正是这种"够强、够便宜、许可够松"的组合,让它成了本地玩家眼里的香饽饽。

微调版扎堆:提速 2.4 倍,误差还不到 1%

真正让社区沸腾的,是围绕它冒出来的一大批微调版本。

那位开发者晒出的清单里,光是现成的量化版就有好几款:有主打科学多模态的 Sage-S2.1-Flash,有面向安全领域做强化学习后训练的,有冲着长链路终端任务去的,还有做角色扮演的。同一批模型里,她点名要测的是上海人工智能实验室的 Sage-S2.1-Flash。

开发者晒出的微调版 GLM-5.3-Flash 清单,涵盖科学、安全、智能体等多种方向

开发者晒出的微调版 GLM-5.3-Flash 清单,涵盖科学、安全、智能体等多种方向

Sage-S2.1-Flash 本身也是个狠角色。它是上海人工智能实验室 11 月中旬开源的科学多模态模型,参数约 3210 亿,同样走 MIT 许可。靠一套叫 Sage SciPerception 的输入结构,它能直接读分子图、晶体结构、蛋白质序列这些专业数据,不用先转成文字。实验室自己公布的成绩里,它在 MLE-bench Lite 上拿到 90.3 分,压过同场竞技的 DeepSeek-V4.1-Flash,在 15 个基准里拿了 4 个第一、7 个第二。当然,这些都是实验室自己的数字,还没有第三方复现。

不过在"省算力"这件事上,最能说明问题的还是 Swift 1.5 这个微调版。

它做了一件很聪明的事:不直接砍推理长度,而是先找出那些跟"过度思考"绑定的 token,专门给它们施加惩罚,再用一轮后训练把掉下去的准确率补回来。结果相当漂亮:在最高推理强度下,思考 token 中位数少了 57.7%,速度提升 2.4 倍,各项基准的准确率损失控制在 1% 以内。GPQA-Diamond 上中位数降幅同样超过五成,MMLU-Pro 更是省了六成多的 token,分数只从 87.38 掉到 86.25。

省下这么多思考,反而没变笨,这才是让本地玩家上头的原因。

唱衰的人,和抄作业的人

有意思的是,围绕这波开源模型,社区里的看法根本没统一。

悲观的一派担心,模型越做越大、越来越不适合本地,等于把普通人挡在门外,今年这波开源热潮可能就是昙花一现。持这种看法的开发者不在少数,她自己也坦言"很愿意被证明是错的"。

务实的一派则完全不接这个茬。他们的逻辑是:旗舰版跑不动,那就跑微调版、跑量化版;满血版塞不进显卡,那就用 FP8、用 GGUF。硬件这边也在配合。英伟达出了在 DGX Spark 集群上跑这类模型的指南,社区优化把成本砍掉八成还多,各种免费平台也在降低门槛。路子多的是。

还有一群人干脆不站队,自己动手测。他们比的是"同样的问题,原版要烧多少 token,微调版要烧多少",用实测数据说话。毕竟实验室的榜单再漂亮,也代替不了自己电脑上的那一次跑分。

兼听则明。这场讨论里,与其急着下"开源要凉"或者"开源无敌"的结论,不如看清楚一个事实:模型的参数在涨,但把它塞进普通设备的手艺,也在同步进步。

普通人能捞着什么

说了这么多热闹,落到想上手的人身上,其实就几条实在的。

第一,别被"-parameter"这个数字吓住。3200 亿参数听着吓人,但混合专家结构每个 token 只激活一小部分,加上量化压缩,最小能跑的版本体积已经压到 100GB 以内,一台大内存的机器或者集群就能对付。想省事,直接用 API,一百万 token 也就几毛钱。

第二,挑模型别只看旗舰。真要本地跑,像 Swift 1.5 这类"省 token 不掉分"的微调版往往更划算。它省下的不只是等待时间,还有实打实的算力和电费。

第三,许可证要看清。GLM-5.3-Flash 是干净的 MIT,随便商用;但满血版 GLM-5.3 用的是另一套带附加条款的许可,Swift 系列又是自己的开放许可。想拿去商用、二次分发,先把许可条款读一遍,别踩坑。

下一代模型会不会大到没人跑得起,现在还没定论。但至少在这一代,开源社区用一堆微调版和量化方案给出了自己的答案:冬天是不是来了不好说,反正手里这台机器,还能再战一阵。

参考内容:

https://x.com/i/trending/2122526548498731287

https://open.bigmodel.cn/

https://huggingface.co/ukisai/Swift1.5-GLM-5.3-Flash


https://emergent.sh/news/internlm-sage-s2-1-flash-321b-scientific

展开阅读全文

更新时间:2026-11-19

标签:科技   模型   开发者   参数   实验室   清单   中位数   随便   结构   科学   旗舰

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302035593号

Top