
11 月 12 日,一家叫 Edge0 的公司发布了一个开源大模型 Edge0-145B:1450 亿参数,在一台笔记本电脑上就能跑,生成速度每秒 80 多个词元,比人读得快得多。
前几天我们聊过,一台 64G 内存的电脑跑起了 2840 亿参数的 DeepSeek。这次的模型小一半,对电脑的要求也低了不少。这篇文章讲清楚两件事:它是怎么塞进笔记本的,以及你该不该试。
1450 亿个参数,按常见的压缩方法,也要七八十 G 的内存。Edge0 用了两招。
第一招:每次只用一小部分。 这是一个“混合专家”模型,里面有很多个“专家”,每次回答只叫醒其中几个,真正参与计算的参数大约只有 100 亿。专家之间还共用了一部分参数,进一步缩小了体积。
第二招:把东西分层放。 就像一个人干活:手边放最常用的工具,抽屉里放偶尔用的,仓库里放很少用的。

这样,运行时最多只占用大约 29G 内存。公司说,一台 48G 内存的笔记本,比如 MacBook Pro,就能跑起来;Windows 和 Linux 电脑也支持。
公司公布的数字:

不过这些成绩要打个问号:大多是公司自己测的,完整的技术报告还没发布。在一些难题测试上,它也比对手差一点。

模型在自己电脑上跑,最大的好处有三个:
代价也很实在:要一台内存够大的电脑,跑起来风扇会转,电池掉得快;需要最新信息的问题,它也答不了。
老话说:量体裁衣。
大模型也到了按需选择的时候:不是所有事都要找最大、最贵的云端模型,日常的写作、整理、写代码,一台好电脑上的本地模型,可能就够了。
如果你想试试,可以这样做:
你会在自己电脑上跑大模型吗?主要用来做什么?欢迎在评论区聊聊。
更新时间:2026-11-16
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302035593号