
9 月 17 日,一个叫 Splash 的新引擎加入战团。它面前已经站了三位先发选手:MTPLX、uzu,还有 Perplexity 家的 Lily。四家干的是同一件事:让 Qwen 在 Mac 上跑得飞快。
麻烦在于,这四家的跑分全是开发者自己测的:自己的 Mac、自己的提示词,数字根本对不到一张表上。官方给 Splash 的成绩是 M5 Max 上每秒写 144 个 token;有用户在同样型号的机器上跑早期版本,只拿到一半左右。都说自己最快,乱花渐欲迷人眼,这篇文章帮你把账算清楚。
Splash 和 MTPLX 的提速路子是同一招:抢在前面多猜几个词。这招在代码上好使,放到平常写作上就差了口气,眼下流传的大部分跑分,也都是在代码任务上量出来的。
想吃到这波红利,得先明白 Mac 写一个词时时间花在哪。大头其实是把整个模型从内存里读出来这一步。一次读出模型,顺手核验五个猜出来的词,成本跟规规矩矩写一个词差不多。所以每猜对一个,就等于白捡一个词。
猜词还有个脾气:代码的可预测性远高于散文。变量名一定、括号一开,后面几个词闭着眼都能蒙个八九不离十。同一台 Mac 上,Splash 对代码的猜中率接近散文的三倍,写代码的速度也差不多翻了一倍。
可一旦连着猜错,核验本身也在烧时间,整台机器反而会比不猜还慢。Perplexity 就发现猜测把 Lily 拖慢了,干脆让 Lily 一猜不猜。

Splash 围绕两款 Qwen 模型打造:3.8-27B 和 3.6-35B,各自配了专用的代码模型和猜词模型。用 LM Studio 的注意了,Splash 引擎也能塞进 LM Studio 里跑。
MTPLX 走官方路线,直接用 Qwen 自带的猜测机制,还会核验结果与不猜时一字不差。它能跑的模型也比 Splash 多。按它自己在一台 Mac 上的测试,速度跟 oMLX 打平。
oMLX 是为 Agent 而生的。历史对话它都替你存着,内存不够就落到 SSD,Agent 回头翻一场长会话,不用从头再读一遍。
uzu 同样能跑 Qwen 3.8;Lily 则完全不碰 Qwen。
Ollama 和 LM Studio 不押注任何单一模型,不过 Ollama 有个专门为 Mac 调过的 Qwen 3.8 构建。

Splash 挑机器:M3 芯片起步,系统 macOS 26.4 往上。装它用 Homebrew:
brew install incoai/tap/splash
splash serve --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M24GB 内存的 Mac 换小档,用
unsloth/Qwen3.8-27B-GGUF:UD-IQ3_XXS,同时只开日常应用。第一次启动要下载模型再做准备工作,得等上一阵;之后浏览器打开 127.0.0.1:8000 就有一个现成的聊天页,另开一个终端跑 splash claude,还能直接接进 Claude Code。
走 LM Studio 的话,先把 Bionic 应用升到 1.1.5 以上,Splash 引擎藏在设置、运行时的实验区里,模型选 incoai/Qwen3.8-27B-Splash。只是在 LM Studio 里推理档只能开或关(开就是 medium 档),想自己挑档位,就让 Splash 单独跑。
提醒一句:Splash 头 9 天连发 4 个版本,动手前先 brew upgrade 一遍再试。
有人把 Splash、oMLX、Ollama 的 Qwen 3.8 构建请进同一台 64GB M4 Max,用同一组提示词从短到长跑了一遍。
大多数回合 Ollama 领先:短提示上它比另外两家略快;超长提示上它写到每秒 41 个 token,Splash 是 27。
Splash 的强项在起跑:面对没见过的提示,它最快开口。长提示再次回来时,三家都在两秒内出了声。
谁快谁慢,放到同一台机器上一跑便知,水落石出。

这套对决你在家就能复刻一个缩小版,几分钟的事。注意一次只跑一个程序,Splash、oMLX、MTPLX 默认都占 8000 端口。
给每家喂同样两个提示:一段你手头真实的代码活,再加一段日常文字,比如一封邮件或一份摘要。下面的命令要求回复不超过 500 个 token,并打印实际写了多少:
time curl -s http://127.0.0.1:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model": "MODEL", "max_tokens": 500,
"messages": [{"role": "user", "content": "YOUR PROMPT"}]}' \
| jq .usage.completion_tokens拿打印出来的 token 数,除以 time 报的总秒数,就是每秒 token 数。Ollama 把端口换成 11434,LM Studio 换成 1234,模型名照各家界面上显示的填。
要是代码提示明显快过文字提示,说明猜词机制在替你干活。哪种提示你用得最多,就留下在它身上最快的那个。官方跑分写得再漂亮,纸上得来终觉浅,绝知此事要躬行,自己的活自己跑一遍才算数。

16GB 档:这几家都别惦记 27B 了。模型吃掉的内存跟机器总量差不多,这个档位换更小的模型更实际。
24GB 档:Splash 是唯一给了实测小档的,官方数字每秒 43 个 token(代码任务);其他几家塞 27B 都挤。
36GB 往上:Splash、MTPLX、oMLX、Ollama 全都能跑。先用 Ollama 打底,同机测试里它最强;主力写代码,就在旁边再装个 Splash 比比;Agent 的会话长到内存装不下,换 oMLX。
至于 Qwen 那个大得多的 Flash-Next,96GB 内存起步,MTPLX、oMLX、Ollama 喂得动,Splash 喂不动。

不管你的 Mac 是哪个档,把装得下的引擎都过一遍两提示测试,留下在你最常干的活上跑得最快的那个。名头响不响不重要,合你手头的活计才是真本事。
原文链接:https://medium.com/@
anubhavgoyal101/three-mac-llm-engines-claim-to-be-the-fastest-splash-just-made-it-four-54e120d026ae
更新时间:2026-10-22
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302035593号