本地 AI 的能耐，正一个 token 一个 token 地往上长。

大模型从拿来做样子，变成日常开发里的家常便饭；能用的开源模型一劲儿往小里缩，缩到塞进一台桌面机器还跑得动。这阵子的新消息是：NVIDIA DGX Spark 本月要出 64GB 统一内存的版本，由 Acer、ASUS、Dell、Gigabyte、HP、MSI 几家厂商伙伴一起推，DGX OS 和整套 NVIDIA AI 软件栈出厂就装好，开机即用。

能装百亿参数模型的机器，过去只待在机房；如今就摆在桌上，价格也落进了几千美元的档位。

64GB 这一版，把门槛往下压了一截

DGX Spark 把 Grace Blackwell 的算力、统一内存、ConnectX-7 网卡和 CUDA 加速的 AI 软件栈全塞进一台小机器里。说它是个人用的 AI 超算，其实个头跟一台台式机差不多，做的事很直白：模型和自己的数据往里一放，做实验、跑微调、调参数，用不着每次都去开一台云实例。

这一版走厂商伙伴渠道，价格压得友好，该给的都没减：GB10 Grace Blackwell Superchip、DGX OS、完整的一套 NVIDIA AI 软件栈，跟 128GB 版是一个路子。它能撑起最多一千亿参数的模型，外加架在这些模型上的智能体应用，全程本地跑，数据不出门。

开箱就能干智能体的活：NVIDIA Agent Toolkit、CUDA-X AI 里的一堆库、Nemotron 开源模型，还有 Ollama、vLLM、PyTorch with CUDA 这些常用运行时，装上就能用。从按下电源到模型转起来，中间耽搁不了几分钟。创作者那边也跟上了，Blender 是最早一批表态支持这个平台的应用厂商，预编译好的安装包很快就能下。

两台连起来，那 1.7 倍是这么来的

内存不够，添一台就完了。每台 DGX Spark 出厂自带 ConnectX-7 网卡，两台之间拿一根 QSFP 线直接对连，内存便并成 128GB，能吃的模型规模推到两千亿参数，内存带宽翻倍，实测性能最高 1.7 倍。

NVIDIA 拿 Qwen 3.8 27B 做的那轮测试就是这么回事：两台 64GB 组起来的集群，比单机最高跑到 1.7 倍；而且这还没到头，后面负载真涨上来，还能接着往多机扩。

还有一点容易被忽略：两台凑一块，内存并不只是做了个加法。从一台扩到两台，软件环境一个字都不用重设。

组队这事，交给 NVIDIA Sync

多机最难伺候的向来是网络。NVIDIA Sync 这个应用把活接了过来：集群助手会自己认出接上的机器、逐台校验配置、把 ConnectX-7 那条链路配好，开发者该操心的只剩自己的代码。每个节点跑的是同一套 NVIDIA 软件栈，从一台扩到两台，没有哪块配置需要回头重设。

月底还有个更省事的：NVIDIA Sync Model Launcher。跑本地 AI 这件事，点到几下按钮就能成。开发者可以在单机或集群上下载并启动 Qwen3.8 27B，Sync 负责把模型摆布到连着的机器之间，再从笔记本上直接访问。这个启动器还会顺手把 OpenCode 配好，浏览器里就能接着写代码。

手头这三件活，直接就能干

新的 64GB 配置是奔着实用去的。装得下的模型就在一台跑；一台扛不住的，拿 NVIDIA Sync Cluster Assistant 把多台连起来，要更大内存和算力的活交给集群。

• 让智能体全天候在线：把编码或调研用的智能体常驻在 DGX Spark 上，随时给它审代码、翻文档、跑多步任务。集群留出来的余量，留给更大的模型、更长的上下文，或者好几个智能体同时开工。
• 给日常那台 PC 当动力源：笔记本或台式机上跑着智能体、开着创作软件，DGX Spark 在旁边负责语言模型或图像生成，PC 这边的算力就被腾出来了。
• 活儿大了再往上加：单个任务撑爆一台——模型更大、上下文更长、并发请求更多——两台 64GB 经 200GbE 链路连起来，内存并到 128GB。原先在一台上跑的流程，原封不动搬到两台，软件环境不用动。

上手就三步

DGX Spark 64GB 从 10 月 23 日（周五）起在 Acer、ASUS、Dell、Gigabyte、HP、MSI 开卖，四千九百九十九美元起。

第一步，挑一个顺手的推理引擎装上：llama.cpp、Ollama、vLLM、LM Studio 都行。第二步，把这套流程要用的本地模型拉下来。第三步想扩到两台，就用 ConnectX-7 的口把两台对连，启动 Sync Cluster Assistant，它自己把网络配好、把负载路由到合适的节点。

顺带一提，同月还有几桩

build.nvidia.com/spark 上有 DGX Spark 的一整套操作手册，几个跟 64GB 设备相关的也快放出来了：拿 vLLM 起大模型服务、本地大模型配 OpenClaw、多台 Spark 凑成分布式负载跑重活。

另外，跑在 NVIDIA RTX Spark 上的 Windows 台式机本月也从 Acer、ASUS、Dell、HP、Lenovo、微软和 MSI 那边来了。阿里开源的 Qwen-Image-2.1 把出图和改图揉进一个轻量模型，在 RTX GPU、DGX Spark、DGX Station 上都能本地跑，想出图改图的人在自己机器上就能折腾完。

想先跑起来的人，不妨先从一台起步，等哪天负载真压不住了再加第二台。欲速则不达，集群这东西铺早了，纯属给自己找活干。真机跑过几轮，你才分得清瓶颈卡在哪一环——操千曲而后晓声，观千剑而后识器，这话换到调机器上一样成立。

原文链接：
https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/