本地 AI 來了：三款桌上型機器，聊天機器人不必上雲端
本文介紹的每一項產品，皆由 Sparknify 編輯獨立挑選與評估。若您透過本頁連結購買，Sparknify 可能獲得佣金，您無須額外付費。身為 Amazon 聯盟會員，Sparknify 會從符合資格的購買中賺取收益。
輝達（NVIDIA）的合作夥伴從 10 月 23 日起販售 64GB 版 DGX Spark，價格為 4,999 美元。DGX Spark 可將最多 1,000 億參數的 AI 模型帶到一般辦公桌上。本地 AI 不再只是實驗室專案，你可以在辦公室或家中執行自己的私人聊天機器人，不必按 token 付費，也不必把資料上傳到雲端。
64GB 版 DGX Spark 於 2026 年 10 月 23 日開賣，起價 4,999 美元。
宏碁、華碩、戴爾、技嘉、惠普與微星都販售 64GB 版本。
一台 64GB 機器可執行最多 1,000 億參數的模型；128GB 機器可處理 2,000 億參數。
每台機器都預載 DGX OS 與輝達的 AI 軟體，包括 Ollama、vLLM 與 PyTorch。
最多 4 台 DGX Spark 可以串接，執行最多 7,000 億參數的模型。
AI 正從資料中心走上辦公桌
過去三年，如果想要一個好用的聊天機器人，只能租用別人的運算資源。你的提示詞被送到資料中心，在租用的 GPU 上運作，最後你會收到一份使用費用帳單。這種商業模式撐起了今天的 AI 產業，但 AI 產業從來不是只能這樣走。
運算產業早已經歷過這樣的變革：從大型主機、迷你電腦，到每個人桌上都有的個人電腦。當硬體強大且便宜到「擁有」比「租用」更適合日常工作時，這種轉變就會發生。
今天，AI 已經到達這個階段，Meta 在 10 月就證明了這點。Meta 使用兩台蘋果 Mac Studio，執行了 8,160 億參數的 Muse Spark Open 模型，Sparknify 一篇關於在桌上執行前沿模型的報導曾介紹過。輝達將相同的概念封裝在 DGX Spark 中，這是一台約莫精裝書大小的裝置。
64GB 版的意義在於降低入門價格。輝達在發表這款配置時說，這將讓開發者、研究人員和愛好者能在裝置上完整執行最多 1,000 億參數的模型。同時，128GB 版的 Founders Edition 從上市時的 3,999 美元漲到 6,950 美元，原因是記憶體價格持續上漲。
辦公室為什麼要自己跑聊天機器人？
本地 AI 機器可以幫重度使用者節省費用，也能把資料留在辦公室內。這兩點是大家對本地 AI 感興趣的主要原因。
先談費用。很多雲端 AI 服務按 token 收費，token 是指 AI 模型讀取與產出的文字片段。整天使用 AI 撰寫合約、整理文件摘要、寫程式的組織，每週可能輕易用掉數百萬個 token。在這種情況下，本地 AI 就更划算，因為費用變成購買價格加上使用時耗用的電費。
戴爾（Dell）也販售自己的 GB10 機器，它在一篇介紹 Dell Pro Max with GB10 的公司部落格文章中提出這個論點：
「一台機器不到一年就能回本，之後的每一個提示詞都是免費的。」
能省下多少費用，取決於你使用 AI 的頻率。戴爾將 6,300 美元的定價，跟每年 1.5 萬到 2.5 萬美元的團隊訂閱方案做比較。對 AI 用量不大的人來說，大概省不了錢；但持續執行 AI 代理程式的團隊或許可以。
另一個重要原因是隱私，對很多辦公室來說，這點可能更重要。律師事務所、診所，或握有未公開程式碼的公司，可能根本不想讓任何提示詞或文件離開辦公室。本地 AI 可以把提示詞和文件留在辦公室內。不必擔心第三方留下紀錄、隱私政策一夕變動，也不必擔心模型因供應商停止提供而消失。
盒子裡有什麼
這些系統使用的都是輝達 GB10 Grace Blackwell 超級晶片。每個系統皆配備 20 核心 Arm 處理器和 Blackwell GPU，在 FP4 精度下最高可提供 1 petaflop 的 AI 效能。CPU 和 GPU 共享一塊高速記憶體，因此大型模型不受顯示卡記憶體限制。
讓它們能直接用來跑聊天機器人的，是軟體。這些系統皆內建以 Ubuntu Linux 為基礎的輝達 DGX OS，還有 CUDA、Nemotron 開放模型，以及 Ollama、vLLM、PyTorch 等執行環境。照著輝達的 Open WebUI 操作指南，大約 15 分鐘就能在瀏覽器上建立一個私人聊天應用程式。
當然也有取捨。這些系統是搭載 Arm 處理器的 Linux 機器，而不是 Windows 電腦，所以並非每個熟悉的應用程式都能執行。273 GB/s 的記憶體頻寬也限制了產生文字的速度。一些評測者發現，蘋果 Mac Studio 的回答速度更快，因此 GB10 系統更適合建置與執行私人工具，而不是追求純粹的聊天速度。
技嘉 AI TOP ATOM：入門首選
三款產品中最便宜的是 64GB 版的技嘉 AI TOP ATOM。它可以載入最多 1,000 億參數的模型，足以執行辦公室聊天機器人和程式助理所用的優秀開放模型。技嘉在輝達軟體的基礎上疊加了自己的 AI TOP Utility，提供訓練、監控和記憶體卸載的工具。
晶片：輝達 GB10 Grace Blackwell，20 核心 Arm CPU，Blackwell GPU
AI 效能：FP4 下最高 1 petaflop
記憶體：64GB LPDDR5x 統一記憶體，273 GB/s
儲存：2TB M.2 NVMe PCIe 4.0 SSD
網路：10GbE、Wi-Fi 7、藍牙 5.4、兩個 200 Gbps QSFP 連接埠
軟體：輝達 DGX OS 與輝達 AI 軟體堆疊，加上技嘉 AI TOP Utility
尺寸：150 x 150 x 50.5 公釐，1.2 公斤，240W 變壓器
透過線材，你可以把兩台 64GB 系統連接起來，合計使用 128GB 記憶體。換句話說，你可以先買一台，之後再買第二台擴充。在 Amazon 查看技嘉 AI TOP ATOM 64GB。
微星 EdgeXpert：記憶體加倍
微星 EdgeXpert 擁有 128GB 記憶體，是 64GB 技嘉機型的兩倍，可以執行最多 2,000 億參數的更大模型。這台機器預載 DGX OS 和輝達完整的 AI 軟體堆疊。而且 4TB 硬碟還具有自我加密功能，對打算把客戶檔案存在機器上的辦公室來說非常實用。
晶片：輝達 GB10 Grace Blackwell，20 核心 Arm CPU，Blackwell GPU
AI 效能：FP4 下最高 1 petaflop
記憶體：128GB LPDDR5x 統一記憶體，273 GB/s
儲存：4TB 自我加密 NVMe SSD
網路：10GbE、Wi-Fi 7、可串接兩台的 ConnectX-7
軟體：預載輝達 DGX OS 與輝達 AI 軟體堆疊
尺寸：151 x 151 x 52 公釐，1.2 公斤，240W USB-C 變壓器
如果想執行更大的模型，或同時執行多個模型，這款是最佳選擇。在 Amazon 查看微星 EdgeXpert。
輝達 DGX Spark Founders Edition：原廠參考機
DGX Spark Founders Edition 則是輝達自己的版本，所有合作夥伴的產品都以它為基礎。這款產品配備 128GB 記憶體與 4TB 硬碟，全部包在金色的金屬泡沫外殼中。它目前定價 6,950 美元，買家需要為原廠版本多付一些溢價。
晶片：輝達 GB10 Grace Blackwell，20 核心 Arm CPU，Blackwell GPU
AI 效能：FP4 下最高 1 petaflop
記憶體：128GB LPDDR5x 統一記憶體，273 GB/s
儲存：4TB 自我加密 NVMe SSD
網路：10GbE、Wi-Fi 7、ConnectX-7 SmartNIC
軟體：輝達 DGX OS 與輝達 AI 軟體堆疊
尺寸：150 x 150 x 50.5 公釐，1.2 公斤，240W 變壓器
作為輝達自己的 GB10 機器，官方操作指南正是為它所寫，很適合密切關注這個平台的開發者。在 Amazon 查看輝達 DGX Spark Founders Edition。
當每間辦公室都有自己的 AI，會發生什麼事？
未來幾年內，本地 AI 很可能會像網路印表機一樣普遍。64GB 機型讓本地 AI 的入門門檻更低，開放模型也在品質不變的情況下越來越小。輝達目前已經可以讓最多 4 台 DGX Spark 一起執行最多 7,000 億參數的模型。很快地，小型企業就可以在完全掌握在自己手裡的機器上架設 AI 助理，就像過去自己架檔案伺服器一樣。
這將會扭轉 AI 產業的權力分配。雲端業者靠著每一個 token 賺錢，當客戶不再付 token 費用，它們也就會失去掌控權。想為律師、醫師或金融業者打造聊天機器人的創辦人，可以販賣完全在客戶端執行的軟體，這是只靠雲端的工具做不到的。投資人很可能會關注哪些開放模型在這些機器上跑得好，因為這決定了企業能在離線狀態下做些什麼。
這當然不全然是好消息。記憶體短缺推高了價格，現在的 Founders Edition 比原本的 3,999 美元貴了許多。資安責任也落在擁有者身上。一台設定不當的機器接上辦公室網路，外洩的風險就跟防護不足的雲端帳號一樣，而且沒有人會幫你修補。
批評者也指出，最好的封閉模型依舊只存在雲端。本地 1,000 億參數的模型能力不錯，但在困難的推理任務上表現不如大型雲端模型。支持者則反駁說，辦公室工作很少需要最好的模型。他們認為，較小的模型就足以完成大多數的摘要、草稿及內部搜尋任務，而這些正是 token 帳單很大一部分的開銷。
隱私規範可能會加速這場變革。客戶及病患資料能傳送到何處的限制，已經讓某些企業難以採用雲端 AI。一台資料從不外流的機器，就繞開了這個問題。
以下四件事將告訴你趨勢的發展方向。
64GB GB10 機器的市價在 2027 年跌破 4,000 美元。
能裝進一台 64GB 機器的 1,000 億參數級新開放模型問世。
辦公軟體廠商推出專為這些機器打造的地端版本。
雲端 AI 業者調降 token 價格，避免重度使用者改買硬體。
過去 AI 只存在於遙遠的資料中心，現在它可以放在辦公室的咖啡機旁邊。
訂閱 Sparknify，掌握科技新聞與背後的人物。
問與答
Q1：我正在為律師事務所開發一款私人聊天機器人應用程式，要在 DGX Spark 等本地 AI 硬體上執行。有哪些公司正在投資本地 AI 硬體的軟體？
硬體廠商正在資助能讓自家產品落地的軟體。群聯（Phison）的合作夥伴包括微星和華碩，它核准約 2,000 萬美元，資助為其 aiDAPTIV 技術開發應用程式的獨立軟體開發商。群聯的新創投部門透露出這類投資人的興趣所在。
Q2：像輝達 DGX Spark 這樣的桌上型機器，會讓聖荷西等地的大型 AI 資料中心變得過時嗎？
不會，至少短期之內不會。桌上型機器可以執行私人聊天機器人和辦公軟體，但訓練和最大型的模型仍然需要資料中心。聖荷西市議會已核准一棟用電可達 20 百萬瓦的輝達晶片測試大樓的許可，顯示對大型設施的需求會繼續存在。
Q3：以 DGX Spark 為基礎推出本地 AI 產品的新創，該如何接觸矽谷的投資人和買家？
從客戶已經聚集的地方開始，比如科技活動、創辦人計畫和產業媒體。其中一個選擇是入門方案，包括一次規劃會議、一篇科技新聞專題報導、一次投資人引薦和一次發表邀請，可以透過新創公關服務取得，網址是 sparknify.com/startup-pr-service。
留言