1487 字
7 分鐘

Muse Spark Open 能在本機跑嗎?先核對權重容量與部署條件

看到 Muse Spark Open 標示「42B active」,想在自己的電腦接 coding agent,先別用 42B 去估權重容量。它是總參數 816B、每次啟用部分參數的 MoE 模型;本機部署要核對完整 checkpoint、推論引擎與執行期記憶體。

Meta 在 2026 年 10 月 15 日公告開放權重,並展示以兩台 M5 Ultra Mac Studio、搭配 MLX 執行。這是特定設備組合的官方展示,不能推論一般 MacBook 或單張顯示卡也能重現。本文於 10 月 16 日檢閱官方資料並讀取公開檔案 metadata,沒有下載權重、啟動模型或量測 tokens/s。

先用檔案清單核對,別只看 active 參數#

MoE 的部分專家參與單次運算,並不表示其他權重可以從部署中省略。即使引擎提供分片或 offload,也要另外確認資料如何移動,以及對延遲的影響;不能直接把活躍參數當成所需記憶體。

以官方 Hugging Face repository meta-models/Muse-Spark-Open-816B-A42B 為例,本次公開 metadata 回傳:

  • Revision:0fb02478b02565b2ce7fc57e6051c91172774ac9。
  • .safetensors 檔案:65 個。
  • 這些檔案的 size 合計:1,644,333,393,864 bytes,約 1.64 TB/1.50 TiB。

這是該 repository 當下列出的權重檔大小,沒有把所有 tokenizer、設定檔與快取副本算進去,也不是量化版本的通用大小。下載目標若換成另一個 repository,就要重新計算。

以下 Python 範例只發出公開 metadata GET,沒有權重下載、登入或模型執行。維護流程已在本機執行這段程式;日後清單與 revision 可能改變,請以自己的輸出為準。

import json
from urllib.request import urlopen
repo = "meta-models/Muse-Spark-Open-816B-A42B"
url = f"https://huggingface.co/api/models/{repo}?blobs=true"
with urlopen(url, timeout=30) as response:
metadata = json.load(response)
weights = [
entry for entry in metadata["siblings"]
if entry["rfilename"].endswith(".safetensors")
]
if not weights or any(not isinstance(entry.get("size"), int) for entry in weights):
raise RuntimeError("權重清單或 size 不完整,停止容量估算")
total = sum(entry["size"] for entry in weights)
print("revision:", metadata["sha"])
print("weight files:", len(weights))
print("bytes:", total)
print(f"TB: {total / 10**12:.2f}; TiB: {total / 2**40:.2f}")

若某個 repository 同時放了多套量化檔或不同模型變體,不能照抄「全部 safetensors 相加」作為單次下載量。先從該版本的 index/檔案結構確認所選 checkpoint 包含哪些檔案,再限定清單。這份程式只用來核對本文指定來源,不是所有模型倉庫的自動容量規劃器。

儲存空間與可執行記憶體要分開算#

官方模型卡列出 BF16 與 NVFP4 版本,並分別列出 2 TB 與至少 700 GB VRAM 的 GPU 部署需求。這些條件不能直接套成 Apple 統一記憶體的最低需求,也不能把不同精度的容量互換。

部署前分開確認三筆預算:

預算要取得的證據
下載與儲存所選 revision 的權重清單、檔案大小、快取路徑,以及轉檔時是否同時保留原檔
載入模型精度/量化格式、引擎支援版本、各裝置實際分片,以及權重是否完整載入
執行請求目標 context、同時請求數、KV cache 與暫存張量造成的峰值記憶體

表中的後兩項不能從 metadata 的總 bytes 推導。先讓短請求完成,再逐步拉到自己的輸入長度與同時請求數;每階段記錄峰值記憶體、首個輸出等待時間及完成狀態。只看到模型載入成功,還不足以證明可以承受正式工作負載。

官方公告連到 MLX LM,該專案提供 Apple silicon 的文字生成與分散式推論能力。但通用 quick start 能執行其他模型,不構成 Muse Spark Open 的完整多模態與雙機部署驗收。選用時需核對實際模型格式、引擎版本、連線方式及需要的輸入型態;本文沒有提供未實測的雙機啟動指令。

想先評估 coding agent,從可控制的任務開始#

若目前沒有能承載模型的設備,可以先檢查官方列出的託管推論供應商,確認實際模型 ID、工具呼叫格式、資料處理條件與費率。API 測試與本機部署的硬體成本不同;也不能用 hosted latency 當成本機效能。

準備一個可重設的測試 repository,指定一項小修改,例如修正輸入驗證並補上對應測試。固定起始 commit、允許修改的檔案和驗證命令,再記錄模型/引擎版本、提示詞、工具輸出、最後 diff 與檢查結果。下一輪才擴大到多檔修改,避免一開始就把模型、agent、工具權限和長上下文全換掉。

如果模型能回答文字,但 agent 的 tool call 無法被執行器解析,應先解決介面契約,不能只調大 context 或增加 reasoning effort。交付判斷可沿用 AI coding agent 的可驗證完成標準;若需求是小範圍文字分類與路由,Laya 本機 System One 模型回答的是另一種任務,不需要為了「本機 AI」一律選大型生成模型。

權重可下載,仍要核對存取與授權#

本次公開 metadata 標示 gated: manual,模型頁提供存取條件與申請入口;能讀 metadata 不等於帳號已獲准下載。本文沒有提交申請,也沒有驗證特定帳號、地區或推論平台資格。

模型採用 Muse Model License,並非從 open-weight 一詞就能推論成 MIT 或 Apache 2.0。商業導入前,應核對實際下載版本附帶的授權、標示義務、使用政策,以及自己的服務是否落入另需協議的情況。先確認存取權與部署證據,再安排下載與容量;不要拿展示影片作為硬體採購的唯一依據。

參考資料:

Meta AI:Muse Spark Open 官方公告

Meta:Muse Spark Open 模型卡、存取條件與授權

Hugging Face:官方模型公開 metadata

MLX LM:官方 repository

Muse Spark Open 能在本機跑嗎?先核對權重容量與部署條件
https://laplusda.com/posts/muse-spark-open-local-deployment-memory/
作者
Zero
發佈於
2026-10-16
許可協議
CC BY-NC-SA 4.0