AI INSIGHT

Meta 放出 816B 开放权重 Muse Spark Open

AI新闻 Cocoloop 2026-10-16 09:22
AI 摘要

编辑精选原生 BF16 精度下光参数就要 1.6TB 以上,量化到 NVFP4 后约 493GB。Meta 说两台 512GB 的 Mac Studio 能装下,苹果自己实测两台每秒约 25 个 token,四台到 36.7 个。 Meta 在 10 月 15 日放出了 Muse Spark Open 的权重,模型挂在 Hugging Face,按 Muse Model License 授权。这

Meta 在 10 月 15 日放出了 Muse Spark Open 的权重,模型挂在 Hugging Face,按 Muse Model License 授权。这是 Muse Spark 系列第一次开放权重:总参数 8160 亿,每个 token 激活 420 亿,上下文窗口 100 万 token,原生支持图像、音频和音视频输入。Meta 在 PyTorch 官方博客里称它是 “the most capable US open-weight model to date”(美国迄今能力最强的开放权重模型)。

开放版和同日推送的 Muse Spark 1.3 共用一个基础模型,区别在后训练。开放版额外做了一轮安全后训练,Meta 的说法是让它在脱离系统级防护、单独部署时更难被滥用。按 Meta 自己的 Superintelligence Scaling Framework 评估,模型达到了发布门槛;完整评估报告还没放出,官方只说”即将发布”。

主打编程和智能体

Meta 对它的定位很窄:编程和智能体任务。训练数据里有多文件重构、调试会话和长时间运行的任务,官方强调首次尝试的准确率和工具调用的稳定性。智能体这边,模型被训练去做跨多个网站的长链路任务,可以拆出子智能体分工,桌面、手机和浏览器上的电脑操作是统一训练的。它还会在动手前单独输出一段说明,交代打算做什么。

Meta 研究博客留了 Key Benchmarks 一栏,文字部分却没有列出任何分数,第三方榜单的成绩还要等。Arena 已经把它放进 Agent Arena,评分尚未公布。

两台 Mac 能不能跑

Meta 给出的桌面方案是两台 M5 Ultra Mac Studio,每台最高 512GB 统一内存,配合最新版 MLX。苹果机器学习研究团队同一天发了实测:NVFP4 量化后权重约 493GB,加上推理过程的中间内存,单台装不下;两台用流水线并行每秒 15.74 个 token,改成张量并行到 24.99 个,四台张量并行 36.73 个,测试上下文为 8192。机器之间走 macOS 26.2 引入的雷雳 5 RDMA 驱动,每两台之间接两根线缆。

云端上得更快。SGLang 和 vLLM 首日支持,Together AI、Modal、OpenRouter 都已上架。Together 的无服务器报价是每百万输入 token 1.25 美元、输出 4.25 美元,缓存输入 0.15 美元,太平洋时间 10 月 18 日中午前限时免费。

Meta 也借这次发布推自家的 PyTorch 工具链。模型附带用 Helion 写的算子,包括 RoPE、RMSNorm 和量化等,Meta 称在 NVIDIA GB300 上比用 CUDA、CuTe DSL 手写的内核快 1.03 到 3.95 倍;同一套内核直接移植到 AMD MI350,端到端吞吐提升约 3%。微调可以用 TorchTitan,支持多轮 SFT、LoRA 和强化学习。

从闭源到开放

把 Meta 这条线连起来看。Muse Spark 首发时是 Meta 的第一款闭源模型,跟 Llama 时代的路线分开走;8 月的 1.2 版同时带出了编程产品 Muse Code;此前 Meta 还发过一款小尺寸稠密模型 Muse Glimmer,面向端侧。现在 Spark 本身也放了权重,Meta 的模型线变成闭源迭代版和开放版并行:同一个底座,差一层安全后训练。

这套安排让 Meta 两头都能顾上。闭源版继续在 Muse 产品和 API 里收费,开放版去抢开发者和推理服务商的首发支持,从 SGLang、vLLM 到几家云服务商都在第一天跟进,这一步已经做到了。

许可证仍是未知数。Meta 只写了”有限的商业条款”,称许多开发者可以免费使用,博客里没有写明商用门槛,也没有说是否沿用 Llama 许可证按月活用户数设限的做法。条款全文以 Hugging Face 页面为准,企业要拿去商用,得先把这份许可证读完。

参考来源:PyTorch 官方博客、Meta 研究博客、CocoLoop、苹果机器学习研究博客、Together AI;Together 价格页核验每百万 token 报价与免费期,苹果实测核验量化体积与每秒 token 数。

来源:Cocoloop
阅读原文