A5站长网10月16日消息,Meta在官方博客把Muse Spark Open的模型权重放了出来,这是一款开源大模型。这家公司给它的定位是迄今能力最强的美国开放权重模型。它是原生多模态模型,总参数8160亿,每个token激活420亿,上下文窗口100万token,目标场景是编程和智能体任务。
真正让人意外的是它能跑在哪儿。Meta说,靠最新的MLX框架,Muse Spark Open可以在两台搭载M5的Ultra版Mac Studio上本地推理。苹果的统一内存架构让单台机器的集成GPU最多用上512GB内存,两台的内存加起来刚好装下整个模型;芯片的内存带宽有1.2TB/s,读每个token需要的少量分片够快。两台桌面工作站合起来,统一内存达到1TB,算力表现接近一台机器。
这次开源还牵出一件少见的事,Meta和苹果公开合作。Meta的AI业务负责人Alexandr Wang说,两家已经配合了几个月,他还在采访里感谢苹果前高管Daniel Gross在中间牵线。扎克伯格的说法是,开源版的Muse Spark专门为Mac设备做了优化。放在两家公司过去多年在隐私、监管、生态上的对立背景里看,这次协作不太寻常。
模型本身的信息也值得摆一摆。每次推理只激活420亿参数,意味着它走的是稀疏专家路线,只调用一小部分网络,在本地设备上的推理开销压得下来。Meta说它的强项是多步推理、复杂软件工程这类长程任务。跟本周早些时候亮相的Muse Wonder比,这款开源版的能力定位要低一档。
权重开放的范围铺得很开。模型上线当天,Fireworks、Baseten、Modal、Groq、Nebius、Together AI、OpenRouter这些平台上都能调到;权重可以从Hugging Face、Amazon SageMaker、Google Cloud的模型库、Microsoft Foundry都能下载。
推理侧这边,SGLang、vLLM、llama.cpp、TensorRT-LLM、MLX这些引擎都能跑,对英伟达、AMD、英特尔、苹果四家芯片都做了优化。许可证用的是Muse Model License,商用条款有一定限制,但多数开发者可以免费使用,只有少数商用场景需要额外授权。
本地跑大模型这件事,Meta给出的实测带点表演性质。用Muse Code驱动模型,在完全离线的环境里,替Mastodon开源项目里那个叫Ice Cubes的客户端递交了一版真实的iOS代码改动,包含修缺陷、加功能、完整构建;还端到端操作了达芬奇剪辑软件,逐帧看素材、挑片段、做竖版裁切。
这笔账要算清楚。两台512GB的Mac Studio加起来价格超过4万美元,跟租云算力比并不便宜。这个方案的意义不在省钱,而在于把模型完全放在自己手里这件事第一次变得可操作。Meta这一手,一半是技术展示,一半是冲着开发者生态的话语权去的。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
