• 在深度赛事数据分析方面,熊猫体育平台提供贴心周到的支持。
  • +86 +86 158 2292 9316

等等,AI实验室囤积Mac mini,竟然是以“吨”为计量单位囤积的?!

The Information 最新披露,OpenAI 已经购买了数万台 Mac mini 和 Mac Studio,目前仍在持续向苹果追加订单。

Anthropic 则选择了不同的路径,从亚马逊 AWS 租赁 Mac 算力。根据网友的计算,每台每小时费用大约一美元,一个月下来在五百到九百多美元之间。

租赁并不便宜,购买也不划算。从算力性价比来看,苹果芯片无法与英伟达抗衡,这一点几乎没有争议。

那究竟是为了什么?

这些设备被用于强化学习,训练的是能够自主操作电脑的 Computer-use Agent。

数万台金属小盒子,被运入 AI 实验室

训练 Agent,需要让模型在真实电脑上进行实践。

成千上万台机器同时运行,模型在其中点击鼠标、打开应用、查看屏幕、犯错并重试。

算力方面,任何厂商的显卡都能购买,但有些任务只有 Mac 才能胜任。

苹果的规定是这样的:

macOS 虚拟机只能运行在苹果自家的硬件上

在 Apple 芯片的 Mac 上,每台机器最多同时开启两个 macOS 虚拟机

AWS 的 EC2 Mac 至今仍是“专用主机”模式,租赁即是一整台物理 Mac,最少按 24 小时收费,文档中给出的理由是苹果的许可协议如此要求

因此,要获得一万个 macOS 环境,就需要部署几千台真机。

苹果芯片产品高级经理 Doug Brooks 曾对此给出解释。

Agent 需要一台完全自主控制、与主力电脑隔离、并能连续几天几夜不关机的设备。而 Mac mini 正是这样一套理想的系统。

这股需求有多强劲,从财报中可见一斑。

苹果最新一季 Mac 营收达到 104 亿美元,同比增长 29%,在所有产品线中增速最快。而这,正是靠这个小方盒子驱动的。

代价是供应短缺,最受 AI 开发者欢迎的几款配置,已经断货好几个月了。

X 上已有人庆幸,自己的 Mac Studio 订单下得早。

统一内存,加上一颗不会降频的风扇

仅靠 macOS 环境还不够,设备本身必须能运行大型模型。

苹果芯片虽然不及英伟达 GPU,但统一内存这一架构,短期内其他厂商难以模仿。

CPU 和 GPU 共享一个内存池,无需将大模型分割后塞入多张显卡再来回搬运。

在运行大模型时,“装得下”往往比“跑得快”更关键。

M5 Ultra 最高支持 512GB 统一内存,带宽达 1.2TB/s。M6 Mac mini 在 LM Studio 中处理大模型提示的速度,苹果称是 M4 的 4.8 倍、M1 的 13.5 倍。

第二个优势是能够承受长时间满载运行。

轻薄 MacBook 运行几十分钟就会降频,而 Agent 的任务是 7×24 小时连续工作,一跑就是好几天。

散热在这里直接决定了能否正常工作。

EXO Labs 的开源方案能将多台 Mac 串联成集群,本地运行 671B 参数级别的模型。

社区中“Mac mini 作为常驻家庭服务器”的教程层出不穷,甚至连按小时出租 Mac 算力的服务也出现了。

用 Mac 跑 Agent,到底是什么体验

大型企业购买它是为了堆砌机房。

普通人买回去,则是真正要用于工作。

开发者 Octavio Herrera 花了一周时间,在他的 M4 Mac mini 32GB 基础款上,一口气实测了 6 款模型。

Qwen3-30B-A3B,MoE、Q4 量化:24-30 tok/s,占用 17.3GB

GPT-OSS-20B:28-29 tok/s,占用 11.3GB

Gemma 4 26B-A4B:20-22 tok/s,占用 14.6GB

稠密的 Qwen3.8-27B:4.4 tok/s

对照组,DeepSeek v4-flash 通过 API:约 57 tok/s

结果显而易见。使用入门级设备运行本地模型,MoE 几乎是必然选择。

芯片算力是一方面,另一个瓶颈是内存。

JetBrains 那个完全在本地运行的编程 Agent,光是自带的 27B 量化模型就要求 64GB 起步。

PCWorld 的配机文章更直接,64GB 就是底线。

X 上有人对每一档配置进行了计算。

3499 美元,M5 Max 64GB:Qwen3.6-27B 跑 30-40 tok/s。4K 提示词约 5 秒处理完毕,修改一处 500 token 的补丁 13-17 秒,端到端 20 秒。同样的任务在 mini 上是 37 秒

5099 美元,M5 Max 128GB:带宽不变,模型池翻倍,MLX 上跑 80B 的 Qwen3-Coder-Next 能达到 75-90 tok/s

5499 美元,M5 Ultra 96GB:内存未增加,芯片更快,同一个 27B 模型推到 48-80 tok/s,端到端压缩到 10 秒

11299 美元,M5 Ultra 256GB:第一台能将 DeepSeek V4 Flash 完整 4-bit 装进单机的 Mac,预计 80-90 tok/s

根据 Artificial Analysis 的数据,GPT-5.6 Sol 从云端服务是 75-79 tok/s,Opus 4.8 约 58。

也就是说,一台放在桌上的 Mac,输出速度已经追平最快的前沿模型服务。

最近,库克在财报会上表示:“我们正处在内存定价的百年一遇洪水里,价格在指数级上涨。”

国行 Mac mini 一年多前那台性价比神机,售价是 4499 元。

现在的 M6 Mac mini,已经涨到 6999 元起了。

苹果不接单,老黄已经站在门口

数万台的订单摆在面前,苹果没有接。

它这些年一直在退出企业市场。

2011 年砍掉 Xserve 服务器,2022 年停掉 macOS Server,今年 3 月连 Mac Pro 都停产了。

它自己也用 Mac 芯片造服务器,但只给 Private Cloud Compute 使用。

有企业上门想购买这套算力,被拒绝了。

The Information 还挖出一个更扎眼的细节。苹果压根没有一支专门服务企业客户的工程团队,也没有一个人负责开发者关系。

今年 4 月离职的前苹果企业 AI 产品营销经理 Todd Dailey 直接开喷,说苹果有任何团队真有拥抱企业 AI 的计划,这是个笑话。

最热的一块 AI 需求,最后被外包给了两家创业公司,webAI 和前 OpenAI 算力基础设施员工 Peter Voell 创办的 Mount Thor。其中一家连官网都还没写完。

既然如此,那就不要怪老黄不客气了——DGX Spark 就是冲着 Mac 的软肋来的。

今年 1 月的 CES 上,它又放出一版软件更新,性能比发布时最高提升 2.5 倍,甚至能挂在 MacBook Pro 旁边当外接加速器。

企业和开发者反复提起它,理由很简单,随时有货。

而苹果这才有了反应。

往年 Mac 的年底更新排在 10 月或 11 月,今年 8 月 25 日就把新 Mac mini 和 Mac Studio 端了出来,宣传语第一次直接对着本地跑前沿大模型和多机集群写。

如今 AI 实验室把 Mac mini 当基础设施,苹果把它当台式机。

话说,你家那台 mini,现在跑着什么?

参考资料:

https://www.theinformation.com/articles/apple-stumbled-ai-hardware-success-mac?rc=epv9gi

本文来自微信公众号“新智元”,作者:摩西,36氪经授权发布。

评论

熊猫体育平台以多维度新闻资讯解读为核心,带来高效便捷的体验。

精选熊猫体育平台内容,熊猫体育平台与你一同发现更多精彩。

围绕熊猫体育APP,熊猫体育平台持续打磨更优质的服务。

熊猫体育平台深耕实时比分,一手掌握领域,用心服务每一位用户。
电话: 123 456 789 邮箱: [email protected]