X 用户 @aaronp613 爆料,苹果在做一款名为 Harbor 的应用,把 Mac 变成私有 AI 推理服务器。它面向 Apple Silicon 机型,运行开放权重模型,推理全在本地,数据不上云;内置模型管理,可浏览、下载、加载,不必手工配环境;通过 Thunderbolt 5 自动发现并组建集群,把几台机器的统一内存汇在一起,跑单机装不下的模型,同时提升并发。
按曝光的产品说明,插上线、启动应用即可,不需要命令行,不需要手工配网,也不需要懂分布式推理。Harbor 目前以苹果旗下 Claris 品牌做私人预览,Claris 主业是 FileMaker 一类企业工具,因此首批对象大概率是开发者与企业。开源项目 exo 早前已试过多设备组集群。对苹果而言,这是与云端路线不同的一条边路:权重留在本机,企业可以把敏感数据关在内网,代价是算力上限等于你手里那几台机器的内存总和。统一内存本是 Apple Silicon 的卖点,Harbor 把它从单机指标变成了可叠加的资源。
两种口径
爆料把卖点写成“突破单机内存限制”,但原文自己标了前提:两台各 64GB 统一内存的 Mac 共同承担一个大模型,属于理论上的假设场景。AppleInsider 补充了另外两点:这款应用曾用名 Fabric,且用户别指望很快见到成品。能力描述与交付状态之间,隔着一个私人预览。
原文链接:https://www.appinn.com/apple-harbor-mac-ai-cluster/
来源:小众软件