仅需40 万,4 台顶配Mac Studio 串联,同时跑两个DeepSeek 是什么体验? - 爱范儿原文
2025-08-08 10:10
155
英国创业公司Exo Labs通过将4台顶配M3 Ultra Mac Studio串联,构建了一个桌面级AI集群,成功运行了两个670亿参数的DeepSeek大模型。该系统利用Thunderbolt 5连接,总内存达2TB,内存带宽超过3TB/s,功耗控制在400W以内。Exo Labs开发的分布式模型调度平台Exo V2能自动拆分和部署模型,支持并行推理、文档私有问答和轻量微调。相比传统服务器方案,该集群成本更低(约40万人民币),功耗更小,适合中小团队进行本地AI推理和数据处理。
全部评论