全新 Mac Studio 支援多部主機組成集群,透過 Thunderbolt 5 與 RDMA(遠端直接記憶體存取)互相連接,形成共用記憶體池,用作執行更大規模的 AI 模型。
重點文章
集群與共用記憶體
多部全新 Mac Studio 可透過 Thunderbolt 5 與 RDMA 串連,建立共用記憶體池。此安排讓系統在執行大型 AI 模型時,不再受單一主機的記憶體容量限制,而是可以集中多部主機的資源共同處理。
推理效能快三倍
Apple 表示,將四部 Mac Studio 組成集群後,AI 推理速度比在單一系統上執行同一任務快 3 倍。共用記憶體池亦有助載入目前最大型、要求最高的前沿級開放權重模型。
