Mac Studio 集群運算 AI 推理效能快三倍

Macfamily

全新 Mac Studio 支援多部主機組成集群,透過 Thunderbolt 5 與 RDMA(遠端直接記憶體存取)互相連接,形成共用記憶體池,用作執行更大規模的 AI 模型。

集群與共用記憶體

多部全新 Mac Studio 可透過 Thunderbolt 5 與 RDMA 串連,建立共用記憶體池。此安排讓系統在執行大型 AI 模型時,不再受單一主機的記憶體容量限制,而是可以集中多部主機的資源共同處理。

推理效能快三倍

Apple 表示,將四部 Mac Studio 組成集群後,AI 推理速度比在單一系統上執行同一任務快 3 倍。共用記憶體池亦有助載入目前最大型、要求最高的前沿級開放權重模型。

與 Mac 相關的圖片

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道FacebookThreads