Apple 傳推新 Mac 應用程式 Harbor 讓本地運行 AI 模型更簡單

Mac Mini

爆料者 Aaron Perris 發現 Apple 正在開發一款名為 Harbor 的新 Mac 應用程式,旨在讓用戶輕鬆在一部或多部 Mac 電腦上本地運行 AI 模型。這款應用將 Mac 轉變為私人 AI 推理伺服器,強調數據隱私與硬件資源整合。

Harbor 功能與運作原理

據 Aaron Perris 在 X 平台披露的細節,Harbor 的核心功能是將配備 Apple silicon 芯片的 Mac 變成私人 AI 推理伺服器。用戶可在本地運行開放權重(open-weight)模型,確保數據從未離開硬件設備,且無需依賴雲端服務。該應用支持通過 Thunderbolt 5 連接多部 Mac 電腦,以池化統一記憶體(unified memory),從而啟用單一電腦無法負荷的大型模型並提高併發處理能力。

Harbor 的主要特點包括快速設置、簡化模型管理以及集群擴展能力。設置過程僅需數分鐘而非數小時,因為應用能自動檢測通過 Thunderbolt 5 連接的設備並形成集群,用戶只需插線啟動即可使用,無需手動配置或具備基礎設施專業知識。此外,用戶可直接在應用內瀏覽、下載和加載開放權重模型,由 Harbor 負責模型管理,讓用戶專注於工作本身。

產品狀態與背景

若用戶連接兩部或以上支持 Thunderbolt 5 的 Mac 電腦,Harbor 會將它們的統一記憶體池化為單一推理資源。這使得用戶能夠運行超出單台電腦容量的模型,或在集群中處理更多併發請求。

目前,Harbor 處於 Apple 旗下 Claris 品牌的私密預覽階段,但預計將在未來幾週至幾個月內向公眾推出。今年 Mac 產品的受歡迎程度顯著提升,除了如 MacBook Neo 等價格親民的選項外,Mac Studio 和 Mac mini 等設備也日益成為本地運行 AI 模型的有力工具。Apple 似乎計劃透過 Harbor 進一步鞏固其在本地 AI 計算領域的地位。

與 Mac 相關的圖片

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道、Facebook、Threads。