Meta 發佈 Muse Spark Open 開源模型 專為 Mac Studio 與 M5 Ultra 優化

muse

Meta 發佈開源權重模型 Muse Spark Open,並稱其為迄今最強的美國開放權重模型。對 Apple 用戶而言,Meta 表示 Muse Spark Open 已針對配備 M5 Ultra 的 Mac Studio 優化。

816B 參數與原生多模態

Meta 在網誌指出,Muse Spark Open 原生支援多模態,並首次把領先的代理式能力帶到桌面。模型擁有 816B 總參數,其中 42B 為活躍參數,上下文視窗達 1M Token。Meta 表示,該模型為編程與代理式工作而設,在長跨度任務、複雜軟件工程及多步推理方面表現突出。

benchmark scorecard dark v6

運用 Apple MLX 框架優化

Meta 的網誌特別提到,Muse Spark Open 運用了 Apple 最新版本的 MLX。MLX 是由 Apple 建立、針對 Apple 晶片統一記憶體架構優化的開源陣列框架。Meta 稱,配合最新版本 MLX,Muse Spark Open 針對配備 M5 Ultra 的 Mac Studio 優化,兩者結合是「在自家桌面運行強大模型的最佳方式」。

Apple 的統一記憶體架構讓 M5 Ultra 的整合式 GPU 每部 Mac Studio 最多可使用 512 GB,因此兩部機器便能容納整個模型;晶片 1.2 TB/s 的記憶體頻寬,足以讀取每個 Token 所需的小片段。最終結果是兩部 Mac Studio 表現得像一部擁有 1 TB 統一記憶體的超級電腦。

裝置上的代理式流程實測

Meta 表示,其測試了一系列完全在裝置上運行的代理式工作流程,使用由 Muse Spark Open 驅動的 Muse Code,包括向開源 Mastodon 客戶端 Ice Cubes 提交真實的 iOS 變更,涵蓋錯誤修正、新功能及完整建置;亦端到端操作 DaVinci Resolve,由模型逐格檢視片段,找出最具張力的畫面並作垂直裁剪。

現已於 Hugging Face 提供

Muse Spark Open 現已透過 Hugging Face 提供。Apple 亦在其機器學習研究網站發佈新文章,強調 Mac 上的 MLX「讓 AI 研究人員與開發者在私密環境中於本地試用最新模型與方法」。

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道、Facebook、Threads。