重點文章
本地 AI 模型崛起
目前多數使用者依賴 ChatGPT、Claude 或 Gemini 等雲端大型語言模型，這些模型運行在 OpenAI、Anthropic 與 Google 的伺服器上。然而，另一種與 LLM 互動的方式是採用本地模型。這些模型通常比雲端那些擁有數千億參數的模型更小、能力較弱，卻也帶來多項獨特優勢。首先，能力較弱不等於表現差勁；其次，它們不需要持續的網路連線，因為完全仰賴電腦自身的運算能力。此外，電腦效能越好，回應速度就越快，且能支援的模型規模也越大。最後，由於一切都在本地執行，對話資料無需離開裝置，隱私保護也更為出色。目前要在 Mac 上安裝本地模型，可透過 Ollama 或 LM Studio 等平台，再挑選能流暢運行的模型。Hugging Face 上也有數千個開放模型可供選擇，包括來自前沿實驗室的模型。
Mac 版 AI Edge Gallery 登場
Google 今日正式為 macOS 推出 AI Edge Gallery 應用程式，此前該平台已登陸 Android 與 iOS。與 Ollama 或 LM Studio 不同——後者允許使用者安裝任何相容硬體的 AI 模型——Google AI Edge Gallery for Mac 目前僅提供 5 款 Google 自家模型，且均為「指令調校」版本（名稱中的「it」代表 instruct），能根據使用者指示進行回應，而非單純補全文字。這些模型包括 Gemma-4-12B-it、Gemma-4-E2B-it、Gemma-4-E4B-it、Gemma-3n-E2B-it 與 Gemma-3n-E4B-it。
其中最引人注目的是 Gemma 4 12B，今日同步發布。Google 表示，這款模型專為將代理式多模態智慧直接帶到筆電而設計。相較於多數消費級本地模型參數量落在 20 億至 90 億之間，Gemma 4 12B 的 120 億參數設計，效能可媲美其 260 億參數的專家混合模型，卻仍「足夠小，能在配備 16GB RAM 的消費級筆電上本地運行」。
Gemma 4 12B 效能亮眼
Gemma 4 12B 同時具備多模態能力，能處理文字、視覺與音訊。Google 指出，該模型還擁有出色的程式設計能力，「讓使用者能直接在裝置上從資料中提取有意義的洞察」。這項特性對於需要在無網路環境下進行資料分析的開發者或研究人員尤其實用。由於模型完全在本地運行，所有資料處理均不離開裝置，進一步強化了隱私保護。此外，Google 強調 Gemma 4 12B 的 120 億參數配置，在 16GB RAM 的筆電上即可順暢執行，相較於其他前沿實驗室的同級模型，對硬體門檻的要求更低。使用者可從 Google AI Edge Gallery 直接下載並執行這些模型，體驗接近雲端模型的回應品質，同時享有本地運算的低延遲與離線優勢。
同步推出 Eloquent 聽寫 App
除了 macOS 版 AI Edge Gallery 與 Gemma 4 12B，Google 今日也為 Mac 推出 Google AI Edge Eloquent 應用程式。這款免費聽寫軟體數月前已登陸 iOS，現在正式擴展至 Mac 平台。Eloquent 能捕捉使用者語音並即時轉錄，同時自動潤飾文字，去除口語贅詞及不流暢處，進行輕度編輯以提升清晰度與流暢性。所有處理均在裝置端完成，而非上傳至雲端。使用者還能選擇不同的書寫風格，並新增自訂詞彙，例如人名、專業術語或常用詞組，從而避免聽寫軟體常見的特定詞彙誤判問題。這項功能對於需要頻繁撰寫報告、郵件或筆記的專業人士相當實用。有興趣者可至 Google 官方頁面了解更多關於 Eloquent 的細節。
