Google AI Edge Gallery 登陸 Mac 本地運行 Gemma 模型
本地 AI 模型崛起 目前多數使用者依賴 ChatGPT、Claude 或 Gemini 等雲端大型語言模型,這些模型運行在 OpenAI、Anthropic 與 Google 的伺服器上。然而,另一種與 LLM 互動的方式是採用本地模型。這些模型通常比雲端那些擁有數千億參數的模型更小、能力較弱,卻也帶來多項獨特優勢。首先,能力較弱不等於表現差勁;其次,它們不需要持續的網路連線,因為完全仰賴電腦自身的運算能力。此外,電腦效能越好,回應速度就越快,且能支援的模型規模也越大。最後,由於一切都在本地執行,對話資料無需離開裝置,隱私保護也更為出色。目前要在 Mac 上安裝本地模型,可透過 Ollama 或…