OpenAI 終於推出其開源模型 gpt-oss,分別為 gpt-oss-20b 與 gpt-oss-120b。對於不想付費訂閱 ChatGPT Plus 的用戶,這是最佳之選!開源模型之所以特別,在於它們能夠被下載並直接在具備足夠資源的電腦上執行,例如個人電腦。這意味著模型運行時無需連接網路,因為它不涉及存取模型供應商的伺服器。
重點文章
簡易使用教學
1: 我們只要用 Ollama 程式就可以快速使用不同的開源模型,先到 Ollama 網站下載對應的軟件,支援 Windows、macOS 及 Linux。

2: 安裝 Ollama 後,已可看到 gpt-oss 模型,20b 及 120b 也可選用。

3: 這時是線上模式,直接提問也可得到回應。想速度快一些,請啟用Turbo Mode。這裡要註冊一個 Ollama 帳戶,是免費用。


4: 不論是計數或是寫程式,也沒有問題,而且支援中文(LLM 當然可支援)。


離線使用方法
要離線使用,最簡單就是選定 Model(建議只用 20b 版)後,直接在 Ollama 叫 “下載離線使用” 即可進行下載,20b 版只需 12.8GB。

本機運作系統需求
OpenAI 指出,較小的 gpt-oss-20b 模型,最佳執行環境需要至少 16GB 的 VRAM 或統一記憶體。大型的 gpt-oss-120b 模型則建議具備至少 60GB 的 VRAM 或統一記憶體。因此,一般家用機只能用 20b。而回應速度視乎你的電腦速度,如果想快請用 Turbo Mode。