Article
提問老是被 AI 拒絕？我用 LM Studio 搭建本機未審查模型與專屬知識庫的實測攻略
LM Studio 本地未審查 AI 實測結論：在本地端部署私有 AI，首選 LM Studio 搭配原生 GGUF 格式。挑選未審查模型時，切忌只看模型參數量，關鍵在於「拒絕回答率」與「KL 散度」。實測建議挑選拒絕率 20% 以下且 KL 散度接近 0 的特化模型（如 Gemma 4 26B 衍生版），能在解除雲端審查限制的同時維持推理邏輯不降智，搭配本地 RAG 即可實現零隱私外洩的專屬助理。
在使用 ChatGPT 或 Claude 等雲端 AI 時，你一定遇過這種令人抓狂的情境：明明只是想請 AI 幫忙分析競爭對手資料、審查合約隱私條款、或是詢問稍微敏感但合法的商業問題，AI 卻直接跳出一句「抱歉，我無法協助處理這項請求」。
雲端 AI 為了符合嚴格的企業審查標準，往往把「安全防線」設得過於敏感。更嚴重的是，只要你把商業機密、客戶名單或個人帳務資料貼到雲端，就存在資料被第三方伺服器記錄與外洩的風險。
如果你想擁有一個 「完全不被監控、什麼話題都能聊、且資料能完整留在自己電腦裡」 的 AI 助手，在本地端部署「未審查模型」搭配 RAG 知識庫，就是目前最成熟的解法。
這篇文章我會分享我實測多款地端工具後的完整部署攻略，教你如何用 LM Studio 挑選不降智的未審查模型。
為什麼本地部署我首選 LM Studio？
目前本地運行大模型的主流工具有很多（如 Ollama、vLLM、LM Studio）。在多輪實測後，對於不想花時間處理複雜命令列的創業者與開發者，我強烈推薦 LM Studio。
它有三大不可替代的優勢：
- 直接支援原生 GGUF 格式：不像 Ollama 需要透過 Modelfile 重新打包模型，LM Studio 可以直接吃你在 Hugging Face 上載下來的
.gguf檔案。一份模型檔案跨軟體共用，完全不浪費寶貴的 SSD 硬碟空間。 - 視覺化參數調節極為直覺：調整溫度值（Temperature）、上下文長度（Context Length）或 GPU 卸載層數（GPU Offload），直接在側邊欄拉動滑塊就能即時生效。
- 原生相容 OpenAI API 格式：只要在 Local Server 分頁按一下啟動，它就會在本地開出一個
http://localhost:1234/v1的端點，能無縫接入你自製的 AI Agent 或 桌面地端 AI 助手。
你可以參考 雲端 AI 與地端 AI 的選型指南，了解不同硬體環境下的效能差異。
實測挑選未審查模型：看懂「拒絕率」與「KL 散度」
很多人去 Hugging Face 搜尋 Uncensored 模型時，看到標題寫著無審查就一股腦下載，結果跑起來發現模型像個白癡一樣胡言亂語。
開源社群在移除模型的道德審查時，如果微調手法粗糙，很容易破壞模型原有的邏輯推理能力（俗稱「降智」）。
我在實測時主要看兩個關鍵指標：
拒絕回答率（越低越不拒絕） ＋ KL 散度（越接近 0 代表推理能力越無損）以我實測過的熱門未審查模型 Gemma 4 26B 為例：
| 模型版本 | 標識名稱 | KL 散度 (精度損失) | 100 道測試題拒絕數 | 實測表現與建議 |
|---|---|---|---|---|
| 官方原版 | google/gemma-4-26b-it | 基準 (0.0000) | 100 題全拒絕 | 稍微敏感即觸發安全機制拒答 |
| 普通未審查版 | gemma-4-26B-A4B-it-uncensored-heretic | 0.0468 (極低損失) | 僅 11 題拒絕 | 強烈推薦主力！ 邏輯完整、回答精準且極少拒絕 |
| 極限 Ultra 版 | gemma-4-26B-A4B-it-ultra-uncensored | 0.1237 (稍有損失) | 僅 3 題拒絕 | 幾乎任何問題都回答，但特定邏輯題稍有敷衍 |
日常工作使用時，我強烈建議選擇 普通未審查版（拒絕率 10%~20%、KL 散度接近 0）。不要盲目追求 0% 拒絕率，保留足夠的精度才能讓模型幫你寫出高質量的程式碼與商業分析。
4 步驟搞定 LM Studio 本地部署與知識庫掛載
整個搭建過程非常乾淨俐落，只需要 4 個步驟：
Step 1：下載並安裝 LM Studio
前往 LM Studio 官方網站下載對應你作業系統的版本（Windows / Mac M 系列皆支援）。
Step 2：搜尋並下載未審查 GGUF 模型
在軟體頂端的搜尋框輸入你想要的模型名稱（例如 gemma-4-26B 或 uncensored）。
- 量化規格推薦：記憶體充足選
Q8_0或Q6_K；顯存有限（如 16GB 顯卡）建議選Q4_K_M，能在速度與精度之間取得最佳平衡。
Step 3：配置最佳生成參數
下載完成後載入模型，切記不要只用預設值。依據模型發布作者的建議設定：
- Temperature（溫度）：寫程式或分析設為
0.2 ~ 0.4；創意發想設為0.7 ~ 0.8。 - GPU Offload：將層數拉滿，讓模型完全由顯示卡 VRAM 運算，速度最快。
Step 4：開啟本機 RAG 知識庫
在聊天對話框中開啟 RAG（檢索增強生成）功能，將你的內部文件、Markdown 筆記或 PDF 直接拖放進去。
當你提問時，LM Studio 會自動檢索你上傳的文件內容，並由本地未審查模型進行交叉比對，在完全不連外網的情況下產出精確解答。
進階延伸：將地端模型升級為自主 Agent
光是在介面裡打字聊天，只能發揮地端模型的一半價值。當你跑通本地模型後，下一步就是給它裝上「手和腳」：
- 搭配 MCP 工具鏈：透過 LM Studio 開啟的 Local Server，讓 Claude Code 或本機開發工具直接調用本地模型。
- 串接開源 Agent 框架：你可以參考我整理的 12 款免費開源 AI Agent 工具全覽 與 自架開源 DeepSeek 模型實戰，讓地端模型具備自動讀寫檔案、執行本機指令的能力。
全面掌控自己的資料與 AI 自由
未來的 AI 競爭，不是看誰用的雲端服務多，而是看誰能把私有數據轉化為專屬的競爭壁壘。
花一個下午在自己的電腦上架好 LM Studio 與未審查模型，你就不再受制於任何雲端平台的規則變更與審查限制。這套完全私有的本地 AI 系統，將是你未來打造專屬 AI 智囊團最穩固的底座！
常見問題 FAQ
為什麼在本地端部署 AI 首選 LM Studio 而不是 Ollama？
LM Studio 具備極其直覺的視覺化介面，可以直接讀取 Hugging Face 上原生的 GGUF 格式模型檔案，不需額外進行格式轉換。同一份模型檔案還能直接在多個不同軟體間共用，省去轉換步驟與大量硬碟空間。
什麼是未審查模型？下載未審查模型時該如何避免踩雷降智？
未審查模型（Uncensored Model）是開源社群透過微調移除了過度安全對齊限制的模型，不會隨意拒絕回答問題。挑選時千萬不要只看參數大小，應重點觀察「拒絕回答率」與「KL 散度（越接近 0 越無損）」，建議挑選拒絕率在 20% 以下的特化模型，才能確保回答自由度且不喪失推理精度。
在 LM Studio 中如何給本地模型掛載專屬私有知識庫？
LM Studio 對話介面已內建基礎 RAG 功能，直接點擊開啟並上傳你的 PDF 或 Markdown 筆記即可。若需要更進階的企業級檢索與多文件管理，也可以將 LM Studio 開啟為 Local Server，無縫串接 AnythingLLM 或自製 Agent 進行多跳推理。