LM Studio 教學:免打指令在 Windows 本地跑 LLM

項目	Windows 需求(官方)
架構	x64 或 ARM(Snapdragon X Elite)
CPU	x64 需支援 AVX2 指令集
記憶體	建議 16GB 以上
顯示卡	建議至少 4GB 專屬 VRAM(無獨顯可純 CPU 跑,只是慢)

權限需求:一般使用者即可安裝,不需要系統管理員動登錄檔。
需要工具:只有一個——LM Studio 官方安裝檔(自動偵測作業系統)。
網路:安裝與「第一次下載模型」需要連網;模型抓下來後即可完全離線使用。
預留空間:一個 7B~8B 模型的檔案約 4~5GB,建議系統碟或資料碟至少留 20GB 以上。

💡 沒有獨立顯示卡也別急著關頁面。LM Studio 可以純用 CPU 跑,只是回應速度會明顯變慢;想搞懂顯示卡、VRAM 和 NPU 到底怎麼影響本地 AI,可以先看站長這篇 2026 本地端 AI 硬體指南:NPU 是智商稅嗎?。

🔍 為什麼你需要這個?

你可能會問:都有 ChatGPT 了,幹嘛還要在自己電腦跑 AI?答案是三個字:隱私、離線、免費。用雲端 AI,你打的每一句話都會送到別人的伺服器;跑本地模型,對話全程留在你的硬碟裡,斷網也能用,而且不用月費。這對要處理公司內部文件、法遵資料、或單純不想被拿去訓練的人,是實打實的差別。

那為什麼是 LM Studio,而不是別的方案?因為它把「在本機跑 LLM」這件事的門檻降到最低。過去玩本地模型,多半得開命令列(終端機)打指令、自己處理模型格式與參數;站長先前介紹過的 Ollama + Open WebUI 拒絕訂閱制方案就是 CLI 派的代表,強大但對新手有一定門檻。LM Studio 走的是完全相反的路線:圖形介面、滑鼠點一點、內建模型商店,連模型要吃多少記憶體都幫你標好。對「只想趕快跑起來看看」的人來說,這是目前最無痛的入口。

一句話總結兩者定位:要自動化、串程式、塞進伺服器,Ollama 那種 CLI 工具更順手;要一個看得到、點得動、隨時能聊天的桌面 App,LM Studio 更適合當第一站。

🛠️ 實戰步驟

步驟一:下載並安裝 LM Studio

直接結論:到官網下載對應你系統的安裝檔,一路「下一步」即可,不需要任何指令。

打開 lmstudio.ai/download,網站會自動偵測你的作業系統。Windows 使用者下載 .exe 安裝檔後雙擊執行,依畫面指示完成安裝。x64(一般 Intel / AMD 電腦)與 ARM(高通 Snapdragon X 筆電)都有對應版本,官網會幫你挑好。

安裝完第一次開啟,LM Studio 會問你想做什麼、要不要挑個模型。新手可以先略過導覽,直接進主畫面——左側是功能列(聊天、Discover 探索、開發者、我的模型),中間是工作區。介面預設英文,若想切成中文,可在設定裡的語言選項調整。

步驟二:用 Discover 挑選並下載第一個模型

直接結論:點左側「Discover(探索)」,搜尋模型名稱,看清楚記憶體需求再按 Download。

LM Studio 內建的 Discover(探索) 分頁,實際上是接上 Hugging Face 的模型商店。你可以搜尋模型名稱,清單會列出各種版本;最貼心的一點是——它會在下載前就標出這個模型預估要吃多少 RAM 或 VRAM,還會提示你的機器「跑得動 / 可能吃力」,新手不用自己算。

新手推薦從「小而快」的模型入手,先確定流程走得通:

Qwen3 8B(阿里巴巴):中文表現優秀,適合台灣使用者當日常助理。
Gemma 3 4B(Google):輕量,較低記憶體也能跑。
Llama 4 Scout(Meta):通用能力強,機器夠力再上。

模型清單裡常看到 Q4_K_M、Q8 這種後綴,那是「量化(quantization)」等級——簡單說就是把模型壓縮以換取更低的記憶體佔用,數字愈小檔案愈小、愈省 VRAM,但品質會略降。要搞懂 7B / 70B 參數量與 Q4 / Q8 到底怎麼選、你的顯示卡能吃多大,站長另有專文本地 LLM 模型怎麼選:7B/70B、Q4/Q8 量化與 VRAM 一次搞懂,這裡先照 LM Studio 的綠燈提示挑就好。

按下 Download,等進度條跑完(4B~8B 模型約 3~5GB),模型就進了你的「My Models(我的模型)」。

步驟三:載入模型,開始對話

直接結論:回到聊天分頁,從上方載入剛下載的模型,就能像用 ChatGPT 一樣打字聊天,只是這次全在你電腦裡。

切到聊天(Chat)分頁,點畫面上方的「Select a model to load(載入模型)」,選你剛抓的模型。LM Studio 會把模型載入記憶體,底部會顯示載入進度與資源用量。載入完成後,下方輸入框打字送出,模型就會在本機推論、回你話。

幾個新手常用的設定,在右側面板可以調:

GPU Offload(GPU 卸載):把多少層模型丟給顯示卡算。有獨顯就盡量開高,速度差很多;純 CPU 就保持預設。
Context Length(脈絡長度):一次能記住多少對話內容。開愈大愈耗記憶體,一般對話用預設即可。

💡 為什麼第一次回應會「頓一下」? 因為模型要先整包載入記憶體。載好之後同一輪對話就會順很多;關掉 App 再開,需要重新載入。

步驟四(進階):開一個本地 API 伺服器

直接結論:切到「Developer(開發者)」模式,一鍵啟動本地伺服器,LM Studio 就變成一個相容 OpenAI 規格的 API,給其他程式呼叫。

這是 LM Studio 真正強的地方。進到 Developer(開發者) 分頁,啟動伺服器後,它會在本機 http://localhost:1234 開一個相容 OpenAI API 規格的服務。意思是:任何本來串 OpenAI 的工具或程式,只要把網址指到這個本地位址,就能改用你電腦裡的模型,不花一毛 API 費、資料也不出門。

實務上這能拿來:接自動化腳本、接筆記軟體外掛、接第三方聊天前端。要串程式的人會很有感——本來要付費的雲端 API,現在變成本機免費服務。

步驟五:讓 AI 讀你的文件(RAG)

直接結論:在對話裡直接附加 PDF、文字檔,LM Studio 會讓模型「讀過再回答」,而且全程離線。

LM Studio 支援在聊天中夾帶文件,也就是俗稱的 RAG(檢索增強生成)——模型會先翻你給的資料、再根據內容回答,適合拿來問一份合約、一篇論文或一堆會議記錄的重點。因為整個過程在本機,機密文件不會外流。這跟雲端的 NotebookLM 是同一種用法、不同信任邊界:一個在別人伺服器、一個在你硬碟。

步驟六:驗證一切正常

確認三件事就代表你成功了:(1)Discover 下載的模型出現在「My Models」;(2)聊天分頁能載入模型並正常回話;(3)拔掉網路線後,對話仍然能繼續(證明真的在本機跑)。第三點是本地 AI 的意義所在,值得你親自試一次。

🔬 底層機制:LM Studio 到底在你電腦做了什麼?

很多人以為 LM Studio 是「一個 AI」,其實不是。它比較像一個播放器:真正做推論的是底層引擎,LM Studio 負責把模型下載、載入記憶體、管理參數、提供介面這些雜事全包起來。

拆開來看有三層。最外面是你看到的 App(圖形介面);中間是它的核心引擎(官方稱為 llmster),就算沒有介面也能跑,所以能被塞進伺服器或自動化流程;最底層則是實際執行模型的推論函式庫(在一般 Windows/PC 上主要是 llama.cpp 這一系),負責把模型權重和你的問題變成一個個 token 吐出來。LM Studio 另外還提供一支命令列工具 lms,給想寫腳本的人用。

模型檔案的格式也值得知道。你在 Discover 抓到的多半是 GGUF 檔——這是專為在一般電腦(CPU / 消費級顯卡)上跑而設計的模型封裝格式,把權重和量化資訊打包在一起。這也是為什麼同一個模型會有 Q4、Q6、Q8 好幾個版本:那是同一套權重、不同壓縮程度的 GGUF 檔,讓你依自己的 VRAM 挑一個跑得動的。搞懂這層,你在 Discover 面對一長串版本時就不會再霧煞煞。

💡 總結:進階玩法與底層邏輯

站長我把話說在前面:LM Studio 最被低估的一則消息,是它在 2025 年 7 月 8 日起,連「在公司/工作場合使用」都免費了(官方部落格公告,原本商用需另外取得授權)。這代表你不只能在家玩,想在公司內網拉團隊一起試 AI,也不再卡授權——對還在觀望要不要導入本地 AI 的中小企業,這是很實際的一步。

技術面幾個「查得到、不唬爛」的重點也一併提醒:官方明確支援 Windows on ARM(Snapdragon X Elite),但 x64 機器的 CPU 必須具備 AVX2 指令集(太老的處理器會裝不動);官方建議 16GB RAM、4GB 以上 VRAM,不過這是「舒適區」而非鐵門檻,4B 小模型在更低配也能動。本文所有規格與現況以 2026-07-06 查證的官方文件為準,LM Studio 更新很快,你讀到時建議再對一次官網。

站長沒有在這篇塞任何「實測跑出每秒幾個 token」的數字——因為速度高度取決於你的顯示卡、模型大小與量化等級,拿別人的機器數字唬你沒意義。真的想抓效能預期,請以你自己的 VRAM 對照模型量化版本(見上面那篇模型選型專文),那才是對得上你電腦的答案。

一句話收尾:LM Studio = 本地 AI 的新手村。先用它把「在自己電腦跑 LLM」跑通、建立手感,之後想玩自動化、串 API、上伺服器,再往 CLI 工具進階,路就順了。

❓ 常見問題

Q:LM Studio 是免費的嗎?公司內部使用要付錢嗎?

免費。個人使用一直都免費;自 2025 年 7 月 8 日起,官方也取消了商業授權要求,在工作場合使用同樣免費,不用填表或聯絡原廠。若企業需要 SSO、模型權限控管、私有協作等進階功能,才有另外的 Enterprise 方案。

Q:我的對話和文件會被上傳、拿去訓練嗎?

不會。LM Studio 的模型在你本機執行,對話與你附加的文件都留在自己電腦,下載完模型後甚至可以整個離線使用。這正是本地 AI 相對雲端服務最大的隱私優勢。

Q:沒有獨立顯示卡,只有內顯,能跑嗎?

能,但要放低期待。LM Studio 可純用 CPU 推論,只是回應速度會明顯比有獨顯慢。建議從 4B 這種小模型、較低量化(如 Q4)版本開始,先求跑得動再求跑得快。

Q:LM Studio 和 Ollama 到底差在哪,我該用哪個?

核心差別是「介面」。LM Studio 是圖形介面、內建模型商店,適合新手與想直接聊天的人;Ollama 是命令列工具,適合要寫腳本、做自動化、部署到伺服器的進階使用者。兩者底層都能跑 GGUF 模型,先用 LM Studio 建立概念,再依需求決定要不要學 CLI。

Q:跑本地模型,回答品質會輸給 ChatGPT 嗎?

以「絕對能力」論,能塞進一般家用電腦的開源模型(7B~70B),整體仍不及雲端旗艦模型。但對隱私敏感、需要離線、或量大到不想付 API 費的場景,本地模型「夠用又自主」的價值,往往比多那幾分聰明更重要。

🔗 延伸閱讀

📎 參考資料來源

📖 第一級|官方文件:

LM Studio 官方 System Requirements — 2026-07-06 查證(Windows x64/ARM、AVX2、16GB RAM、4GB VRAM)
LM Studio 官方文件首頁(App / Discover / Developer / RAG) — 2026-07-06 查證
LM Studio 官方部落格:Free for use at work(2025-07-08) — 2026-07-06 查證
LM Studio 官方下載頁 — 2026-07-06 查證

📖 第二級|補充:

LM Studio Model Catalog(官方模型清單,Qwen / Gemma / Llama / gpt-oss) — 2026-07-06 查證

⚠️ 本文核心事實以第一級官方文件為準;LM Studio 版本更新頻繁,規格請以你閱讀當下的官網為最終依據。

📅 本文查證戳記:2026-07-06 依 LM Studio 官方文件撰寫。若你在後續版本遇到步驟或介面變動,歡迎在留言區回報,站長會更新文章。