⚡ 站長快讀:核心重點
- 文章屬性:科技冷知識 / 規格解析
- 核心結論:開源模型不是「隨便抓來用都沒事」——授權條款差很大,量化格式代號看不懂也會選錯檔案。
- 適用對象:想自架本地 LLM、或評估開源模型能不能商用的開發者與一般玩家
📌 快速答案
一句話答案:開源模型怎麼選,先看家族定位、再讀授權條款(能否商用),最後對照 GGUF / GPTQ / AWQ 量化格式挑對檔案。
🔍 故事的起點
「開源模型」這四個字,這幾年被講到有點失真。Hugging Face 上隨便一搜,動輒上萬個模型頁面都掛著「open」字樣,但真正打開授權條款一讀,有些其實是「open weight」(公開權重檔給你下載),不是「open source」(照 OSI 定義可以自由使用、修改、再散布,幾乎沒有額外限制)。這中間的落差,曾經讓不少開發者踩雷:抓了一個標榜「開源」的模型接進商業產品,結果授權條款裡藏著使用者規模上限、禁止拿輸出去訓練別的模型,甚至要求把限制條款強制往下游傳遞給你的使用者。
另一個常見卡關點是量化格式。同一個模型,Hugging Face 頁面常常同時掛著 GGUF、GPTQ、AWQ 好幾種版本,檔名裡還夾雜 Q4_K_M、Q8_0 這種代號,新手常常抓錯檔案,結果不是跑不動就是硬體根本裝不下。這篇把「怎麼看懂一個開源模型家族在幹嘛」「授權能不能商用」「量化格式怎麼選」三件事一次講清楚,常青參考用,重點是看懂規則,不是背特定版本號。
🧪 原理拆解
家族定位:先分清楚每個模型在解決什麼問題
2026 年檯面上幾個主力開源模型家族,各自的定位其實差不少:
- Llama(Meta):最早把開源 LLM 生態帶起來的家族,社群工具鏈(llama.cpp、各種 fine-tune 衍生版)最成熟,但授權條款相對限制多。
- Qwen 通義千問(阿里巴巴):涵蓋參數量最廣的系列之一,從輕量到旗艦 MoE 模型都有,核心版本走 Apache 2.0,對商用最友善的家族之一。
- DeepSeek:以推理與程式能力見長,V3/R1 系列到 2026 年 4 月的 V4,授權走向更寬鬆的 MIT。
- Gemma(Google):Google 官方維護、與 Gemini 技術系出同源,早期版本授權相對嚴格,2026 年釋出的 Gemma 4 改採 Apache 2.0,是明顯轉向。
- gpt-oss(OpenAI):OpenAI 首度釋出的開放權重模型,直接採 Apache 2.0,對企業導入的行政流程最簡單。
- Mistral:歐系開源模型代表,多數社群版本同樣走 Apache 2.0 路線。
家族選擇的實務判斷,不是看誰的跑分最高,而是看你要的任務類型(對話助理、程式生成、多模態)、社群工具鏈成熟度(有沒有現成的 GGUF 量化版、有沒有人做過你要的語言微調)、以及下一節的授權能不能用在你的場景。
架構面的細節(例如同一家族內「總參數」和「啟用參數」為什麼差很大、MoE 怎麼影響 VRAM 需求),站內已有專文拆解:MoE(混合專家)架構白話解析。這篇專注在「怎麼挑家族與看懂授權規格」,不重複架構原理。
授權條款:能不能商用,魔鬼藏在細節裡
「開源」兩個字不能當成商用許可證的保證,一定要點進授權條款原文看清楚。以下是幾個主力家族實際的授權狀態:
| 家族 | 授權類型 | 商用可用性重點 |
|---|---|---|
| Llama(Meta) | Llama Community License(非 OSI 認證開源) | 可商用,但月活躍使用者超過 7 億需另向 Meta 申請授權;禁止用 Llama 的輸出去訓練其他非 Llama 衍生模型;散布衍生版須附上授權聲明檔 |
| Qwen(阿里巴巴) | 主力版本 Apache 2.0 | 允許不受限商用、修改、再散布,免權利金;但部分新版聊天代理服務(如雲端 Plus 版)屬閉源服務,並非全系列開源 |
| DeepSeek | MIT | 目前最寬鬆的授權之一,可自由修改、微調、再散布,只需保留版權聲明 |
| Gemma(Google) | Gemma 1–3:自訂「Gemma Terms of Use」;Gemma 4(2026):Apache 2.0 | 舊版條款內建「禁止用途政策」,且限制條款必須強制傳遞給你的下游使用者,Google 保留可遠端限制濫用的權利;Gemma 4 起改走標準 Apache 2.0 |
| gpt-oss(OpenAI) | Apache 2.0 | 可商用、可修改,無需權利金 |
實務上分辨授權寬嚴,有兩個判斷點:第一,是不是 OSI 認可的標準授權(Apache 2.0、MIT 屬於這類,條款簡短、限制少);第二,有沒有額外的「使用限制政策」(像 Llama 的規模門檻、Gemma 舊版的禁止用途清單),這類自訂條款即使允許商用,企業法務審查時通常會花更多時間確認邊界。如果你的產品未來可能衝上大規模使用者,或需要把模型輸出拿去訓練別的模型,Llama 這類條款要特別留意;單純自架、內部工具、中小型商業應用,大部分家族目前主流版本都不成問題,但條款會改版,正式導入商業產品前務必回官方頁面重新核對當下版本。
量化格式與規格:看懂 GGUF / GPTQ / AWQ 該選哪個
抓模型檔案時最常卡關的,是同一顆模型在 Hugging Face 上會有好幾種量化版本,常見三種格式定位完全不同:
- GGUF:llama.cpp 生態系的檔案格式,把權重和中繼資料打包成單一檔案,同時支援 CPU、消費級 GPU 與 Apple Silicon;同一顆模型內不同層還能用不同位元深度混合量化(例如注意力層用較高位元、前饋層用較低位元),是 LM Studio、Ollama 這類本機工具的預設首選,對一般玩家最泛用。相關本機部署細節可參考站內 LM Studio 完整教學。
- GPTQ:較早出現的 GPU 量化演算法,靠校正資料集把量化誤差降到最低,曾是 NVIDIA GPU 推論的主流格式;近期新模型釋出時多半優先推 GGUF 或 AWQ 版本,GPTQ 逐漸退居二線,但既有 checkpoint 庫存龐大,仍是合理的舊機型延用選項。
- AWQ(Activation-aware Weight Quantization):量化前先用校正資料觀察每一層「哪些權重對輸出品質最關鍵」,把這些關鍵權重保留較高精度、其餘權重才做激進量化;根據 Local AI Master 2026 年的評測,AWQ 在同為 4-bit 的情況下品質保留率略高於 GGUF 與 GPTQ,適合純 GPU 推論伺服器場景。
檔名裡的 Q4_K_M、Q8_0 這類代號,數字代表量化後的位元數(4-bit、8-bit),位元數愈低,檔案愈小、跑起來愈省 VRAM,但品質損失也愈明顯;K_M、K_S 等後綴則是 GGUF 內部混合精度的分級標記,不用死背,新手直接抓 Q4_K_M 作為品質與體積的平衡起點就夠用。
VRAM 需求可以用簡化公式抓概算(僅供快速估算,實際會因模型架構、context 長度與推論引擎而有落差):
粗估 VRAM(GB)≈ 參數量(十億)× 每參數位元組數,再加 10–20% 作 context 與運算開銷。
每參數位元組數概估:FP16 全精度 ≈ 2 bytes、Q8 ≈ 1 byte、Q4 ≈ 0.5–0.6 bytes。
以 7B 模型為例:FP16 約需 14GB、Q8 約需 7GB、Q4 約需 4–4.5GB;70B 模型則是 FP16 約 140GB(消費級單卡幾乎不可能塞下)、Q4 約 38–42GB(仍需要雙卡或高階顯卡)。這只是粗略估算的起點,不同參數量段該選多大模型、量化到多少位元最划算,站內另有專文完整拆解:本地 LLM 模型怎麼選?7B/70B、Q4/Q8 量化與 VRAM 一次搞懂。
💡 總結:冷知識延伸
站長我自己抓模型的習慣,是先看授權條款再看跑分——跑分好但授權卡商用,產品上線前還是得換家族,白做工。另外提醒一點:MoE 架構的模型(像不少 Qwen、DeepSeek 旗艦版)「總參數」跟「啟用參數」差很大,量化 VRAM 概算公式該用哪個參數量計算,牽涉到架構細節,這部分建議直接看站內 MoE 專文,這篇不重複展開。
授權條款也不是一次讀完就終身有效——模型家族會改版授權(Gemma 從自訂條款轉 Apache 2.0 就是例子),正式商用導入前,養成習慣回官方授權頁面核對「當下版本」的條款,比記住某個版本號更重要。
❓ 常見問題
Q:開源模型可以直接商用嗎?
要看授權類型。Apache 2.0(如 gpt-oss、Gemma 4、多數 Qwen 主力版本)與 MIT(如 DeepSeek)這類標準開源授權可以商用、修改、再散布,不需權利金;Llama 這類自訂授權雖然也允許商用,但附加使用者規模門檻與其他限制條款,正式導入前務必讀完整份授權文件。
Q:Llama 授權限制是什麼?
Meta 的 Llama Community License 規定,若你的產品或服務前一個月的月活躍使用者超過 7 億,就必須另外向 Meta 申請授權;另外也禁止用 Llama 的輸出去訓練非 Llama 衍生的其他大型語言模型,散布衍生版時也必須附上授權聲明檔。
Q:GGUF 和 GPTQ 差在哪?
GGUF 是 llama.cpp 生態系的檔案格式,支援 CPU、消費級 GPU 與 Apple Silicon 混合運算,對一般本機玩家最泛用;GPTQ 是較早的 GPU 量化演算法,曾是 NVIDIA GPU 推論主流,現在多數新模型優先推 GGUF 或 AWQ,GPTQ 逐漸退居舊機型延用選項。
Q:怎麼算跑一個模型要多少 VRAM?
概算公式是參數量(十億)乘上每參數位元組數(FP16 約 2 bytes、Q8 約 1 byte、Q4 約 0.5–0.6 bytes),再加 10–20% 的 context 與運算開銷。詳細依模型大小分段的實例,可參考站內本地 LLM 選型專文。
Q:Apache 2.0 跟 MIT 授權差在哪?
兩者都屬於寬鬆的商用友善授權,允許自由使用、修改、再散布且免權利金。主要差異在 Apache 2.0 條款更長,明文包含專利授權條款(貢獻者不得對使用者提起專利訴訟);MIT 授權則精簡許多,沒有額外的專利條款,單純聲明保留版權宣告即可。
🔗 延伸閱讀
- MoE(混合專家)架構白話解析:「啟用參數 vs 總參數」為何決定 VRAM 與速度
- LM Studio 完整教學:不打指令,在 Windows 本地跑 LLM
- 本地 LLM 模型怎麼選?7B/70B、Q4/Q8 量化與 VRAM 一次搞懂
- [深度解析] 2026 本地端 AI (Local LLM) 硬體指南:NPU 是智商稅嗎?
- [2026最新] 拒絕訂閱制!Windows 本機跑 AI (Ollama + Open WebUI)
📎 參考資料來源
📖 第一級|廠商官方:
- Llama 4 Community License Agreement — 2026-07-09 查證
- Qwen3 GitHub(Apache 2.0 License) — 2026-07-09 查證
- DeepSeek License FAQ — 2026-07-09 查證
- Gemma Terms of Use(Google AI for Developers) — 2026-07-09 查證
- gpt-oss GitHub(Apache 2.0 License) — 2026-07-09 查證
📖 第二級|權威技術媒體:
- GGUF vs GPTQ vs AWQ 2026:Which Quantization Should You Use?(Local AI Master) — 2026-07-09 查證
- Meta Llama 3 and the 700M MAU Limit(WCR.LEGAL) — 2026-07-09 查證