快訊
2026-07-23

本地 LLM 顯卡軟體生態:NVIDIA CUDA vs AMD ROCm vs Vulkan 怎麼選

本地 LLM 顯卡軟體生態 CUDA ROCm Vulkan 後端比較示意封面

買了顯卡卻發現本地 LLM 根本沒吃到 GPU?問題通常不在卡,而在軟體堆疊。本文交叉 AMD、Ollama、llama.cpp 三份官方文件,拆解 CUDA、ROCm、Vulkan 三條後端的真實支援邊界——包含 AMD 官方 ROCm 只認四個 Linux 發行版、RX 6000 消費卡整組不在支援表,以及同一張卡在 Windows 與 Linux 待遇不同的破口。看完你會知道該先選作業系統,還是先選卡。