AI 幻覺為什麼發生?原理拆解+查證自保 5 招

從機制講起,不講玄學。 直接引 OpenAI 2025 年 9 月釋出的官方研究〈Why language models hallucinate〉,把幻覺定位成統計問題與誘因問題,而不是「模型有靈魂所以會說謊」。
用官方自己公布的數字,說明「答對率高 ≠ 幻覺少」。 下面會拆 OpenAI 引自 GPT‑5 System Card 的 SimpleQA 三欄數據——同一份測驗裡,答對率較高的那個模型,答錯率是另一個的近三倍。
五招都標明失效點。 每一招後面都會寫「這招什麼時候沒用」,因為把任何一招當成萬靈丹,本身就是新的風險。

🔬 底層機制:AI 幻覺到底在哪一層長出來?

先給結論:幻覺不是在單一環節出錯,而是預訓練與後續評測兩層各自留下的缺口疊加。

第一層:預訓練只有「正例」,沒有「這句是假的」標籤

語言模型的第一階段訓練叫預訓練(pretraining),做的事情是在龐大文本裡預測下一個字。OpenAI 在該文中明講,這個過程和傳統機器學習任務不一樣:每個句子上並沒有附「真 / 假」標籤,模型看到的全部是流暢語言的正面例子,它要做的是逼近整體分布。

沒有反例可學,要分辨「有效敘述」與「無效敘述」本來就困難得多。這解釋了一個乍看奇怪的現象:大型預訓練模型很少拼錯字、很少括號不對稱,卻會把人名、日期、條號編得煞有介事。

第二層:低頻的任意事實,學不起來

OpenAI 用了一個很好懂的類比:影像辨識裡,幾百萬張貓狗照片標上「貓」或「狗」,演算法可以學得很準;但如果改成把每張寵物照片標上牠的生日,由於生日基本上是隨機的,再厲害的演算法也一定會出錯。

同樣的道理套回預訓練:拼字和括號有一致的規律,規模一放大錯誤就消失;但像「某人的生日」這種任意的低頻事實無法從模式推得,於是就變成幻覺。

第三層:評測制度獎勵猜測、懲罰誠實

這是全篇最關鍵、也最少被討論的一層。

OpenAI 的論點是:幻覺之所以難以根除,部分原因在於目前的評測方式設下了錯誤的誘因。 想像一份選擇題考卷——不會的題目亂猜,還有機會矇到;空白則保證零分。當模型只被「答對率」評分時,它自然被鼓勵去猜,而不是說「我不知道」。

對於有單一正確答案的問題,回應可以分成三類:答對、答錯、以及棄答(不冒險猜)。OpenAI 指出,多數排行榜依答對率排名,但答錯其實比棄答更糟。以下是該文引自 GPT‑5 System Card 的 SimpleQA 評測結果:

指標	gpt-5-thinking-mini	OpenAI o4-mini
棄答率(未給出具體答案)	52%	1%
答對率(越高越好)	22%	24%
答錯率(即幻覺率,越低越好)	26%	75%

SimpleQA 評測比較:gpt-5-thinking-mini 與 OpenAI o4-mini 的棄答率、答對率與答錯率 — 資料來源:OpenAI〈Why language models hallucinate〉引 GPT-5 System Card 之 SimpleQA 評測(2026-07-22 查證)

這張表是本文的核心證據:單看答對率,舊款的 o4-mini 還小勝兩個百分點;但它的答錯率是 75%,而 gpt-5-thinking-mini 只有 26%。差別在哪?o4-mini 幾乎不棄答(棄答率 1%),不會就硬猜。 OpenAI 的結論很直白:不確定時採取策略性猜測會提高答對率,但同時會拉高錯誤與幻覺。

換句話說,只要主流排行榜繼續只看答對率,開發者就會被推著做出「寧可猜也不肯留白」的模型。OpenAI 明講,光是在旁邊多加幾個幻覺專用評測並不足夠、效果有限,得把那些被廣泛使用、以答對率計分的評測本身改掉,才可能扭轉這個誘因。

🧭 順手分清楚:兩種幻覺不一樣

學術界對幻覺的分類,和一般人以為的「AI 說謊」不太一樣。早期自然語言生成研究採內在 / 外在兩分;到了 LLM 時代,綜述論文指出這套任務導向的舊分類在通用模型上不夠用,另外提出更細緻的 factuality / faithfulness 分類(下列四個名詞的定義,一律以文末該篇綜述為準):

內在(intrinsic)幻覺(舊分類):輸出牴觸你給它的輸入內容。例如你貼了一份合約請它摘要,它摘出來的條款和原文相反。
外在(extrinsic)幻覺(舊分類):輸出無法從你給的來源被驗證——不一定錯,但你手上的材料證不了。
改良後的分類則區分 factuality(是否符合現實世界事實) 與 faithfulness(是否忠於輸入與指令)。

為什麼要分?因為兩種幻覺的解法不同:內在幻覺可以靠「請只根據我貼的資料回答、並引用原文句子」壓下來;外在幻覺則必須靠外部來源查證,你在對話框裡再怎麼要求也沒用。這也是為什麼「把資料餵給它就不會亂講」是個危險的誤解——RAG(檢索增強生成)這類先查資料再回答的架構確實能降低幻覺,但它處理的主要是「有沒有正確材料」,不是「模型會不會超譯材料」。

⚠️ 上述四個分類名詞的定義出自 LLM 幻覺綜述論文 arXiv:2311.05232,該文已收錄於 ACM Transactions on Information Systems(DOI:10.1145/3703155)、經同儕審查。這是學界通行的分析框架,而非任何單一廠商的官方定義。

🛠️ 實戰步驟:查證自保 5 招

以下五招由淺入深,越後面成本越高。日常閒聊用第一招就夠;只要答案會被你拿去做決定、交出去、或影響到別人,五招請全上。

招一:先判斷「這題有沒有標準答案」

問問題之前先花三秒鐘分類。AI 最容易編的,是那種「有唯一正確答案、但答案本身很任意」的題目——某人的生日、某份文件的頁碼、某條法規的條號、某個函式的參數名、某本書的 ISBN。理由前面講過:這類低頻任意事實學不起來,模型只能猜。

反過來,開放式、以推理或整理為主的任務(幫我把這段話改寫、幫我列出思考角度、幫我把這份資料做成表格)風險低得多,因為材料就在對話裡,不需要模型從記憶裡撈事實。

💡 為什麼要這樣做? 這一招不是查證,是分流。把高風險題目挑出來,後面四招才有力氣用在刀口上。

這招什麼時候沒用:當你問的問題混合了兩種性質——例如「幫我整理這個主題並附上三篇論文」——整理的部分很安全,附論文的部分是高風險區,得拆開看。

招二:要求逐條附來源,然後真的去點開

Anthropic 官方文件在「減少幻覺」的建議裡,把這一招寫得很明確:讓模型為每一項主張引用出處與原文引句,使回答可稽核;並且可以要求它在產出後回頭為每條主張找一句支持的原文,找不到就必須撤回該主張。處理長文件時,官方另建議先請它逐字擷取原文引句,再據以作答。

實務上的問法:

「請針對每一個事實性主張,標註來源名稱與可點擊的網址,並附上你所依據的原文句子。找不到支持句的主張,請直接刪掉,不要用推測補上。」

這招什麼時候沒用:來源本身也可能是編的。 參考文獻與網址遭捏造是有專門研究在追的現象(見文末參考資料的預印本論文)。所以這招的重點不在於它給不給得出連結,而在於你有沒有真的點開那個連結、確認那句話真的在裡面。只看到有附網址就放心,等於白做。

招三:開啟聯網 / grounding,但別以為開了就一定有查

Google 官方文件對「Grounding with Google Search」列出的第一項好處就是:「提高事實準確度:讓回應建立在真實世界資訊上,減少模型幻覺。」 同一份文件也說明,接地後的回應會附帶 groundingMetadata,裡面包含搜尋過的查詢字串與來源網址,是驗證主張用的結構化資料。

但同一份官方文件有一句話很多人漏看:把 Google 搜尋當成工具提供給模型,並不代表模型每次都會使用它;沒用到時,回應裡就不會有 grounding 中繼資料,也就不算「接地結果」。

換句話說,「我有開聯網模式」不等於「這個答案有查過」。同樣的判斷邏輯在搜尋引擎那端也成立——站長之前拆過 Google 搜尋的 AI 生成答案有多可信、以及怎麼把藍色連結找回來,那篇的檢查動作和這裡是同一套。

💡 實務判斷法:看它有沒有真的長出這一題專屬的引用。如果回答裡的引用來源明顯與問題無關、或整篇只掛一個首頁網址,那多半是模型憑記憶答完再補掛連結。

這招什麼時候沒用:題目太新、太冷門,或答案根本不在公開網頁上時,聯網也救不了;此時模型仍可能用搜尋結果的周邊資訊拼出一個看似有據的答案。

招四:明確允許它說「我不知道」

Anthropic 官方文件把這招列為基本策略的第一條:明確給模型「承認不確定」的許可,這個簡單技巧可大幅減少錯誤資訊。

這和前面第三層機制完全對得上——模型被訓練與評測推著「不要留白」,那麼在你的提示詞裡把留白重新變成可接受的選項,就是在局部抵銷那個誘因。

實務上的問法:

「如果你不確定,請直接說『我不確定』並說明你缺什麼資訊,不要給我一個看起來合理的答案。」

這招什麼時候沒用:它降低的是「硬猜」的傾向,但不會讓模型憑空知道它不知道。當模型的內部信心本身就被誤導時(例如題目裡藏了錯誤前提),它仍可能自信地答錯。所以這招要搭配招五。

招五:同題再問一次,比對不一致處

Anthropic 官方文件在進階技巧裡列出兩個做法,合起來就是這一招:Best-of-N 驗證——同一個提示詞跑多次、比對輸出,輸出之間的不一致「可能」就是幻覺的訊號;以及思維鏈驗證——請它逐步說明推理過程,以便暴露錯誤的邏輯或假設。官方同時建議限制外部知識:明確要求它只用你提供的文件、不要動用一般知識。

站長的實作版本是:換一個模型、換一種問法,把同一題再問一次。 兩邊講的細節若對得上,可信度大幅提高;只要出現一個具體數字或專名對不上,那一項就一律當成未證實,回到招二去查原始出處。這一招之所以有效,是因為不同模型未必會編到同一個假答案——因此只要細節對不上,就足以當成警訊。

💡 為什麼要這樣做? 這是把「交叉查證」這個老方法搬進 AI 工作流。如果你發現改個問法答案就變了,那通常代表這題本來就在模型的能力邊界上。要設計出有效的「換句話問」,可以直接借用提示詞寫法 10 個技巧裡的補脈絡與指定輸出格式兩招——把同一題改成兩種脈絡、兩種格式各問一次,是最省事的比對變體。

這招什麼時候沒用:當錯誤來自訓練資料裡普遍存在的錯誤說法時,多個模型可能會一致地錯。此時只有回到官方一手來源才有解。

⚠️ 這些情境特別容易出現幻覺

依上述機制推得,以下情境的幻覺風險明顯偏高,建議一律回官方一手來源確認:

精確識別碼:條號、頁碼、ISBN、型號尾碼、API 參數名、錯誤代碼的確切字串。
人物與時間的組合:某人在某年做了某事、生卒年、任職期間。
冷門或極新的主題:訓練資料裡樣本稀少,模型只能靠拼湊。
參考文獻與網址:如前所述,這是已知的高風險類別。
你在問題裡就寫錯的前提:模型傾向順著你的前提往下推,而不是先糾正你。
要求「列出 N 個」的題目:真的只找得到三個時,湊到第五個的那兩個往往是編的。

高風險領域請直接跳過 AI 的結論:醫療、法律、財稅、投資、以及任何會影響他人權益的決定,AI 適合用來幫你整理問題與找關鍵字,不適合當答案來源。這些領域請以主管機關、法規原文或具執業資格的專業人士為準;本文不構成醫療、法律或財務建議。

💡 總結:幻覺不會歸零,但可以管理

站長我把這篇的重點壓成一句話:AI 幻覺為什麼發生,答案在制度面而不在程式面——所以解法也在流程面,不在「換一個更聰明的 AI」。

最值得記住的可驗證錨點,就是上面那張 SimpleQA 表:答對率 24% 的模型,答錯率是 75%;答對率 22% 的模型,答錯率只有 26%(數據出自 OpenAI 官方文章引用之 GPT‑5 System Card)。這組數字的意思是,「看起來比較會答」和「比較不會唬人」是兩件事,而排行榜通常只告訴你前者。

另外值得注意的是,OpenAI 在該文結論裡反駁了一個常見誤解:幻覺並非不可避免——因為模型在不確定時可以選擇棄答;而且小模型未必更容易幻覺,因為「知道自己不會」有時比「答得準」更省算力(該文舉例:一個完全不懂毛利語的小模型可以乾脆說不知道,反而是懂一點的模型得判斷自己的信心)。

實務上站長的做法很簡單:日常問答用招一分流、招四放行;凡是要交出去的東西,招二到招五全跑一遍。 五招都做完仍然可能有漏網之魚——Anthropic 官方文件自己也寫明,這些技巧能顯著降低幻覺但無法完全消除,關鍵資訊務必自行驗證。這句話請當成整篇文章的底線。

❓ 常見問題

Q:AI 幻覺有可能完全消除嗎?

以目前公開的官方說法,不能。OpenAI 表示最新模型的幻覺率已較低、且仍在持續降低,但幻覺對所有大型語言模型而言仍是根本挑戰;該文同時指出,答對率永遠不可能到 100%,因為有些真實世界的問題本質上就無法回答。不過該文也強調,幻覺並非不可避免——模型在不確定時可以選擇棄答。

Q:是不是換更大、更貴的模型就不會幻覺?

不必然。OpenAI 在結論中直接反駁了「避免幻覺需要大模型才辦得到」這個說法:小模型有時更容易知道自己的極限,而做到「校準」所需的運算量,遠少於做到「準確」。實務上請看該模型公布的錯誤率,而不是只看答對率或參數量。

Q:開了聯網搜尋,是不是就不會幻覺了?

會降低,但不會消失。Google 官方文件把「減少模型幻覺」列為接地的第一項好處,同時也明講提供搜尋工具不代表模型每次都會用——沒用到時,回應裡就沒有 grounding 中繼資料。所以請養成看引用來源的習慣。

Q:那 RAG 能解決嗎?

RAG 處理的是「有沒有把正確材料放到模型面前」,對外在幻覺幫助最大;但模型仍可能超譯或誤讀那份材料,也就是內在幻覺依然存在。想理解 RAG 的實際運作與邊界,可以看站長寫過的 RAG 專文(內文已連,見上方)。

Q:我怎麼知道它給的網址是真的?

點開。這是唯一可靠的方法。捏造參考文獻與網址是已被專門研究的現象,不能因為格式正確就相信。點開之後還要確認「它引用的那句話真的在頁面上」,而不是只確認網址能開。

🔗 延伸閱讀

📎 參考資料來源

📖 第一級|廠商官方:

OpenAI:Why language models hallucinate — 2026-07-22 查證(原文發布日 2025-09-05)
Anthropic:Reduce hallucinations — Claude Platform Docs — 2026-07-22 查證
Google:Grounding with Google Search — Firebase AI Logic — 2026-07-22 查證

📖 第一級|研究:

Kalai, Nachum, Vempala & Zhang:Why Language Models Hallucinate(arXiv:2509.04664) — 預印本,2026-07-22 查證
A Survey on Hallucination in Large Language Models(arXiv:2311.05232) — 已收錄於 ACM Transactions on Information Systems(DOI:10.1145/3703155),2026-07-22 查證
Detecting and Correcting Reference Hallucinations in Commercial LLMs and Deep Research Agents(arXiv:2604.03173) — 預印本,2026-07-22 查證

⚠️ 本文核心事實以第一級廠商官方為準,研究類來源用於分類框架與現象佐證,各筆已逐一標明同儕審查/預印本狀態。

📅 本文查證戳記:2026-07-22 依據上述官方文件與論文撰寫,非站長第一手實測。各家模型的幻覺率與功能設計更新頻繁,實際使用前請以該工具當下的官方說明為準。