甚麼是 AI 幻覺

AI 幻覺（hallucination），指生成式 AI 給出流暢、肯定，卻與事實不符的內容：虛構的引文、不存在的參考資料、張冠李戴的人物、算錯的數字。AI 不會加上一句「這點我不確定」，它把猜測和事實用同樣的語氣寫出來，讀的人很難一眼看穿。這正是它在課堂上最需要防範的地方。

為甚麼它無法根治

要明白幻覺為何難以根絕，得回到大型語言模型的運作。它生成文字時，做的是預測下一個最可能出現的字，追求的是像不像人寫的答案，而不是是不是正確。當它欠缺可靠資料，或問題涉及冷門、最新的資訊時，它仍會照樣生成一個看起來合理的答案，而不是承認不知道。

換言之，幻覺不是偶發的故障，而是這種技術的固有特性。工具會愈來愈少出錯，但只要它的本質是預測文字，查證的責任就不會消失。

一套簡單的課堂查證流程

與其對學生空泛叮囑「小心 AI」，不如給他們一套可以照做的步驟。

  • 一、標示可查證之處：讀 AI 的輸出，把每一項具體的事實、數字、人名、日期、引文圈出來，這些都是可能出錯、需要核實的點
  • 二、找獨立來源：每一個標示點，用 AI 以外的來源核對，例如教科書、政府或機構官網、可靠新聞、原始文獻，並記下出處
  • 三、判斷去留：對得上的保留，對不上或查無實據的刪去或改正，不因為它讀起來合理就放行
  • 四、留下記錄：保留查證的對照過程，而不只是最終答案，讓查證本身成為學習的一部分

一個可直接辦的事實查核活動

把流程變成活動，學生學得更快。一個簡單的設計：教師選一個學生熟悉的題材（校史、本地地標、課程內某位人物），請學生就此向 AI 提問，再用上面四步查證 AI 的答案。因為題材熟悉，學生更容易看出破綻，也更有把握找到正確資料。當學生親眼見到 AI 把自己母校的創校年份說錯，那份印象，比教師講十次「不要盡信 AI」都深。

進階版可以反過來：讓學生用 AI 生成一段刻意混入錯誤的資料，交給同儕查核。出題的人必須比答題的人更懂得核實，這一轉，查證能力就從被動變成主動。

查證是 AI 素養的核心

教育局「『智』啟學教」撥款計劃要求學校舉辦最少兩個提升學生 AI 素養的活動。素養的分別，在於會不會查證：懂得使用 AI 只是入門，懂得檢驗它的輸出才算素養。把查證流程固定成課堂常規，再配一兩個事實查核活動，既回應了計劃對學生活動的要求，也為學術誠信打下基礎。學生一旦習慣先查證後採信，面對 AI 生成的功課、資料與圖像，自然多一分警覺。