為甚麼教師需要先弄懂它
生成式 AI 不是搜尋器，也不是計算機。它的運作方式決定了它擅長甚麼、又會在哪裡出錯，而這兩者，直接影響它能不能放心用在課堂上。與其把它當成一個神秘的黑盒，不如先了解一個簡單的原理，往後每次判斷「這個答案可不可信」都用得上。
大型語言模型其實在預測下一個字
今天的生成式 AI，核心是大型語言模型。它從海量文字中學到詞語之間的規律，運作時做的其實是一件事：根據前面出現的字，預測下一個最可能出現的字，一個接一個生成句子。它沒有一個查得到對錯的資料庫，也不會像人一樣理解題目，它是在計算怎樣的文字組合最像人會寫出來的答案。
這個特性解釋了它幾乎所有的長處與短處。因為在模仿人類的文字，它寫出來的東西通順、有條理、語氣自然；也因為它追求的是像不像，而不是對不對，它可以在毫無根據的情況下，把錯的內容寫得同樣通順。
它擅長甚麼，不擅長甚麼
把長處與短處分開看，用起來就不會誤判。
- 擅長：改寫與潤飾文字、生成大量例子與變式、把長文摘要、換一種說法解釋概念、起草初稿讓人再修改
- 不擅長：提供準確的事實、數字與引文；處理需要嚴謹推理的多步計算；判斷資料真偽；回答涉及最新或冷門資訊的問題
- 一個實用的分界：凡是關於「表達方式」的任務，AI 通常可靠；凡是關於「事實對錯」的任務，都要查證
為甚麼會流暢地說錯
教師最需要記住的一點，是 AI 可以很有自信地給出錯誤答案。它生成的是最像答案的文字，而最像答案的文字，不一定是正確答案。除非被特別設定，它不會說「我不確定」，而會把猜測寫得和事實一樣肯定。這種現象常被稱為 AI 幻覺，它不是偶爾的故障，而是這種技術運作方式的自然結果。
所以問 AI 一位作家的生平、一條公式的出處、一宗新聞的細節，它可能答得頭頭是道，卻把年份、人名或數字弄錯。愈是需要精確的地方，愈要核對。
這對課堂用法的三點提示
- 一、用它來處理表達，不要盡信它的事實。讓 AI 幫忙改寫評語、生成練習、解釋概念可以；涉及具體事實的內容，教師先查核才用。
- 二、教學生一起看穿它。與其禁止，不如帶學生親身試出 AI 出錯的時刻，查證比堵截有用。
- 三、自己先熟習，再帶學生。教師對 AI 的理解，是計劃想培養的其中一環；先在備課與行政上用順手，課堂應用自然水到渠成。