公司規定改了,AI 要重新訓練嗎?
公司做了一個可以回答內部規定的 AI。上週《餐費規定》寫「出差餐費每天上限 300 元」,今天改成了 500 元。
要讓 AI 按新規定回答,是改文件就好,還是得重新訓練?
先追一件事:新的「500 元」,會從哪裡進入回答過程?
如果程式把新規定放進這次輸入,模型 (Model) 這次就有資料可以參考,不必為了讀這段文字先改內部數值。但只修改公司原文件,還不能確定模型這次收到的就是新版。
第一條路:把新版文件直接交給模型
你可以把新規定連同問題一起提供:
問題:出差一天的餐費上限是多少?
參考文件:《餐費規定》——每天上限 500 元,報銷需附收據。
這就是模型在本次上下文 (Context) 裡可看到的文字。模型用原有數值處理這份新輸入,稱為推論 (Inference)。
原文件改成 500 元,先前複製出去的 300 元不會自動一起改。 如果仍附上舊文件,這次輸入的依據就還是舊規定。需要重新取得並提供新版內容。
文件不多、整份都與問題有關,而且放得進本次輸入時,可以從這條路開始。先把資料提供清楚,不必一開始就建查找系統。
第二條路:程式先找出相關段落,再交給模型
文件增加到很多份時,程式可以先依問題找出《餐費規定》的相關段落,排除不相干的請假或訪客規定,再把找出的原文與問題一起提供。
這種「先檢索資料,再提供給模型生成回答」的做法,叫做檢索增強生成 (Retrieval-Augmented Generation, RAG)。前面的檢索章已說明如何挑段落;這章先看它與訓練的差別。
RAG 讓本次輸入帶進外部資料,不要求為每次文件更新都重新訓練回答模型。 模型仍然要靠程式把原文送進來。
文件更新後,還要確認「找資料用的那份內容」也已更新。如果系統查的是先前建立的副本或索引 (Index),就要同步相應資料,避免再次取回舊規定;若直接查目前來源,也要確認取得的版本。RAG 不會只因名字裡有「檢索」,就保證資料永遠最新。
把餐費規定從 300 元改成 500 元,先看已準備的輸入有沒有跟著改。再操作直接附文件、取回段落與整理訓練示範,追蹤變動發生的位置。
第三條路:用資料繼續訓練,改變模型數值
另一種需求是:希望模型更穩定地按照某種格式回答,例如每次都列出「結論、依據、資料不足之處」。你可以準備多筆要求與示範回答,用它們繼續訓練既有模型。
在已有模型上繼續進行訓練 (Training),以調整其行為或能力,稱為微調 (Fine-Tuning)。這條路會執行參數 (Parameters) 更新;參數就是模型計算時使用、透過訓練調整的數值。指令學習章已拆過其中一種示範訓練。
它多了一段與前兩條路不同的工作:
準備訓練材料 → 執行訓練、更新數值 → 檢查效果 → 使用調整後的模型。
練習中的「整理訓練示範」只完成第一步,尚未改變模型。真正微調時,依方法可能更新原有的部分或全部參數,也可能訓練另外加入的一小組參數;這些都需要實際執行訓練。
訓練材料也能影響模型記住哪些事實,但不能把微調想成「把文件當成可靠資料表存進去」。寫進材料不保證模型日後精確答出,更不會隨公司原文件自動同步。仍要用未參與訓練的案例檢查。
回到今天的問題:300 元改成 500 元,要改哪裡?
| 你要改變什麼 | 可以從哪裡處理 | 要核對的地方 |
|---|---|---|
| 這次回答要參考新版規定 | 重新取得文件,直接放進本次輸入。 | 這次提供的是不是 500 元的新版? |
| 文件很多,每次只需部分資料 | 更新可查詢資料,再檢索並組裝輸入。 | 有沒有找到新版、保留重要條件,並真正送進模型? |
| 希望模型形成更穩定的回答方式或任務能力 | 先檢查提示與範例是否足夠;有需要再用合適資料微調並驗證。 | 沒看過的問題上是否改善,是否帶來其他退步? |
對這份會更新的餐費規定,可以先讓回答拿到新版原文;不必因為公司改了一個金額,就認定必須訓練模型。 文件多到需要查找時,再引入 RAG。
這些方法也能組合。例如用微調改善回答格式,再由 RAG 提供當天有效的規定。微調後,仍可以提供外部文件;使用 RAG,也仍需要檢查回答是否有依據。
參考:Hugging Face 的微調流程、AWS 的 RAG 與微調比較、RAG 原始研究(2026-10-31 查核)。這些資料支持方法的分工與可組合性;不代表任何方法必然答對,或所有系統採用相同的資料更新流程。本章不呼叫外部服務,也不訓練實際模型。