法律場景下,RAG 為何勝過微調

律師行常聽到「用我們的先例訓練模型」。聽起來很強大。但對案件工作而言,這通常是錯誤的預設。
錯誤的預設
合夥人評估法律 AI 時,推銷話術往往是:用你們的合約、判決與操作手冊微調模型,讓它「懂」律師行怎麼做事。直覺可以理解——律師用先例訓練初級律師,為何不能同樣訓練模型?
因為語言模型不是初級律師。微調改寫的是權重。它不會給你借書證、引用軌跡,也無法乾淨地把案件資料留在正確位置。對大多數法律場景——研究備忘、合約審閱、依操作手冊修訂——檢索增強生成(RAG) 才是更好的主架構。
本文說明兩種方法實際做什麼、為何微調作為法律知識庫會失效、RAG 勝在何處,以及輕量微調何時仍值得一席之地。
微調與 RAG 實際做什麼
微調 以基礎模型為起點,用你的範例繼續訓練。模式進入模型參數:起草語氣、條款分類習慣、帶管轄區色彩的措辭。訓練後,模型依已吸收的內容作答。除非你另外加上,否則沒有「打開活頁夾」這一步。
RAG 把語料庫留在模型之外。查詢時系統檢索相關段落——條款、判決、範本、操作手冊規則——再以這些段落為上下文生成答案。模型仍是生成器;律師行的知識留在可更新、可範圍限制、可審計的可搜尋庫中。
一個有用的比喻:微調像閉卷考試;RAG 像桌上放著律師行圖書館的開卷考試。法律工作幾乎永遠是開卷工作。客戶、法院與合夥人要的是來源——不是感覺。
為何法律工作會讓微調作為主策略失效
幻覺權威
微調後的模型可以聽起來像在引用 HKSAR v Someone 或引述第 622 章。它無法可靠提供的是來源軌跡:讀了哪份文件、哪一段支持主張、引文是否精確。權重不會產生腳註。對法律工作而言,沒有出處的自信文筆是風險。
過時法律
條例、實務指示、律師行範本與對手方操作手冊會變。重新訓練(甚至頻繁刷新適配器)相對於把新判決索引進檢索語料庫、或替換修訂範本,既慢又貴。若「知識」只活在權重裡,昨天的模型今天已經錯了。
案件隔離與保密特權
把客戶檔案、非公開狀書或敏感案情放進訓練集,是管治問題。訓練資料具黏性:難以「忘掉」一件案、難以證明什麼離開了律師行,也難以符合禁止把非公開案件資訊送入公開或鬆散受控 AI 系統的政策。把微調當知識傾倒,與保密特權及資料限制衝突;具範圍限制的 RAG 則可以尊重這些界線。
漂移與遺忘
為一個執業領域更新模型,可能損害另一領域。當訴訟語氣滲進併購起草,「災難性遺忘」就不是學術註腳。
審計與監督
合夥人需要回答:系統讀了什麼? 微調的答案是:模型隱約記得。 這不是你能帶去風險委員會的監督故事。
RAG 在法律場景勝在何處
RAG 與法律工作實際如何被監督對齊。
有根據的生成。 檢索 → 生成 → 引用。答案綁定到你可打開核查的段落。幻覺不會消失——檢索可能漏掉,模型仍可能誤讀——但你有東西可以對照。
語料庫即時更新。 終審法院新判決、修訂的 NDA 範本或更新的操作手冊規則,無需訓練即可索引。系統之所以新,是因為圖書館是新的。
範圍化檢索。 把搜尋限於某案件、某執業組或經核准的範本集。這正是律師行思考利益衝突與保密的方式。微調一個共用大腦,與這種心智模型相衝突。
人在迴路中的核查。 呈交或發送客戶前,每段引文與引用都應由合資格人士核查。RAG 因來源明確而使核查可行;微調則讓核查變成猜測。
貼合真實工作流程。 依操作手冊審閱合約、以精選案例集為據的研究備忘、對照核准用語修訂,都清楚對應「檢索並生成」;卻很難對應「希望權重吸收了正確條款」。
微調何時仍有意義
誠實很重要。微調並非無用——它只是存放成文法與案件事實的錯誤地方。
在你需要時使用輕量微調或適配器:
- 行內風格 — 跨案件穩定的語氣、結構與起草慣例
- 分類與路由 — 條款類型偵測、文件分流、案件路由
- 窄技能塑造 — 讓內部工具遵循固定輸出結構
不要把微調用作:
- 案件事實或客戶文件的儲存庫
- 受控、可引用知識庫的替代品
- 「今天教模型明天判決」的捷徑
優先使用小型適配器與指令微調,而非完整重訓。把知識庫留在檢索;讓微調打磨行為,而非取代圖書館。
香港、新加坡與英國律師行的實務架構
可持續的模式如下:
- 私人語料庫 — 先例、核准範本、操作手冊,以及(在政策允許下)置於律師行控制的案件材料
- 檢索層 — 依執業、案件與權限範圍搜尋
- 生成 — 模型以檢索上下文產出草稿與分析
- 核查 — 律師在任何內容離開律師行前核對事實、引文與引用
- 資料邊界 — 非公開與敏感案件資訊不得進入公開消費級 AI 工具
最後一點不是可有可無的表演。香港司法機構已明確:法院使用者禁止將非公開、機密或敏感案件資訊輸入公開 AI 模型——律師行應把同一界線視為內部政策底線。帶私人語料庫的 RAG,正是在不把案件檔案貼上公開互聯網的前提下獲得 AI 協助的方式。
決策清單
| 問題 | 優先選擇 |
|---|---|
| 需要可引用的來源? | RAG |
| 明天就要最新判決或範本? | RAG |
| 需要把案件資料排除在供應商訓練集之外? | RAG + 私人檢索 |
| 只需要行內語氣或條款分類? | 在 RAG 之上可選輕量微調 |
| 想「用所有客戶檔案訓練」? | 停——改以檢索與存取控制重新設計 |
若「合夥人能否打開來源?」的答案是否,你還沒有達到法律級答案。
結語
微調感覺像專長;RAG 感覺像流程。法律工作靠流程運轉:來源、更新、範圍與監督。以律師行控制的語料庫與強制人工核查,建立 RAG 優先系統。把微調節制地用於風格與窄技能——絕不要當成客戶檔案的金庫,或可審計圖書館的替代品。
想看文件自動化與審閱的實務樣貌?見 AlphaMatch 法律文件自動化——為需要來源、而非猜測的團隊設計的 RAG 優先工作流程。

