公司知識常散落在磁碟、信件與員工腦中。本文從 RAG 的檢索與生成機制講起，拆解切塊、混合檢索、接地與附出處如何決定準確度，並談資料治理、檢索層權限與回測維護，兼論地端與雲端的取捨。
不同模型、資料集、提示、判分方式與正式流量，結果可能差很多。公開 benchmark 只能用來理解方法，不能直接當成專案承諾；驗收應使用公司自己的題庫，分別記錄正確率、引用支持率、拒答、延遲、成本與人工覆核量。
從「找資料」到「問答案」：RAG 到底在幫你做什麼
傳統知識管理靠的是資料夾、檔名和關鍵字搜尋。麻煩在於，你得先知道東西放在哪、當初取了什麼檔名，才搜得到；打錯一個字、換個講法，往往就撈不出來。這幾年在企業落地最成熟的做法叫 RAG（檢索增強生成），它把這件事整個翻過來：你用大白話問，系統先去知識庫裡「檢索」出最相關的段落，再把這些段落連同你的問題一起交給語言模型，讓它「生成」一段整理過的答案，而且附上是從哪份文件、哪一段來的。一句話總結，就是從「你去找資料」變成「你問、它答，還告訴你答案的出處」。
拆開來看，一次查詢背後其實跑了五道工
要判斷一套知識庫做得好不好，得先知道它背後在忙什麼。一份文件從躺在磁碟裡，到能被你一句話問出來，中間大致要過五關：
- 切塊（chunking）：把長文件切成一段一段適合檢索的小塊，太大會夾帶雜訊、太小會切斷語意。
- 向量化（embedding）：把每一塊文字轉成一串數字，讓「意思相近」的內容在數學空間裡也靠得近。
- 建索引入庫：把這些向量存進向量資料庫，之後才能快速比對、瞬間撈出候選。
- 檢索與重排：你一問，系統先撈出幾十段候選，再用更精細的模型重新排序，把最相關的挑到最前面。
- 生成與附出處：把排在前面的幾段餵給語言模型，請它「只根據這些內容」回答，並標明引用來源。
這裡最關鍵的一個觀念，業界叫「接地」（grounding）——就是把模型的嘴巴綁在檢索到的證據上，不准它自由發揮。附出處不是裝飾，它是讓你能一眼核對「這句話到底有沒有根據」的安全閥。後面會講到，這道閥為什麼非留不可。
為什麼有的知識庫問了很準，有的卻常常胡說
同樣是 RAG，同樣一顆語言模型，為什麼有人做出來準得像神隊友，有人做出來卻三不五時給你唬爛？差別幾乎都不在「模型夠不夠大」，而在中間那幾道工有沒有做到位。這幾件事，恰好也是外行看不見、卻最吃工的地方。
切塊的學問，比想像中大
檢索不能只靠「語意」
就算做到位，也別預期「零胡說」
真正決定成敗的，是地基不是模型
講到這你會發現，決定一套企業知識庫好不好用的，八成不是那顆最貴的模型，而是底下這三塊沒人想做、卻最吃工的地基。地基歪了，模型再強也是蓋在沙上。
資料治理：最不性感，卻最決定品質
整合進來的文件，得先清洗、去重、把過期版本汰掉。這一步最枯燥，卻最要命。如果同一份報價規則新舊兩版都躺在庫裡，檢索很可能撈到舊版，或者兩版一起撈出來、答案自打嘴巴。垃圾進、垃圾出這句老話，在知識庫上格外真實。務實的做法是：上線前先做一次資料盤點，替每份文件標清楚「權責單位、生效日期、版本、機密等級」，讓過期的能被汰換、矛盾的能被判斷，而這些中繼資料，同時也是後面權限控管要用的依據。
權限：一定要做在檢索層，不能靠嘴巴叮嚀模型
知識一旦整合在一起，最怕的就是「一句話就把不該看的問出來」。薪資、客戶名單、成本結構、機密規格，這些東西絕不能靠在提示詞裡拜託模型「請不要講」——那等於把保險箱鑰匙掛在門口，再貼張紙條說別開。正確做法是把存取控制做在檢索層：每份文件帶著自己的權限標籤，使用者一問，系統先確認「這個人、這個角色，有沒有資格看到這一段」，撈的當下就先把沒權限的濾掉，根本不讓它進到模型眼前。業界把這叫「身分感知的檢索」——檢索不再只是找最相關的，而是先過一道權限，再談相關。這道關卡務必卡在內容送進模型之前，而不是之後才補救。
維護與回測：沒人照顧的知識庫，會越用越不可信
知識會更新、規則會改、新的客訴與工單每天都在長。知識庫不是上線就結束，它需要有人定期把新的補進去、把舊的換掉。更重要的是要定期「回測」：準備一組真實會被問到的代表性問題、配上正確答案（業界常叫黃金題組），每次資料或設定一改動，就拿這組題重跑一遍，看準確度有沒有退步。沒有這組題，你根本不知道今天改的東西是變好還是變壞。一個沒人回測、沒人餵新料的知識庫，會像沒人整理的倉庫，半年後越用越舊、越問越不敢信。
上線前，先把這幾個工程判斷想清楚
哪些問題適合交給它，哪些最好不要
RAG 最擅長的是「答案就寫在某份文件裡」的事實型查詢：規章怎麼規定、這個型號的規格是什麼、這種客訴的 SOP 怎麼走。它不擅長的是要跨幾百份文件做數值加總、要嚴謹的多步推理、或要求即時且分毫不差的數字——那是資料庫和報表系統的活。把 RAG 用在它擅長的地方，成效立竿見影；硬要它幫你算全年營收明細，只會出問題。認清這條邊界，比挑哪顆模型重要得多。
幾個最常見、也最花冤枉錢的誤區
- 以為換更大的模型就會變準。準不準八成卡在檢索與資料，不在模型。檢索撈錯段落，再聰明的模型也只能就錯的材料掰答案。
- 以為文件丟進去就能用。沒做清洗、去重、汰舊版，等於把一團亂線交給 AI，出來的答案自然也是一團亂。
- 以為 demo 準，上線就準。展示時挑的都是好問的題；真正上線要面對的，是使用者五花八門、詞不達意的真實問法。沒有黃金題組回測，你其實是在賭運氣。
- 以為選了地端就一定安全。地端只保證資料沒出公司，若權限沒做在檢索層，內部一樣有人能問出不該看的東西。安全是設計出來的，不是放在哪台機器決定的。
地端還是雲端？看你的機密等級和維運能力
對機密性高的產業——像有獨門配方、關鍵製程、大量個資的公司——地端或私有部署能讓資料整個留在自家機房，是心裡踏實得多的選擇，代價是你得自己顧硬體、顧更新、顧維運。機密沒那麼敏感、又希望輕便上線的，雲端的私有部署也能做到相當程度的隔離。這題沒有標準答案，判準其實很簡單：把你最不能外流的那份文件攤開來，問自己一句「這東西放外面我睡得著嗎」，答案自然就出來了。
務實的起手式：從一個部門先做起
不必一開頭就想著整合全公司，那多半會拖成一個大工程，然後不了了之。挑一個知識密集、痛點明確、而且文件相對整齊的部門或主題先做——客服知識庫、技術文件、內部規章都是很好的起點。範圍小，資料好清、權限好切、回測好做，也容易在一兩個月內做出讓大家有感的成果。等這個部門跑順了、同事也開始信任它給的答案，再帶著這套已經驗證過的流程，一塊一塊擴到其他領域。先讓一個部門嘗到甜頭，往往比一次到位的大計畫走得更遠、也更容易活下來。
廷皓科技就在高雄，長期協助南台灣的製造、貿易與服務業，把散落在磁碟、信件和員工腦袋裡的知識，整合成一個能用自然語言直接問的 RAG 智囊。從資料盤點清洗、切塊與檢索調校、權限分級，到上線後的持續維護與黃金題組回測，我們一條龍陪你規劃，並依你的資安需求選擇雲端或地端部署。別再讓公司辛辛苦苦累積的經驗，繼續埋在第八層資料夾和某位老師傅的記憶裡——歡迎找我們聊聊，一起把它變成隨手可問、還帶得走出處的公司資產。
