直接答案:RAG 是讓 AI 先查你的公司文件再回答的做法;Embedding 是把文字轉成可比對的數字座標;向量資料庫是存這些座標、快速找出相似內容的地方。中小企業做一套文件問答系統約 NT$15–50 萬,每月模型費用常只要數百到數千元。
一家 60 人的機械零件廠,業務常問「某型號的公差規格」「哪份文件寫保固條件」,答案散在 400 份 PDF 與共用資料夾。廠商提案:「我們用 RAG,把文件做 Embedding 存進向量資料庫,再接大型語言模型。」老闆點頭,其實三個詞一個也沒聽懂。這三個詞要一起講,因為它們是同一套系統的三個零件。
RAG:先查資料再回答的 AI
RAG(檢索增強生成)就是「AI 回答前,先去你的文件裡找相關段落」,讓答案有根據。
類比:一般 AI 像只靠記憶回答的新同事,記不清楚就可能亂講;RAG 像一位圖書館員,先去書架找出 3 本相關的書、翻到那一頁,再根據內容回答你。
例子:補習班櫃台常被問「高二數學週三班還有沒有位子、退費怎麼算」。RAG 系統會先找出課表與退費辦法那兩段,再組成回答,並附上出處,家長也能點開確認。
Embedding:把文字變成座標
Embedding(嵌入向量)是把一段文字轉成一串數字,意思相近的文字,數字也會很接近。
類比:像替每本書標上地圖座標,「保固期」和「維修保證多久」寫法不同,但座標會落在很近的位置,所以就算客人用不同說法問,也找得到。
例子:製造業的業務輸入「這顆軸承能耐多高溫」,系統會找到規格書裡寫著「工作溫度範圍 -20 至 120°C」的段落,即使兩句話沒有共同的字。轉換費用很低,以 OpenAI 的 Embedding 模型為例,400 份文件轉一次通常不到新台幣百元,實際價格以官方定價頁為準。
向量資料庫:存座標、找最近的
向量資料庫是專門存放 Embedding、能在幾毫秒內找出「最接近的幾段文字」的資料庫。
類比:一般資料庫像按書名排序的書架,只能找完全相同的書名;向量資料庫像按主題遠近擺放的書架,走到「保固」區,旁邊就是「維修」「退換貨」。
例子:文件少於數萬段的中小企業,不一定要買專門服務;在既有 PostgreSQL 加上開源的 pgvector 擴充,就能做到,省下每月數千元的雲端費用。
三者之間的關係
三者是一條流水線:Embedding 負責翻譯、向量資料庫負責找、RAG 負責把找到的內容交給 AI 回答。
概念圖可以這樣想:左邊是公司文件,經過「切段+Embedding」變成座標,存進中間的向量資料庫;右邊使用者提問,問題也被轉成座標,到資料庫找出最接近的 3–5 段,連同問題一起交給大型語言模型,最後產出附出處的答案。
| 名詞 | 一句話 | 日常類比 | 主要成本 |
|---|---|---|---|
| RAG | 先查文件再回答 | 圖書館員 | 每次提問的模型費用 |
| Embedding | 文字轉座標 | 替書標地圖座標 | 一次性轉換,費用很低 |
| 向量資料庫 | 存座標、找最近的 | 按主題擺放的書架 | 主機或雲端月費 |
對客戶決策的具體影響
預算大頭不在 AI,而在整理文件與權限控管。
- 預算:基本版(單一部門、數百份文件)約 NT$15–25 萬;含權限分級、LINE 介面、後台管理約 NT$30–50 萬。
- 月費:每天 200 次提問,模型費用多在每月數百到數千元,主機另計。
- 時程:6–10 週,其中 2–3 週在整理與清理文件。
- 風險:文件過期或互相矛盾,AI 就會引用錯的版本;機密文件沒設權限,任何員工都可能問到。
該問廠商的 5 個問題
這 5 題可以直接拿去問,答不出來的廠商要小心。
- 答案會不會附上出處文件與段落?
- 文件更新後,多久會反映在答案裡?要不要重新付費?
- 不同部門能不能看到不同文件?權限怎麼設?
- 找不到答案時,系統會說「不知道」還是硬編?
- 每月模型與主機費用怎麼估?用量暴增時有沒有上限?
常見問題 FAQ
RAG 系統還會亂回答嗎?
會減少但不會歸零。要求附出處、設定找不到就回答「不知道」,能大幅降低風險。
一定要用向量資料庫嗎?
文件少時不一定。數萬段以內用 PostgreSQL 加 pgvector 就夠。
公司文件會被拿去訓練 AI 嗎?
使用企業 API 時,多數供應商預設不拿來訓練。仍應確認合約與資料保存政策。
和直接用 ChatGPT 上傳檔案有什麼不同?
差在權限、規模與整合。自建系統可分部門權限、接 LINE 與內部系統,文件也能自動更新。
行動呼籲
ScriptWalker(台灣 Laravel/Flutter 客製化開發工作室)可以替你評估文件量、權限需求與預算,客製化系統開發 NT$80,000 起。想知道你的公司文件適不適合做 AI 問答,預約 30 分鐘技術諮詢:
- Email:[email protected]
- 電話:0916-224-047
- LINE:@ufv9089p