技術名詞

RAG、Embedding、向量資料庫是什麼?用圖書館員講給老闆聽:公司文件 AI 問答系統約 NT$15–50 萬,每月模型費用常只要數百到數千元,貴的是整理文件

2026.11.05 · 7 次瀏覽
RAG、Embedding、向量資料庫是什麼?用圖書館員講給老闆聽:公司文件 AI 問答系統約 NT$15–50 萬,每月模型費用常只要數百到數千元,貴的是整理文件
“

廠商說要用 RAG 做公司內部 AI 客服、要把文件做 Embedding、存進向量資料庫,老闆聽完只想問:這要多少錢、會不會亂回答?本文用圖書館員、書籤座標與分類書架三個類比,配合補習班與製造業的實際例子,說清楚三者的關係、對預算與風險的影響,以及該問廠商的 5 個問題。 ”

分享:

直接答案:RAG 是讓 AI 先查你的公司文件再回答的做法;Embedding 是把文字轉成可比對的數字座標;向量資料庫是存這些座標、快速找出相似內容的地方。中小企業做一套文件問答系統約 NT$15–50 萬,每月模型費用常只要數百到數千元。

一家 60 人的機械零件廠,業務常問「某型號的公差規格」「哪份文件寫保固條件」,答案散在 400 份 PDF 與共用資料夾。廠商提案:「我們用 RAG,把文件做 Embedding 存進向量資料庫,再接大型語言模型。」老闆點頭,其實三個詞一個也沒聽懂。這三個詞要一起講,因為它們是同一套系統的三個零件。

RAG:先查資料再回答的 AI

RAG(檢索增強生成)就是「AI 回答前,先去你的文件裡找相關段落」,讓答案有根據。

類比:一般 AI 像只靠記憶回答的新同事,記不清楚就可能亂講;RAG 像一位圖書館員,先去書架找出 3 本相關的書、翻到那一頁,再根據內容回答你。

例子:補習班櫃台常被問「高二數學週三班還有沒有位子、退費怎麼算」。RAG 系統會先找出課表與退費辦法那兩段,再組成回答,並附上出處,家長也能點開確認。

Embedding:把文字變成座標

Embedding(嵌入向量)是把一段文字轉成一串數字,意思相近的文字,數字也會很接近。

類比:像替每本書標上地圖座標,「保固期」和「維修保證多久」寫法不同,但座標會落在很近的位置,所以就算客人用不同說法問,也找得到。

例子:製造業的業務輸入「這顆軸承能耐多高溫」,系統會找到規格書裡寫著「工作溫度範圍 -20 至 120°C」的段落,即使兩句話沒有共同的字。轉換費用很低,以 OpenAI 的 Embedding 模型為例,400 份文件轉一次通常不到新台幣百元,實際價格以官方定價頁為準。

向量資料庫:存座標、找最近的

向量資料庫是專門存放 Embedding、能在幾毫秒內找出「最接近的幾段文字」的資料庫。

類比:一般資料庫像按書名排序的書架,只能找完全相同的書名;向量資料庫像按主題遠近擺放的書架,走到「保固」區,旁邊就是「維修」「退換貨」。

例子:文件少於數萬段的中小企業,不一定要買專門服務;在既有 PostgreSQL 加上開源的 pgvector 擴充,就能做到,省下每月數千元的雲端費用。

三者之間的關係

三者是一條流水線:Embedding 負責翻譯、向量資料庫負責找、RAG 負責把找到的內容交給 AI 回答。

概念圖可以這樣想:左邊是公司文件,經過「切段+Embedding」變成座標,存進中間的向量資料庫;右邊使用者提問,問題也被轉成座標,到資料庫找出最接近的 3–5 段,連同問題一起交給大型語言模型,最後產出附出處的答案。

名詞一句話日常類比主要成本
RAG先查文件再回答圖書館員每次提問的模型費用
Embedding文字轉座標替書標地圖座標一次性轉換,費用很低
向量資料庫存座標、找最近的按主題擺放的書架主機或雲端月費

對客戶決策的具體影響

預算大頭不在 AI,而在整理文件與權限控管。

  • 預算:基本版(單一部門、數百份文件)約 NT$15–25 萬;含權限分級、LINE 介面、後台管理約 NT$30–50 萬。
  • 月費:每天 200 次提問,模型費用多在每月數百到數千元,主機另計。
  • 時程:6–10 週,其中 2–3 週在整理與清理文件。
  • 風險:文件過期或互相矛盾,AI 就會引用錯的版本;機密文件沒設權限,任何員工都可能問到。

該問廠商的 5 個問題

這 5 題可以直接拿去問,答不出來的廠商要小心。

  • 答案會不會附上出處文件與段落?
  • 文件更新後,多久會反映在答案裡?要不要重新付費?
  • 不同部門能不能看到不同文件?權限怎麼設?
  • 找不到答案時,系統會說「不知道」還是硬編?
  • 每月模型與主機費用怎麼估?用量暴增時有沒有上限?

常見問題 FAQ

RAG 系統還會亂回答嗎?

會減少但不會歸零。要求附出處、設定找不到就回答「不知道」,能大幅降低風險。

一定要用向量資料庫嗎?

文件少時不一定。數萬段以內用 PostgreSQL 加 pgvector 就夠。

公司文件會被拿去訓練 AI 嗎?

使用企業 API 時,多數供應商預設不拿來訓練。仍應確認合約與資料保存政策。

和直接用 ChatGPT 上傳檔案有什麼不同?

差在權限、規模與整合。自建系統可分部門權限、接 LINE 與內部系統,文件也能自動更新。

行動呼籲

ScriptWalker(台灣 Laravel/Flutter 客製化開發工作室)可以替你評估文件量、權限需求與預算,客製化系統開發 NT$80,000 起。想知道你的公司文件適不適合做 AI 問答,預約 30 分鐘技術諮詢:

分享: