技術名詞

為什麼你的 AI 客服會「一本正經地亂講」?RAG、Embedding、向量資料庫三個詞,決定 AI 到底有沒有讀你的資料

2026.07.16 · 53 次瀏覽
為什麼你的 AI 客服會「一本正經地亂講」?RAG、Embedding、向量資料庫三個詞,決定 AI 到底有沒有讀你的資料

老闆在導入 AI 客服前最常被廠商三個詞繞暈:RAG、Embedding、Vector DB。用圖書館、翻譯與索引卡三個比喻,一次講懂它們怎麼決定你的 AI 準不準

分享:

場景:三個英文縮寫,把想導入 AI 的老闆繞暈了

一位做工業零件的老闆想做一個「能回答客戶產品規格」的 AI 客服。廠商簡報寫著:「我們用 RAG 架構,把您的文件做 Embedding 存進 Vector DB。」他點頭如搗蒜,回家一個字都想不起來,也不敢問。這三個詞是一條流水線上的三個環節,決定你的 AI 是「真的讀了你的資料」還是「憑印象亂講」。為什麼一起講?因為缺一不可——少了任何一個,AI 就會退回最尷尬的狀態:一本正經地給錯答案。以下用三個生活比喻各講一遍。

名詞一:RAG(檢索增強生成)——把 AI 從「憑印象作答」改成「開書考試」

一句話:先去你的資料裡找出相關段落,再讓 AI 根據那些段落回答。

類比:想像一位很會講話、卻沒讀過你公司資料的客服新人。你要求他「每次先翻公司手冊、找到相關那一頁,照著回」。RAG(Retrieval-Augmented Generation)就是這個「先翻手冊再回答」的規矩。少了它,AI 就是沒翻手冊、憑印象亂講的新人。

實際例子:客戶問「這顆軸承耐溫幾度?」有 RAG,AI 先從你的規格書找到那一行,回答「依規格書第 12 頁,耐溫 180°C」;沒有 RAG,它用通泛知識猜一個數字,還講得很篤定。這種「很有把握卻是錯的」現象,業界叫幻覺(hallucination)。

名詞二:Embedding(向量嵌入)——把「意思」翻譯成電腦能比對的數字

一句話:把一段文字的「語意」轉換成一串數字,讓電腦能算出兩段話有多接近。

類比:想像每段文字被翻譯成一組座標,就像地圖上的經緯度。「退貨」和「退款」字不同但座標很近;「退貨」和「營業時間」就很遠。Embedding 就是這台「把意思翻成座標」的翻譯機,讓電腦找資料靠「意思像不像」而非「字一不一樣」。

實際例子:客戶打「東西壞了想拿回錢」,你 FAQ 寫的是「瑕疵品退款流程」。關鍵字搜尋一個字都沒對上、找不到;但兩句的 Embedding 座標很近,AI 就能找到正確那條。這就是語意搜尋比關鍵字更懂人話的原因。

名詞三:Vector DB(向量資料庫)——專門用「意思座標」找資料的索引卡櫃

一句話:專門存放這些「語意座標」、並能在上千萬筆裡毫秒級找出最接近幾筆的資料庫。

類比:想像一個巨大索引卡櫃,排序不按筆劃而按「意思」——意思相近的卡片放一起。你拿問題進去,它瞬間翻到附近那幾張卡。一般資料庫像按書名找書,向量資料庫像按「主題氣味」找書。知識庫只有幾十頁時用不太到;一旦上千份文件,它就是讓 AI 秒找對段落的關鍵。

實際例子:你有 3,000 份產品文件,客戶問一個很細的規格。Vector DB 能在幾毫秒內挑出語意最相關的 3–5 段餵給 AI。沒有它,你要嘛全塞給 AI(太貴、超出長度限制),要嘛用關鍵字硬搜(常找錯)。

三者怎麼串在一起(概念圖)

想成一條四格漫畫: 文件先用 Embedding 翻成座標,存進 Vector DB(準備工作,建一次)。 客戶問題也被 Embedding 翻成座標。 Vector DB 用座標秒找出最接近的幾段資料(這是 RAG 的「檢索」)。 把「問題 + 段落」交給 AI 產生答案(RAG 的「生成」)。一句話:Embedding 是翻譯、Vector DB 是索引卡櫃、RAG 是「先查再答」的規矩。三者接起來,AI 才會根據你的資料回答。

對你決策的具體影響

  • 準不準,八成看資料整理,不是模型:同一模型,資料乾淨的公司準得多。導入前先問:我的 FAQ、規格、政策是不是散在 Excel、PDF、員工腦袋裡?這步的整理工時才是成本大頭。
  • 成本分兩塊:一次性建置(Embedding、建 Vector DB、串前端)加上持續的 AI 呼叫費(按問答量計)。問清楚哪些一次性、哪些月費。
  • 資料放哪=資安等級:Embedding 後的數字仍代表你的內容,屬敏感資料。存在自家還是第三方、有沒有加密、送去哪個模型,直接決定外洩風險。

該問廠商的 5 個問題

  • 用哪個向量資料庫?資料存在我的主機還是你們(或第三方)?有沒有加密?
  • 我的資料會不會被送去訓練模型?合約怎麼保障?
  • AI 找不到答案時,老實說「不知道」還是硬掰?(直接測幻覺防護)
  • 資料整理由誰負責、算不算在報價裡?更新一批文件要多久、多少錢?
  • 準確率怎麼量、驗收標準是什麼?答錯時怎麼追根源、怎麼修?

常見誤解

多數老闆以為「導入 AI 客服 = 買一個更聰明的 ChatGPT」。真相是:你買的不是更聰明的模型,而是一套「讓 AI 只根據你資料回答」的檢索管線。模型再強、餵錯段落一樣答錯;模型普通但資料整理好、檢索準,反而好用。決定成敗的是你的資料與管線,不是模型的名字。

常見問題 FAQ

為什麼一定要 RAG,不能直接叫 ChatGPT 回答就好?

因為通用 AI 沒讀過你的價目表、退貨政策、產品規格。直接問只能用通泛知識猜,猜錯還講得很篤定(幻覺)。RAG 先從你的資料找相關段落再依此回答,等於把憑印象作答改成開書考試。

我公司資料不多,還需要向量資料庫嗎?

資料量小(幾十頁 FAQ)未必需要,一般資料庫加簡單檢索就夠。等知識庫上千份、要毫秒級找語意最接近段落時才划算。判斷點:文件多到「關鍵字常找不到對的段落」就該上向量檢索。

導入一套 RAG AI 客服大概要多少錢、多久?

接自家知識庫的 RAG 客服 MVP 通常 NT$15 萬–40 萬、4–8 週,看資料整理與整合範圍。最大隱藏成本不是開發,而是把散落、格式混亂的資料整理成 AI 讀得懂的樣子。

Embedding 和向量資料庫會不會把我的機密資料外洩?

關鍵在架構。Embedding 把文字轉成仍代表你內容的數字,要當敏感資料保護。務必問廠商:存在哪、有沒有加密、送給哪個模型、會不會拿去訓練,並寫進合約。

行動呼籲

想把公司的 FAQ、規格、政策變成一個「只講你資料、不亂編」的 AI 客服?我們提供免費 30 分鐘技術諮詢,評估資料現況、算出建置與月費、示範小型 RAG demo。ScriptWalker 以 Laravel + Flutter 打造可長期維運的 AI 應用。

分享: