同一句「讓 AI 懂我們公司」,為什麼三家報價差十倍?
一家工業耗材貿易公司要做 AI 客服,需求一句話:讓它懂我們的產品和規則。三家報價:NT$12 萬、NT$45 萬、NT$150 萬。沒人騙人,他們賣的是三件事:A 家賣提示詞工程,B 家賣檢索加提示詞加護欄,C 家賣微調;三家對付同一個敵人:幻覺。
名詞一:Prompt Engineering(提示詞工程)
一句話:把「AI 該怎麼做事」寫成固定的說明書。
日常類比:像貼在櫃檯給新工讀生的字條——「不確定就說我幫您問;不要自己算折扣。」你沒訓練他,只是寫清楚規矩。
用你的業務舉例:提示詞寫「只回答本公司產品;報價一律回請洽業務」,幾分鐘就能改。
成本意義:最便宜,一套約 8–24 工時,可拿 Anthropic 提示詞工程文件對照廠商做法。天花板是它不會讓 AI 知道你倉庫裡有什麼。
名詞二:Fine-tuning(微調)
一句話:用自己的資料把通用模型再訓練,讓它更像你們公司。
日常類比:字條之後,把這位工讀生送去內訓三個月。出來後語氣和判斷都像你們公司,但他還是不知道今天倉庫剩幾箱。
用你的業務舉例:那家公司有三萬則客服對話、風格高度固定,微調能鎖住輸出;只有 200 則就測不出效果。
成本意義:錢不在訓練,在資料整理:清洗、標註三萬則對話約 100–300 工時,這就是六位數報價的來源。OpenAI 官方文件也要你先窮盡提示詞與檢索。
常見誤解:多數人以為「讓 AI 讀我們的資料」就是微調。其實那是檢索(RAG)的工作:微調改的是說話方式,不是知識庫。
名詞三:Guardrails(護欄)
一句話:在 AI 說話前後各架一道檢查,擋掉不該說的話。
日常類比:像銀行櫃檯的雙人覆核——行員再會做,超過金額還是要主管刷卡。不是不信任,是錯一次太貴。
用你的業務舉例:那家公司要擋三件事:不得給價格、不得承諾交期、不得提供未確認規格。輸入端聽到「多少錢」轉真人,輸出端看到金額就攔下。
成本意義:約 16–40 工時,卻決定你敢不敢讓 AI 直接對外。沒護欄只能「AI 建議、人工送出」。
名詞四:Hallucination(幻覺)
一句話:AI 用很有自信的語氣,講出根本不存在的事。
日常類比:像一個很怕說「不知道」的業務:沒把握的規格他不會查,直接講一個合理的數字。他被訓練成把話接下去,不是要正確。
用你的業務舉例:客戶問那款軸承耐溫幾度,模型沒資料就生一個。客人照著下單、裝上、燒掉——截圖上掛的是你們公司的客服。
成本意義:成本不是答錯,是錯誤被當成你的承諾。壓低它要四件事一起做:檢索綁住答案、提示詞要求說不知道、護欄攔高風險回覆、介面標示來源。
四者之間的關係(一張概念圖)
AI 就像一位新來的客服人員:
- 提示詞=桌上的工作守則(最快改)
- 檢索(RAG)=即時更新的產品目錄(知道什麼)
- 微調=內訓(怎麼說話、怎麼判斷)
- 護欄=覆核與禁語清單(不能說什麼)
- 幻覺=前四項沒做好的症狀
順序由便宜到昂貴:提示詞 → 檢索 → 護欄 →(真的需要才)微調。九成中小企業做完前三項就達標;價差不是黑心,是有人跳過步驟。
對你的預算、時程與風險的具體影響
- 預算:提示詞 8–24 工時、檢索建置 40–120 工時、護欄 16–40 工時、微調資料整理 100–300 工時,另加模型使用費 NT$1,500–8,000/月。
- 時程:前三項 4–8 週上線,微調再加 6–12 週。
- 風險與維護:前三個月用「AI 建議、人工送出」,並指定專人更新檢索文件,否則半年後 AI 會很有自信地講出停產型號。
該問廠商的 5 個問題
- 「報價裡有多少是微調?改用檢索差多少?」
- 「AI 找不到答案時會說什麼?能示範嗎?」
- 「回覆會標示引用哪份文件?能點進去核對嗎?」
- 「產品目錄更新,誰負責上系統?多久生效?」
- 「哪些問題直接轉真人?清單由我們決定嗎?」
常見問題 FAQ
微調和 RAG 該選哪一個?
「AI 不知道我們的資料」選 RAG;「講話不像我們」才微調。先 RAG:便宜、可即時更新、可追溯來源。
沒有護欄,AI 客服可以先上嗎?
可以,但限內部或「AI 建議、人工送出」。全自動對外沒護欄,等於把風險交給運氣。
幻覺可以完全消除嗎?
不能,只能壓低並讓它被看得出來。顯示來源比追求完美的模型划算。
提示詞寫好就不用管了嗎?
要維護。換模型或新增產品線都可能要調,把提示詞當程式碼管理。
小公司資料很少,做得了嗎?
資料少更該從提示詞和檢索開始。二十份 PDF 目錄就夠;資料不足時微調只會讓模型更愛亂講。
下一步
有看不懂的 AI 報價單就寄給我們。30 分鐘內標出哪幾行是提示詞、檢索、微調,哪幾行可以先不做。不收費。
- Email:[email protected]
- 電話:0916-224-047
- LINE:@ufv9089p