廠商跟你報 AI 客服的價格,說這個要看你們的 token 用量、模型的 context window 不夠會漏資料,你點頭如搗蒜,回家一頭霧水。2026 年幾乎每個服務都要加 AI,而 AI 的成本邏輯跟你熟悉的一次買斷完全不同——它比較像水電費,用多少算多少。這三個詞就是那張帳單上最關鍵的三個欄位。
為什麼這三個要一起講
因為它們是同一件事的三個面向:LLM 是那位員工、Token 是計費單位、Context Window 是它一次能看的桌面大小。你要用 AI,這三個一定同時碰到:它能不能勝任(LLM)、要花多少錢(Token)、一次能處理多少資料(Context Window)。
名詞 1:LLM(大型語言模型)
一句話:一個讀過整座圖書館、很會用文字回答問題,但沒有記憶、也會一本正經講錯話的超級實習生。
日常類比:把 LLM 想成你新請的一位博學實習生。它反應快、什麼都能聊;但它不記得昨天跟你講過什麼,每次來上班都像失憶重來,而且有時會硬掰。ChatGPT、Claude、Gemini 背後都是 LLM。
實際例子:你是一家補習班,想做家長 LINE 自動回覆。LLM 就是負責讀家長問題、寫出回答的引擎。你得餵它你的課表、收費、請假規則,否則它會自己編一個聽起來很合理的答案。
名詞 2:Token(計費與計量單位)
一句話:AI 讀字和吐字的跳表單位,中文大約 1 個字等於 1 到 2 個 token。
日常類比:Token 就像計程車的跳表。你講的每一句話(輸入)加 AI 回的每一句話(輸出)都在跳表。大型模型商幾乎都按 token 計費,輸入和輸出分開算。
實際例子:補習班的 AI 客服每次問答可能用掉幾百到上千 token,一個月幾千則對話就是幾百萬 token。你該做的是估每月大概幾則對話,反推大概的 token 費。
名詞 3:Context Window(上下文視窗)
一句話:AI 一次能同時看在眼前的資訊量上限,超過就會忘掉前面。
日常類比:Context Window 是那位實習生的辦公桌桌面。桌面就這麼大,文件太多舊的就得收走,它就看不到被收走的那份了。桌面越大通常越貴。
實際例子:想讓 AI 客服記得整段對話、或一次讀完 50 頁課程手冊,就需要夠大的 context window;太小,它回到第 10 題時可能已經忘了第 1 題。解法通常不是硬塞大模型,而是用 RAG 只撈相關那幾段,更省也更準。
三者之間的關係
想像一條產線:你的問題,切成 Token,放上 LLM 的桌面(Context Window),LLM 讀完,吐出答案(又是一堆 Token)。LLM 決定答得好不好,Token 決定花多少錢,Context Window 決定一次能看多少、記多久。
對客戶決策的具體影響
- 預算:AI 功能通常是用量計費,不是一次買斷。要編月費預算。
- 時程:接 AI 不難,難的是餵對資料與控制成本。
- 風險:不做 RAG/防呆,AI 會一本正經亂講,反而傷客戶信任。
客戶該問廠商的 5 個問題
- 這個 AI 功能是按 token 用量計費嗎?幫我估一下每月大概多少錢?
- 你們怎麼避免 AI 亂講(是否用 RAG、是否只讓它讀我提供的資料)?
- 用的是哪個等級的模型?context window 夠不夠我的文件量?
- 如果用量暴增,有沒有成本上限或降級機制?
- 我的對話資料存在哪、會不會被拿去訓練別人的模型?
常見誤解
誤解:AI 功能做一次、之後就免費用。真相:多數 AI 功能是持續用量計費(token),像水電費。編預算時要把每月用量費算進去。
Token 到底怎麼換算成錢?
不同模型單價不同,通常以每百萬 token 報價、輸入和輸出分開算(參考 OpenAI 定價)。中文約 1 字等於 1 到 2 token。估法:每月對話則數乘每則平均 token 乘單價。
Context Window 越大越好嗎?
不一定。越大通常越貴,把一堆資料全塞進去不等於它會用得好。多數情況 RAG 比一味加大 context 更省更準。
我的小生意也用得起 AI 嗎?
用得起。先自動化一兩個高頻問題,用量小、成本可控、回本快,再逐步擴大。
ScriptWalker 能幫我做嗎?
可以。我們幫中小企業導入範圍明確、成本可控的 AI 功能(LINE 自動客服、RAG 知識庫問答),並在報價時就把每月用量成本講清楚。
行動呼籲
- Email:[email protected]
- 電話:0916-224-047
- LINE:@ufv9089p