為什麼我的 AI 代理這麼笨？幾乎從來不是模型的錯

先說答案：你的 AI 代理表現得笨，是六個層的問題，而語言模型是其中最不可能的元兇。按機率從高到低排，真正的原因是：糟糕的系統提示詞、缺失的知識和工具接入、被截斷的上下文、沒有記憶、受限的架構，最後才是 LLM 本身。 在 ABC Sales AI，為台灣、馬來西亞和新加坡的 600 多家企業部署 WhatsApp AI 員工之後，幾乎每一張「我的 AI 很笨」的支援工單上，我們看到的都是同一個模式：模型沒問題，是設定壞了。

這篇文章給你一套我們稱為 AI 變笨堆疊 的診斷框架。按順序檢查這六個層，大多數情況下，你還沒碰到模型下拉選單，問題就已經找到並修好了。

迷思：「我需要一個更聰明的模型」

當 AI 代理報錯價格、忘記客戶的名字，或者回答了一個從沒人告訴過它的問題時，人的本能是怪模型。「GPT 笨，那我試試 Claude。Claude 笨，那我試試 Gemini。」

這種本能的問題在於：頂尖 LLM 的能力已經趨同。對於回答客戶問題、跟進潛在客戶、安排預約這些日常業務任務，OpenAI、Anthropic 和 Google 的頂級模型表現都落在一個很窄的區間內。換模型就像把豐田引擎換成本田引擎，而真正的問題是你的車沒油、沒地圖，司機還蒙著眼。

模型是引擎。圍繞它的一切，指令、作為燃料的業務知識、工具、記憶，才真正決定你的 AI 員工表現得像一位頂級成交高手，還是像到職第一天的實習生。這正是 Guided Launch 會包含我們 AI 解決方案專家手把手設定的原因：聰明的 AI 和笨的 AI 之間的差別，幾乎總是在設定，而不是引擎。

進入框架之前，先說一句誠實的話。 如果你為了每個月省一點小錢，跑的是一個超低預算的小模型，那模型真的就是你的問題。而對於長的、多步驟的代理任務，頂尖模型之間仍有實質差異。但在做銷售和客服對話的頂尖等級模型之間，模型是最後才該看的地方，不是第一個。

AI 變笨堆疊：怪罪模型之前要先檢查的 6 層

按這個順序診斷。排序依據有兩個：根據我們在 600 多個 ABC Sales AI 線上部署中看到的情況，每一層是真正原因的頻率有多高，以及每一層修起來有多便宜。

現在我們一層一層來看，附上症狀和修法。

第 1 層：系統提示詞混亂、臃腫或貧瘠

系統提示詞是一份書面的職務說明，告訴 AI 代理它是誰、賣什麼、該怎麼表現。當 AI 代理犯傻時，系統提示詞是第一個要檢查的地方，因為它有三種截然不同的失敗方式。

它混亂。 互相矛盾的規則，比如「永遠簡明扼要」旁邊寫著「永遠完整詳細地解釋」，會逼模型去猜哪條規則贏。關於指令遵循的研究一致顯示：指令衝突時，準確率會下降。不是模型笨，它只是在服從一份笨的任務簡報。

它臃腫。 往提示詞裡塞 40 頁公司歷史，會把真正重要的那三條規則埋掉。冗長嘈雜的提示詞會造成研究者所說的上下文腐化（context rot）：隨著無關文字不斷堆積，效能會下降，即使技術上還裝得進視窗。

它貧瘠。 相反的失敗。提示詞只寫了「你是一個樂於助人的銷售助理」，其它什麼都沒有。沒有價格，沒有政策，沒有異議處理。AI 只能即興發揮，而沒有事實的即興發揮就是幻覺。

修法： 像給新員工寫 SOP 一樣寫提示詞。一個角色、清晰的規則優先順序、真實的業務事實，以及好回覆和壞回覆的具體範例。這正是我們的 AI 解決方案專家在每一次 Guided Launch 中執行的流程：我們先訪談你、梳理出你的 SOP，再把提示詞工程化，讓 AI 表現得像你最強的業務，而不是一個通用聊天機器人。

診斷這一層之前，有件事值得先知道：在一些平台上，你根本沒得修。大渠道內建的商家助理，通常只讓你填一段簡短描述和幾條事實，其餘的任務簡報全被鎖死。ABC Sales AI 押的是相反的方向：系統提示詞從頭到尾完全可編輯，你可以精確地塑造和打磨你的 AI 員工怎麼思考。聰明的 AI 是訓練出來的 AI，而訓練意味著完整的簡報：你的回覆流程、你的 FAQ、什麼時候發哪張照片、影片或 PDF、每一種異議怎麼處理、什麼時候交接給真人。你編輯不了的東西，就訓練不了。

第 2 層：AI 查不到你的知識庫，也呼叫不了工具

一個接不上你業務資料的 AI 代理是瞎的，而瞎的代理會編東西。如果你的 AI 報錯價格、編造庫存，或者答不出「星期六下午 3 點還有沒有位」，問題不在模型。問題在於沒人給它一條查詢的路。

這裡有兩個相互關聯的失敗：

• 沒有知識檢索。 你的價目表在一個 PDF 裡，庫存在一個 Google Sheets 裡，政策在 Notion 裡，而 AI 一個都看不到。業界術語叫 RAG，檢索增強生成，意思很簡單：AI 在回答之前先取來相關的文件段落，而不是從訓練資料裡瞎猜。
• 沒有工具呼叫。 就算有了知識，AI 還需要工具去行動：查日曆、給潛在客戶貼標籤、建立訂單、發送付款連結。一個只會說話、不會行動的代理是一本宣傳冊，不是一名員工。

修法： 把 AI 連接到即時的事實來源。這正是我們把 AI 工具做成現在這樣的原因：你的 AI 員工可以在對話進行中查詢你的 Notion 資料庫或 Google Sheets，檢查 Shopify 庫存，讀取日曆，並透過客製 API 工具執行動作。當客戶問「還有沒有貨」，AI 先查，再回答。這就是聽起來聰明的 AI 和真正有用的 AI 之間的差別。

第 3 層：AI 看不到完整的對話

上下文是 AI 在當前對話裡能看到的一切：聊天歷史、客戶的上一則訊息、任何附帶的檔案。如果你的 AI 在同一場聊天裡問了客戶兩次名字，或者忘了五則訊息之前提過的投訴，你就有一個上下文問題。

上下文有三種壞法：

• 截斷。 很多聊天機器人平台每一輪只把最後幾則訊息傳給模型。有些乾脆硬性限制在 5 或 10 則。AI 不是忘了，是從來沒人給它看。
• 迷失在中間。 即使傳入了完整歷史，研究也顯示，模型最能可靠關注的是長上下文的開頭和結尾。埋在一條 200 則訊息長的對話中間的關鍵細節，可能就被漏掉了。
• 上下文污染。 截斷的反面：歷史裡出現了本不該在的東西。一條早已解決的舊投訴、一則同事的內部備註、一段冗長的離題閒聊。無關的歷史會像無關的簡報一樣干擾模型，AI 開始回答一場錯誤的對話。

修法： 用一個會傳入豐富對話歷史、把長對話智慧地做摘要而不是一刀砍斷、並且在歷史產生誤導時允許你清理它的平台。ABC Sales AI 的代理在 WhatsApp 上帶著完整的對話上下文，所以星期一問過價格、星期四回來的潛在客戶，會得到一則恰好從上次中斷處接著聊的回覆。而因為上下文污染真實存在，你可以選取特定訊息，把它們從 AI 能看到的內容裡排除，讓一段混亂的交流不再干擾它之後的每一則回覆。持續跟進只有在 AI 記住該記的、避開不該看的時候，才能帶來轉化。

第 4 層：AI 沒有跨對話的記憶

記憶和上下文不同。上下文是這一場對話，記憶是這場對話之前的一切：過去的購買、說過的偏好、以前的投訴。LLM 預設是無狀態的，意思是除非系統刻意儲存並檢索客戶資訊，否則每一場新對話都從零開始。

症狀一眼就能認出來：一位已經在你這裡買過三次的客戶傳來訊息，你的 AI 像迎接一個徹底的陌生人一樣問候他。沒有什麼比這更讓 AI 顯得笨，也沒有什麼比這更快毀掉客戶體驗。對診所、美容院、健身房這類預約型生意來說，這往往是「惹惱客戶的 AI」和「客戶真心更喜歡的 AI」之間最大的一道鴻溝。

修法： 系統必須把重要事實寫進客戶檔案，並在每場對話開始時載入。這正是我們做潛在客戶備註 AI 工具的原因：你的 AI 員工在聊天過程中把重要的事記下來，在下一場對話開始時再讀回來。自訂欄位走得更遠：預算、偏好分店、續約日期這類事實被捕捉成結構化資料，直接嵌入系統提示詞，讓 AI 在第一句話之前就了解這位具體的客戶。每一場對話都在豐富檔案，每一場新對話都從載入好的檔案開始。AI 記得這位客戶偏好中文、買過高級套餐、上個月問過退款，是因為架構把這份記憶餵給了它，不是模型神奇地記住了。

第 5 層：架構和運行框架限制了 AI 能做什麼

運行框架（harness）是包裹在模型外面的一切：由平台架構決定模型接收什麼、可以呼叫哪些工具、可以走多少步、可以輸出什麼。同一個 LLM 在不同的運行框架裡表現完全不同。把一個頂尖模型放進一套精心搭建的銷售運行框架，它會篩選潛在客戶、查庫存、安排預約。把同一個模型放進一個僵硬的流程建構器，客戶一打出流程圖沒預料到的內容，它就當機了。

架構級的變笨長這樣：

• 平台把歷史硬性限制在最後幾則訊息（一個由第 5 層造成的第 3 層問題）
• AI 只能走僵硬的決策樹流程，任何脫稿的問題都會讓它當掉
• 沒有行動層，所以 AI 算不了報價、查不了時段、建不了訂單
• AI 無法升級給真人，所以它在原地打轉，而不是交接

這就是我們反覆在寫的第 2 級與第 3 級的分水嶺：市面上大多數「聊天機器人」，是套著一個 LLM 的僵硬流程建構器。

修法： 先選運行框架，再選模型。ABC Sales AI 的架構方向恰好相反：核心是一個會推理的 AI，工具、記憶、完整上下文和真人交接提醒都內建在運行框架裡。和別人用的是同一檔次的模型，結果完全不同，因為運行框架讓模型真正能做事。

有兩項運行框架能力，讓我們的 AI 員工顯得格外聰明，而且都照搬了真實企業組織人手的方式：

• 每個渠道一位不同的 AI 員工。 傳訊息給你 HR 號碼的人，接待他的是 HR AI 員工。傳訊息給業務號碼的人，接待他的是業務 AI 員工。每個渠道都帶著自己的系統提示詞、工具和人設，就像真實公司裡號碼對應著職位。
• 客戶旅程的每個階段一位不同的 AI 員工。 潛在客戶在你的銷售流程中推進時，平台會把他們在自動化流程之間移動，而每個自動化流程都帶著自己的 AI。客戶先和篩選員聊，再和成交手聊，之後和售後助理聊，就像客戶在任何一家運轉良好的企業裡，會在不同階段遇到不同的職位。極少有平台做到這一點，這也是同一個模型在這裡表現如此不同的重要原因。

第 6 層：到這一步，才輪到 LLM

如果你已經核實了第 1 到第 5 層，AI 仍然失敗，那時候，也只有那時候，才去看模型。真正的模型級失敗確實存在：複雜的多步推理、錯誤會不斷累積的長代理鏈條，以及高度專業化的領域。頂尖模型在困難的代理基準測試上也仍有差異，所以對重度自主工作流來說，選模型是一個真實的決策。

但要對基礎機率誠實。在我們的 600 多個部署裡，當客戶回報「AI 給了一個愚蠢的回答」時，根因追溯到第 1 到第 5 層的次數，遠多於追溯到模型。在一個壞掉的堆疊上升級模型，就像雇了一個更聰明的業務，卻仍然不給他價目表、CRM 帳號和客戶歷史。新員工看起來會和老員工一模一樣地笨。

這也是 ABC Sales AI 從不要求你自帶 API key、也從不讓你挑模型的原因：我們在底層運行頂尖等級的 AI，把工程精力放在結果真正的來源上：提示詞、知識連接、上下文處理、記憶，以及運行框架。（順帶一提，按渠道客製 AI 不是一個模型下拉選單：它是給你的每個號碼和渠道分配一位不同的 AI 員工，各自帶著自己的簡報和工具。）

「這聽起來很繁瑣。」曾經確實是。所以才有了 AI Manager。

上面說的每一件事都是真功夫：寫簡報、接工具、整理上下文、搭記憶結構。很多老闆讀到這裡會想：「我沒時間去當提示詞工程師。」你不需要當。這正是我們打造 AI Manager 的原因：它用日常對話的方式，替你把整個堆疊跑起來。

• 它從你最好的聊天記錄裡學習。 上傳幾段你最有代表性的對話，也就是你最強的業務成交漂亮的那些，AI Manager 會研究你實際的銷售方式：你的流程、你的語氣、你的答案。
• 你用說的設定，不用打字。 上傳一張照片，告訴 AI Manager 什麼時候該發它，用語音訊息也行。它會問清楚細節，研究你的網站，然後建好工具，寫出遵循你流程的系統提示詞。
• 回饋會變成修復。 不喜歡 AI 員工給出的某則回覆？在那則訊息上點診斷按鈕，告訴 AI Manager 哪裡不對，它會解釋 AI 為什麼那樣回答，並替你修改系統提示詞。下面那套 10 分鐘診斷法，以產品功能的形式在運行。
• 它按排程盯著表現。 設定 AI Manager 每天或每週醒來，回顧你的 AI 員工表現如何，把分析和具體建議發給你。看中某條建議，核准它，AI Manager 就會套用。
• 它接好簡單的整合。 連一張表格或一個日曆，在對話裡就能完成。複雜的那些，ERP、POS 系統、客製資料庫，你可以請我們的 AI 解決方案專家來正確設定。

堆疊依然存在。只是你不必再獨自攀爬。

10 分鐘診斷法

下次你的 AI 代理做了什麼蠢事，先跑一遍這張清單，再動手改任何東西：

1. 把系統提示詞讀出聲。 一位新到職的人類員工，只拿著這份文件，能答對嗎？不能，就修提示詞。
2. 問這個事實本該從哪裡來。 正確答案存在於任何一個 AI 能存取的來源裡嗎？不在，就接上知識源或工具。
3. 檢查 AI 能看到什麼。 需要的細節在對話歷史裡，但真的被傳給模型了嗎？沒有，就修上下文處理。
4. 檢查 AI 本該記得什麼。 這個細節來自上一場對話嗎？是的話，你需要的是記憶，不是更聰明的模型。
5. 檢查 AI 被允許做什麼。 它需要執行一個它沒有工具的動作嗎？那是運行框架的缺口。
6. 到這一步，才質疑模型。 如果 AI 拿到了指令、事實、上下文、記憶和工具，仍然推理錯了，那才是真正的模型失敗。這是最罕見的結局。

大多數企業連第 3 步都走不過。

在 ABC Sales AI 上，這張清單你甚至不用一個人跑：在你不喜歡的那則回覆上點診斷按鈕，AI Manager 會陪你把這些層一層層走完。

常見問題

為什麼我的聊天機器人會報錯價格、編造資訊？

錯誤的價格和憑空編造的事實，幾乎總是意味著 AI 沒有連接你的真實資料。除非系統在回答時檢索你真實的價目表、庫存或政策，否則 LLM 只會用訓練資料來回答。把 AI 連接到一個事實來源，比如 Google Sheets、資料庫或 API。ABC Sales AI 的解法是把代理直接與你的表格、商店和日曆整合，讓答案來自即時資料，而不是猜測。

換一個更好的 LLM 會讓我的 AI 代理更聰明嗎？

對銷售和客服任務來說，通常不會。頂尖模型在日常對話上的能力已經趨同，所以在糟糕的提示詞、缺失的知識或被截斷的上下文之上換模型，幾乎什麼都改變不了。模型的選擇對複雜的長程代理任務最重要，對基於聊天的銷售最不重要。先修好周圍那五層，再評估模型。

AI 代理裡的上下文和記憶有什麼差別？

上下文是 AI 在當前對話裡能看到的內容：最近的訊息、附件和指令。記憶是跨對話保留下來的資訊：過去的購買、偏好和歷史。一個 AI 可以有很大的上下文視窗，卻完全沒有記憶，這就是為什麼很多代理單場聊天表現不錯，卻把回頭客當成陌生人。真正的 AI 員工兩者都需要，這也是 ABC Sales AI 把完整對話上下文和持久客戶檔案配在一起的原因。

怎麼寫系統提示詞，才能讓我的 AI 不再犯傻？

把它當成給新員工的 SOP 來寫。定義一個清晰的角色，按優先順序列出規則，讓衝突有可預測的解決方式，寫入真實的業務事實，比如價格和政策，並加入好回覆和壞回覆的範例。避免兩個極端：一行字的提示詞讓 AI 缺乏資訊，40 頁的提示詞把真正重要的規則埋掉。如果你不想自己動手，我們的 AI 解決方案專家會在每一次 Guided Launch 中，和你一起把 SOP 打磨成提示詞。

怎麼訓練 AI 代理，才不用整天寫提示詞？

給它範例，而不是長篇大論。在 ABC Sales AI 上，你上傳最有代表性的聊天記錄，AI Manager 會從中學習你的流程、語氣和答案。新增媒體規則用說的就行：上傳照片，說清楚什麼時候該發，AI Manager 會替你把工具建好。當某則回覆出錯時，用診斷按鈕以白話給回饋，AI Manager 會替你修改系統提示詞。訓練變成一場對話，而不是一個工程專案。

為什麼我的 AI 代理會回答問題，卻什麼都做不了？

這是運行框架的限制，不是模型的限制。要執行預約、給潛在客戶貼標籤、建立訂單這類動作，需要工具呼叫：架構必須把這些動作作為可呼叫的工具開放給模型。僵硬的流程式聊天機器人通常做不到這一點，所以它們只會說話，從不執行。ABC Sales AI 的代理在運行框架裡內建了預約、貼標籤、跟進和整合工具，所以 AI 是在做事，而不只是在回覆。

覺得你的 AI 員工表現不如預期？ 問題多半在堆疊裡，不在模型裡。預約一次策略諮詢，我們會一層一層過你的設定；如果你還什麼都沒自動化，可以先看 AI 自動化該從哪裡開始。