为什么我的 AI 智能体这么笨？几乎从来不是模型的错

先说答案：你的 AI 智能体表现得笨，是六个层的问题，而语言模型是其中最不可能的元凶。按概率从高到低排，真正的原因是：糟糕的系统提示词、缺失的知识和工具接入、被截断的上下文、没有记忆、受限的架构，最后才是 LLM 本身。 在 ABC Sales AI，为马来西亚、新加坡和台湾的 600 多家企业部署 WhatsApp AI 员工之后，几乎每一张"我的 AI 很笨"的支持工单上，我们看到的都是同一个模式：模型没问题，是配置坏了。

这篇文章给你一套我们称为 AI 变笨堆栈 的诊断框架。按顺序检查这六个层，大多数情况下，你还没碰到模型下拉菜单，问题就已经找到并修好了。

误区："我需要一个更聪明的模型"

当 AI 智能体报错价格、忘记客户的名字，或者回答了一个从没人告诉过它的问题时，人的本能是怪模型。"GPT 笨，那我试试 Claude。Claude 笨，那我试试 Gemini。"

这种本能的问题在于：前沿 LLM 的能力已经趋同。对于回答客户问题、跟进潜在客户、预约时间这些日常业务任务，OpenAI、Anthropic 和 Google 的顶级模型表现都落在一个很窄的区间内。换模型就像把丰田引擎换成本田引擎，而真正的问题是你的车没油、没地图，司机还蒙着眼。

模型是引擎。围绕它的一切，指令、作为燃料的业务知识、工具、记忆，才真正决定你的 AI 员工表现得像一位顶级成交高手，还是像入职第一天的实习生。这正是 Guided Launch 会包含我们 AI 解决方案专家手把手配置的原因：聪明的 AI 和笨的 AI 之间的差别，几乎总是在配置，而不是引擎。

进入框架之前，先说一句诚实的话。 如果你为了每个月省几令吉，跑的是一个超低预算的小模型，那模型真的就是你的问题。而对于长的、多步骤的智能体任务，前沿模型之间仍有实质差异。但在做销售和客服对话的前沿级模型之间，模型是最后才该看的地方，不是第一个。

AI 变笨堆栈：怪罪模型之前要先检查的 6 层

按这个顺序诊断。排序依据有两个：根据我们在 600 多个 ABC Sales AI 在线部署中看到的情况，每一层是真正原因的频率有多高，以及每一层修起来有多便宜。

现在我们一层一层来看，附上症状和修法。

第 1 层：系统提示词混乱、臃肿或贫瘠

系统提示词是一份书面的岗位职责，告诉 AI 智能体它是谁、卖什么、该怎么表现。当 AI 智能体犯傻时，系统提示词是第一个要检查的地方，因为它有三种截然不同的失败方式。

它混乱。 互相矛盾的规则，比如"永远简明扼要"旁边写着"永远完整详细地解释"，会逼模型去猜哪条规则赢。关于指令遵循的研究一致显示：指令冲突时，准确率会下降。不是模型笨，它只是在服从一份笨的任务简报。

它臃肿。 往提示词里塞 40 页公司历史，会把真正重要的那三条规则埋掉。冗长嘈杂的提示词会造成研究者所说的上下文腐化（context rot）：随着无关文本不断堆积，性能会下降，即使技术上还装得进窗口。

它贫瘠。 相反的失败。提示词只写了"你是一个乐于助人的销售助手"，其它什么都没有。没有价格，没有政策，没有异议处理。AI 只能即兴发挥，而没有事实的即兴发挥就是幻觉。

修法： 像给新员工写 SOP 一样写提示词。一个角色、清晰的规则优先级、真实的业务事实，以及好回复和坏回复的具体示例。这正是我们的 AI 解决方案专家在每一次 Guided Launch 中执行的流程：我们先访谈你、梳理出你的 SOP，再把提示词工程化，让 AI 表现得像你最好的销售员，而不是一个通用聊天机器人。

诊断这一层之前，有件事值得先知道：在一些平台上，你根本没得修。大渠道自带的商家助手，通常只让你填一段简短描述和几条事实，其余的任务简报全被锁死。ABC Sales AI 押的是相反的方向：系统提示词从头到尾完全可编辑，你可以精确地塑造和打磨你的 AI 员工怎么思考。聪明的 AI 是训练出来的 AI，而训练意味着完整的简报：你的回复流程、你的 FAQ、什么时候发哪张照片、视频或 PDF、每一种异议怎么处理、什么时候交接给真人。你编辑不了的东西，就训练不了。

第 2 层：AI 查不到你的知识库，也调不了工具

一个接入不了你业务数据的 AI 智能体是瞎的，而瞎的智能体会编东西。如果你的 AI 报错价格、编造库存，或者答不出"星期六下午 3 点还有没有位"，问题不在模型。问题在于没人给它一条查询的路。

这里有两个相互关联的失败：

• 没有知识检索。 你的价目表在一个 PDF 里，库存在一个 Google Sheets 里，政策在 Notion 里，而 AI 一个都看不到。行业术语叫 RAG，检索增强生成，意思很简单：AI 在回答之前先取来相关的文档片段，而不是从训练数据里瞎猜。
• 没有工具调用。 就算有了知识，AI 还需要工具去行动：查日历、给潜在客户打标签、创建订单、发送付款链接。一个只会说话、不会行动的智能体是一本宣传册，不是一名员工。

修法： 把 AI 连接到实时的事实来源。这正是我们把 AI 工具做成现在这样的原因：你的 AI 员工可以在对话进行中查询你的 Notion 数据库或 Google Sheets，检查 Shopify 库存，读取日历，并通过定制 API 工具执行动作。当客户问"还有没有货"，AI 先查，再回答。这就是听起来聪明的 AI 和真正有用的 AI 之间的差别。

第 3 层：AI 看不到完整的对话

上下文是 AI 在当前对话里能看到的一切：聊天历史、客户的上一条消息、任何附带的文件。如果你的 AI 在同一场聊天里问了客户两次名字，或者忘了五条消息之前提过的投诉，你就有一个上下文问题。

上下文有三种坏法：

• 截断。 很多聊天机器人平台每一轮只把最后几条消息传给模型。有些干脆硬性限制在 5 或 10 条。AI 不是忘了，是从来没人给它看。
• 迷失在中间。 即使传入了完整历史，研究也显示，模型最能可靠关注的是长上下文的开头和结尾。埋在一条 200 条消息长的对话中间的关键细节，可能就被漏掉了。
• 上下文污染。 截断的反面：历史里出现了本不该在的东西。一条早已解决的旧投诉、一条同事的内部备注、一段冗长的离题闲聊。无关的历史会像无关的简报一样干扰模型，AI 开始回答一场错误的对话。

修法： 用一个会传入丰富对话历史、把长对话智能地做摘要而不是一刀砍断、并且在历史产生误导时允许你清理它的平台。ABC Sales AI 的智能体在 WhatsApp 上携带完整的对话上下文，所以星期一问过价格、星期四回来的潜在客户，会得到一条恰好从上次中断处接着聊的回复。而因为上下文污染真实存在，你可以选中特定消息，把它们从 AI 能看到的内容里排除，让一段混乱的交流不再干扰它之后的每一条回复。持续跟进只有在 AI 记住该记的、避开不该看的时候，才能带来转化。

第 4 层：AI 没有跨对话的记忆

记忆和上下文不同。上下文是这一场对话，记忆是这场对话之前的一切：过去的购买、说过的偏好、以前的投诉。LLM 默认是无状态的，意思是除非系统刻意存储并检索客户信息，否则每一场新对话都从零开始。

症状一眼就能认出来：一位已经在你这里买过三次的客户发来消息，你的 AI 像迎接一个彻底的陌生人一样问候他。没有什么比这更让 AI 显得笨，也没有什么比这更快毁掉客户体验。对诊所、美容院、健身房这类预约型生意来说，这往往是"惹恼客户的 AI"和"客户真心更喜欢的 AI"之间最大的一道鸿沟。

修法： 系统必须把重要事实写进客户档案，并在每场对话开始时加载。这正是我们做潜在客户备注 AI 工具的原因：你的 AI 员工在聊天过程中把重要的事记下来，在下一场对话开始时再读回来。自定义字段走得更远：预算、偏好门店、续约日期这类事实被捕捉成结构化数据，直接嵌入系统提示词，让 AI 在第一句话之前就了解这位具体的客户。每一场对话都在丰富档案，每一场新对话都从加载好的档案开始。AI 记得这位客户偏好中文、买过高级套餐、上个月问过退款，是因为架构把这份记忆喂给了它，不是模型神奇地记住了。

第 5 层：架构和运行框架限制了 AI 能做什么

运行框架（harness）是包裹在模型外面的一切：由平台架构决定模型接收什么、可以调用哪些工具、可以走多少步、可以输出什么。同一个 LLM 在不同的运行框架里表现完全不同。把一个前沿模型放进一套精心搭建的销售运行框架，它会甄别潜在客户、查库存、预约时间。把同一个模型放进一个僵硬的流程构建器，客户一打出流程图没预料到的内容，它就崩了。

架构级的变笨长这样：

• 平台把历史硬性限制在最后几条消息（一个由第 5 层造成的第 3 层问题）
• AI 只能走僵硬的决策树流程，任何脱稿的问题都会让它崩掉
• 没有行动层，所以 AI 算不了报价、查不了档期、建不了订单
• AI 无法升级给真人，所以它在原地打转，而不是交接

这就是我们反复在写的第 2 级与第 3 级的分水岭：市面上大多数"聊天机器人"，是套着一个 LLM 的僵硬流程构建器。

修法： 先选运行框架，再选模型。ABC Sales AI 的架构方向恰好相反：核心是一个会推理的 AI，工具、记忆、完整上下文和真人交接提醒都内置在运行框架里。和别人用的是同一档次的模型，结果完全不同，因为运行框架让模型真正能干活。

有两项运行框架能力，让我们的 AI 员工显得格外聪明，而且都照搬了真实企业组织人手的方式：

• 每个渠道一位不同的 AI 员工。 给你的 HR 号码发消息的人，接待他的是 HR AI 员工。给销售号码发消息的人，接待他的是销售 AI 员工。每个渠道都带着自己的系统提示词、工具和人设，就像真实公司里号码对应着岗位。
• 客户旅程的每个阶段一位不同的 AI 员工。 潜在客户在你的销售管道中推进时，平台会把他们在自动化流程之间移动，而每个自动化流程都带着自己的 AI。客户先和甄别员聊，再和成交手聊，之后和售后助手聊，就像客户在任何一家运转良好的企业里，会在不同阶段遇到不同的岗位。极少有平台做到这一点，这也是同一个模型在这里表现如此不同的重要原因。

第 6 层：到这一步，才轮到 LLM

如果你已经核实了第 1 到第 5 层，AI 仍然失败，那时候，也只有那时候，才去看模型。真正的模型级失败确实存在：复杂的多步推理、错误会不断累积的长智能体链条，以及高度专业化的领域。前沿模型在困难的智能体基准测试上也仍有差异，所以对重度自主工作流来说，选模型是一个真实的决策。

但要对基础概率诚实。在我们的 600 多个部署里，当客户报告"AI 给了一个愚蠢的回答"时，根因追溯到第 1 到第 5 层的次数，远多于追溯到模型。在一个坏掉的堆栈上升级模型，就像雇了一个更聪明的销售员，却仍然不给他价目表、CRM 账号和客户历史。新员工看起来会和老员工一模一样地笨。

这也是 ABC Sales AI 从不要求你自带 API key、也从不让你挑模型的原因：我们在底层运行前沿级的 AI，把工程精力放在结果真正的来源上：提示词、知识连接、上下文处理、记忆，以及运行框架。（顺便说一句，按渠道定制 AI 不是一个模型下拉菜单：它是给你的每个号码和渠道分配一位不同的 AI 员工，各自带着自己的简报和工具。）

"这听起来很繁琐。"曾经确实是。所以才有了 AI Manager。

上面说的每一件事都是真功夫：写简报、接工具、整理上下文、搭记忆结构。很多老板读到这里会想："我没时间去当提示词工程师。"你不需要当。这正是我们打造 AI Manager 的原因：它用日常对话的方式，替你把整个堆栈跑起来。

• 它从你最好的聊天记录里学习。 上传几段你最有代表性的对话，也就是你最强的销售员成交漂亮的那些，AI Manager 会研究你实际的销售方式：你的流程、你的语气、你的答案。
• 你靠说话配置，不靠打字。 上传一张照片，告诉 AI Manager 什么时候该发它，用语音消息也行。它会问清楚细节，研究你的网站，然后搭好工具，写出遵循你流程的系统提示词。
• 反馈会变成修复。 不喜欢 AI 员工给出的某条回复？在那条消息上点诊断按钮，告诉 AI Manager 哪里不对，它会解释 AI 为什么那样回答，并替你修改系统提示词。下面那套 10 分钟诊断法，以产品功能的形式在运行。
• 它按计划盯着表现。 设置 AI Manager 每天或每周醒来，回顾你的 AI 员工表现如何，把分析和具体建议发给你。看中某条建议，批准它，AI Manager 就会应用。
• 它接好简单的集成。 连一张表格或一个日历，在对话里就能完成。复杂的那些，ERP、POS 系统、定制数据库，你可以请我们的 AI 解决方案专家来正确配置。

堆栈依然存在。只是你不必再独自攀爬。

10 分钟诊断法

下次你的 AI 智能体做了什么蠢事，先跑一遍这张清单，再动手改任何东西：

1. 把系统提示词读出声。 一位新入职的人类员工，只拿着这份文件，能答对吗？不能，就修提示词。
2. 问这个事实本该从哪里来。 正确答案存在于任何一个 AI 能访问的来源里吗？不在，就接上知识源或工具。
3. 检查 AI 能看到什么。 需要的细节在对话历史里，但真的被传给模型了吗？没有，就修上下文处理。
4. 检查 AI 本该记得什么。 这个细节来自上一场对话吗？是的话，你需要的是记忆，不是更聪明的模型。
5. 检查 AI 被允许做什么。 它需要执行一个它没有工具的动作吗？那是运行框架的缺口。
6. 到这一步，才质疑模型。 如果 AI 拿到了指令、事实、上下文、记忆和工具，仍然推理错了，那才是真正的模型失败。这是最罕见的结局。

大多数企业连第 3 步都走不过。

在 ABC Sales AI 上，这张清单你甚至不用一个人跑：在你不喜欢的那条回复上点诊断按钮，AI Manager 会陪你把这些层一层层走完。

常见问题

为什么我的聊天机器人会报错价格、编造信息？

错误的价格和凭空编造的事实，几乎总是意味着 AI 没有连接你的真实数据。除非系统在回答时检索你真实的价目表、库存或政策，否则 LLM 只会用训练数据来回答。把 AI 连接到一个事实来源，比如 Google Sheets、数据库或 API。ABC Sales AI 的解法是把智能体直接与你的表格、商店和日历集成，让答案来自实时数据，而不是猜测。

换一个更好的 LLM 会让我的 AI 智能体更聪明吗？

对销售和客服任务来说，通常不会。前沿模型在日常对话上的能力已经趋同，所以在糟糕的提示词、缺失的知识或被截断的上下文之上换模型，几乎什么都改变不了。模型的选择对复杂的长程智能体任务最重要，对基于聊天的销售最不重要。先修好周围那五层，再评估模型。

AI 智能体里的上下文和记忆有什么区别？

上下文是 AI 在当前对话里能看到的内容：最近的消息、附件和指令。记忆是跨对话保留下来的信息：过去的购买、偏好和历史。一个 AI 可以有很大的上下文窗口，却完全没有记忆，这就是为什么很多智能体单场聊天表现不错，却把回头客当成陌生人。真正的 AI 员工两者都需要，这也是 ABC Sales AI 把完整对话上下文和持久客户档案配在一起的原因。

怎么写系统提示词，才能让我的 AI 不再犯傻？

把它当成给新员工的 SOP 来写。定义一个清晰的角色，按优先级列出规则，让冲突有可预测的解决方式，写入真实的业务事实，比如价格和政策，并加入好回复和坏回复的示例。避免两个极端：一行字的提示词让 AI 缺乏信息，40 页的提示词把真正重要的规则埋掉。如果你不想自己动手，我们的 AI 解决方案专家会在每一次 Guided Launch 中，和你一起把 SOP 打磨成提示词。

怎么训练 AI 智能体，才不用整天写提示词？

给它示例，而不是长篇大论。在 ABC Sales AI 上，你上传最有代表性的聊天记录，AI Manager 会从中学习你的流程、语气和答案。添加媒体规则靠说就行：上传照片，说清楚什么时候该发，AI Manager 会替你把工具搭好。当某条回复出错时，用诊断按钮以大白话给反馈，AI Manager 会替你修改系统提示词。训练变成一场对话，而不是一个工程项目。

为什么我的 AI 智能体会回答问题，却什么都做不了？

这是运行框架的限制，不是模型的限制。要执行预约、给潜在客户打标签、创建订单这类动作，需要工具调用：架构必须把这些动作作为可调用的工具暴露给模型。僵硬的流程式聊天机器人通常做不到这一点，所以它们只会说话，从不执行。ABC Sales AI 的智能体在运行框架里内置了预约、打标签、跟进和集成工具，所以 AI 是在做事，而不只是在回复。

觉得你的 AI 员工表现不如预期？ 问题多半在堆栈里，不在模型里。预约一次策略咨询，我们会一层一层过你的配置；如果你还什么都没自动化，可以先看 AI 自动化该从哪里开始。