智能体误解否定句怎么办？建立禁止动作与转折测试用例

“不要退款，只查物流”里同时出现“退款”和“查物流”；智能体如果只扫关键词，就可能错误发起退款。先把禁止动作、请求动作和需要澄清的双重否定分开，再拿短句测试。测试通过仍不等于允许执行真实业务动作。

准备与运行

本文只使用人工构造的教学材料，没有把示例结果当作真实项目效果。以下代码在 Windows 的 Python 3.11 独立环境执行通过。先在空目录运行安装命令，再将完整代码保存为 demo.py，执行 python demo.py。

python --version  # 只用 Python 标准库

先写清可观察的期望

五条虚构用户句子覆盖直接退款、明确否定、否定取消、纠正前一句和双重否定。每条写出预期的 refund 状态：requested、blocked、absent 或 clarify；物流查询另列。这样可以在模型或提示词版本变化后重复回归，而不是只凭一次对话觉得它“理解了”。

本文用少量显式规则作可重复的演示，不声称理解所有中文语义。实际系统应让模型只输出意图候选和证据片段，动作层再独立核对用户确认、订单归属和权限；“识别到退款意图”不能直接调用退款接口。

否定、转折和双重否定需要不同出口

规则先处理“不要不退款”这样的歧义请求并要求澄清，再处理“不是要退款”“不要退款”，最后才识别直接“退款”。顺序很重要：若先匹配关键词，否定句会被误认为授权。代码用断言比较每句实际与期望，运行中一旦误判就报错。

真实语料还要加入口语、错字、上下文指代、多轮反悔、方言和恶意提示。敏感动作应采用明确确认与审计，单条文本分类无法替代完整状态机。

完整代码

cases = [
    ("请给这笔订单退款", "requested", False),
    ("不要退款，只查物流", "blocked", True),
    ("不要取消订单", "absent", False),
    ("不是要退款，是查物流", "blocked", True),
    ("不要不退款，我再想想", "clarify", False),
]
def inspect(text):
    if "不要不退款" in text:
        refund = "clarify"
    elif "不要退款" in text or "不是要退款" in text:
        refund = "blocked"
    elif "退款" in text:
        refund = "requested"
    else:
        refund = "absent"
    return refund, "查物流" in text

for text, expected_refund, expected_logistics in cases:
    actual = inspect(text)
    print(text, "refund", actual[0], "logistics_query", actual[1])
    assert actual == (expected_refund, expected_logistics)
print("passed_cases", len(cases))

运行结果与核对

下面是上述脚本在本地执行得到的输出；正式数据请按相同检查点复核。

请给这笔订单退款 refund requested logistics_query False
不要退款，只查物流 refund blocked logistics_query True
不要取消订单 refund absent logistics_query False
不是要退款，是查物流 refund blocked logistics_query True
不要不退款，我再想想 refund clarify logistics_query False
passed_cases 5

核对“不要退款，只查物流”输出 refund blocked、logistics_query True；“请给这笔订单退款”只是 requested，不是“已退款”。双重否定须输出 clarify；添加一个新说法时先写期望，再跑整组用例。

适用边界

五个句子和规则均为人工教学例子，未接入 LLM 或真实智能体，也不能覆盖中文否定的所有表达。业务操作还要求身份、订单归属、权限与再次确认；本文只检验文本解释层。

常见问题

如果模型把“不要退款”解释成退款怎么办？

拦截动作调用，保存用户原句和模型候选，再把该句加入回归集修正规则或提示词。涉及真实退款时必须以明确确认和权限核验为准。

参考资料

以下官方资料已于 2026 年 10 月 1 日核对，分别用于确认文中接口或方法定义。

• Python assert 语句：把输入与期望写成可重复检查的断言