问问助手

提示词改了,为什么像换了个人

2026-11-14 Aryee 0
提示词改了,为什么像换了个人

一、周四改了一句,周一才发现

2026 年 10 月,一份提示词管理的文章里记录了一个常见的场面:有人在周四把系统提示词收紧了一点,周末拒答率开始上升;到周一,团队已经改过六处,没人说得清是哪一处引起的。

问题不在改,而在改完以后没有留下可查的记录。

二、提示词不是语气,是产品的一部分

它决定助手怎么称呼自己、什么能答、什么要拒、输出是段落还是表格、引用放在哪里。

用户看到的是回答,背后是一条条指令。改一句,可能同时改掉语气、边界和格式。

所以它不是「文案」,是产品的一部分。

举个具体的例子:同一句「把结果整理成表格」,旧版本给三列表格,新版本给一段文字。用户可能觉得都能看,但下游按列取值的地方会直接失败。

三、一句话会牵动好几处

加一句「不要编造」,拒答可能变多;换一个示例,回答会变长;改工具说明,模型调用工具的顺序会变;检索结果一变,同一句提示词的输出也会变。

这些变化不会同时出现,但会一起被用户感知。

只盯一个指标,容易把另一处的退化漏掉。

四、先把提示词放进代码库

OpenAI 在 2026 年 11 月的提示词指南里建议:生产环境的提示词放进代码管理,改动走代码评审,测试与评测跟着发布流程走;需要分批时,用功能开关控制范围。

同一份指南还提到,可复用的提示词对象接口将在 2026 年 11 月 30 日关停,用它的团队要迁回代码。

放进仓里的不只是那段系统提示词,还包括工具说明、示例对话、输出格式要求和评测脚本。它们是一套东西,缺一样,版本就对不上。

放在代码库里,才有版本、有差异、有评审、有记录。散在后台、文档和聊天记录里,改了就很难追。

五、一个版本号,要能回答四个问题

改了什么、为什么改、预期影响是什么、谁批准的。

版本号可以简单,比如日期加序号;每次改动写一条变更记录,链到那次提交和评测结果。

一条记录可以长这样:2026-11-12,v12,把「不确定时先说明」提前到第二段,原因是客服误答;评测三十五条通过三十四条;负责人是客服组。

没有这四样,版本号只是一个数字。

六、测试集要能复现那一次

不用一开始就建几百条。三十到一百条真实问题,覆盖主要场景、边界情况和过去出过的事故,就够跑第一轮。

每条记录关键要点,不要求逐字一致;模型换个说法,只要事实和边界对,就算通过。

评分时把「必须出现的事实」「必须拒绝的问题」「格式要求」分开记,不要只给一个总分。总分一样,问题可能换了地方。

测试集每季度补一次,把新出现的问题加进去。

七、评测跑在发布前,不是上线后

同一批问题,旧版本和新版本各跑一遍,比任务完成率、格式符合率、拒答比例、平均长度、耗时和费用。

差异超过约定范围,就不发。这个判断放进发布流程,而不是靠人记得。

阈值可以写死:任务完成率下降超过 2 个百分点、拒答比例上升超过 3 个百分点、格式符合率低于 98%,任何一条不过就不发。

上线后再看用户反馈,是补充,不是替代。

八、一次只改一类东西

提示词、模型版本、检索范围,三样一起改,出了问题无法判断是哪一样。

如果必须一起改,就分批:先改提示词,跑一轮;再换模型,跑一轮;每次只让一个变量动。

这不是慢,是把排查成本提前花掉。

九、小流量先跑,指标不差再放量

面向用户的助手,先让 1% 的请求走新版本,再看 5%、25%,最后全量。

留下的对照组要能看到同样的指标:回答成功率、转人工比例、投诉率、平均耗时。

观察窗口至少覆盖一个业务周期,客服类至少三天;样本太小时,先别下结论。

技术指标没变差,业务指标变差,也不能放量。

十、退回上一版,要在几分钟内完成

上一版要一直能加载,不能等重新打包。做成一个开关,值班的人能立刻换回。

退回之后,保留出问题那一版的记录,别急着删,复盘要用。

目标可以定在五分钟内:从决定退回到线上恢复旧版。超过这个时间,说明发布方式还依赖重新打包。

每季度试一次退回,确认它真的能在几分钟内完成。

十一、模型版本也要锁

同一个系列的不同快照,表现可能不一样。线上写带日期的版本名,不写会自动更新的名字。

供应商宣布停用某版时,先拿测试集跑新版本,再安排换版;换模型等同于一次提示词改动,也要走同一套流程。

十二、谁有权改,要写清楚

措辞和政策由业务定,发布和退回由工程做;面向客户的助手,两个人看过再发。

紧急情况可以一个人先改,但要在当天补记录、补评测,第二天复盘。

没有这个分工,要么业务改不动,要么工程替业务背锅。

十三、变更评审看四样东西

一次提示词改动上会,评审只看四样:改动前后的差异、同一批问题的评测对比、可能受影响的场景清单、退回方案。

差异要能看到具体句子,不要只说「优化了表达」;评测要给出通过数和失败项;影响清单要写出哪些功能、哪些客户会受影响;退回方案要写清谁有权按、按了以后多久生效。

四样齐了再发。缺一样,就说明这次改动还没准备好。

十四、日志要留下这一版

每条回答至少能查到:提示词版本、模型版本、检索时间或资料版本、工具调用记录。

出了事,才能还原当时用的是哪一版;没有这些,只能靠猜。

日志里不要放客户原文,记编号和版本就够。

十五、供应商的提示词后台,别当唯一底稿

在供应商后台调提示词很方便,业务团队不用等工程排期。但底稿要有一份在自己仓里。

后台改了什么、什么时候改的、谁改的,要能导出;供应商接口调整或关停时,才不至于临时搬家。

2026 年 11 月 30 日那个接口关停,就是一个现成的提醒。

每季度从后台导出一次,和仓里的版本对一遍;对不上,以仓里为准。

十六、小团队先做三件事

第一件,把线上在用的提示词收进代码库,标上版本和负责人。

第二件,挑三十条真实问题做测试集,发布前旧版新版各跑一遍。

第三件,做一个能立刻退回上一版的开关,季度试一次。

这三件事不需要新平台,先把最容易被忽略的三处补上。

十七、跟站内几篇的分工

「改一个数字,比发一个版本更危险」讲的是配置值绕过发布流程;「三十五道题,就是上线前的验收单」讲的是助手怎么评测;「模型停用日期不统一,采购合同该怎么写才不被动」讲的是版本下线与合同;「故障复盘,写到什么程度才算有用」讲的是出事以后怎么复盘。

这一篇只讲一件事:提示词从改动到上线,怎么留痕、怎么验证、怎么退。

十八、最后:提示词改动,也要有人签字

代码改动有人评审,配置改动有人审批,提示词改动常常只靠一句「我调了一下」。

它改的是用户看到的东西,值得和代码一样走一遍流程。

签字不是形式,是让每一次改动都有一个人能说清:改了什么,为什么改,验证过什么。

你手上那套系统,卡在哪一步?

留个手机号和方便的时间,我打过来先听你说现状和限制,再给一个能执行的判断:这套系统该继续修、该动哪里,还是重做一版更省。

约一次沟通不接纯 UI 外包,只做系统层面的问题。不方便留号码,也可以直接跟助手说一句话。