大模型进业务系统,第一道关不是模型,是权限
选模型、写提示词,这两件事在 2026 年已经不是门槛。门槛在后面:这个助手能看哪些数据、能替访客提交什么、越界了怎么拦。这一层做在应用里还是做在服务端,决定了后面能不能换模型。
我把这一层做进自己站上的整个过程里,读出来的判断全在代码里。这里不是教程,是一组能对着自己那套系统逐条核的判断。
一、先给结论:第一道关是权限
模型能不能进业务系统,第一道关不是选哪一家,而是这个助手能看什么、能写什么、越界了谁拦。
这一层如果只写在提示词里,换一家模型就要重新赌一次;如果写进服务端的代码里,换模型才是一件可以随时做的事。
下面这套判断,来自我自己站上已经上线的助手,不是纸面设计。每一条都可以对着你的系统核。
二、为什么这两年老提这件事
选模型、写提示词,这两件事现在都不难。难的是让一个会说话的程序去碰真实数据。
它能看哪些数据,能替访客提交什么,越界了怎么拦,这三件事没有标准答案,但必须有明确答案。
这一层做在应用里还是做在服务端,决定了后面能不能换模型。这就是为什么它比选型更靠前。
三、我的样本:一个站内助手
我的样本是一个站内助手。它只有两个工具:一个读本站文章正文,一个替访客递预约。
没有搜索互联网的工具,也没有执行任意查询的工具。能读到的范围,收在工具返回值里,不由模型自己决定去哪取。
这个限制听起来简单,但它把权限从模型愿不愿意遵守,变成了代码给不给。
四、读侧:模型能看什么,由工具决定
读文章的工具走本站的仓储层,拿回来的只有已发布的内容,一次最多六千字。
遇到带访问口令的文章,工具直接回一句:需要口令才能看,本站助手不代读带口令的内容。
这句话是代码里的一个条件分支,不是提示词里的自然语言指令。换一家模型,这个分支还在,口令内容照样拿不到。
这就是读侧的关键:拒绝发生在取数的地方,而不是发生在模型的理解里。
五、上下文也要有边界
上下文另有一道边界:每次问话只取最近十句喂进模型。
不会因为第 20 轮还在为第 1 轮的事付 token。这个上限由一个常量在代码里写死,不靠提示词去描述你只应该看最近几轮。
提示词里也有一句「你能依据的只有这两份材料」,但那句话是给人看的。
真正约束输出范围的墙立在服务端:工具定义决定它能调什么,工具返回值决定它拿到什么,模型能用的就只有这些。
六、自查一:删掉提示词里的禁令会怎样
给你一个可以马上试的判断:把提示词里那句「不要回答某某」删掉,你的助手还能不能拿到那些数据?
如果还能拿到,说明边界只在提示词里。换一家模型,那句话不一定还管用。
如果拿不到,边界才真正落在代码里。这一条比读多少提示词都直接。
七、写侧:助手和表单走同一条路
写侧只有一件事:助手替访客递一条预约进站长队列。
这个工具和页面那张表单走同一个服务入口,于是五道守卫一道不少:站点开关、时段取值、手机号写法、来源页、同地址间隔。
为什么不另开一条路?因为少一道守卫的第二个入口,等于给刷量的人留了一扇侧门:表单有限速,对话没有。
八、来源要单独标出来
关键在写进数据库的那一下。
预约表有一列叫来源,取值只有两个:表单和助手。这一列不从请求里读。
客户端自己递一个来源是助手,只会把数字做假。真正写的是调用方:表单控制器硬编码表单,助手工具硬编码助手,服务层只负责把它抄到行上。
这样后台看到的来源,不是访客说的,是系统自己记的。
九、对话标识要能追回去
对话标识同样不由请求方填。
表单那条路传空值,空值在库里说的是实话:这一条预约前面没有对话。
助手那条路把当次对话的标识抄进去。站长在后台点开这一条,能看到访客留号之前问过什么。
这一列的价值很具体:没有它,那条记录只能证明流程跑得通,证明不了真的有人走。
十、自查二:后台能不能分清是谁写的
第二个判断:你的系统里,助手代替人写下去的那条记录,能不能从后台数据里直接分辨出来?
如果它和人的操作共用一个没有标记的写入路径,上线之后就没法评估这条路有没有人走。
分辨不出来,等于花了钱却不知道有没有人用。
十一、留档:前台和后台是两套出参
留档这块,三种返回结果各管一件事。
| 返回结果 | 用在哪 | 包含什么 |
|---|---|---|
| 回复出参 | 这一次问答的回包 | 正文、时间戳 |
| 单轮出参 | 历史接口的每条 | 说话方、原话、时间戳 |
| 后台记录出参 | 后台对话记录 | 以上三样,外加会话标识、来源地址、工具调用记录 |
第一种不返回上下文,也不返回访客自己那句话。那两样调用方本来就有,再回一份等于在同一条响应里放两份文本。
第二种不带会话标识,因为那次查询的参数里本来就有它。
第三种只给后台。它的注释写得很直白:来源地址和工具调用记录都不该出现在前台响应里。
来源地址挂在前台,等于多一处暴露访客身份的地方。工具调用记录只有键名、不含取值,因为访客口述给助手的手机号属于工具入参,它该出现在预约表里,不该在会话台账里再留一份副本。
站在窗口前的访客看不见这份记录,它是站那一头的账。
十二、自查三:出参形状是不是边界
第三个判断:你的对话记录有没有两套出参,一套给访客、一套给后台?
两套的字段差异里,有没有会话标识、工具调用记录、来源地址这些站那一侧的信息?
没有就补上。补上之后换模型时,台账的连续性不跟着断。
这里有一条架构判断:出参形状就是权限边界。
如果前台和后台共用一个返回结构,边界只能靠控制器在运行时过滤;分成两套,编译期就把给了什么写死了。
十三、入口分两级:登录与业务规则
助手对话的入口在鉴权过滤器的公开前缀里,任何人都能问。
能不能问、能问几句、隔多久能再问,全在服务端那四道守卫里判:助手开关、来源页、敏感词、当日额度。
后台的对话记录读取挂在另一个前缀下,由前缀统一要求登录态,与访客入口物理分开。
过滤器管要不要登录,业务规则管这一句收不收。两件事不混在一起,这是这道关做在服务端的第一个位置。
十四、额度按地址算,不按会话算
当日额度按来源地址算,不按会话算。
会话标识是浏览器随便生成的,换一枚就换一个计数桶。按会话算,等于换一个本地存储就解锁一次。
这条判断不在提示词里,在服务端那段额度查询里。
把权限做成整条路径只有一个门、那个门还用提示词来表述的系统,等于把它交给模型自行执行。
换模型就换执行者,执行质量跟着变。把门分在过滤层和业务层两级,两级都是代码,换谁都换不掉。
十五、四条自查:边界到底在不在服务端
把读侧、写侧、留档三块合起来,边界住在服务端还是住在提示词里,可以逐条核:
- 读侧的拒绝分支在工具实现里。换模型之后照样挡住口令内容,不依赖模型是否理解了那句禁止。
- 写侧的来源标记由调用方硬编码。换模型之后,后台的分辨力不丢。
- 前台出参和后台出参是两套结构。新模型的回答照样落进同一列工具调用记录,台账结构不变。
- 当日额度按来源地址算。换模型不换入口,刷量的上限还锁在同一段查询里。
十六、一句收尾
模型选型是采购问题,权限边界是架构问题。
先把读侧收进工具返回值、写侧与表单共用同一条入口并单独标记来源、留档出参按前台后台分成两套,这三件事落在服务端,换模型才换得掉。
顺序别反:先有边界,再谈选型。