Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
先把分级变成策略:能否进入云模型、能否进入本地模型、能否进日志、能保留多久、谁能看。
现在只有文档,没有系统字段。
那第一步是给数据源打标签。文档、chunk、用户、会话、工具结果都要能带 classification。
不然 RAG 检索时没法过滤。你不能等答案生成后再想它用了什么资料。
用户问题本身也要分级吗?
要。用户可能把客户手机号、合同金额直接问进去。输入也要做检测和日志策略。
检测靠规则还是模型?
两个都可以。身份证、手机号、邮箱这种规则就够;业务敏感词可能要模型辅助,但不能全靠模型。
还有输出。模型可能把敏感信息组合出来,输出前也要检查。
最容易漏的是回放日志。你以为只是调试,里面可能有原文片段和用户输入。
我们日志现在基本全量。
先做保留周期和脱敏。别等安全来找。
数据分级不是 Excel,是每条链路上的字段和判断。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。
有了你的建议,这篇帖子会更精彩哦 💗