Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
有些后端模型不支持 JSON mode。
那就做两层：提示词约束 + 宽容解析 + 校验失败重试。别指望一次永远完美。
还要缩小输出范围。字段越多、嵌套越深、自由文本越长，坏的概率越高。
我遇到过因为字段说明写太文学，模型开始照着解释。schema 描述要短。
校验失败重试会不会成本很高？
比线上 500 便宜。可以只对失败样例重试一次，再降级人工。
还有 stop sequence。有些模型会在 JSON 后继续补说明，stop 能救一部分。
如果是关键业务，别让模型直接产最终数据库结构。先产候选，再由程序映射。
我觉得很多结构化输出失败，其实是需求想让模型同时做理解、判断、格式化、写文案。
对，拆开会稳。先分类，再抽字段，最后生成话术。
我们确实一个 prompt 干了四件事。
那先拆任务。模型不是不能做，是混一起不好测。
收到。我先把分类和 JSON 抽取拆成两步。
你好！看起来您对这段对话很感兴趣，但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子？您注册账号后，您每次返回时都能精准定位到您上次浏览的位置，并可选择接收新回复通知（通过邮件或推送通知）。您还能收藏书签、为帖子顶，向社区成员表达您的欣赏。
有了你的建议，这篇帖子会更精彩哦 💗
