我用大模型做法律相关的文档生成，在法条上总是乱创作，有什么好的办法吗

[hackingwu]

最近在用大模型做法律相关事项问答，思路是合理的，但是在法条上总是自己乱杜撰。这个有什么好的办法吗？ 另外我觉的律师工作很多文稿没有公开，可能是因为涉及用户隐私。导致大模型在法律文书上数据量不够，写的文档不够法言法语。 提示词上有什么好的建议？或者有什么专业大模型可以辅助吗？

[processzzp]

说明 AI 跟法学生一样，正在行使紧急立法权

[javalaw2010]

不自己重新训练模型的话，我的思路是用 function call ，让他要引用法条的时候调用函数，搜到相关的法条之后列出来 1234 让他选择序号

[okoklll]

可以尝试下 RAG 或用法律法规文件微调个大模型试试

[liulicaixiao]

添加上下文作为知识，指令里让大模型只能依据上下文来判断

[csys]

对于大模型的幻觉问题目前普遍解决方案应该就是 RAG 吧
我目前了解到的是这样，等一个专业人士解答

[Edwardlyz]

最近我也在做 LLM 迁移到特定垂类领域，思路是这样的：RAG 肯定要做，然后你要不断地调试输入的预设 prompt(在用户问题之前就输入，作为约束)，prompt 一定要抽象出特定规则，加上思考的一步步的路径，可以参考 o1 复现的那些论文项目。最后是一定要让模型按照一定套路回答问题，作为一个前置约束，来让模型自回归到合理回答。