请教一下大家，大语言模型在内部办公有什么落地场景？

[afeiche]

最近又换了个组，搞大语言模型在内部办公的落地，前期其他人想了两个，一个是通过 RAG 把内部的文档喂给大模型，用于智能问答，另一个是代码助手，类似 copilot ，不知道是否又其他的思路，探讨探讨。

[chaos93]

@ysicing 管我啥事

[daiaoqikk]

@boringwheat 好厚米，你们最近有什么成果吗？研究效果如何，可以探讨一下

[boringwheat]

@daiaoqikk 我们最终选择用阿里云的百炼平台来搭建了，通义千问+向量知识库；基本只要封装一个 web 端供调用就行了，做好内部文档的收集和上传

[daiaoqikk]

@boringwheat 是个不错的实现方式，现在使用效果怎么样呢？比如在准确性方面，回复速度方面。有什么你们觉得效果不太好的点吗？

[kanchi240]

@boringwheat 请问阿里云这个使用效果怎么样

[boringwheat]

@kanchi240 满足领导需求没问题，KPI 项目，挺方便的。确实也能解决相当一部分的搜索需求。

[kanchi240]

@boringwheat 收到，也让我研究这块，我看阿里云部署大模型那块收费还挺高了，好像部署上去，就算不使用也收费呐，公司也没预算，呵呵哒

[pigf]

@boringwheat #43 没有数据安全问题吗

[afeiche]

我们除了文档问答，最近在做会议纪要核查，不过效果一言难尽，也深刻体会到了啥叫 prompt 工程师

[boringwheat]

@kanchi240 这就比较坑了，没预算自己搞我暂时没有好的思路

[boringwheat]

@pigf 让阿里云提供证明文件，我没法杜绝一切隐患，工作只要合理合规就行；