最近看到有在谈 AI 应用工程师的，有无这放向的大佬正在折腾的啊

[lucien94xxx]

这两周看到一些 AI 应用工程师的信息，落地企业的自有大模型。
RAG 和微调两个方向，有无这方向大佬科普下！

[musi]

看看落地企业的自有大模型是哪家企业

[kxg3030]

也就 RAG 能有点用 最简单的 QA 表格可以 暂时是这样

[lpnpcs]

RAG 想做好不容易的，而且现在 deep reasearch 出来以后说明模型能力可能更重要一些。
微调大部分是算法的工作，AI 应用工程师一般不需要掌握微调的能力，比较火的 r1 这种模型微调几乎不现实，目前这两个方向前途都不明朗。

[ml1344677]

我是做技术咨询的，主要面向的是金融相关公司
AI 应用这块，今年春节后主要是
1.流程优化，对现有的业务流程找到切入点，看是否有大模型应用场景。
2.在流程优化的基础上，每一个小点都需要重新适配大模型的场景，比如大模型推理时，需要同步调用原有数据、原有接口，用比较土的话就是大模型需要抓手，类似于 tigerGPT 那种，他部署的 deepseek 推理可以调用实时金融数据接口，有点像非完全体的 agent ，这些个场景的设计和适配应该是今年主流。
3.RAG ，但我理解，这个主要是工程问题。
4.还有就是培训、大模型扫盲之类的了。

[jhdxr]

个人经验，首先模型要大。大力（大参数量）出奇迹。

别信什么微调后的小模型或量化后的大模型也行。的确有可能也行，但那更多的只是硬件跟不上（绝大多数情况下=没钱）又想硬上大模型的权宜之计。

[lucien94xxx]

看到现在有在做一些 RAG 培训的课程，感觉还是割韭菜。
整体大方向感觉今年应该是 AI 应用落地，但是如何快速跟上节奏呢，也去培训下 RAG ，做一名 AI 应用工程师？

[ggbond2233]

@kxg3030 目前在做这个方向的,确实表格和 qa 数据好落地

[NoobNoob030]

我在从事这块工作，RAG 理解门槛低，成效快，能落地项目；微调方向不适合转，学习门槛高，成效难量化并且中小公司玩不起

除此之外还有很多 AI 应用开发方向，并且行业发展迅速，新工具和方向层出不穷，如果想入门可以参考： https://www.promptingguide.ai/zh

后端开发转 AI 应用开发，只需要学一学 python ，然后了解一些概念就可以开始了，门槛并不高

感觉开发 AI 应用跟做饭一样，先学工具（ LLM 、Embedding 、OCR ）如何使用，然后了解烹饪方法（ RAG 、Agent ），最后根据食材（需求）做出成品

[kxg3030]

@NoobNoob030 Agent 并不好用 非常死板 我直接进入手动调模型 动态给提示词。微调也试了

[puppyxxx]

同样最近也在关注这些，期待更多大佬的看法和分享

[NoobNoob030]

@kxg3030 #9 目前 Agent 的确要么基于 LLM 能力决策要么人工固定死 workflow ，这样子已经适用很多业务场景了，如果还满足不了需求得用其他姿势或者等 LLM 涌现出更多能力

[lucien94xxx]

@NoobNoob030 感谢大佬分享，有些现在在培训 RAG 的算不算是割韭菜呢？ 自己本地要来走一趟 RAG 电脑配置需要啥水平呀？ 大佬现在是 LlamaIndex 开发嘛？

[NoobNoob030]

@lucien94xxx #12 割不割看课程质量和价格吧，入门 RAG 不需要从本地开始，很多开源框架例如 RAGFlow 、国产 fastgpt 之类的，web 交互式操作不需要编写代码，想进阶开发看 langchain ，项目中 LLM 直接用 api 调用