[了解原理是用好工具的前提] AI 也一样，六张图讲透优势和局限

[xiaoshu]

六张图融入我全部 AI 学习笔记和理解，分享给大家

https://mp.weixin.qq.com/s/criAfII6UdkhHNG8ect7CA

[wenzhoou]

有些片面。前一代 AI 可能是这样的。
但是现在的 AI 已经越来越成熟了，我们的认知也需要跟着提高。
比如说让 AI 计算 17x28 他不会，但是他也会自己调用工具来计算，这就很厉害了。
作为一个工具，还是要看你怎么用。
如果仅仅把 AI 看成是成语接龙游戏，那么人类的智能，其实也是成语接龙游戏。
你看小孩子，你跟他说"锄禾日当~"他就会说"午"

[iOCZS]

因果关系有问题：AI 给每个词安排一个位置，意思相近的词，坐标就相近。
我觉得嵌入是 AI 的基础，将各种材料通过嵌入表示成了向量。

[siweipancc]

我喜欢跨领域问东西，然后看 ai 会不会胡说八道

[xiaoshu]

@wenzhoou tool use 是很厉害的扩展，但基础没变。
比如，我测试过最新的 gpt5.1 ，解一个华容道死局，会胡乱说，但是如果让其通过写代码解题，就能立即确定无解。

代码的确定性弥补了模型的不确定性，
但没有改变模型不确定的本质

[xiaoshu]

十年前我在 V 站找到实习，入行程序员，一直很喜欢这里。

我会陆续把自己在腾讯内网的文章与课程同步到这里，对 AI 学习、应用开发和最佳实践，也可以关注我新开的公众号。

很高兴回答大家的问题。

[katwalk]

了解大语言模型（ LLM ）底层「基于概率预测下一个 Token 」的逻辑，老实说，对我而言更像是一种社交谈资，对实际提升使用水平基本没有帮助。真正让我 AI 使用技能得到提升的，不是 AI 理论，而是每一次对话、实践中积累一点点的实操经验的累积。这就好比普通人学游泳，并不需要弄懂流体力学。

[xiaoshu]

@katwalk 专业运动员需要。
就好比普通人跑步并不需要带一身传感器，但是职业运动员会。

知道原理，会让你理解局限，比如什么时候更容易幻觉，包括积累经验

[katwalk]

@xiaoshu #7 你说的有道理，普通人了解一下也无妨。特别是你把图做的这么简洁易懂的情况下。

[muam]

@katwalk #6 你积累的这些经验，下个版本，训练参数一改，就又没什么用了，都是拿语料+输出 在算一个期望值，这个期望值并不能覆盖所有的地方

[encounter2017]

@katwalk 原理还是有用的，你知道 token, 知道词表，那你就可以通过手动替换词表做一些很 hack 的事情，可以为中文定制一个更高效的子词词表，让相同的内容用更少的 Token 表示

[katwalk]

@encounter2017 我们日常和 LLM 对话的时候如何应用，能举个例子吗？

[katwalk]

@sk217 不至于完全没用。

[Yuunie]

这些问题很久之前我都问过 AI 了，它确实是这么和我说的。
都有 AI 了，它怎么运作的问它不就行了。

[Yuunie]

@katwalk 问 AI 应该怎么问它能得到更准确的答案就好了

[encounter2017]

@katwalk 举个例子来说，常见的误区，通过对话来问：“你是什么模型”，了解过原理就会知道这是不靠谱的，因为这个不是事实，而是根据语料&系统提示词回答的。再比如楼上有人说去问 ai 自己怎么运作的，这又是一个典型得不到答案的错误提问方式，具体原因不难想

[xiaoshu]

@encounter2017 👍