对 ai(llm)的一点疑惑

[zhwguest]

很聪明，推理能力很强，这没得说。

但是有一个现象非常奇怪，就是本应该做得非常好的，一些机械记忆的简单问题，我发现 ai ，尤其是 Gemini ，做得非常差。

比如：

1. 给出的 github 库的链接，90%是不可链接的；
2. 给出的论文标题，80%是不存在的；给出的 DOI, 90% 是其他文章的；
3. 给出的 url ，大多数不可访问。

好像是幻想出来的内容一样。这些难道不是在传统搜索里面就已经不是问题了么，但是为什么到了今天，却这么严重？

[TimePPT]

LLM 自身的幻觉是不可避免的，查资料想精准就让 LLM 联网

[zhwguest]

@TimePPT 感谢

[snylonue]

就是幻想出来的内容，换个精确点的说法是不断预测当前文本的下一个 token

[zhwguest]

@snylonue 感谢，很奇怪的是它们似乎都不擅长用既有的事实来消除幻想。