不是调侃，有办法不让 chatgpt 胡说八道么？

[fengleiyidao]

希望他不知道就是不知道，而不是胡说八道，给一个完全错误的回答。

比如

问：下面这篇文章的标题是什么? https://ieeexplore.ieee.org/document/9416834

回答：这篇文章的标题是 "Neural Networks-Based Multi-Objective Control for a Hybrid Renewable Energy System with Energy Storage"，发表在 IEEE Transactions on Industrial Electronics 期刊上。

然而， 事实上并不是他说的这个标题， 而且他说的这篇文章并不存在。

[whileFalse]

你以为他在这个问题下胡说八道
其实他在所有问题下都在胡说八道

他就是个接话生成器
不会用它是你的问题 不是他的问题

[dqzcwxb]

在聊天模型里追求准确性就相当于在虚假世界里追求真实

[akira]

chatgpt 的本质 就是胡说八道 。
判断是非正确性不在 chatgpt 的能力范围之内

[LaurelHarmon]

ACL 故事汇有请

[yangchuansheng33]

这个是 openai 需要努力的部分，跟你这个用户没啥关系，你只需要静静等待技术的变革

[wtdd]

如果有办法能让人不胡说八道，同样的办法显然就能让 chatgpt 不胡说八道，
一个思路是要利用人自私的本性，一旦让 AI 自动形成这个，后面就细思极恐了

[Alfie007]

它是有意识的说谎吗？……

[paradoxs]

如果 chatgpt 不胡说八道，后果就很严重了。

那就是 强 AI 了。。

到时候失业的人就更多了

[dtdtxybc]

hallucination 本身就是 NLG 领域这几年一直研究的问题，所以如果“有办法”，那就没必要研究了

在 chatgpt 火起来之后，这个问题显得更重要了，所以这几年里或许能“有办法”

当然从某种意义上，那些一直说“我无法回答”的对话 ai ，倒也是做到了不乱说话 /doge

[James369]

这很简单，将它生成的结果重新扔回正规的搜索引擎，再验证一遍就 ok 了

[yangyaofei]

看是哪个层面的, 如果是上面多数人认为的层面的, 应该是无解的, 但是透过重新训练模型是可能的, 比如最近有一篇 https://arxiv.org/abs/2302.04761 ,让模型输出的是 API 调用, 这样再结合现在的这个 alignment gpt 应该就可以做到, 估计 bing 的搜索也是类似的原理. 就是 模型输出 action 获取外部数据, 然后根据外部数据再输出最终的数据, 这样的可靠性应该就好多了.

但是这些在当前这个环境下, 对于普通的研究者或者学校组织等等都是无意义的, 因为并没有能力进行 fine tuning, 做 NLP 的其实挺绝望的...飞龙骑脸啊!

[em70]

用 chatgpt 的 NLP 能力,而不是用它的资料库,把搜索引擎的资料放 prompt 一起给它就行了

[MrLonely]

上次做完作业，尝试用 ChatGPT 验证了一下随机微分方程的答案。跟我做出来的不一样。然后去检查步骤，发现直接第一步就错了。

[06_taro]

https://twitter.com/Micaiah_385/status/1627645946942328833

[levelworm]

@rimutuyuan 其实这很厉害。。。

[opengps]

我感觉是样本的问题，现在互联网上公开数据太多都是被污染的，chatgpt 可能就是从公网获取数据训练，以至于在入口处口就已经有这类污染

[janxin]

因为 ChatGPT 根本就无法阻止它胡说八道

[NoOneNoBody]

“最优化”就是这样的，当已知全部为负值，你需要求一个正值解，它会给出最接近 0 的那个，而不是给出“无解”

@oygh #3 说得对，ChatGPT 出现的意义不在准确率，而是能做到语义、语境的理解，如果确实如此，我觉得是里程碑式的。只是目前我还持保留意见，毕竟判断一句话还是容易的（一问一答），如果能达到一个持久的对话而“不跑题”，或者能“理解”长文，那才算达标

之前一直跟别人说，参考翻译软件能对全文翻译做到通顺、较高准确率，那才能说 AI 进入一个新阶段；如果翻译一直没能突破语境难题，那 AI 技术仍然是初级阶段 —— 只是分类+拼凑，横向比较只是谁的学习样本更佳而已

别人徒手画一个圈，你能理解它是一个“圆”，而不是“椭圆”或其他，这个思维过程对人类来说极其简单，对机器来说就复杂了