chatgpt api 中 temperature 参数到底是什么意思？

[kisshere]

Higher values like 0.8 will make the output more random, while lower values like 0.2 will make it more focused and deterministic. 怎样通俗的理解这句话？ 到底是 temperature 更高还是更低其给出的答案更准确？

[danieladu]

你可以认为 问一个擦边的问题，temperature 越高，输出的结果让你内心 "越热"的概率越高

[krixaar]

@17681880207 #14 所以理解成这个数字是和 37 摄氏度的差值，37.2 的时候还正常，37.8 往上就有说胡话的可能性了，40 度就满嘴胡话了，这样？🤣

[Giftina]

类似于《星际穿越》中 TARS 的幽默值 `Humor`，抄一段电影结尾，库珀和 TARS 重逢之后，库珀重置个性化设置的对话：

- Humor: 75 percent. “幽默值：百分之七十五。”
- Confirmed. Auto self-destruct T-minus 10, nine... “已确认。自毁程序启动，开始倒计时 ：十，九……”
- Let's make that 60 percent. “还是百分之六十吧”
- Sixty percent confirmed. Knock knock. “已确认。咚咚咚。”（烂梗）
-You want 55? “你想要我改成百分之五十五吗？“

[rimutuyuan]

那对应的问题 top p 具体是代表什么

[leimao]

softmax with temperature

[leimao]

https://en.m.wikipedia.org/wiki/Softmax_function#Smooth_arg_max

[isnullstring]

就是脑洞参数，值越高，脑洞越大

[lookStupiToForce]

我的理解：

Temperature 可浅显理解为初始能量
初始能量越高，从当前输入搜索能覆盖到的范围越大，（继续加大力）找到更优解的可能性越大。

但使用模型时，你肯定不希望它需要非常长的搜索时间后才能回答你（ openai 这方面肯定有限制，算力 /性能占用限制、超时时间限制），所以会对搜索广度深度均有限制

且目前大部分细类领域，想用 chatgpt 想得到较好结果仍需要人为 promt 去剪枝，它自己的剪枝策略基本没有（也许继续加参数能涌现出来？）

所以如果 Temperature 设定过高，出结果时它更容易发散后陷入到某些局部最小值里去，甚至可能都不如原地小范围搜索来得好，这样就可能表现为：
1. 不懂装懂胡编乱造
2. 多次相同输入会返回多种不同甚至互相矛盾的结果

[hahastudio]

@rimutuyuan https://community.openai.com/t/a-better-explanation-of-top-p/2426

[myhoot]

@Giftina #23 哈哈，我也想到这段话了～

[zictos]

chatgpt 说网页版默认是 0.7 ，api 默认是 1

[wqzjk393]

说白了，越高，就越随意，越低就越严谨。类似于星际穿越里面机器人的幽默程度，你 temperature 越高，回答越随意但是从另外一个角度来说也是越有意思，而严谨的另一个说法你也可以理解为死板

[dayeye2006199]

就是物理意义上的 “温度”。 温度越高，物质越活跃，能量越高，行为越难以预测，随机性也越高。

这个名字在其他的算法里面也有用到，比如上面提到的模拟淬火，也有温度这个参数，也是控制解迭代的时候随机性的。

[kristingna]

429 了

[hahastudio]

https://lukesalamone.github.io/posts/what-is-temperature/
What is Temperature in NLP?