浮点数精度问题求解,比如 floor(297.9 * 100) / 100 为什么会变成 297.89?

2020-08-24 17:05:52 +08:00
 UnrealEngine

用 floor 会出现这种问题,但是 round 就没事

但是其他浮点数我也试了下 floor 正常

2121 次点击
所在节点    PHP
14 条回复
ClarkAbe
2020-08-24 17:08:56 +08:00
计算机浮点 0.1+0.2 不等于 0.3
ClarkAbe
2020-08-24 17:09:26 +08:00
好吧……眼睛快了
UnrealEngine
2020-08-24 17:12:45 +08:00
@ClarkAbe 297.9 会出现 297.89 ,但是 1297.9 就没问题……
cheng6563
2020-08-24 17:14:22 +08:00
浮点数 k 默认算不准吧,不要靠碰巧了。
概率什么的用用浮点数还行, 其他地方就不要用了。
misaka19000
2020-08-24 17:15:32 +08:00
IEEE754
mxT52CRuqR6o5
2020-08-24 17:16:17 +08:00
试一下就知道了
floor(297.9 * 100)和 round(297.9 * 100)的结果就已经不一样了
jimages
2020-08-24 17:17:50 +08:00
因为 297.9 * 100 = 29789.999999999996
UnrealEngine
2020-08-24 17:27:38 +08:00
@jimages 膜拜大佬~~~~
msg7086
2020-08-24 17:33:00 +08:00
因为计算机无法用有限位数浮点来存储 297.9 。

最接近的可以用 IEEE-754 表示的数,是 297.899993896484375 。
他下一个可以用 IEEE-754 表示的数,是 297.9000244140625 。
可以看到,297.9 是一个无法存储的数字。
lovecy
2020-08-24 17:58:10 +08:00
精度问题上面大佬#9 说得很清楚了。另外 floor 向下取整,返回 float ; round 四舍五入,返回 float 。对于 297.9,两个函数的返回值本来就不一样,不知道你这里为啥要用这里俩对比。
ClutchBear
2020-08-24 18:38:39 +08:00
计算机浮点数存储机制的问题
b00tyhunt3r
2020-08-25 08:48:22 +08:00
a7217107
2020-08-25 09:35:52 +08:00
IEEE754 月经贴
CodeCodeStudy
2020-08-25 11:07:08 +08:00
你用 var_export(297.9 * 100); 就知道了,得到的是 29789.999999999996

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/701011

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX