Python 处理浮点运算，为什么浮点位数会有误差？

[miniyao]

后面很长的尾巴是怎么来的？

>>> 9.9 * 0.4
3.96oooooooooooo4
>>> 9.9 * 0.6
5.94
>>> 9.9 * 0.8
7.92oooooooooooo1

• oooooooooooo 表示 12 个数字 0，太多 0 帖子发不出来

[ynyounuo]

好消息，21 世纪美国新出的产品谷歌可以免费给你这类问题的答案了！

[by73]

引子 * 乎：请重修 IEEE 754

[ZRS]

浮点数本来就有误差....

[gclove]

好消息，21 世纪美国新出的产品谷歌可以免费给你这类问题的答案了！

把数字转换成二进制你就知道了，你应该使用二进制计算，而不是 10 进制

[ipwx]

月经贴，总是以各种方式见到这个问题。

IEEE 754

[qiayue]

跟具体的语言无关，任何语言都会出现浮点数计算误差
关键字：浮点数二进制

[Yourshell]

几乎所有 cs 入门教程都有提到这个问题，虽然我忘了🐱

[Raymon111111]

十进制的有限小数表达成二进制可能是无限小数

[caomu]

好消息！好消息！本站成功和谷歌达成合作关系，以后大家有什么想问的问题可以直接谷歌搜索，不需要在发帖问了，可以省下大家很多时间！非常方便！

[eric6356]

https://0.30000000000000004.com/

[cherbim]

所有的语言入门都会提到这个问题，详情 ieee 754 标准

[334862132]

跟 python 语言美关系，这个涉及到计算机底层原理，所有语言都一个样 python 的话用 decimal 包之后变成 str 试试吧

[Karpov]

感谢楼主，重新学习了一下·
https://juejin.im/entry/575543857db2a2006993114e

[Pythondr]

这种基础的问题为什么不自己去看去学习呢？
https://juejin.im/post/5d6e74c35188254628237d5d

[mcluyu]

二进制无法精确表示十进制的浮点数

[Vegetable]

题注这样也好,让很多人都学习\复习了一遍这个知识

[ps1aniuge]

PS A:\pscode> 9.9 * 0.4
3.96
PS A:\pscode>

powershell 没这问题。或者说默认设置好一些。

在 powershell 中，有自动的数字类型判断，当然你也可以手动。
默认 1/3*3 = 1
也可以手动设定[decimal]1/3*3 = 0.9999999999999

[no1xsyzy]

@ps1aniuge
PS > 9.9*0.4-3.96
4.44089209850063E-16
并不是没这问题，只是最终结果精度太低罢了

[mangoDB]

你需要了解一下，在计算机中，是如何通过二进制来表示`浮点数`的。

[gIrl1990]

我来说一个题外的:
ECMAScript uses a double-precision 64-bit binary format IEEE 754-2008 value for number
`Number.MIN_SAFE_INTEGER` `Number.MAX_SAFE_INTEGER`