strtod 转化异常

2018-10-17 18:48:48 +08:00
 dingzs3

读取两行 double 数字:

0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0

0 0 0 0 0 0 0 0 0 0 0 0.02 0.12 0.12 0.1 0.18 0.2 0.24 0.32 0.26 0.18 0.14 0.04 0.04 0.02 0.02 0 0 0 0 0 0 0 0 0 0 0 0 0 0

代码:

ptr=strtok(line," ");

if(ptr == NULL)

continue;

while(ptr != NULL) {

num = strtod(ptr,NULL);

kd_ljj.x[row][col]=num;

printf("row=%d col=%d num=%lf\n",row,col,num);

row++;

ptr=strtok(NULL," ");

}

读取完成后,为啥用 gdb 看到的是这样的:

(gdb) p kd_ljj.x

$1 = {{0, 0} <repeats 11 times>, {0, 0.02}, {0, 0.12}, {0, 0.12}, {0,

0.10000000000000001}, {0, 0.17999999999999999}, {0, 0.20000000000000001}, {0,

0.23999999999999999}, {0, 0.32000000000000001}, {0, 0.26000000000000001}, {0, 0.17999999999999999}, {0,

0.14000000000000001}, {0, 0.040000000000000001}, {0, 0.040000000000000001}, {0, 0.02},
{0, 0.02}, {0, 
0} <repeats 14 times>}

为什么中间的数字会出现偏差,而 printf 打印的又是正常的,这个是代码的问题还是什么原因

1390 次点击
所在节点    程序员
2 条回复
ejq
2018-10-17 22:34:01 +08:00
浮点数误差了解一下

IEEE 754 了解一下

https://0.30000000000000004.com
dingzs3
2018-10-18 13:42:45 +08:00
多谢啊

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/498560

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX