Excel2003计算公式计算结果错误？ - 电脑诊所 - 3s地带 3s|网游论坛|3S空间|3s技术参数|宠物狗论坛

蕾蕾2912

狂风

UID 12238
精华 0
积分 555
帖子 264
现金 545
贡献值 0
阅读权限 50
注册 2007-11-7

楼主

大中小

发表于 2008-9-5 00:03 资料个人空间短消息加为好友 ┋

Excel2003计算公式计算结果错误？

新建一个Excel电子工作表，在任何一个单元格中输入“=(360.1-355)*2000-10200”结果等于

“4.54747350886464E-11”而不等于零，是不是因为Office2003不是正版的缘故，还是CPU浮点运算误差引起的原因？

xbd7411

疾风

UID 12357
精华 0
积分 274
帖子 243
现金 264
贡献值 0
阅读权限 40
注册 2007-11-7

沙发

大中小

发表于 2008-9-5 00:03 资料个人空间短消息加为好友 ┋

你把单元格属性设为数值就应该可以吧.和运算没关系的

mucbur

疾风

UID 12377
精华 0
积分 382
帖子 352
现金 372
贡献值 0
阅读权限 40
注册 2007-11-7

板凳

大中小

发表于 2008-9-5 00:03 资料个人空间短消息加为好友 ┋

如图：
小数位数为30时：0.000000000045474735088646400000
小数位数为2时：0.00

yoyoeyin

疾风

UID 12631
精华 0
积分 414
帖子 378
现金 404
贡献值 0
阅读权限 40
注册 2007-11-7

地毯

大中小

发表于 2008-9-5 00:03 资料个人空间短消息加为好友 ┋

就是浮点数的缘故，学过计算机原理的都知道。

selie

疾风

UID 12678
精华 0
积分 465
帖子 432
现金 455
贡献值 0
阅读权限 40
注册 2007-11-7

第5楼

大中小

发表于 2008-9-5 00:03 资料个人空间短消息加为好友 ┋

怎样才能避免由于浮点运算引起的误差呢，特别是当结果用来表示条件判断时，容易引起出错，我就是在将计算结果与零比较作为条件判断时与如期的预想目标不一致时才被发现的，那怎样才能改变此现状？
我还发现4.1-4、5.1-5……一直到15.1-15不等于0.1，而等于0.0999999999999996，而16.1-16却等于
0.100000000000001。

444u

疾风

UID 12386
精华 0
积分 382
帖子 341
现金 372
贡献值 0
阅读权限 40
注册 2007-11-7

第6楼

大中小

发表于 2008-9-5 00:03 资料个人空间短消息加为好友 ┋

不是盗版的原因公式用法不对

当前时区 GMT+8, 现在时间是 2008-11-24 01:22	清除 Cookies - 联系我们 - 3S地带 - Archiver - WAP - 赣ICP备07006302号