您好、欢迎来到现金彩票网!
当前位置:满堂彩 > 浮点处理单元 >

EXCEL、WPS计算错误? 在单元格中输入:=179-159-2 结果177636E-

发布时间:2019-05-31 15:48 来源:未知 编辑:admin

  可选中1个或多个下面的关键词,搜索相关资料。也可直接点“搜索资料”搜索整个问题。

  1.77636E-15 值就是0.77636追问关键是我在后面的计算中用到这个值,而且放大了额E12倍,就是0.00177636,最终结果错得一塌糊涂。

  在单元格中输入:=41.2-25-13.7-2.5 结果:3.55271E-15 (浮点误差减半了?)浮点误差是机器转换为二进制后计算,再将二进制转换为十进制而产生的。并不是说所有的数据都会出现误差。只是PC机,一般的应用程序而已,高尖端问题是不用此类计算机计算的。可能是汇编语言编写的运行程序或者高级语言编写的程序。

  展开全部我的EXCEL不会这样,,我用的是WPS office更多追问追答追问wps 我试过也是这样的?追答呵呵,,我刚试过的,,没问题。。结果的确是0.追问我用的是office 2000,wps抢鲜版,同样的错误。

  强调一下是直接输入=17.9-15.9-2追答楼主一定是没有修改单元格属性 。改成数值你再看看。算算术是要改属性的哇。。追问我开始用常规显示1.77636E-15,改成数值后显示0.00,将小数位数设为20后显示0.77636。

  不是我没有这个误差,这个误差是计算机无法避免的,,但是我们在表格计算的时候不需要考虑到这么小的误差不是吗,,谁会去关心一个等于0的数值还要写上负多少次方的小数呢?又不是造航天飞机。所以在运行表格的时候,通常我们是把小数位限制在一定范围内的。

http://login4porn.com/fudianchulidanyuan/343.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有