从十进制的0.1转化为二进制中理解0.1+0.2 不等于0.3的原因

2018/10/24 15:11:01 人评论 次浏览 分类:.NET


弱类型的JS在小数计算的时候为啥会出现,0.1+0.2 不等于0.3的问题。对于强类型的C#,通过使用decimal就能正常的计算出结果,是因为decimal进行内部的处理,效率上会比float和double低些。
我们都知道计算在计算的时候是按照二进制进行运算的。要回答0.1+0.2 不等于0.3的问题就需要从十进制小数在二进制的存储方式上去理解。

1. 正整数转二进制: 正整数转成二进制。要点一定一定要记住哈:除二取余,然后倒序排列,高位补零。

21 /2 -------------------------------余 1

10/2 -------------------------------余 0

5/2 ------------------------------- 余 1

2/2 --------------------------------余 0

1/2 ---------------------------------余 1

记住,到着排序 10101 ,验证下转成十进制: 1×2的4次方+1×2的2次方+1×2的0次方=16+4+1=21。正确。

计算机一般是8 位 16位 32位 64 位的,所以不够位高位补零。8位表示法:00010101

2.负整数转二进制:先是将对应的正整数转换成二进制后,对二进制取反,然后对结果再加一。

取 -21 演示,看口诀,

21 的二进制表示为: 10101

取反: 01010

加一 : 01011


3. 小数转换为二进制的方法:对小数点以后的数乘以2,有一个结果吧,取结果的整数部分(不是1就是0喽),然后再用小数部分再乘以2,再取结果的整数部分……以此类推,直到小数部分为0或者位数已经够了就OK了。

演示: 0.125 ×2=0.25 .......................0

0.25×2=0.5.............................0

0.5×2=1.0................................1

即 0.125的二进制表示为小数部分为0.001

记住,乘到小数为0。排序:正序。

验证: 0.001 0×2的0次方+0×2的-1次方+0×2的-2次方+1×2的-3次方=1/8=0.125.正确。


现在来说明0.1转二进制不能表示的原因啦:

0.1×2=0.2 .....................0
0.2×2=0.4 ......................0
0.4×2=0.8 .....................0
0.8×2=1.6.......................1
0.6×2=1.2.......................1
0.2×2=0.4.......................0
.....

二进制数无法精确表示0.3,就像十进制无法精确表示1/3一样。
是无限循环的。所以就涉及到精度的问题了。

相关资讯

  • Windows环境下ASP.NET Core项目站点自启动运行

    ASP.NET Core可以通过 IIS站点发布 ,也可以通过自运行启动站点。也就只要安装了dotnet (.net core SDK )就可以自启动网站,不需要依赖IIS。

    2018/11/11 18:00:56
  • VS2017环境与.NET Core SDK下载安装

    都2018年了,如果是VS2015的,还是直接升级到VS2017吧。首先先安装.NET Core SDK,,然后再安装 VS2017。

    2018/7/10 22:57:35
  • VS2015中的.NET Core SDK下载与安装搭建Asp.net core开发环境

    VS2015时没有自带ASP.NET Core(VS2017是自带Core的,只要在安装的时候选择安装core跨平台即可),如果要使用.NET Core的开发环境就需要单独安装.NET Core SDK。下面我们介绍是在VS2015的环境下安装.NET Core SDK的步骤。

    2018/7/10 21:36:05
  • 【window服务系列】C#.Net的window服务的调试

    window service 创建成功之后就可以进行调试了。1.安装并运行服务这里不详细说。可以用installutil.exe或者 netstart。运行之后,服务程序的就是运行在进程中。2.附加到进程。这里不能直接运行启动调试(F5)。选择对应的服务程序进行附加。3.添加调试代码。因为我们要启动了服…

    2017/6/15 20:08:59