3*0.1=0.30000000000000004 ？

革木木 · 发表于 2018-4-15 16:19:03

为什么3*0.1不是0.3？
如图

a15803617402 · 发表于 2018-4-16 17:29:38

因为是进行二进制计算的，换算过来会有点误差，如果要没有误差，可以用模块

TomasW · 发表于 2018-4-26 22:09:16

很遗憾，这就和十进制表示1/3时是个无限循环数一样，计算机的二进制表示1/10时也是一个无限循环数，所以实际计算时会有误差

		自动登录	找回密码
密码			立即注册

[求助] 3*0.1=0.30000000000000004 ？