找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

查看: 232|回复: 3

[求助] 3*0.1=0.30000000000000004 ?

1

主题

1

帖子

1

积分

贫民

积分
1
革木木 发表于 2018-4-15 16:19:03 | 显示全部楼层 |阅读模式
为什么3*0.1不是0.3?
如图
python3c01小数有4.png
回复

使用道具 举报

0

主题

6

帖子

6

积分

贫民

积分
6
a15803617402 发表于 2018-4-16 17:29:38 | 显示全部楼层
因为是进行二进制计算的,换算过来会有点误差,如果要没有误差,可以用模块
回复 支持 反对

使用道具 举报

0

主题

7

帖子

7

积分

贫民

积分
7
TomasW 发表于 2018-4-26 22:09:16 来自手机 | 显示全部楼层
很遗憾,这就和十进制表示1/3时是个无限循环数一样,计算机的二进制表示1/10时也是一个无限循环数,所以实际计算时会有误差
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表