找回密码
 立即注册

扫一扫,访问微社区

QQ登录

只需一步,快速开始

查看: 5250|回复: 2

[已解决] Python的数据精度是怎么回事

1

主题

1

帖子

1

积分

贫民

积分
1
Alvin 发表于 2016-10-11 10:29:53 | 显示全部楼层 |阅读模式
试了下这两行计算,后一个减了下就多了一点点,有办法确保是0.3吗?

>>> 1.0/10*13
1.3
>>> 1.0/10*13-1
0.30000000000000004
回复

使用道具 举报

0

主题

24

帖子

24

积分

贫民

积分
24
leftloveu 发表于 2016-10-11 12:48:23 | 显示全部楼层
可以使用round函数或者Decimal来控制你需要的精度。具体的内容和使用办法网上一大堆,自己去google
回复 支持 反对

使用道具 举报

50

主题

1057

帖子

1108

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
1108

活跃会员热心会员最佳导师默默耕耘突出贡献优秀版主荣誉管理论坛元老

blueelwang 发表于 2016-10-11 18:28:11 | 显示全部楼层
leftloveu 发表于 2016-10-11 12:48
可以使用round函数或者Decimal来控制你需要的精度。具体的内容和使用办法网上一大堆,自己去google ...

正解, 推荐楼主看一下这篇文章:http://www.pythontab.com/html/20 ... heng_1011/1075.html
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表