设为首页
收藏本站
用户名
Email
自动登录
找回密码
密码
登录
注册
快捷导航
平台
Portal
论坛
BBS
文库
项目
群组
Group
我的博客
Space
搜索
搜索
热搜:
shell
linux
mysql
本版
用户
LinuxSir.cn,穿越时空的Linuxsir!
»
论坛
›
智能计算—— LinuxSir.cn
›
Linux及计算机学科基础理论版
›
关于Python浮点运算的问题
返回列表
查看:
28800
|
回复:
2
关于Python浮点运算的问题
[复制链接]
thrfrs
thrfrs
当前离线
积分
83
IP卡
狗仔卡
发表于 2011-5-12 15:53:59
|
显示全部楼层
|
阅读模式
先看实例:
>>> 2.0/5.0
0.40000000000000002
>>> 0.2*0.3
0.059999999999999998
>>> 0.3-0.2
0.099999999999999978
>>> 0.25+0.25
0.5
>>> 0.25+0.26
0.51000000000000001
>>> c=0.8E-6
>>> c
7.9999999999999996e-07
这可能是二进制到十进制转换过程中出现的问题吧,可是在进行数值计算时,这样的情况怎么保证精度呢?
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
显身卡
wangguoqin1001
wangguoqin1001
当前离线
积分
491
IP卡
狗仔卡
发表于 2012-2-24 14:33:31
|
显示全部楼层
要精度的话应该用大数库,任何语言原生的浮点运算都是不会精确到哪里去的。
回复
支持
反对
使用道具
举报
显身卡
iamkr
iamkr
当前离线
积分
478
IP卡
狗仔卡
发表于 2012-3-2 18:22:13
|
显示全部楼层
import decimal
复制代码
回复
支持
反对
使用道具
举报
显身卡
返回列表
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
注册
本版积分规则
发表回复
回帖后跳转到最后一页
浏览过的版块
计算机认证考试学习与经验交流
Copyright © 2002-2023
LinuxSir.cn
(http://www.linuxsir.cn/) 版权所有 All Rights Reserved.
Powered by
RedflagLinux!
技术支持:
中科红旗
|
京ICP备19024520号
快速回复
返回顶部
返回列表