java中double的精度去哪了[转]

时间:2017-07-29 13:31:11   收藏:0   阅读:143
 我们知道,浮点数值采用二进制系统表示,二进制系统无法精确表示1/10,就好像十进制无法精确表示1/3 。
技术分享 
 
所以,我们采用四舍五入/保留小数位方式以获得精简数值。
技术分享

 

那么,问题来了:

 技术分享
 为嘛2.0-1.9会得到17位小数的数值 (一般都是16位)

『解答』http://www.cnblogs.com/shown/p/6305880.html

 

原文:http://www.cnblogs.com/oyzpblog/p/7255570.html

评论(0
© 2014 bubuko.com 版权所有 - 联系我们:wmxa8@hotmail.com
打开技术之扣,分享程序人生!