V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
skywalkboy
V2EX  ›  问与答

java double 计算效率跟小数位多少有关吗?

  •  
  •   skywalkboy · 2016-06-23 11:13:47 +08:00 · 1285 次点击
    这是一个创建于 2887 天前的主题,其中的信息可能已经有所发展或是发生改变。

    java 中 double 中的小数位跟计算效率有关吗,现在有个十多位小数的乘法运算,在 java 中用什么类型效率比较快

    1 条回复    2016-06-24 00:06:44 +08:00
    SoloCompany
        1
    SoloCompany  
       2016-06-24 00:06:44 +08:00
    和小数位数没太大关系,和有效数字有关,当然如果你的数都是 0~1 之间的那么有效数字个数就大概等价于小数位了,这个也和 java 没有关系,请参考 IEEE 64bit 标准,双精度数是 52 有效数字位以及 11 个指数位
    52 * log(2) = 15.65
    也就是说换算成十进制大概可以有 15 ~ 16 个有效数字
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5561 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 02:46 · PVG 10:46 · LAX 19:46 · JFK 22:46
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.