V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
anzu
V2EX  ›  Java

小心 Java .math.MathContext

  •  1
     
  •   anzu · Jul 8, 2020 · 2488 views
    This topic created in 2130 days ago, the information mentioned may be changed or developed.

    你以为他们输出是相同的,其实完全不同

    BigDecimal original = new BigDecimal("2.345");
    BigDecimal scaled = original.add(BigDecimal.TEN).setScale(2, RoundingMode.HALF_UP);
    MathContext mc = new MathContext(2, RoundingMode.HALF_UP);
    BigDecimal scaled2 = original.add(BigDecimal.TEN, mc);
    
    // 12.35
    System.out.println(scaled.toPlainString());
    // 12
    System.out.println(scaled2.toPlainString());
    

    MathContext 的构造函数 MathContext(int setPrecision, RoundingMode setRoundingMode) 其中 setPrecision 指的是有效数字,而不是小数保留位数。与 roundingMode 参数放一起容易令人混淆。而且一般用到 BigDecimal 多半是重要的计算场景,一旦出错后果严重。

    也有不少人吐槽: https://stackoverflow.com/questions/7539/use-of-java-math-mathcontext

    4 replies    2020-07-08 17:26:37 +08:00
    aguesuka
        1
    aguesuka  
       Jul 8, 2020 via Android
    单元测试的重要性就出来了
    anzu
        2
    anzu  
    OP
       Jul 8, 2020
    @aguesuka 我就是写单元测试才发现的..
    lululau
        3
    lululau  
       Jul 8, 2020
    precision 直翻不是“精度”的意思吗,精度不是相当于有效数字吗
    yidinghe
        4
    yidinghe  
       Jul 8, 2020
    @lululau 对,事后再来看都看得懂,就是第一眼光看参数类型的话容易理解错
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1241 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 17:38 · PVG 01:38 · LAX 10:38 · JFK 13:38
    ♥ Do have faith in what you're doing.