floating-point-precision

4热度

4回答

是std ::更高<double>和std :: less <double>安全使用？

在比较C++中的double值时，使用<,>,=,!=运算符，我们无法始终确定结果的正确性。这就是为什么我们使用其他技术来比较doubles，例如，我们可以通过测试它们的差异是否真的接近于零来比较两个双打a和b。我的问题是，C++标准库是使用这些技术实现std::less<double>和std::greater<double>，还是只使用不安全的比较运算符？

1热度

1回答

kCFNumberFormatter圆形差异

我发现一个有趣的问题，在互联网上没有描述什么，甚至在apple documentation误导。有什么区别： kCFNumberFormatterRoundCeiling kCFNumberFormatterRoundFloor kCFNumberFormatterRoundDown kCFNumberFormatterRoundUp kCFNumberFormatterRound

3热度

4回答

为什么这个简单的双断言失败在C＃

在C# Assert.AreEqual<double>(10.0d, 16.1d - 6.1d); 的问题似乎是一个浮点错误以下测试将失败。 16.1d - 6.1d == 10.000000000000002 这让我头痛的为使用double的代码编写单元测试。有没有办法来解决这个问题？

0热度

3回答

验证以下条件的输入

我遇到了一个以float作为输入的问题，并检查输入是否在10到100之间，否则再次输入。问题的其余部分遵循k的这个值，这很容易解决。但我得到的真正问题是验证。 scanf("%f",&k); if(k>10.0 && k<100.0) scanf("%f",&k); else { ......//my code } 但我提交时，它给了

0热度

1回答

质量矢量错误地更新而内插的matlab时间序列对象

运行以下MATLAB代码： % define new timeseries object, set Quality vector to zero a=timeseries(... [1:6]', ... [datenum('2010-1-1 0:00'):1/24:datenum('2010-1-1 05:59')]', ... zeros(6,1) ... );

-1热度

1回答

在MATLAB的结果的精度

损失级联矩阵I具有列矩阵说temp1中浮点数以下面的格式（显示用格式长克这种方式）：和另一个NX3矩阵 1334320224.86767 1334320225.03415 1334320225.20064 （TEMP2 ）如下所示： 25.59989 -17.82167 31.19241 25.17558 -17.59459 30.71448 25.18788 -17.39987 30

1热度

4回答

失去精度，同时打印浮动

请看看下面的代码： float num = 72000000.69f; System.out.println(String.format("%.2f", num)); 输出：72000000.00 我失去精度。我试图通过转换为浮动到BigDecimal然后打印值，但它没有帮助。任何方式来保持精度？

1热度

3回答

SDL - Blit Surface将float值作为直接参数

我需要根据某些水平和垂直速度在屏幕周围移动曲面。我需要这些速度是完全随机的。我的想法是产生随机的浮点数（我成功了），并用它们作为速度。这样我可以有很多不同的速度，从来不会太快或太慢。问题是：SDL_BlitSurface将只接受SDL_Rect作为参数来确定将绘制曲面的新矩形，并且SDL_Rect是由4构成的结构int s：两个用于坐标，两个用于维度; 恢复：如何在SDL上对表面进行交接时使用精度

3热度

4回答

格式化java中浮点数upto 3十进制精度

我有一个变量类型float.I想打印它达到3精度小数包括尾随零。实施例： 2.5 >> 2.500 1.2 >> 1.200 1.3782 >> 1.378 2 >> 2.000 我想它利用 DecimalFormat _numberFormat= new DecimalFormat("#0.000"); Float.parseFloat(_numberFormat.format(2.5))

0热度

3回答

将浮动字符串转换为字符串

当我需要将基于10的IEEE-754单精度和双精度数字转换为字符串时，我已进入状态。有FXTRACT指令可用，但它仅提供指数和尾数为基数2，如数量，计算公式为： value = (-1)^sign * 1.(mantissa) * 2^(exponent-bias) 如果我有特定的碱基一些对数的说明，我将能够改变的2基地指数 - 偏差部分表达，但目前我不知道该怎么办。我也在考虑使用标准的四舍五