floating-accuracy

    4热度

    1回答

    JavaScript精度

    关于这个话题已经有很多人说过，但是我找不到我的问题的确切答案。 JavaScript不能准确地表示十进制数字，如0.1，这是可以理解的。 例如，这是因为该multilication期间发生舍入误差的真实： 0.1 * 3 === 0.30000000000000004 这是精 - 所有根据IEEE标准浮点运算（IEEE 754）。 什么我不明白的是为什么同样使用标准的其他语言给出更精确的测量 0.
    javascript precision floating-accuracy ieee-754 2016-02-13

    0热度

    1回答

    小数点的数字可以代表没有任何变化和舍入问题的任何值

    我是否正确decimal floating point numbers可以表示没有任何变更的任何“有限值”（不是1/3情况），所以它没有“不可表示的”数字像0.1 in case of binary floating point，并且在任何数学计算之后不能累积舍入误差？如果是这样，那怎么可能？我的意思是，AFAIK无论如何都存在DFP数量的精确限制，所以有一点他们将无法存储“真实”价值，并被迫以某
    floating-point precision floating-accuracy 2016-04-06

    0热度

    1回答

    在字符串流

    失去精度在我的应用程序之一，我试图把一个浮点值转换成字符串流是这样的： stream << static_cast<float>(double value); 让整个浮点值，而不是我只得到它的整数部分。任何想法为什么会发生？
    c++ floating-point floating-accuracy stringstream static-cast 2016-02-18

    0热度

    1回答

    Java float长时间显式转换

    我想了解i在这段代码中的结尾是99999904吗？ long i = (long)(99999900f); System.out.println(i); 据我所知，花车存储与小数和不准确的价值，他们似乎是，但我看不出这有可能导致第一个数字是4，而不是9或东西会最终达到99999900？
    java casting floating-point type-conversion floating-accuracy 2016-02-20

    4热度

    1回答

    java.lang.Math是否在“ULP内”独占或包含？

    java.lang.Math文档说的许多功能，如Math.pow： 计算结果必须是内准确结果的1 ulp。 但我一直没能找到这是什么意思。它是独占的还是包容性的？换句话说，如果精确的结果可以用double表示，那么返回的值是否包含精确的结果，或者它可能仍然是1 ULP？ 例如，我们可以依靠Math.pow(3.0, 2.0) == 9.0吗？我知道使用平等比较对于双打来说几乎总是一个坏主意，所以我
    java floating-point precision floating-accuracy 2016-02-26

    4热度

    2回答

    带5位小数位的货币？

    我需要下面的C＃代码转换为德尔福： decimal XYZ = decimal.Round(dataset123.XYZ, 5, MidpointRounding.AwayFromZero); 结果将在MSSQL数据库保存到浮点型字段。 当我在Delphi中使用double时，有几个问题，因为它没有固定的十进制。另外，当保存到ADO数据库中时，数据库查看器通常会显示非常长的数字，因为它的数字太
    delphi precision floating-accuracy 2016-01-15

    0热度

    2回答

    比较小值与零与具体的准确性

    我有一个程序打印出一个非常小的矩阵值。我的矩阵的一个例子是 0.00000000000000004 0.12300000000000000 0.00000000011111114 0.00000000000038544 我想这样做是zero比较每个值，并接受它是zero具有特定精度，这是9位小数。换句话说，如果一个数字的第一个十进制值是9 zeros，我想把它看作zero，否则不要。 我搜
    c decimal floating-accuracy 2016-04-24

    4热度

    3回答

    为什么1 // 0.05导致19.0在python中？

    我是一个新的Python和我发现了一个令人困惑的结果在我的Mac使用Python3.5.1的时候，我只是在我的终端运行此命令 1 // 0.05 然而，我的屏幕上印刷19.0。从我的角度来看，它应该是20.有人能解释这里发生了什么吗？我已经知道'//'与math.floor（）函数类似。但我仍然无法理解这一点。
    python floating-accuracy 2016-03-09

    2热度

    1回答

    为什么使用acos获得复数？

    例如，如果我使用下面的代码来计算两个向量x和p之间的角度： x = [1 1 -1]; p = [-1 -1 1]; angle = acos(dot(x,p)/(norm(x) * norm(p))); 它表明angle = 3.141592653589793 - 0.000000021073424i，这是一个复杂的数字。 但我们都知道，x和p点积-3，的x和p规范的产品是3，那么an
    matlab trigonometry angle floating-accuracy 2016-03-18

    0热度

    1回答

    C浮点数和双重比较

    我比较C中的简单浮点数和双精度浮点数，特别是它们的值都是8.7。现在我将8.7分配给每个变量，当我打印时，两个值的结果都是8.7000。为什么编译器添加了这些零。我想问的主要问题是还有没有更多的数字，我没有看到，如在尾随零后隐藏。我读过我不应该用浮点数来比较浮点数，因为精度不够高，但是我认为这样一个小数值肯定可以存储8.7个具有一定准确度的数据，以便将其与另一个8.7数值进行比较？ 我唯一担心的是
    c floating-point double precision floating-accuracy 2016-02-01
最新问题