floating-point-precision

2热度

1回答

我有两个大的（432 * 136 * 136 * 46）'numpy.ndarray'H1和H2，其中包含对应于两个模拟的高度值。当H1和H2具有相同的高度时，我想用1生成一个数组，当它们不具有相同的高度时，则为0。然后，我想知道我选择了多少个元素，所以我想计算这个矩阵元素的总和。这里是我的代码： H1=np.concatenate([np.around(files1[i].hrtm()[:,0:

1热度

1回答

在向量上使用l2规范化的错误[Java]

我试图在使用Java的双向量上使用l2规范化。 double[] vector = {0.00423823948, 0.00000000000823285934, 0.0000342523505342, 0.000040240234023423, 0, 0}; 现在，如果我用L2正常化 for(double i : vector){ squareVectorSum += i * i;

0热度

1回答

PHP和零值浮点数

我就麻烦了这一点： $price = 26,20; $increase = 0,00; $decrease = 0,00; $result = ($price + $increase - $decrease); 结果变成了26，而不是26,20 任何想法？ Thnx！

0热度

1回答

MIPS浮点乘法

我是MIPS编程的新手，并且无法理解如何从用户读取两个浮点数后乘以两个浮点数。如何将参数转换为单精度浮点数？当我运行程序时，它将结果打印为0.0而不是数字乘以常数。有人可以向我解释为什么它打印0.0而不是正确的数字？ .data prompt: .asciiz "Enter the amount: " newline: .asciiz "\n" float1: .float 0.0

-1热度

1回答

你如何使用双来获得期望的结果

我尝试在java中减去的数字，这一点让我意外的结果 public class FloatWeird { public static void main(String[] args) { double n = 1; for(int i = 0;i<10;i++) { System.out.println(n);

0热度

1回答

在Java中执行计算时保持Excel精度

如何在Java中执行计算时保持Excel级别的精度。在大多数情况下，使用BigDecimal可以解决这个问题，但在复杂计算中使用BigDecimal时又会如何。例如，公式本值为： PV = P /（1 + R）^ n的现在如果每个这些部件是的BigDecimal值，BigDecimal的不提供一种机制来将BigDecimal提升为分数。在此先感谢。

1热度

1回答

如何避免大浮点或双精度值的舍入？

我的工作应该输出22258199.5000000这个号码，我已存储的结果在双数据类型的一些C++的问题，当我试图在使用变量的std ::法院就四舍五入到22258200.0000000，我不知道为什么就是打印这发生？有人可以解释吗？我能做些什么来避免这个问题？

0热度

5回答

将1234567.1234的双精度值转换为java中的浮点数

我试图将double转换为java中的浮点数。 Double d = 1234567.1234; Float f = d.floatValue(); 我看到f的值是 1234567.1 我不是想打印浮动的字符串值。我只是想知道在将double转换为float时不会失去任何精度的最大位数是多少。我可以在java中显示超过8位有效数字吗？

-2热度

1回答

控制精度溢出和损失，同时乘以双打

QUES：我有大量浮点数（〜万数），小数点后各自具有6位数字。现在，所有这些数字的乘法将产生大约60,000个数字。但双倍范围仅适用于15位数字。输出产品必须在小数点后有6位精度。我的方法：我想10^6这些数字相乘，然后将它们相乘，后来由10^12分他们。我也想过用这些数字乘以数组来存储它们的数字，然后把它们转换成十进制数。但是这也看起来很麻烦并且可能不会产生正确的结果。有没有更容易的方

2热度

2回答

稍微不同的浮点数学结果（C去golang）

我正在努力直接在golang开发一个技术指标库。除其他外，这是一次学习golang的练习。我一直在验证我的算法的结果，通过用TA-Lib生成的数据构建测试用例（或者是围绕TA-Lib的ruby包装）。这一直工作得很好，直到我得到了布林带的实施。我的实现似乎工作正常，但在小数点后14-15位有所不同。我读过Floating point math in different programming