rounding-error

-1热度

3回答

我想在C中编译一个程序来返回数字的平方，例如1^2 = 1，但程序编译时没有问题，总是返回值为0. 我做错了什么？ #include <stdio.h> #include <math.h> int main(int argc, const char * argv[]) { /* Define temporary variables */ double value1, value2;

1热度

1回答

双舍入错误，无需计算

我观察到一个（对我来说）C＃（.Net 4.6.1）中带有浮点变量的奇怪问题。我有一个自己的简单的Point类： public class Point { public readonly double X; public readonly double Y; public Point(double x, double y) { this.

0热度

1回答

当我更改变量`c`的值时，如何测试机器精度中的错误？

我跟随Landau的计算物理的调查和我做这个问题（B部分）：我写的代码来生成以下4个解决方案。我对作者希望我在这里做什么感到困惑。测试减法消除错误时，是否像从结果2中减去结果1一样简单？问题的关键在于看看一台机器由于四舍五入而导致减法的方式，所以我无法从机器中得到确切答案，对不对？为我解决这个，我发现，使用c=10^-1导致1.38777878078145e-17的方法1和1.1102230

0热度

1回答

舍入误差在大熊猫

为什么这个 >>> pd.Series(94.175).values[0] >>> 94.174999999999997 我用下jupyter笔记本python3.5和pandas0.20。

1热度

2回答

如何从Microunits中给定的金额中提取单位和子单位部分？

我正在使用Java开发项目，并以微单位为单位提供价格。微单位价格是一个价格，其中1,000,000个微单位等于一个货币单位。例如，如果价格是“€7.99”，price_amount_micros是“7990000” 我需要提取7和99作为单独的字符串。看了一些帖子有关舍入误差，我想实现什么，我需要正确的方法是使用下面的正则表达式给定的量转换为字符串并提取单位和亚单位部分： ^(\d+)(\d{2

0热度

1回答

极限matlab计算的精确性

在我的数值分析课程中，我们有时需要使用t数舍入算法进行计算，即每个计算（每计算，不是每个变量赋值）四舍五入t意义全数字。我正在使用matlab进行计算，我需要一种方法来限制matlab在t数字四舍五入算法中对其计算进行所有的计算。如果不存在这样的方式，我想找到一种方法来将特定数字四舍五入为全意数字。谢谢！ p.s.我尝试使用digits(t)，但它似乎只影响matlab显示数字的方式（我可能会

4热度

2回答

如何使用Theano将列中的最大值替换为1.0？

我在Theano中有一个实数矩阵，我想要生成另一个矩阵，使得在新矩阵的每一列中都有一个1.0，否则为0.0。 1.0应该指示输入矩阵列中最大值的位置。例如。 0.0 0.0 0.0 1.0 1.0 0.0 1.0 0.0 0.0 1.0 0.0 0.0 ，我迄今使用的解决方案如下：： tmp = T.max(inp, axis = 0).dimshuffle('x',0) out =

1热度

1回答

掌握日志的地板上舍入误差在Python

为了找到在一定基数的数字的位数，我试图写该行： numdigits = math.floor(math.log(num, base)) + 1 其中math.log(num, base)相当于math.log(num)/math.log(base) 但是，在这两种情况下，这有时会得到错误的位数。这是因为math.log的答案是浮点数，因此精度有限。例如，计算的3486784401（3^20）底

0热度

3回答

通过商标对数组索引

在以下代码中，i将始终为偶数，因此商i/2应始终为整数。我是否还应该使用Math.floor(i/2)来保证安全？我在问，因为JavaScript不会将所有数字视为浮点数，所以我担心舍入误差。 for (var i = 0; i < data.length; i = i + 2) { var name = names[i/2]; ... }

0热度

1回答

mpi_send mpi_recv舍入错误

我想问一下函数mpi_send和mpi_recv是否有类似于mpi_reduce的舍入错误？我认为这不应该是因为mpr_reduce函数的舍入错误来自处理器执行顺序的差异，但函数mpi_send和mpr_recv没有类似的过程。那么我想问一下，通过比较一个并行代码和一个串行代码来验证只有mpi_send和mpi_recv函数的并行代码是否合乎逻辑？谢谢你的时间。