floating-point-precision

0热度

2回答

为了计算加泰罗尼亚数，我写了两个代码。一个（def“Catalan”）递归地工作并返回正确的加泰罗尼亚数字。 dicatalan = {} def catalan(n): if n == 0: return 1 else: res = 0 if n not in dicatalan: for i in range(n): res +=

2热度

2回答

PHP - 获取浮点型变量内部值

我想在PHP中进行浮点型比较时尝试建立我需要的增量。我想仔细看看我的变量以查看差异。我有2个计算变量，$ a，$ b。 $a = some_function(); $b = some_other_function(); 如何查看PHP使用的确切数量？我想他们这个公式，在那里我需要指定三角洲比较： $delta = 0.00001; if (abs($a-$b) < $delta)

3热度

4回答

float -c数据类型

int main() { float a = 20000000; float b = 1; float c = a+b; if (c==a) { printf("equal"); } else { printf("not equal");} return 0; } 当我运行它时，它说“相等”。但是当我将a的值更改为2000000（少一个）时，答案是否定的。为什么？

2热度

1回答

在Python中为Random.random（）组合浮点数

我试图从python标准库实现我自己的Random class版本。我可以生成随机位，并执行getrandbits（n）函数。但超类不使用此函数来计算random（）返回的浮点数。所以，我有我自己实现一个： def random(self): exp = 0x3FF0000000000000 mant = self.getrandbits(52) return str

0热度

2回答

如何让数字不以科学形式显示？

我想写浮点数的数组文件 <?php $x=[0.000455,0.000123,0.00005690330203]; $fname='test.txt'; $str=''; foreach($x as $elem){ $str .= "$elem\n"; } file_put_contents($fname,$str); ?> 但在test.txt的，我看到 0.000

3热度

1回答

什么是gnuplot浮点数的内部表示？

我敢肯定，答案很明显，但是我没有看到源代码就找不到它。什么是gnuplot浮点数的内部表示？它是平台的double？它是否使用自己的内部表示？它可以做任意精度？

1热度

1回答

Chudnovsky算法生成-nan

我试图实现Chudnovsky algorithm来计算pi。这是我实现： int fact(int n) { if(n<=1) return 1; else return fact(n-1)*n; } double calcPi(long n) { double z=0; for(int k=0; k<n; k++)

7热度

3回答

爪哇 - 在一个双加/减

的精度最大损失是有可能建立，即使是粗略，有两个double值在Java中处理（加/减）当最大精度损失会是什么？最糟糕的情况可能是两个数字不能准确表示，然后对它们执行操作，这会导致一个值也无法精确表示。

0热度

1回答

Matlab导入CSV文件，标题和浮点精度数字

我的问题是导入CSV文件内的数字与matlab变量具有相同的精度作为原始数字。这是我的数据的例子（可以有与文件的顶部一个标题行的量X）：用导入向导，并与下面的代码 g_B_esti_Velx, g_B_Velx, g_B_ACCx, g_B_esti_Vely, g_B_Vely, g_B_ACCy, g_B_esti_Velz, g_B_Velz, g_B_ACCz, ControlPitch,

5热度

2回答

以给定的精度选择FLOAT

我想将我的值存储为FLOATS，但是当检索它们时，用户可以指定（并在运行时更改）小数点后他想要看到的数字。我可以通过我的SELECT以某种方式通过吗？还是必须在我的应用程序中执行该操作？