double-precision

1热度

2回答

问题。我有双“0.4 0.3 2.1等”的字符串。我需要在此列表中循环并计算每个数字的出现次数。我用 StringTokenizer stokens = new StringTokenizer(values); while(stokens.hasMoreTokens()) { Double tempKey = new Double(stokens.nextToken());

0热度

1回答

混合精度分配

我与使用XLF编译器的Power7 它使用这些标志来精确设置为64位的大型Fortran代码工作：-qrealsize=8 -qintsize=8 然而代码最近进口片也有类似的线路如下： real :: var1d(nvol) real :: var3d(ni,nj,nk) var1d = var3d*1.0e6 我想知道XLF是如何处理文字1e6？主要关心的是;这是参考版本和修改版本

-1热度

1回答

你如何使用双来获得期望的结果

我尝试在java中减去的数字，这一点让我意外的结果 public class FloatWeird { public static void main(String[] args) { double n = 1; for(int i = 0;i<10;i++) { System.out.println(n);

-2热度

1回答

控制精度溢出和损失，同时乘以双打

QUES：我有大量浮点数（〜万数），小数点后各自具有6位数字。现在，所有这些数字的乘法将产生大约60,000个数字。但双倍范围仅适用于15位数字。输出产品必须在小数点后有6位精度。我的方法：我想10^6这些数字相乘，然后将它们相乘，后来由10^12分他们。我也想过用这些数字乘以数组来存储它们的数字，然后把它们转换成十进制数。但是这也看起来很麻烦并且可能不会产生正确的结果。有没有更容易的方

0热度

1回答

为什么我无法计算双倍值？

我想计算0.95的值。这是我的方法： public static final int VAR = 5; private static double getDouble(){ double dis = (double)(VAR/100); dis = (double)(1-dis); return dis; } 但是，它输出1.0 ??如果我在主要方法中输

2热度

3回答

如果您使用double将货币值转换为另一种货币并返回，您可能会失去的最高精度是多少？

我知道由于双打的基地问题2个计算： var total: Double = 0.1 total *= 0.1 total /= 0.1 println(total) // 0.10000000000000002 我明白的BigDecimal应该用于金钱相关的计算，但在我的情况下，小精度损失是可以接受的，cuase所有货币计算我需要做的是将货币C1转换为货币C2并返回到货币C1。唯一的一点

-1热度

1回答

c＃双倍乘得到额外的精度

倍增2倍后，它获得了很多额外的精度。然后它会导致四舍五入（至2位十进制）问题。我想要得到37.34，但它得到37.33。（在调试模式下观看） additional precision http://s8.postimg.org/9nn2bbiab/precision.jpg 任何想法，为什么？以及如何解决？编辑我其实确实尝试了MidpointRounding。试试这个任何计算器它应该给你准确

0热度

4回答

有时浮动好于浮动吗？

我在spoj http://www.spoj.com/problems/ATOMS/上解决了这个问题。我必须给出log（m/n）/ log（k）的整数部分作为输出。我已经把m，n，k当作很久了。当我用长双打计算时，我得到了一个错误的答案，但是当我使用float时，它就被接受了。 printf("%lld\n", (long long)(log(m/(long double)n)/log(k)));

1热度

2回答

DISLIN双精度库

我想编译一个用FORTRAN编写的程序，该程序使用DISLIN库绘制图表，但所有数据都是双精度的。我不能失去这个精度，所以将所有内容传递给简单的精度不是一个选项。当我尝试链接到双精度库（_D），我还是收到以下错误我希望有我挂简单的精准库： call graf(-1.D0, 1.D0, -1.D0, 2.D0/10.D0, -1.D0, 1.D0, -1.D0, 2.D0/10.) (1

-2热度

1回答

计算精度

我正在Fortran中对双精度变量进行计算，计算后得到值为-7.217301636365630e-24。但是，当我在Matlab中进行相同的计算时，变量只获得值0。在进行计算时，有没有办法提高MatLAB的精度，以便我也能够得到7e-24的顺序？理想情况下，它可以应用于脚本中的所有计算，而不仅仅是一个变量。类似于使用format long时的情况。对我来说，这种精度是至关重要的，因为我需要确