double-precision

1热度

1回答

我遇到了CUDA FFT库的一些问题。我将输入声明为cuDoubleComplex，但编译器返回此类型与cufftComplex类型的参数不兼容的错误。在通过互联网搜索之后，我找到了文件cufft.h，其中有这一行。我的问题是，在库cuComplex.h显然，cuComplex有一个浮点精度（typedef cuFloatComplex cuComplex;），但我想双精度。这可能吗？特

3热度

1回答

GCC使用ARM VFP指令操作的正确内联汇编约束是什么？

我想使用Google NDKv8b附带的工具链（gcc-4.6）将双精度寄存器（d8）的值加载到ARM平台上的C变量中。我的ARM机器是三星Galaxy S2（它有VFPv3和NEON）。 GCC文档说，为了在内联汇编上使用VFP双精度寄存器，必须使用“w”约束。所以，我想这样的事情（好吧，别看这么多到整个程序的逻辑）： #include <stdio.h> int main() {

7热度

3回答

爪哇 - 在一个双加/减

的精度最大损失是有可能建立，即使是粗略，有两个double值在Java中处理（加/减）当最大精度损失会是什么？最糟糕的情况可能是两个数字不能准确表示，然后对它们执行操作，这会导致一个值也无法精确表示。

2热度

1回答

MATLAB vpa（）不计算带指数的表达式的变量点数？

尝试使用VPA（）来计算可变点数目用于在指数理性表达： syms x; ans1 = x^(12345/67890) ans2 = vpa(x^(12345/67890),3) ans2_5 = vpa((12345/67890),3) ans3 = vpa(x*(12345/67890),3) 上面示出的问题。 ans1显示表达式的默认输出。 ans2显示vpa（）不计算表达式的变量

-2热度

2回答

Visual Express 2010 double variable precision

我刚刚开始用C++编写代码，但在MATLAB和MySql中有相当多的以前的经验。我正在计算一些复合数字，因此准确性是关键。我试图用双数来做到这一点，但由于某种原因，我只能得到7位有效数字的准确性（与浮点数相同）。我甚至尝试使用一个长双重来尝试计算，但我仍然只得到7 s.f.的精度。我没有正确初始化双打吗？我以为他们只是标准库的一部分？任何帮助不胜感激。下面的代码给出了用于计算的代码的主要部分（其

-2热度

1回答

如何在grails中正确保存双精度类型？

基本域以保存不尊重浮点的，因为它它使为另一种格式我有下一个域 class Location { double latitude double longitude static belongsTo=[ product: Product ] static constraints = { latitude nullable:false, blank

3热度

3回答

在编译时在浮点和双精度之间切换

如果我想在编译时在浮点和双精度之间切换，我应该看看哪里。它的样子，如果用户想要所有的东西都是浮动的而不是双精度的，我可以保持这种灵活性吗换句话说，我应该如何定义一个可以是浮点型或双精度条件的变量？

6热度

3回答

格式化使用DecimalFormat不使用科学计数法进行双打印

我一直在阅读传感器读数的时间戳值，但由于它们是以纳秒提供的，因此我认为我会将它们转换为double并进行转换。结果的数字是一个17位数值，加上分隔符。试图直接打印它会导致科学记数法，这是我不想要的，所以我使用DecimalFormat类将其输出到4位小数位的期望值。问题是，即使调试器显示17位十进制数字，即使在调用'doubleValue（）'后，输出字符串也会显示15位数字。代码： ...

2热度

1回答

stringstream setprecision和浮点格式化

double value = 02369.000133699;//acutally stored as 2369.000133698999900 const std::uint32_t left = std::uint32_t(std::abs(value) < 1 ? 1: (1 + std::log10(std::abs(value)))); std::ostringstream out

2热度

7回答

如何确定双变量是否具有整数值？

我试图找到与Java二次方程的可能的整数根。下面是从我的代码片断： double sqrtDiscriminant = Math.sqrt(b * b - 4 * a * c); double root1 = ((-1.0 * b) - sqrtDiscriminant)/(2.0 * a); double root2 = ((-1.0 * b) + sqrtDiscriminant)/(