double-precision

    0热度

    1回答

    变更的原始号码(Facebook用户ID)我开发了一个应用程序,其中用户的Facebook名称和用户ID被保存为一个身份验证系统。 我将这些ID作为双值存储在C#脚本中。但事实证明,Facebook用户的新ID超过15位,这是没有四舍五入的双数据类型的限制(我在开发时并不知道,哎!)。所以数字四舍五入,数值急剧变化。有趣的是,圆形的数字是位,他们是不是谁登录的用户的真实用户ID。 我改变了代码后,

    3热度

    1回答

    我需要高精度的项目,我正在努力。 从其减去当我的问题在这里说明: >> 1-0.9999999999999999 ans = 1.1102e-16 >> 1-0.99999999999999999 ans = 0 我知道这是涉及到双精度。无论如何,我可以得到更高的精度? 我检查了“vpa”功能,但我无法设法获得更高的精度。 有人可以帮助我吗? 预先感谢您!

    7热度

    3回答

    给定一个双精度值,我想将它舍入到小数点后的精度点,类似于PHP的round()函数。 我可以在飞镖文档找到最接近的事是double.toStringAsPrecision(),但是这并不完全符合我需要的,因为它包括数字前在精度总点数的小数点。 例如,使用toStringAsPrecision(3): 0.123456789 rounds to 0.123 9.123456789 rounds t

    0热度

    2回答

    我试图创建一个方法中的多个转换成标准化的科学记数法,这里是我使用来计算尾数和指数代码: ConvNSN 1000, M, P MsgBox M & "e" & P Sub ConvNSN(N, M, P) If N = 0 Then P = 0 M = 0 Else P = Int(Log(Abs(N))/Log(10))

    3热度

    1回答

    我有一台Mac Pro(2013年末),我想用OpenCL做两次数学运算。当我使用小牛时,我的FirePro GPU的CL_DEVICE_EXTENSIONS仅列出cl_APPLE_fp64_basic_ops,所以我不能使用双数学函数,如exp()。我最近升级到优胜美地,现在正确的cl_khr_fp64是在扩展名列表中,但我仍然不能使用双倍的exp。错误日志显示它正在寻找一个重载函数,exp可用

    0热度

    1回答

    我有一个Double数据类型列的MySQL表,当我插入一个Java Double中包含的值时,我总是得到一个截断错误。 MRZ 19,2015年上午11点26分〇〇秒databaseimport.MyImport的executeQuery SCHWERWIEGEND:空值java.sql.SQLException:数据截断 '分享' 柱1行 我试图改变列的DOUBLE PRECISION(30,3

    0热度

    1回答

    我想分割两个完整的double值(即所有内存都填满了高精度数的双变量)。而且,操作的结果将被分配到一个双变量中。 当我做这个过程时,这个返回给我NaN。 我在某个地方读到两个完整的double值之前,当它们自己相乘或相除时会导致一个很大的内存值,一个不能在双变量中分配。 我对不对? 我该如何解决这个问题? public class CoeficienteAngular { public

    0热度

    1回答

    我遇到了一些关于列数据类型变更的问题 - 特别是字符变化为双精度。此修改的目标是我可以在此列上执行SUM和平均值。 另一种方法,我一直在努力做到这一点是创建一个双精度的新列,并更新字段变化的列,但没有运气到目前为止。任何帮助表示感谢,谢谢。

    0热度

    1回答

    为什么我的词典在我插入时说不存在?这是与我的Equals方法还是双重比较? 下面是代码: // Test: I know the dictionary contains nCoord but its saying the key doesn't exist Dictionary<UTMCoordinate, int> planes = new Dictionary<UTMCoordinate,

    1热度

    3回答

    在一组变量中找到最大值的最有效方法是什么? 我见过的解决方案,such as private double findMax(double... vals) { double max = Double.NEGATIVE_INFINITY; for (double d : vals) { if (d > max) max = d; } return max; } 但是