floating-point-precision

10热度

1回答

我必须把某些项目的价格放在mysql表中。创建表格时，我使用的是DECIMAL(10,2)，因为在逗号后我不需要超过2位数字（例如：123,45将被接受为输入，但123,456将用PHP四舍五入为123,45）。第一个问题：使用DECIMAL(10,2)，我怎么知道逗号前可以存储多少个数字？我知道它不是10，因为10是精确性，Mysql在用这些数字进行数学计算时使用的精度：所以数字的长度在哪里指

1热度

1回答

舍入和“Double.valueOf with float”

在Java 6中，只有两个Double＃valueOf方法： Double#valueOf(double)和Double#valueOf(String)。 1 - 当我执行女巫方法Double#valueOf(float)？根据Javadoc，它似乎是Double#valueOf(String)，但Eclipse链接Double#valueOf(double)。 2 - 为什么有这些不同？调用

2热度

3回答

ATOF精度与双造成的悲痛

我有一个ASCII“15605632.68128593”我希望其转换为双不失准确性因素 - so double d; d=(double)atof("15605632.68128593"); printf("%f",d); printed result is 15605632.681286 任何想法？谢谢 - ！

5热度

2回答

如何从浮点错误中重复的列表中删除矩阵？

这个问题类似于其他语言中有关浮点错误的问题（例如here），但是我还没有找到令人满意的解决方案。我正在研究一个项目，涉及调查共享某些特征的矩阵。作为其中的一部分，我需要知道列表中有多少个矩阵是唯一的。 D <- as.matrix(read.table("datasource",...)) mat_list <- vector('list',length=length(samples_list

1热度

1回答

度和毫秒之间的转换

我知道度数转换为毫秒的公式，反之亦然。它可以这样实现： protected function decimal_to_milisecond($dec) { if (!empty($dec)) { $vars = explode(".",$dec); if (count($vars) == 2) { $deg = $vars[0];

16热度

3回答

正确使用std ::的cout.precision（） - 不打印尾部零

我看到浮点数的精度数很多的问题，但具体我想知道为什么这个代码 #include <iostream> #include <stdlib.h> int main() { int a = 5; int b = 10; std::cout.precision(4); std::cout << (float)a/(float)b << "\n"; r

0热度

1回答

使用整数运算的浮点加法

我正在编写用于在C++中使用整数加法枚举浮点加法和转换某些作业的代码。我已经搜索了这个主题，我可以通过调整指数然后添加来添加浮点数。问题是我无法找到合适的算法来舍入结果。现在我正在使用截断。它显示了0.000×幅度的错误。但是当我尝试将这个加法器用于像fft这样的复杂计算时，它显示出巨大的错误。所以我现在要找的是我的机器用于四舍五入浮点结果的确切算法。如果有人可以为此目的发布一些链接，那将是非常

2热度

2回答

如何从NSDictionary中

得到NSDecimalNumber我想设置的值Key1为10.00本身，而不是10 NSDictionary *dict = [NSDictionary dictionaryWithObjects:[NSArray arrayWithObjects: [NSDecimalNumber decimalNumberWithString:@"10.00"],

0热度

1回答

升压erf（）中的L（long）postfix：何时需要，何时不需要？

在报头<boost/math/special_functions/erf.hpp>升压实施erf function 我们有 result = z * 1.125 + z * 0.003379167095512573896158903121545171688L; 在下面所附的代码片段。我的问题是：为什么没有大号长期在这个另外的第一部分后缀，而有一个第二？它背后的基本原理是什么？它引入了什么影

14热度

1回答

是否可以在GHC/Haskell中使用扩展精度（80位）浮点运算？

标准Haskell的Double使用the standard double-precision arithmetic： data Double 双精度浮点数。希望这种类型至少与IEEE双精度类型的范围和精度相同。是否GHC /哈斯克尔报价也某处extended precision（80位）浮点数，可能使用一些外部库？