floating-accuracy

0热度

2回答

第一：我是一个MySql新手，它看起来像我在这里失去了重要的东西。在MySQL数据库中，我的float值范围从单位到数十亿。我花了几天试图理解为什么他们都表现出与设置为0不太显著的人不超过6显著数字：即： select `field` from `table`; (instead of X -> i get Y) 1 -> 1 12 -> 12 123 ->

3热度

1回答

在熊猫中使用read_csv时丢失的精度

我在文本文件中有以下格式的文件，我试图读入熊猫数据框。 895|2015-4-23|19|10000|LA|0.4677978806|0.4773469340|0.4089938425|0.8224291972|0.8652525793|0.6829942860|0.5139162227| 正如你可以看到有输入文件浮点后整数。 df = pd.read_csv('mockup.txt',hea

1热度

1回答

浮点数与Python中的记录值

我正在计算单词的相对频率（单词数/单词总数）。这导致了很多非常小的数字（例如，1.2551539760140076e-05）。我已经阅读了关于在这种情况下使用浮动的一些问题，例如在此article 浮子具有精度大约7个十进制数字... 一些建议使用记录值来代替。我将乘以这些数字，并想知道一般来说，是七位数规则的东西在Python中去？在我的情况下，我应该使用日志值吗？如果我不这么做会发生什么

1热度

1回答

浮点数范围

我在读“每个计算机科学家应该知道的关于浮点运算的知识”，并且遇到了一些我不明白的地方。本文认为，对于给定的B和E（基数和指数），归一化浮点数的最大值是B×B^E，最小值是B^E。我不明白它的最大部分。以B = 10 P = 3，E = 4为例。这个数字的最小值可以是1.00×10^4，等于10^4（B^E）。最大值为9.99×10^4，与B×B^E接近但不完全等于它。论文没有提及任何近似值，所以

-1热度

1回答

打印出一个非常小的浮点数

我有以下代码： float test = 1/(10^(15)); std::cout << "test: " << test << std::endl; 但我得到“测试：0”的数值。我想要“测试：0.000000000000001”。我该如何做到这一点？

2热度

1回答

'fmt.Println`如何在Go中使用？

有此代码 import ( "fmt" "math/big" ) func main() { var b1,b2,b3,bigSum big.Float b1.SetFloat64(25.3) b2.SetFloat64(76.2) b1.SetFloat64(53.1) bigSum.Add(&b1, &b2).Add

1热度

1回答

该算法会累加截断误差吗？

我打算编写一个允许网页评分系统的第三方脚本，但我只希望它嵌入的每个网页在数据库中占用一行（或者更准确地说是一个文档，因为我正在采用NoSQL路线）。我的评价伪看起来就像这样： function update(page, rate) { collection.get({ page: page }, function callback(err, doc) { i

1热度

2回答

在Scilab中输出时是否有显示超过25位数字的方法？

我正在使用Scilab 5.5.2，当使用format命令时，我最多可以显示25位数字。有没有办法以某种方式显示超过这个数字？注意：我理解“为什么我需要看到超过25位数字？”的任何疑虑。但是这应该是一个很长的故事，应该被排除在问题之外。

0热度

1回答

从正弦或反之亦然计算余弦的性能和精度

考虑一个直角三角形，其中您知道斜边和导管之一 - 让我们说一个与您感兴趣的角度α相反的直角三角形。值sin(alpha)可以作为 sin(alpha) = a/c, 容易地计算出与a是相反的直角和c斜边。我不知道相邻导管的长度b。计算cos(alpha)的速度和/或更准确的方法是什么？一种既可以使用 sin²(alpha) + cos²(alpha) = 1 => cos(alpha)

2热度

1回答

双浮点数不准确的来源

除了不能在二进制基数中表示0.1这样的十进制数，以及由非规格化浮点数设计的不准确性，使用双浮点数时是否还有其他不准确的来源？