floating-accuracy

    7热度

    1回答

    我可以使用pandas.dataframe.isin（）和数值公差参数吗？

    我事先回顾了以下文章。有没有办法使用DataFrame.isin（）的近似因子或容差值？还是有另一种方法可以？ Filter dataframe rows if value in column is in a set list of values use a list of values to select rows from a pandas dataframe EX） df = DataFra
    python pandas comparison floating-accuracy comparison-operators 2016-09-20

    0热度

    1回答

    计算浮点数上的精确值的最大位数

    根据维基百科，只要有少于7位有效数字，单精度浮点数就保持精确。有没有一个公式来找到这个有效数字的最大数量？ 例如： 关于使用符号位，7位，超过63指数，8位小数和2次幂求幂的浮点格式的精度有多少个小数位？
    floating-point floating-accuracy 2016-11-15

    0热度

    1回答

    如何确保页眉浮动与水平页面扩展？

    如何获得 新闻 拓展水平与页面，而不是停留剩下什么？ <!doctype html> <html> <head> <title>Technology - BBC News</title> <style type="text/css"> #topbar { width: 1050px; margin: 0 auto; height: 40px; }
    html css margin floating-accuracy 2016-11-16

    0热度

    1回答

    对于N大的错误结果代码。Common Lisp

    下面的代码给出了错误的答案。它应该给出大约0.5，这是一个数组的平均值，其中有许多随机数在0和1之间。我认为问题是因为N是“大”，或者是生成的随机数的精度？该代码适用于较小的N值（10^7,10^6等）。一些建议将会有所帮助。 预先感谢您。 (defun randvec(n) (let ((arr (make-array n))) (dotimes (i n)
    common-lisp precision floating-accuracy 2016-11-18

    4热度

    1回答

    缩放互补误差函数的精确计算，erfcx（）

    的（呈指数）缩放互补误差函数，通过erfcx通常被指定，在数学上被定义为erfcx（X）：= E X ERFC（x）的。它经常发生在物理学和化学的扩散问题中。尽管一些数学环境（如MATLAB和GNU Octave）提供此功能，但它不在C标准数学库中，它仅提供erf()和erfc()。 虽然有可能实现自己erfcx()直接基于数学定义，在一个有限的输入域这只作品，因为在正半平面erfc()下溢中等大
    c math floating-point floating-accuracy 2016-09-29

    0热度

    2回答

    为什么在Python 3.5中轮换（4.5）== 4和round（5.5）== 6？

    看起来像两个4.5和5.5都确切漂浮在Python 3.5表示： >>> from decimal import Decimal >>> Decimal(4.5) Decimal('4.5') >>> Decimal(5.5) Decimal('5.5') 如果是这样的话，那么为什么 >>> round(4.5) 4 >>> round(5.5) 6 ？
    python floating-point floating-accuracy 2016-10-04

    1热度

    3回答

    如何精确打印浮点数或双精度型变量的小数位数至100位？

    假设有两个数字22和7我想打印到第100位小数的答案，应该像3.1428571428571428571428571的....而试图用 cout << setprecision(100) << fixed << (22.0/7.0); 我得到这样的事情3.142857142857142793701541449991054832935333251953125。 ......
    c++ floating-point double floating-accuracy 2016-10-11

    -3热度

    1回答

    将INT8，INT64，UINT8 ... UINT64，float，double转换为WCHAR *

    我使用C/C++，是否有任何窗口函数或任何非常快速的方法将标题中的任何类型转换为const WCHAR *？ 因此，我有一个大案例，在我需要将数据转换为WCHAR *的某个分支后，检查我的数据是什么类型。 因此，例如，如果我有 21，我希望它是L“21”。 32.322 => L“32.322” 等 我可以手动做，但我更喜欢它，如果有一些更快的方法！这些转换似乎在一些较低级别上发生了很多。 谢谢！
    c++ converter floating-accuracy wchar uint 2016-11-30

    -2热度

    2回答

    两个版本的派生计算之间的精度差是多少？

    以下是Python代码，旨在计算给定函数f的导数。 版本一个（解决方案） x[ix] += h # increment by h fxh = f(x) # evalute f(x + h) x[ix] -= 2 * h fxnh = f(x) x[ix] += h numgrad = (fxh - fxnh)/2/h 版本二（我的版本） fx = f(x) # evalute f(x
    python algorithm floating-accuracy 2016-12-03

    -1热度

    1回答

    与all.equal合并

    我有两个数据框我想合并基于数值，但我有浮点精度的问题。就拿两个data.frames以下为例： > df1 <- data.frame(number = 0.1 + seq(0.01,0.1,0.01), letters = letters[1:10]) > df2 <- data.frame(number = seq(0.11,0.2,0.01), LETTERS = LETTERS[1:10
    r merge floating-accuracy 2016-10-21
最新问题