underflow

    14热度

    2回答

    何时发生下溢？

    我进入计算1.77e-308/10触发下溢异常但计算1.777e-308/10没有的情况。这很奇怪，因为： 当浮点 操作的真实结果是 在幅值较小的（即，接近零）比 最小值表示为一个正常浮点数发生下溢目标数据类型（从算术下溢，维基百科） 换句话说，如果我们计算x/y其中两个x和y是double，则应该溢如果发生0 < |x/y| < 2.2251e-308（最小的正归一化double是2.2251e
    c floating-point underflow floating-point-exceptions 2017-02-16

    2热度

    1回答

    C++久长整型溢/下溢

    我正在做一个小程序，解决基本的数学运算（*，/，+，-）和我使用long long int（64位数字），所以我可以做很大的数学运算数字。 但有一个问题。我可以检查操作数是否超出限制（使用LONG_LONG_MAX和LONG_LONG_MIN）。 但是，当我（例如）乘以两个非常大的数字（导致long long int溢出）LONG_LONG_MAX检查不起作用。相反，结果是-4。 C/C++检查有
    c++ c math overflow underflow 2017-04-08

    4热度

    2回答

    如何避免多重实数时出现下溢？

    我想知道是否有乘之有道或方形浮筒（或双）数字相加，而无需溢错误，当我编译像 gfortran -ffpe-trap=invalid,zero,overflow,underflow ... 我Fortran代码我知道underflow选项不总是一个好主意，但我想知道是否可以用这个选项进行乘法运算。事实上，在下面的例子中，我知道可能发生下溢，但也许我不知道我的代码中存在其他情况。这就是为什么我想保
    floating-point fortran underflow 2017-04-11

    0热度

    1回答

    张量流缓冲区不足和资源可用错误

    我在高中，我正在尝试执行一个涉及神经网络的项目。我正在使用Ubuntu并尝试使用tensorflow进行强化学习，但是当我训练神经网络时，我总是会收到很多欠载警告。它们采用ALSA lib pcm.c:7963:(snd_pcm_recover) underrun occurred的形式。随着培训的进行，此消息将越来越频繁地显示在屏幕上。最终，我得到一个ResourceExhaustedError
    python-2.7 tensorflow out-of-memory deep-learning underflow 2017-01-06

    0热度

    1回答

    Python：是否pandas.DataFrame.comprod（）和numpy.comprod（）处理数字下溢？

    具体来说，pandas和numpy中的这些累积产品函数是否以强大的方式实现，以便在将很多小数相乘时处理下溢？例如，他们是否使用log-sum-exp技巧？ 谢谢。
    python pandas numpy floating-point underflow 2017-04-19

    0热度

    1回答

    极小数的可能性

    我有一个大范围的可能性向量，范围在（0到1）范围内，但所有的数都比1稍小。我需要计算这些向量乘积的最大似然。 我该如何避免下溢，我的钳工在所有尝试中都失败了。我采取的第一步是将数组除以数组中的最大值。 我最大限度地采样两个概率n次的总和的产品，最终，我需要尽量减少为每BIC： BIC = -2. * ln(L) + 5n_theta(nz) 不管怎么说L的形式是非常小的数字阵列 L = pro
    python numpy data-fitting underflow 2017-04-21

    2热度

    3回答

    误差一般堆栈类（最好像有溢投入做）

    下面的代码 import java.util.EmptyStackException; public class MyGenericStack<Item> implements MyGenericStackInterface<Item> { private java.util.ArrayList<Item> list = new java.util.ArrayList<Item>();
    java arrays stack underflow 2016-03-20

    2热度

    1回答

    C语言中的浮点下溢

    我正在解决处理float下溢的C Primer Plus练习之一。任务是模拟它。我就是这么做的： #include<stdio.h> #include<float.h> int main(void) { // print min value for a positive float retaining full precision printf("%s\n %.150f
    c underflow 2016-05-12

    1热度

    1回答

    通过在日志空间中工作避免下溢，您如何评估总和？

    我正在使用线性插值，我必须计算： p' = \lambda_1*p_1 + \lambda_2*p_2 + \lambda_3*p_3。 但是，p_1，p_2和p_3是联合概率，因此不能表示为由于下溢引起的浮点数。所以我在日志空间工作，服用log2(p_1),log2(p_2)和log2(p_3)。 鉴于概率的对数，我不太确定如何计算p'或log2(p')。如有必要，我也可以计算log2(p_1*
    logarithm scientific-computing underflow 2016-04-05

    0热度

    1回答

    C++下溢的例子？

    我目前采取的介绍C++类和教授给了我们下面的例子： unsigned int TEST = -1; cout << TEST; 现在，他的机器上，测试返回为一个整数的最大值，因为他被迫下溢。但在我的机器上，它返回为0. 这是行为编译器依赖或任何东西？换句话说，为什么我的机器返回0，但他的机器返回最大值？
    c++ underflow 2017-01-30
最新问题