underflow

    4热度

    1回答

    为什么10^-65平方的NSDecimalNumber会导致10^126而不是导致下溢异常？

    因此，这里的代码： NSDecimalNumber *test=[[NSDecimalNumber alloc] initWithInt:65]; number3=[[NSDecimalNumber one] decimalNumberByDividingBy:[[[NSDecimalNumber alloc] initWithInt:10] decimalNumberByRaisingToPo
    iphone objective-c floating-point nsdecimalnumber underflow 2013-01-09

    0热度

    2回答

    堆栈由指针在C工作，除了在堆栈下溢

    我通过使用指针实现堆栈。它正在编译和工作，但是当堆栈为空时它不会下溢。它给了我一些垃圾价值。我认为这个问题是create_stack函数中的问题。无论从堆栈中弹出多少数据都是奇怪的，我都不会收到段错误。 任何人都可以帮忙吗？ 这里是我通过指针堆栈的完整实现。 #include<assert.h> #include<stdio.h> #include<stdlib.h> enum actio
    c pointers stack underflow stackunderflow 2013-07-31

    1热度

    1回答

    当计算结果为非正规数在Linux中Flush to Zero

    我的C代码中的计算产生了一个渐变下溢，当它发生时程序以SIGFPE结束。当一个渐进下溢（Denormal）结果来自一个计算，并且不终止执行时，我怎样才能将结果清零？ （我正在使用redhat linux机器）。谢谢。
    floating-point ieee-754 underflow 2013-07-31

    10热度

    2回答

    Javascript处理整数溢出和下溢吗？如果是，如何？

    我们知道Java does not handle underflows and overflows，但Javascript如何处理整数？ 是否回到最小值/最大值？如果是，哪个最小/最大？ 我需要分割一个字符串并根据其字符计算散列值。
    javascript integer overflow underflow 2013-09-27

    2热度

    1回答

    在什么时候我应该担心numpy值下溢？

    我正在用Python numpy进行计算。这是一个由此产生的numpy数组： [ 5.15054786e-11 5.15251385e-11 5.15262922e-11 ..., 5.21100674e-11 5.21097550e-11 5.21088179e-11] 这些都很小。在我的计算中，我应该担心什么时候出现下溢？这些需要非常精确。是否有值得担心的明确值范围，或者可能是指出这个值
    python numpy underflow 2016-01-21

    -2热度

    1回答

    在C++中增加/减少字节（字符）与上溢/下溢

    在考虑上溢和下溢的同时在C++中递增/递减字节的最佳方法是什么？例如，我有： char c = random byte; c += 0xB; 在情况c < = 0xF4中，这将很好地工作，但上述的任何值将导致溢出。同样，如果它是c - = 0xB;并且0xB，则会发生下溢。 比方说c = 0xFF，加法之后，它会是0xA吗？同样在下溢时，如果c = 0，结果是0xF5吗？ 此外，对于一些奇怪
    c++ byte overflow increment underflow 2015-02-09

    0热度

    1回答

    C++在将字符串提取到标量时处理上溢/下溢

    从字符串提取数据到标量（char，short，int ...）时，我怎么能容易地知道我想获取的值是否超出类型限制？ unsigned char function(void) { std::string str = "259"; std::ostringstream os(str); unsigned char scalar; // could also be
    c++ overflow text-extraction scalar underflow 2014-02-27

    2热度

    3回答

    透明标题飞越主分区

    我一直在寻找这个问题的答案遍布interwebs，但我只是找不到答案..我有一个透明的标题填充背景图像是相同的我的背景，我希望我的主要div在它下面滚动，以便文本隐藏。下面是HTML： <body> <div class="wrapper"> <div class="top"> <!-- This is my header --> </div> <
    html css header transparent underflow 2013-03-16

    4热度

    2回答

    如何处理浮点下溢？

    我想了解C++数值属性。因此，我对底流现象感兴趣。任何人都可以给我一个下溢的例子，以及如何处理它？
    c++ floating-point underflow 2013-07-12

    0热度

    1回答

    错误：值超出范围：下溢

    有谁知道如何解决Postgres中的以下错误？ ERROR: value out of range: underflow CONTEXT: PL/pgSQL function pgnumerics.poisspdf(double precision,double precision) line 1 at assignment PL/pgSQL function pgnumerics.poisscd
    postgresql underflow 2016-02-12
最新问题