integer-overflow

    1热度

    1回答

    VBA - 如何在VBA“龙”的工作 - 玩owerflow

    所以我知道在Excel VBA中，Long范围-2,147,483,648 to 2,147,483,647 我与文件大小的处理和溢出现在尝试，我想知道究竟是什么当我溢出范围时发生。 所以在代码中我要求以FileLen函数为单位的文件大小。 如果文件大于2,147,483,647 bytes，我将得到的消息将为负值。我认为这是因为该函数将从负值开始使用，因为它用完了正值。 有趣的是，当我跑了一些较
    vba excel-vba integer-overflow 2015-10-17

    1热度

    2回答

    openCL Long溢出

    在我开始之前，我是一名C初学者，我正在尝试做一些可能是错误的openCL工作。下面是我的内核代码： __kernel void collatz(__global int* in, __global int* out) { uint id = get_global_id(0); unsigned long n = (unsigned long)id; uint cou
    opencl integer-overflow 2015-11-04

    -1热度

    1回答

    无符号整数溢出不会“环绕”

    我读以下从Integer Overflow Wiki行： 而无符号整数溢出导致数目减少模 二的幂，即无符号整数“环绕”在 溢出。 我有下面的代码，我试图创建一个哈希函数并得到int溢出情况。我试图通过使用unsigned int来缓解它，但它不起作用，我能看到负面的价值。 ，我知道我能应付其他的方式和它的作品，如在我的代码注释 - Comment 2:。但它是正确的方式，为什么unsigned i
    c printf integer-overflow 2016-02-16

    8热度

    1回答

    在Go中检测带符号的int溢出

    我在构建一个Lisp，我想要32位整数自动切换到64位整数，如果计算会导致它们溢出。同样，对于64位溢出，切换到任意大小的整数。 我遇到的问题是我不知道“正确”的方法是检测整数溢出。 a, b := 2147483647, 2147483647 c := a + b 如何有效检查c是否溢出？ 我已经考虑过总是转换为64位值来进行计算，然后在可能的情况下再次缩小尺寸，但是对于像基本算术一样原始
    go integer-overflow 2015-11-10

    0热度

    1回答

    溢出

    如果我正在计算[x *（a^b）％mod + y％mod]％mod，如果我只是使用（a^b）％mod，会用x乘以给出正确的答案？不会计算（x *（a^b））％mod是否更好？试图为自己辩解为什么不包括x作品。 可以做些什么？
    c++ modulus integer-overflow exponent 2016-01-01

    0热度

    1回答

    基于阵列的排队锁定 - 尾部溢出

    我正在就我的大学给出的有关实施基于阵列的排队锁定的练习开展工作。 我的问题是：如果tail变量负责给每个等待线程各自的位置溢出会发生什么？我不是指在数组的大小上增长的tail变量，我说的是整数溢出。 使用mod，只要尾部没有溢出，就可以找到线程在阵列中必须具有的正确位置。一旦它溢出了，使用mod就可能指向一个已经被占用的位置，或者它可能导致在前一个tail元素未被使用之后离开下一个位置，从而使得线
    arrays locking queue tail integer-overflow 2016-01-06

    2热度

    1回答

    捕获FreePascal中的整数溢出异常

    我正在尝试这个简单的程序来捕获异常。 除零异常成功捕获。但是，我似乎无法赶上整数溢出。 我明白，一个SMALLINT类型整数会32767后溢出，因为最大符号值= 2^15 - 1（即，32767）。 下面的代码： Program ss; Var Price, Qty: SmallInt; Rate: Real; Begin Try write('
    exception-handling pascal freepascal integer-overflow 2016-01-07

    3热度

    1回答

    Golang：通用int溢出

    我使用散列函数murmur2，它返回。 我想然后将它存储在PostgreSQL中，它只支持BIGINT（有符号64位）。因为我对数字本身并不感兴趣，但只是二进制值（因为我用它作为检测唯一性的标识符（我的值集是〜1000个值，64位散列对我来说就足够了）我想用“只是”改变类型将其转换成int64 怎样才能做到这一点在取悦编译器的方式
    go type-conversion integer-overflow 2016-01-10

    8热度

    1回答

    C＃UINT到USHORT溢出像在本地C

    我有以下的片的示例代码： UInt16 a = 0x3A; UInt16 b = 0xFFDF; UInt16 result = Convert.ToUInt16(a - b); 线3个误差随溢出异常。但是，我想要达到相同的结果，就像我会减去C中的2个无符号短裤并且它们超过/下溢。 什么是最合适的方式来实现这一目标？
    c# integer-overflow 2016-01-11

    5热度

    1回答

    如何在启用溢出检查的情况下编译并运行优化的Rust程序

    我在编写一个计算量很大的程序，在调试模式下运行速度很慢。 我的程序也是由整数溢出的困扰，因为我从u8阵列读取数据和u8类型通过类型推断蔓延到意想不到的地方，而锈喜欢溢出而不是促进整数更大的类型。在释放模式 大厦禁用溢出检查： cargo run --release 如何建立与优化和运行时溢出检查锈可执行启用呢？
    rust compiler-optimization integer-overflow 2015-12-02
最新问题