integer-overflow

    0热度

    1回答

    Swift：覆盖NSObject散列没有溢出崩溃

    使用Swift 3，我有一些NSObject的子类，我重写了hash属性和isEqual()函数。 （我希望这些类可以用作字典中的键，并且我希望能够对它们进行排序，但是为什么我会覆盖它们并不重要）。 回想我的旧C++/Java时代，我回忆说，一个“正确”散列涉及素数和对象属性的哈希。 Thesequestions谈论这种风格。就像这样： override public var hash: Int
    swift hash integer-overflow 2016-11-09

    0热度

    2回答

    在Java

    使用什么数据类型40个整数例如 第一数量= 123456 ..... 40位 第二数量= 123456 ..... 40digits 然后我需要存储号码 third = first * second; 之后，我需要打印第三，再次我要像 fourth = third * third; 执行操作 并列印第四位。那么，我该如何处理那些需要使用的数据类型的长整数？
    java integer-overflow 2016-12-30

    0热度

    1回答

    Swift 3 uint64在尝试分配64位整数时溢出

    我试图在Swift中实现位板，并试图将一个64位整数存储到UInt64中，并发生溢出错误。 var white_queen_bb:uint64 = 0001000000000000000000000000000000000000000000000000000000000000 as UInt64; Integer Literal '1000000000000000000000000000000
    swift xcode chess integer-overflow bitboard 2016-11-15

    -3热度

    1回答

    在C中实现/实施环绕算术运算C

    C标准规定算术中的溢出未定义。 我想知道如何以性能友好的方式实现环绕算法。这意味着像here这样的溢出检查解决方案不是一种选择（因为它们使操作减慢了大约一个数量级）。 我认为解决方案将涉及编写汇编例程来执行此操作。有没有可用的库（尽管对于多架构，尽管x86是必须的）。 或者，是否有一个编译器标志（gcc & clang）使编译器强制执行整数算术的环绕语义？
    c integer-overflow integer-arithmetic 2016-11-21

    4热度

    3回答

    当>>运算符试图输入一个大于变量的值时，会发生什么情况？

    我从文本文件中拉出数字并用它们填充int类型的数组。 我插入值到阵列，同时通过与这些代码行（其中，k是数字的.txt文件的量）的.txt文件循环： for (int j = 0; j < k; j++) inputFile >> tab[j]; 当数字在文本文件中小于2,147,483,647这是一个整数类型的最大尺寸一切顺利。 当这个数字大于这个数字时，我假定程序溢出并且未能插入它
    c++ arrays ifstream integer-overflow 2017-01-12

    3热度

    3回答

    分配参数类型对整数溢出的影响

    我在以下方案中难以理解java的行为。例如，我有一个乘法方法，它只是乘以两个int值并将结果输出到屏幕上。 private static void multiply() { int firstValue = Integer.MAX_VALUE; int secondValue = 2; //double secondValue=2 double resul
    java integer-overflow 2016-10-08

    0热度

    1回答

    MIPS溢出异常

    我已阅读了一些有关MIPS签名和未签名添加的溢出异常的帖子，但它对我仍然不清楚。 1）溢出异常是什么意思？它是什么时候发生的？ 2）什么时候忽略无符号加法溢出？ 假设我有两个数字，让我们开始与签约4位，然后去4位无符号 Signed negative addition 1010 -6 + 1101 -3 ------ 1 0111 +7 with a carry(over
    mips add signed integer-overflow 2016-10-10

    1热度

    1回答

    打印大号

    我目前在做朗朗教程，“数字常量”是精确的。示例代码开始用下面的语句： const ( // Create a huge number by shifting a 1 bit left 100 places. // In other words, the binary number that is 1 followed by 100 zeroes. Big = 1 <<
    go biginteger integer-overflow 2016-10-10

    0热度

    1回答

    的JavaScript整数溢出解决方法

    我需要与JS大量进行算术运算，它是这种特殊情况下： (1827116622/6) * 251772294 预期的结果是76669557221078478，但我得到76669557221078460因为整数溢出的。 该环境不允许包含任何库。有没有一种解决方法来处理这样的计算？ 为什么我这样做：我试图找到使用下面的公式，这些数字是最常见的乘数： LCM（，）·GCD（，）=·其中LCM是最常见的乘
    javascript integer integer-overflow greatest-common-divisor lcm 2016-08-25

    0热度

    1回答

    在JavaScript中有一个大整数加法的问题

    我只是做一个非常简单的程序来将二进制数转换为十进制数，反之亦然。在做十进制到二进制转换时，我意识到当我尝试向一个非常大的数字添加一个小数字时，我正在运行一个奇怪的错误。例如，我会给我的程序输入220002作为一个小数，它会将该数字转换为二进制数字110101101101100020.在调试时，我最终意识到它做了110101101101100000 + 10，结果是11010110110110002
    javascript jquery floating-point precision integer-overflow 2016-12-17
最新问题