integer-overflow

    1热度

    4回答

    三角：确定是否阵列包括三角形三重峰（Codility）

    这是从Codility三角问题： 一个零索引的数组A由N个整数的中给出。 甲三重峰（P，Q，R）是三角形的，如果0≤P < Q <ř< N和： A [P] + A [Q]> A [R]， A [Q] + A [P]，A [P]， A [R] + A [P]> A [Q]。 写功能： int solution(vector<int> &A); 如果存在用于此阵列的三角形三元组，并返回0，否则 ，
    c++ algorithm math integer-overflow 2017-07-04

    0热度

    1回答

    SQL模式是NO_UNSIGNED_SUBTRACTION，但仍然超出范围错误

    将客户端从MySQL 5.4升级到5.7后，我开始收到“BIGINT UNSIGNED值超出范围...”错误。我编辑了my.cnf并设置了sql_mode =“NO_UNSIGNED_SUBTRACTION”，并使用了SHOW VARIABLES来确保它确实使用了该模式。这的确在应用程序，但今天一个unsigned int的列抛出同样的错误修复最初的问题（顺便说一句库存2）... UPDATE t
    mysql integer-overflow unsigned-integer 2017-08-29

    1热度

    1回答

    规则或触发器会导致意外的溢出错误

    我有一个场景，我需要某个触发器来触发表中的所有行。 据我所知，最简单的方法是执行一个愚蠢的更新，定义为一个完全不会改变数据的更新，然后执行。一个简单的例子是这样的一个： update PFUNC set CODCOLIGADA = CODCOLIGADA 这一直工作正常，到现在为止，但是，我们插入到这一点我有一个非常奇怪的错误一个新的生产数据库，执行上面的例子： The conversion
    sql-server triggers rule integer-overflow 2017-07-19

    -1热度

    1回答

    浮点溢出为负

    我们知道有符号的整数可以有整数溢出，例如，符号位从0翻转为1，导致正整数变为负数。 浮点数可以发生吗？在实验中，当数字太大时，它就变成Inf。但是不可能溢出尾数或指数，导致类似的问题？
    floating-point numbers precision floating-accuracy integer-overflow 2017-09-09

    0热度

    1回答

    整数溢出/下溢

    我正在学习整数溢出和下溢，并想知道是否有可能通过给出负输入n来控制j的值？ int i = n; size_t j = i; printf("%lu",j); 例如，如果我想“J”的数值是255，是有可能工艺的负数“n”来给我输出？
    c integer-overflow unsigned-integer 2017-09-20

    2热度

    1回答

    在c中包含整数的部分

    我一直在用c编程一段时间。但从来没有使用整数环绕的程序。我知道如果整数分配4个字节，那么整数范围变为-2,147,483,648至2,147,483,647。如果我们超过了限制，它只是环绕一下。 我正在使用下面的程序来了解如何环绕发生。 #include <stdio.h> int main() { int n = 4, s = 2; for (int i = 0; i < n; ++i
    c integer-overflow 2017-08-03

    0热度

    3回答

    为什么两个正整数的乘积是负整数？

    这学期我参加了系统proramming课程。 为什么50000 * 50000会消极？ 我试图理解这个逻辑。 这里是幻灯片的屏幕截图 slide image
    integer-overflow systems-programming 2017-09-28

    0热度

    1回答

    即使在使用十进制模块后，存储bernoulli数字是给python溢出错误

    我想在python中的字典中存储前1000个bernoulli数字。起初，我只是保存了原来的数字。所以我得到了一个溢出错误。现在经过以前的答案，我想到了使用十进制模块。 所以这里 -5218507479961513801890596392421261361036935624312258325065379143295948300812040703848766095836974598734762472
    python integer decimal integer-overflow bernoulli-numbers 2017-11-18

    9热度

    3回答

    为什么在下面的程序中会发生溢出？

    void main() { int i; if (i < 0) { i = -i; }; } 任何人都可以帮助我理解为什么在上面的程序中可能发生溢出吗？
    c integer integer-overflow 2017-08-12

    3热度

    2回答

    智能的方式来做近似int溢出计算

    有没有什么聪明的方法来解决这个问题？ uint32_t a = 16637510; uint32_t b = 45627362; uint32_t c = 0; c = a * 100000/b //overflows c = (a * 100/b)*1000 //gives 36000 我需要得到结果c = 36463或更好36464.并且需要快速，非浮动操作。 CPU是STM32F
    c integer-overflow 2017-07-06
最新问题