integer-overflow

    1热度

    1回答

    Python中的整数溢出吗？

    在像Java这样的语言中，一旦整数值大于Integer.MAX_VALUE或小于Integer.MIN_VALUE时，整数值就会溢出。我已经看过使用Long数据类型被建议用来替代int数据类型的帖子。 Python中的整数是否会溢出？ 如果有，请列出这些情况。
    python max min integer-overflow 2016-08-23

    0热度

    1回答

    我应该用C中的十六进制数字格式来执行算术吗？

    我有一个关于有符号数和十六进制数的问题，以及它们在C中的算术用法。根据我的理解，有符号数通常可以存储比未经签名的数更小的数。 例如，长度为32位的有符号整数的最大值为2,147,483,647;而一个无符号的32位整数的范围可达4,294,967,295。 看来，这些数字溢出的值时，执行另外的可能的最高值： printf("My integer: %i\n", 2147483647 + 1);
    c hex integer-overflow twos-complement 2016-07-07

    0热度

    1回答

    如果什么reduceByKey（ - + - ）的结果超出INT范围

    我试图做星火一个简单的MR工作，这里是代码： val testRDD = someRDD.map((_, 1)).reduceByKey(_+_) 在地图阶段，价值为int ，如果在减少阶段，该值太大而超出Int范围？我可以这样做 val testRDD = someRDD.map((_, 1.toLong)).reduceByKey(_+_) 但是有没有更好的想法？
    scala apache-spark mapreduce reduce integer-overflow 2016-07-07

    4热度

    2回答

    符号整数溢出行为

    当与理论计算结果大于Int32.MaxValue我可以对溢出值始终为负算加两个正Int32值？ 我的意思是这样做的一种方式来检查溢出而不使用检查的上下文和异常处理（如在此建议：http://sandbox.mc.edu/~bennet/cs110/tc/orules.html），但是这种行为是否允许？ 从我迄今为止读到的是C＃定义的行为（Is C#/.NET signed integer over
    c# integer-overflow 2016-07-21

    0热度

    2回答

    整数运算无溢出检查

    您好我只是跑在我的代码的静态代码分析，我不断收到错误 “整数运算无溢出检查” 有人可以帮助我解决这个或者告诉我究竟是什么意思。我已经尝试使用检查关键字来解决这个问题，但是当我运行代码时它仍然出现。 List<String> emailList = new List<string>(); if (tbRecipients.Text.Contains(',')) { string[]
    c# asp.net ascx integer-overflow secure-coding 2016-06-08

    0热度

    1回答

    如何解决r中的整数溢出？

    我创建了1000行1000列的矩阵（matA），我想计算这个矩阵的幂。它可以很好地计算矩阵的3次方。但是，当我问来计算它的4次方，它给出了一个警告消息说， “在马塔马塔* * *马塔马塔：来港的整数溢出产生的” 我怎样才能解决这个问题呢？
    r matrix integer-overflow 2016-07-28

    2热度

    2回答

    C++中的“Int”乘法与“long long”结果

    我正在试图找到int的平方。我的代码看起来像下面： long long sqr=0; int num=77778; sqr= num*num; 结果应该是6049417284 但是，当我检查输出它显示1754449988。 我在做什么错误？ long long应该能够存储结果，但为什么我会得到不同的值？
    c++ multiplication integer-overflow long-long 2016-06-10

    3热度

    4回答

    差异化的两个大数C＃

    已经有解决这个问题的解决方案小数目： 这里：Difference between 2 numbers 这里：C# function to find the delta of two numbers 这里：How can I find the difference between 2 values in C#? 我总结回答他们全部： Math.Abs(a - b) 问题是当数字很大时这给出了错误
    c# math difference integer-overflow 2016-08-01

    -1热度

    1回答

    C程序是随机改变int值的

    我真的很困惑。我有一个C服务器，它工作得很好，但后来我添加了一些代码，我认为它工作正常，直到我的C程序随机开始将int值更改为负值。 基本上我有我的服务器输出总字节发送和中途通过传输，总是在2100000000字节左右，总字节变成负值。这是我的输出文件的一个例子。如果你看我的代码，这个值不能只是负面的。所以我怀疑这是一件很奇怪的事情。 "345000","1470253912","59203","
    c server flush integer-overflow 2016-08-03

    -1热度

    2回答

    十六进制数字代码可以很好地处理小数字，但大数字会产生错误

    以下代码将hex string转换为numeric的值，并且它适用于较小的十六进制数，例如1f。但是，它不适用于大数字，如"000000000000000117c80378b8da0e33559b5997f2ad55e2f7d18ec1975b9717"，因为int32不能有那么大/小的数字。但是应该有另一种绕过这些限制的方法吗？有人可以在这里说一些光，或者欢迎任何搜索关键字搜索谷歌等，因为我找不
    .net vb.net hex integer-overflow 2016-06-22
最新问题