双倍字节类型转换错误

通过数学运算执行从byte到double的转换时，我得到了预期的结果。只要我保持double类型，执行相同的数学运算以逆转数值的变化，结果为正确的值。但是，当在端部余转换double结果反馈给byte值转换结果是由1双倍字节类型转换错误

不正确这仅仅是为了某些byte值的情况。

确切的过程：

byte b = 82;     Console.WriteLine(b); // initial byte value 
double d = (b/100.0) + 2.00; Console.WriteLine(d); // 82/100 -> 0.82 + 2.00 -> 2.82 OK 
double dt = d - 2.00;   Console.WriteLine(dt); // 2.82 - 2.0 -> 0.82    OK 
double db = dt * 100.0;   Console.WriteLine(db); // 0.82 * 100 -> 82 (double)  OK 
byte dbb = (byte)db;   Console.WriteLine(dbb); // (byte)82 -> 81 ERROR ERROR ERROR 
b = Byte.Parse(db.ToString()); Console.WriteLine(b); // 82 -> "82" and to byte   OK

为什么它是怎么回事？ double结果在逗号后没有任何值。

来源

2016-11-18 gabr

如果您调试代码，你会看到正在发生的事情：

double d = (b/100.0) + 2.00; Console.WriteLine(d)// => d = 2.82 
double dt = d - 2.00; Console.WriteLine(dt) // => dt = 0.81999999999999984 
double db = dt * 100.0; Console.WriteLine(db) // => db = 81.999999999999986 
byte dbb = (byte)db; Console.WriteLine(dbb) //=> dbb = 81, because Byte is cut off after the ","

如果您使用的小数代替双它会工作了。

参见：https://stackoverflow.com/questions/2741903/c-sharp-4-double-minus-double-giving-precision-problems

为了让完整：

decimal d = (b/100.0m) + 2.00m; Console.WriteLine(d); 
decimal dt = d - 2.00m; Console.WriteLine(dt); 
decimal db = dt * (decimal)100.0; Console.WriteLine(db); 
byte dbb = (byte)db; Console.WriteLine(dbb);

您可以投（十进制），或使用 “M” 背后的价值。

来源

2016-11-18 09:48:04 TripleEEE

我给你一个链接到另一个话题在stackoverflow - 这将解释它更详细一点 - 十进制将解决你的问题 – TripleEEE

而不是byte dbb = (byte)db;使用与byte dbb = (byte)Math.Round(db);的明确舍入。

来源

2016-11-18 09:56:51

双倍字节类型转换错误

回答

相关问题