0
我正在使用ruby 2.3.0p0。Ruby浮点加法错误
我一直在尝试红宝石使用2个浮点数做简单的加法
irb(main):001:0> 1.50 + 14.99
=> 16.490000000000002
期望的结果应该是16.49
而不是16.490000000000002
a = 1.5
b = 14.99
c = a + b
我怎么能解决了这个问题,让我可以得到16.49
变量c
干杯。
[每个计算机科学家应该知道的浮点算术](http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html) –
嗯,我想我已经解决了它一种可能不那么优雅的方式。要求'大大小小'; (BigDecimal('1.5')+ BigDecimal('14 .99'))。to_f。干杯。 –