2011-01-22 27 views

回答

8

它是在IEEE单精度浮点数格式固有的舍入误差。

CL-USER> (exp 1.0d0) 
2.718281828459045d0 
3

详细了解浮点运算,并在这个经典论文的“问题”(PDF):

What Every Computer Scientist Should Know About Floating-Point Arithmetic

+0

我认为Oracle最近(自1月23日我猜的)移动的一堆东西到一个新的CMS ...无论如何,这是我发现的另一个链接,当它发生:http://www-users.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf – spacemanaki 2011-01-28 15:43:02