1
A
回答
0
要理解这一点,您需要清楚地确定您正在谈论的是什么类型的准确性。它通常是衡量计算过程中出现的错误的一种度量,我怀疑你没有考虑仅以相关浮点格式进行计算。
这些都是回答您的问题:
- 的精度 - 在显著比特数表示 - 在大部分范围内的浮点数是恒定的。 (只适用于非正态数字,精度随着数字变小而降低。)
- 浮点运算的精度准确度通常受精度限制,因此在整个范围内通常是恒定的。看到前面的观点。
- 您可以将十进制数转换为二进制浮点数的准确性对于整数而言会高于对于具有小数分量的数字。这是因为整数可以表示为2的幂的倍数,而小数部分不能表示为2的负幂的倍数。 (典型的例子是0.1在二进制浮点中成为重复分数)。
最后一点的结果是,当您用科学记数法中的稍大的十进制数开始时,例如, 1.123 * 10^4,它们与整数具有相同的值,因此可以精确地转换为二进制浮点。
相关问题
- 1. 双精度浮点数和其他浮点数精度
- 2. 具体数字的浮点精度
- 3. 双精度和单精度浮点数?
- 4. 增加浮点数精度
- 5. 浮点精度
- 6. 从字符串分配到精度浮点数
- 7. BigQuery GROUP_CONCAT丢弃浮点数的精度
- 8. 从浮点数中减去的精度
- 9. 控制浮点数的精度在MATLAB
- 10. 定义浮点数的精度在Python
- 11. 限制JavaScript中的浮点数精度
- 12. Swift中的高精度浮点数
- 13. 指定浮点数精度的NSString
- 14. python中精度浮点数的丢失
- 15. c中的浮点数和双精度#
- 16. 任意精度JavaScript上的浮点数
- 17. Haskell中的高精度浮点数?
- 18. Python数组中的浮点精度
- 19. 单精度大端浮点值到Python浮点数(双精度,大端)
- 20. 从单精度浮点表示转换为半精度浮点数
- 21. 双精度浮点数如何转换为单精度浮点格式?
- 22. 在Swift中将半精度浮点数(字节)转换为浮点数
- 23. 范围缩减精度不高的单精度浮点数
- 24. 标准双精度IEEE浮点数有多少位的精度?
- 25. 与浮点精度
- 26. C++浮点精度
- 27. C#浮点精度
- 28. haskell浮点精度
- 29. XMLSerialization浮点精度
- 30. 浮点数,精度,秒差距