我有有一些复杂的数学运算导致的结果极少量像0.000028等应用程序现在,如果我在JavaScript执行一些计算像(1073741824分之29631)它给我导致如0.000027596019208431244而在用数据类型float蟒相同的计算给我0.0。我怎样才能提高小数点的Python中获取高达Python中的精度n个小数点结果
0
A
回答
5
的问题不是缺少小数点,这是在Python 2整数除法产生一个整数结果。这意味着,1073741824分之29631收益0而不是浮动你期望。要解决这个问题,你可以使用一个浮动的操作数:
>>> 29631.0/1073741824
2.7596019208431244e-05
这changed in Python 3,其中除法运算做意料之中的事情。您可以使用from __future__
进口turn on the new behavior in Python 2:
>>> from __future__ import division
>>> 29631/1073741824
2.7596019208431244e-05
-1
如果你正在使用Python 3.x的结果的数量,你应该试试这个:
print(str(float(29631)/1073741824))
+1
在Python 3不应该是必要的,因为'29631/1073741824'将计算预期的(浮动)的结果。 – user4815162342
相关问题
- 1. 高精度打印结果(浮点数)
- 2. 获取整数的第n位精度
- 3. 如何获得python的小数精度?
- 4. 获取双精度值的小数位
- 5. Python中有一个函数来获取任意精度数的大小吗?
- 6. Swift中的高精度浮点数
- 7. Haskell中的高精度浮点数?
- 8. Python:高精度time.sleep
- 9. 获取随机行中如果全文结果小于N行
- 10. 正则表达式精度5和刻度2的小数点
- 11. python中的浮点精度
- 12. 正则表达式获取组N个结果
- 13. 高精度GWT的NumberFormat问题小数
- 14. C#中的结果不是小数点后的精确值
- 15. python中精度浮点数的丢失
- 16. Python数组中的浮点精度
- 17. 从字符串读取浮点值高达6精度
- 18. 精度高达1克
- 19. 获取小数位的精确精度从双在.net 3.5
- 20. 范围缩减精度不高的单精度浮点数
- 21. 在C,linux中获取RAM大小,非精确结果
- 22. 如何获得小数n位精度在C#程序丕
- 23. Python的小数精度与C的小数精度相比如何?
- 24. PostGIS的ST_D结果精度
- 25. 在Python与数精度浮点数格式滞留小数
- 26. Matlab读取精度更高的数字
- 27. Python的float精度约小数
- 28. Python:允许精度很小的数字?
- 29. 小数精度
- 30. plot:轴上的小数点精度
使用'decimal':https://docs.python.org/3.6/library/decimal.html,其中任意精度可以设置。 – jOOsko