floating-accuracy

    17热度

    2回答

    PHP/MySQL：最佳货币操作/存储操作？

    因此，我打算制作一个处理大量金钱的应用程序（PHP/MySQL），我正在考虑如何存储和操作这些钱，指的是PHP浮点数据类型和MySQL小数。 我想到了两种选择。其中之一是以整数美分格式（$ dollars * 100）操作和存储货币，以便不处理浮点数并将其作为整数存储在数据库中。另一个是以小数点存储在数据库中，并使用PHP数学公式计算。 所以我整夜搜索了一下，找出哪个是最好的选择，没有找到明确的答
    php mysql decimal currency floating-accuracy 2009-07-04

    38热度

    6回答

    在Javascript

    错误四舍五入大数看到这个代码： <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":"
    javascript floating-point floating-accuracy ieee-754 2009-09-04

    2热度

    8回答

    小数位浮点数和小数点的位置问题。小数点

    我似乎失去了很多使用浮点数的精度。 例如我需要解决一个矩阵： 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0 这是我使用从文本文件导入矩阵的代码： f = open('gauss.dat') lines = f.readlines() f.close() j=0 for line in line
    python floating-point decimal floating-accuracy 2008-11-13

    5热度

    3回答

    SQL server 2005数字精确损失

    调试一些与财务相关的SQL代码，发现数值（24,8）数学精度存在一个奇怪的问题。 运行在您的MSSQL以下查询，你会得到A + B * C表达式的结果是0.123457 选择， B， C， A + B * C FROM （ SELECT CAST （0.12345678 AS NUMERIC（24,8））AS A， CAST（0 AS NUMERIC（24,8））AS B， CAST（500 AS
    sql-server floating-point type-conversion casting floating-accuracy 2008-09-24

    5热度

    3回答

    浮点限制

    我的代码： a = '2.3' 我想显示a作为浮点值。 由于a是一个字符串，我想： float(a) 我得到的结果是： 2.2999999999999998 我想对于这个问题的解决方案。请，请帮助我。我是this tutorial。
    python floating-point precision floating-accuracy 2009-01-02

    1热度

    2回答

    浮点等价？

    我希望能够比较两个双打而不考虑可能的精度损失。有没有办法处理这种情况？ 如果没有，是否有一个门槛/准则知道两个双打之间有多少足够的等价？
    .net floating-point floating-accuracy 2009-07-29

    11热度

    5回答

    php intval（）和floor（）的返回值太低？

    因为PHP中的float数据类型不准确，而且MySQL中的FLOAT占用的空间比INT多（且不准确），所以我总是将价格作为INTs存储，在存储之前将其存储为100，以确保我们有精确的2位小数的精度。不过我相信PHP是行为不端的。示例代码： echo "<pre>"; $price = "1.15"; echo "Price = "; var_dump($price); $price_c
    php floating-accuracy rounding-error 2009-05-01
最新问题