top
Loading...
A.5.8.與浮點比較有關的問題
A.5.8. 與浮點比較有關的問題
注意,下述部分主要與DOUBLEFLOAT列相關,原因在于浮點數的不準確本質。MySQL使用64位十進制數值的精度執行DECIMAL操作,當處理DECIMAL列時,應能解決大多數常見的不準確問題。

浮點數有時會導致混淆,這是因為它們無法以準確值保存在計算機體系結構中。你在屏幕上所看到的值通常不是數值的準確值。對于FLOATDOUBLE列類型,情況就是如此。DECIMAL列能保存具有準確精度的值,這是因為它們是由字符串表示的。

在下面的示例中,介紹了使用DOUBLE時的問題:

mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
    -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
    -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
    -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
    -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
    -> (6, 0.00, 0.00), (6, -51.40, 0.00);
 
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
    -> FROM t1 GROUP BY i HAVING a <> b;
 
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+

結果是正確的。盡管前5個記錄看上去不應能進行比較測試(ab的值看上去沒有什么不同),但它們能進行比較,這是因為顯示的數值間的差異在十分位左右,具體情況取決于計算機的體系結構。

如果列d1d2定義為DECIMAL而不是DOUBLESELECT查詢的結果僅包含1行,即上面顯示的最后1行。

作者:mysql.com
來源:http://dev.mysql.com/doc/refman/5.1/zh/problems.html
北斗有巢氏 有巢氏北斗