MySQL 8.0 リファレンスマニュアル


B.3.4.8 浮動小数点値に関する問題

浮動小数点数は、近似値であり正確な値として格納されないため、混乱の原因となることがあります。 SQL ステートメントで出力される浮動小数点値は、内部で表された値と同じではないことがあります。 比較で浮動小数点値を正確な値として扱おうとすると、問題となることがあります。 これらはまた、プラットフォームまたは実装の依存関係にも従います。 FLOAT データ型および DOUBLE データ型では、これらの問題が発生することがあります。 DECIMAL カラムの場合、MySQL は演算を 65 桁 (10 進数) の精度で実行するため、ほとんどの一般的な精度の問題が解決されます。

次の例では、DOUBLE を使用し、浮動小数点演算を使用して行われる計算がどのように浮動小数点エラーとなるかを示しています。

mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
    -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
    -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
    -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
    -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
    -> (6, 0.00, 0.00), (6, -51.40, 0.00);

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
    -> FROM t1 GROUP BY i HAVING a <> b;

+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+

正しい結果です。 最初の 5 レコードは比較を満たしていないように見えますが (ab の値は異なるように見えません)、コンピュータのアーキテクチャー、コンパイラのバージョン、最適化レベルなどの要因によって、小数点以下 1 桁などの数字が異なるためにこのような結果となっている可能性があります。 たとえば、CPU が異なると、浮動小数点数の評価が異なることがあります。

カラム d1 および d2DOUBLE ではなく DECIMAL として定義されていた場合、SELECT クエリーの結果は 1 行のみ (上記の最後の行) となります。

浮動小数点数の比較を正しく行うには、最初に数値の差異に関して受け入れられる許容度を決定し、許容値に対して比較を行います。 たとえば、1 万分の 1 (0.0001) の精度内で同じであれば浮動小数点数が同じであると見なす場合は、許容値より大きい差異を見つけるように比較を記述してください。

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
    -> GROUP BY i HAVING ABS(a - b) > 0.0001;
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    6 | -51.4 |    0 |
+------+-------+------+
1 row in set (0.00 sec)

逆に、数値が同じである行を取得する場合は、テストで許容値内での差異を判断するようにします。

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
    -> GROUP BY i HAVING ABS(a - b) <= 0.0001;
+------+------+------+
| i    | a    | b    |
+------+------+------+
|    1 | 21.4 | 21.4 |
|    2 | 76.8 | 76.8 |
|    3 |  7.4 |  7.4 |
|    4 | 15.4 | 15.4 |
|    5 |  7.2 |  7.2 |
+------+------+------+
5 rows in set (0.03 sec)

浮動小数点値はプラットフォームまたは実装の依存関係の影響を受けます。 次のステートメントを実行するとします。

CREATE TABLE t1(c1 FLOAT(53,0), c2 FLOAT(53,0));
INSERT INTO t1 VALUES('1e+52','-1e+52');
SELECT * FROM t1;

一部のプラットフォームでは、SELECT ステートメントは inf および -inf を返します。 ほかのプラットフォームでは、0 および -0 が返されます。

前述の問題の影響は、ソースで mysqldump を使用してテーブルの内容をダンプし、ダンプファイルをレプリカにリロードしてレプリカを作成しようとすると、浮動小数点カラムを含むテーブルが 2 つのホスト間で異なる可能性があることです。


関連キーワード:  小数点, テーブル, 浮動, 一般, エラー, SUM, 方法, 比較, サーバー, ステートメント