NaNの2つのケーススタディ
Two Case Studies of NaN (sebsite.pw)
要約
この記事では、プログラミング言語の設計において、浮動小数点数の特殊値であるNaN(Not a Number)が予期せぬ動作を引き起こす2つのケーススタディを紹介しています。Pythonでは、リストの等価性比較における最適化がNaNの反射律(自分自身と比較して常に等しい)を満たさないために問題が生じる可能性があり、Luaでは数値forループの条件判定がNaNに対して直感的でない動作を引き起こします。これらの例は、NaNの特殊な性質が考慮されていない場合に発生する設計上の落とし穴を示唆しています。
全文翻訳
NaNの2つの事例研究
IEEE-754のNaNは奇妙です。そして、そのせいで、しばしば意図せず考慮から漏れてしまいます。私は、これがプログラミング言語の設計に忍び込んだ2つの事例を見つけました。つまり、これらの言語のセマンティクスには、NaNによって破られる暗黙の前提が含まれているのです。
事例1: Python
>>> from math import nan
>>> nan == nan
False
>>> [nan] == [nan]
True
最適化として、リストを等価比較する際、要素はまずアイデンティティ(同一性)で比較されます。アイデンティティが異なる場合のみ、等価性がチェックされます。
一般的に、オブジェクトは常に自身と等しく比較されると仮定されています。これはPython 3リファレンスマニュアルで明記されています:
比較動作をカスタマイズするユーザー定義クラスは、可能であればいくつかの整合性ルールに従うべきです:
等価比較は反射的であるべきです。言い換えれば、同一のオブジェクトは等しく比較されるべきです:
x is yはx == yを意味します
これはNaNでは真ではありません。それは問題ありませんが、ほとんどの他のものに対してこの仮定が成り立つため、NaNが考慮されない(あるいは、少なくともNaNが非常に奇妙な挙動をする)ような設計上の選択が行われます。
はっきりさせておくと、私はPythonのこの挙動が間違っているとか、NaNが奇妙に振る舞うからこの最適化が悪いと言っているわけではありません。しかし、少なくとも指摘する価値はあると思います。
事例2: Lua
Luaの数値forループは以下のようになります:
for i = 1, 10 do
stuff()
end
これは、iが初期値(ここでは1)から始まり、各イテレーションでステップ(オプションの3番目のオペランド、デフォルトは1)で増加し、新しい値がリミット(10)より大きくなったときにループが終了するという仕組みで動作するはずです。したがって、このループは1から10(含む)まで10回繰り返されます。
では、NaN(0/0)が混ざるとどうなるでしょうか?リファレンス実装(puc-rio lua)での挙動は以下の通りです:
-- 1回実行される
for i = 0/0, 10 do
print(i) -- nan
end
-- 1回実行される
for i = 0/0, 0/0 do
print(i) -- nan
end
-- 決して実行されない
for i = 1, 10, 0/0 do
print(i)
end
-- 1回実行される
for i = 10, 1, 0/0 do
print(i) -- 10.0
end
これらのコードを読み、何が起こっているのか理解してみてください。これらの結果はすべて極めて直感的ではありません。
何が起こっているかというと、最初の2つは1回しか実行されません。なぜなら、forループのチェックは limit < init として実装されていますが、その後のイテレーションでは idx <= limit がチェックされるからです。したがって、NaNは最初のテストをパスしますが、2番目のテストはパスしません。
後の2つの例は、ステップとしてNaNを使用すると、math.abs(0/0) を実行しても、NaNは常に負として扱われることを示しています。これは、ステップが正であるかのチェックが 0 < step であり、NaNに対しては当然常に偽になるからです。
ちなみに、これらの挙動は一切文書化されていないため、これはおそらく実際の見落としです。しかし、それは非常に興味深いことです。NaNを使用すると、実装が使用する特定の比較演算子がインタープリタの挙動に漏れ出すのです。
ここでの簡単な解決策は、数値forループでNaNをチェックして無効にすることです。Luaはステップとして0が使用された場合にエラーを発生させるので、NaNに対するそのようなチェックがないのは興味深いです。
結論
Chris Siebenmannも以前、GoにおけるマップキーとしてのNaNの奇妙な挙動について書いていました。これでNaNの奇妙さに関する事例研究は3つになったと言えるでしょう。
NaNは奇妙です。そしてそれは、他のものがNaNと一緒に奇妙に振る舞うことを意味します。