浮動小数点数が値によっては誤差が発生することは広く有名な話だと思います。
例えば、「0.1 + 0.2 == 0.3」は多くの言語処理系において等値ではありません。
というのは私も知っていましたが、ではどうして等値ではないのかと聞かれるとフワーッとしたことしか言えないのでこの機会に勉強してみることにしました。
誤差を計算で明らかにするはずが書いてたら浮動小数点数の解説になってしまったのは良かったのか良くなかったのか。
この手の分野はあまり詳しくないので間違いがあればご指摘いただけると幸いです。
続きを読む