気まま研究所ブログ

ITとバイク、思ったことをてきとーに書きます。

2020-04-23から1日間の記事一覧

浮動小数点数演算を模倣して誤差を見てみた

浮動小数点数が値によっては誤差が発生することは広く有名な話だと思います。 例えば、「0.1 + 0.2 == 0.3」は多くの言語処理系において等値ではありません。 というのは私も知っていましたが、ではどうして等値ではないのかと聞かれるとフワーッとしたこと…