「数値誤差」の記事一覧
-
浮動小数点の比較方法と誤差の本質
2025-05-13 09:37
科学・技術この記事では、浮動小数点数の比較における困難さと、その対処法としての相対誤差・絶対誤差・ULP(Units in the Last Place)ベースの手法について解説しています。単純な「==」比較が不適切である理由から始まり、近似値同士を誤差付きで比較する実践的な方法、ゼロ付近での比較の注意点、そしてπとsin関数を用いた誤差の見抜き方まで、詳細な例とコード付きで説明されています。
Page 1 / 1