HEXA BLOG
ヘキサブログ
プログラム
浮動小数点誤差
こんにちは。平尾です。
朝布団から出るのが辛い時期になってきました
ついつい二度寝…なんてことをしたくなります。
そんな折、こんな商品があるのを発見!
http://www.sleeptracker.jp/
意外と高額です…。
サンタさんが運んで来てくれないでしょうか
気を取り直して、今日は浮動小数点誤差について話をします。
プログラムを始めた頃は誰もがハマってしまう道ではないかと思います。
C言語にはfloatという小数を扱える型(浮動小数点型)があります。
ところが、意外なことに正確な 0.1 を表現できないのです
これだけ技術が進歩した世の中なのに、なぜなのでしょうか…。
コンピュータは2進数で数値を記憶します。
floatの場合、一般的には
・符号部 1 ビット
・指数部 8 ビット
・仮数部 23 ビット
といった形になります。(特殊なハードは除きます)
0.1を2進数で表現する場合、
001111011100110011001100110011001100110011001100…
と割り切れない値(循環小数)になってしまうため、どこかで区切らないといけません
32bit float の場合、33bit目が丸められて
00111101110011001100110011001101
という形になります。
このように最後のビットが丸められるため、正確な値を保持できません。
例えば次のような処理を行ったとします。
- float val = 0.0f;
- for( int i=0; i<10; i++ ) {
- val += 0.1f;
- }
- if( val != 1.0f ) {
- printf("val は 1.0です");
- } else {
- printf("val は 1.0ではありません");
- }
10回0.1を足しているので1になってくれないと困るのですが、「1.0ではありません」と表示されます
これは上記の丸め誤差があるため、正確に1.0にならないためです。
浮動小数点を=で比較するのはいけません。
ではどう比較すれば良いのでしょうか?
続きはWEBで…
あ、WEB上でした
「一定の範囲で比較する」というのが答えです。
- if( ((1.0f - 0.1f) < val) && (val < (1.0f + 0.1f)) ) {
- printf("val は 1.0です");
- } else {
- printf("val は 1.0ではありません");
- }
でもさすがに0.1の誤差は大きすぎます。
そんな時に使用するのが FLT_EPSILON という定義です。
FLT_EPSILON は float.h で定義されているもので、
値としては 1.192092896e-07F (つまり0.0000001192092896) となっています。
定義内容としては「1.0+FLT_EPSILON !=1.0 となる最小値」となっています。
ちょっと乱暴ですが、分かりやすく言うと「すごく小さな値」ということになります。
浮動小数点の誤差を考慮する場合、この値を利用して判定するのが一般的です
- if( ((1.0f - FLT_EPSILON) < val) && (val < (1.0f + FLT_EPSILON)) ) {
- printf("val は 1.0です");
- } else {
- printf("val は 1.0ではありません");
- }
使用用途などによってはFLT_EPSILONでは判定できない、なんてこともあるかと思います。
そういうときは
・単純に判定する範囲を広げる
・double型を使用して精度を上げる(double型の場合はDBL_EPSILONになります)
・固定小数点(整数型で小数点を表現する)
など、いろいろ解法はあると思います。
浮動小数点にはこういった誤差が存在しますので、単純な比較をしないよう、皆さんも十分ご注意下さい!
こういったプログラム話が大好きな学生の方、ご応募お待ちしております!
CATEGORY
- about ヘキサ (166)
- 部活動 (6)
- CG (18)
- プロジェクトマネジメント (1)
- 研修 (5)
- 美学 (1)
- いいモノづくり道 (230)
- 採用 -お役立ち情報も- (149)
- プログラム (188)
- デザイン (99)
- ゲーム (274)
- 日記 (1,104)
- 書籍紹介 (113)
- その他 (875)
- 就活アドバイス (20)
- ラーメン (3)
- ライフハック (25)
- イベント紹介 (10)
- 料理 (23)
- TIPS (7)
- 怖い話 (3)
- サウンド (5)
- 子育て (1)
- 筋トレ (1)
- 商品紹介 (21)
- アプリ紹介 (31)
- ソフトウェア紹介 (33)
- ガジェット紹介 (12)
- サイト紹介 (10)
- 研究・開発 (34)
- 回路図 (4)
- アナログゲーム (40)
- 交流会 (21)
- 報告会 (3)
- インフラ (25)
- グリとブラン (6)
- カメラ (9)
- クラフト (27)
- 部活 (14)
- 画伯 (15)
- カレー (6)
- 音楽(洋楽) (6)
- 映画・舞台鑑賞 (43)
- 飼育 (5)
- いぬ (8)
- ねこ (19)
ARCHIVE
- 2024年
- 2023年
- 2022年
- 2021年
- 2020年
- 2019年
- 2018年
- 2017年
- 2016年
- 2015年
- 2014年
- 2013年
- 2012年
- 2011年
- 2010年
- 2009年
- 2008年
- 2007年