2008/03/02(Sun)実数計算の落とし穴

はてブ数 2008/03/02 14:05 計算機な日記::ソフト作り つーさ

たとえばHSPで、

dialog int( 0.7 + 0.1 + 0.1 + 0.1 )

とか書いたとき、それが1にならないのは、
ある程度のレベルのプログラマにとって常識だけれど、
(HSPに限っては)これはやはり1とすべきだと思う。roundがないと。。
そんなキワドイプログラム書かないから大丈夫? あぁ、そう。
しかしなんか、立て続けに4件もツッコミが入るとゎ。

ちなみに、回避するには int(strf("%.0f", ... )) でくるむのが楽ちん。

OK キャンセル 確認 その他