ノンビリ暮らそう

電脳硬化症気味な日記です。まとまった情報は wiki にあります。

2010.7.23 (Friday)

at 15:02  

JavaScriptの2進数演算による誤差   [ICTメモ]

 JavaScriptの2進数演算による誤差についてメモ。 a = 4.321 * 100; を計算すると、期待値「432.1」に反して、「432.099999999999996」になります。  四捨五入で対応しようとして...