2010-11-03から1日間の記事一覧

浮動小数点数演算はむずかしくない

固定小数点数演算と聞くと拒絶反応を示す人もいるけど、計算の考え方自体は簡単で、皆さんも小さい頃から知恵として持っていると思います。 0.6+0.7+0.2を計算する時、まず6+7+2を計算して、結果の15の小数点の位置をずらして1.5という答えを導きますよね。…