2013-06-06から1日間の記事一覧

0.1を10回足した総和は1.0と等しいか?

ruby gold対策。 そういえば試験で、こんなのが出ました。 0.1を10回足した総和は1.0と等しいか? >> sum=0;10.times.each{ |x| sum+=0.1 } => 10 >> sum == 1.0 答えはfalse(等しくない)なんですが、 >> sum == 1.0 => false >> sum => 0.9999999999999999…