2018年5月7日月曜日

(1÷3)×3(2018.5)

(1÷3)×3の計算を電卓で行うと

【0.999999】となる。

(1÷3)×3を3÷3を先に計算して

1×1とはしないからです。

電卓はコンピューターですがコンピューターは

分数は扱えない仕様となっている。

エクセルで

=(1÷3)×3と数式を入れると

数式に誤りがあります

=(1/3)×3に変更しますかと聞いてくる。

エクセルは÷という数式は扱えないから/に

変更しますということでしょう。

これを計算すると答えは【1】となる。

エクセルと言えども前から順番に計算すれば

【0.999999】になるはずです。

でも答えは【1】

扱えない分数ですが、

その代わりソフトでこれを防いでいる。

フログラマーすごいな。

だませない。

ちくしょう。

0 件のコメント:

コメントを投稿