読取り誤差(2020.9)

物差しで寸法を測る。

最小単位は１ｍｍ。

２３.７ｍｍでした。

目で見るからかろうじて０.７ｍｍが見えた。

物理的には

２３.６＜２３.７＜２３.８⇒２３.７±０.１ｍｍ⇒

誤差は０.１ｍｍ。

数学的には

四捨五入したものと考えると

２３.６５≦２３.７＜２３.７５⇒２３.７±０.０５ｍｍ⇒

誤差は０.０５ｍｍ。

数学的な誤差の方が小さい。

ん？