有効数字
末桁に不確かさを含む数字をもち、それ以外は確定した数字となっている
おそらくこれが、最後の桁を目分量で読み取る理由なんじゃないかな
定義上どうしても最後の桁に、あっているかどうかもわからない値を紛れ込ませる必要がある
でもそれって意味あるか？
最後の桁をランダムな数字にしたっていいってことになるじゃん
例えば有効数字3桁の数5.43も5.48も同じ範囲[5.40,5.50\lbrackを示すことになってしまう
有効数字周りも文献によって用語の定義がずれているっぽい
い つ も の
本ページの定義に則っているもの
ほかにもある？
規格書を読むのが手っ取り早そうだが
有効桁数を有効数字と呼んでいるもの
大半がこちらの定義？
#2022-04-18 13:38:06
#2021-04-19 19:10:37