結論

有効数字m桁の測定値aと有効数字n桁の測定値bの積abの有効数字は\min(m,n)である

有効桁数を考慮した加算とは有効数字の決定ルールが違う

この違いが、計算機を使った計算でとんでもない丸め誤差を生じさせる原因となる

導出

#2021-07-19 08:46:27

#2021-04-19 19:17:30