計算途中で必要な有効桁数は、最終的に求めたい有効桁数+1
その段階での有効桁数+1まで丸める
それ以降は切り捨てて計算しても、結果に影響を与えない
四則計算ならそうだろう
\cosなどの超越関数だとどうなんだろう
あと\frac1{a-b}みたいな非常に精度が落ちる計算の場合は？
原理が全然わからない
一般的に示したいな
まあそれやっても結論は変わらないだろうけど
誤差項と確からしい項とで分けて計算してみたがよくわからなくなった
やっぱ小数展開するしかないか。
#2021-04-19 19:27:34