有効桁数を考慮した加算
結論
言葉で短くまとめようとするとややこしくなるな……
要は、
高い位は一番高いのを選ぶ
低い位も一番高いのを選ぶ
……やっぱ説明難しいわ
まさかここまで言葉で説明しにくいとは思わなかった
数式使うか
結局最小桁の位が最も高いものにあわせるってどういうことなの？
意味が読み取れなくてわからない。誰か教えてください！
2022-04-19 09:21:56 井戸端でこの話題出したら説明できた
とりあえずコピペしておく
あとで清書しよう
> よくわからないけど…10.55+5.3は結局どうするのが正解と言われたんだろう
> 15.9 ?
> 15.8らしい
> 最後の桁だけ不確かな数値になるように丸め込む
> 10.55+5.3は、10.55+5.3Xと考える
> Xは0~9のいずれかで、どの値かは全くわからない
> 10.55+5.3X=15.8Y (Y=5+X)
> YはXの値によって10以上になる可能性があるので、15.8の8は9かもしれない不確かな数になる
> 15までは確定、8が不確かなので、15.85を丸めた15.8が答えになる
> 5を丸め込み方はひとつ上の桁の偶奇で決める
> 偶数：切り捨て
> 奇数：切り上げ
> あ、説明できた。
> 動画聞きながら↑を書いた
> もしかしたら動画の音声が頭に入っていなかったのかも
> 完全に聞き流してた
> テキストなら頭に入るのに……
例
こうなるから有効数字はあまり好きじゃない
導出
律儀に小数展開するのが一番わかり易いだろこれ
14:23:08 展開してもわからなかった……
これ、有効数字の最終桁とそれ以降の桁の取り扱い方がわからなくて混乱している感じがする
丸め操作を表す関数を定義しないといけない？
Math.round() とかでも有効桁数を考慮した加算はそれでは表せなさなそう
足し算してから丸めてはいるが、丸めるためには足す前の2変数の情報が必要になる
#2022-04-18 13:59:08
#2021-04-19 19:17:30