C言語を用いて実験データ処理用のプログラムを作成する。いま，double型変数a，bに2つの測定データが格納されている。a，bの値はともに有効桁数が7桁あり，それぞれ次の範囲内にあることがわかっている。
3 < a < 3.0001 2.9999 < b < 3
次の演算を行ったときに，もとのa，bと比べて演算結果の有効桁数が最も失われるものはどれか。
① a + b
② a - b
③ a * b
④ a / b
⑤ sqrt(a * a + b * b)
答え
②
解説
① XXX
XXX
② XXX
XXX
③ XXX
XXX
④ XXX
XXX
⑤ XXX
XXX