数値データの取り扱い～四捨五入から検出限界まで～第一回 データの丸め方と誤差の基礎

抄録

分析業務にとって，数字の取り扱いは命である．有効数字やデータのばらつきは，ほとんどの現場担当者が無意識のうちに正当な方法で処理しているはずであるが，あらためて統計学の用語を目の前にすると自信を無くす人が多い．本講は，そのような人たちに自信を持たせ，あるいは体系的な知識を学習するための出発点と成ることを意図したものである．今回は，データの丸め方と，誤差の最も基礎的な部分について説明する．