芝浦工業大学大学院理工学研究科システム理工学専攻
芝浦工業大学システム理工学部数理科学科
2016 年 26 巻 2 号 p. 182-212
(EndNote、Reference Manager、ProCite、RefWorksとの互換性あり)
(BibDesk、LaTeXとの互換性あり)
概要． 数値計算に幅広く採用されている浮動小数点演算は高速である一方で誤差の問題を抱えている．そのために，計算結果と真値の距離の上限，すなわち絶対誤差の上限を求める丸め誤差解析の研究が進んでいる．本稿では，内積に対する丸め誤差解析の最近の結果をその特徴を含めて紹介しつつ，著者らにより改善できた誤差評価式とその特徴を紹介する．
すでにアカウントをお持ちの場合 サインインはこちら
