ソフトバンク・テクノロジー株式会社
芝浦工業大学システム理工学部数理科学科
2019 年 29 巻 4 号 p. 395-407
(EndNote、Reference Manager、ProCite、RefWorksとの互換性あり)
(BibDesk、LaTeXとの互換性あり)
概要. 数値計算では浮動小数点数とその演算が多く用いられる.浮動小数点数は有限桁の数であるため,浮動小数点数に対する計算結果は浮動小数点数により厳密に表現できず,丸め誤差が生じる可能性がある.浮動小数点演算に対する相対誤差の最良の評価結果がJeannerod とRumpにより示された.本論文では,その議論を符号付き相対誤差に拡張し,和・差・積についてその最適な範囲を示す.
すでにアカウントをお持ちの場合 サインインはこちら