芝浦工業大学大学院理工学研究科機能制御システム専攻
芝浦工業大学システム理工学部数理科学科
2018 年 28 巻 1 号 p. 1-17
(EndNote、Reference Manager、ProCite、RefWorksとの互換性あり)
(BibDesk、LaTeXとの互換性あり)
概要. ある2つの計算式に対する真の値をa, b,数値計算により得られた値を, とする., は正確でない可能性があるため, − の符号とa − bの符号が異なる場合がある.本論文では,この問題に対して浮動小数点フィルタを提案し,数値計算による符号の判定が正しいことを保証する十分条件を与える.
すでにアカウントをお持ちの場合 サインインはこちら