日本応用数理学会論文誌
Online ISSN : 2424-0982
ISSN-L : 0917-2246
応用
計算値の大小関係を保証する浮動小数点フィルタ
太田 悠暉尾崎 克久
著者情報
ジャーナル フリー

2018 年 28 巻 1 号 p. 1-17

詳細
抄録

概要. ある2つの計算式に対する真の値をa, b,数値計算により得られた値を, とする., は正確でない可能性があるため,​の符号とa − bの符号が異なる場合がある.本論文では,この問題に対して浮動小数点フィルタを提案し,数値計算による符号の判定が正しいことを保証する十分条件を与える.

著者関連情報
© 2018日本応用数理学会
次の記事
feedback
Top