日本応用数理学会論文誌
Online ISSN : 2424-0982
ISSN-L : 0917-2246
浮動少数点数の加減算における丸め誤差の分布について
久保田 光一
著者情報
ジャーナル フリー

1995 年 5 巻 1 号 p. 37-46

詳細
抄録
Analyzing the behaviour of rounding errors generated in additions and subtractions of floating-point numbers and regarding them as random variables, we propose a slightly strange model for their distribution. The model gives distributions which approximate the observed generated relative errors more precisely than the uniform distribution which is usually adopted in probalbilistic analysis of rounding errors.
著者関連情報
© 1995 一般社団法人 日本応用数理学会
前の記事 次の記事
feedback
Top