日本応用数理学会論文誌
Online ISSN : 2424-0982
ISSN-L : 0917-2246
丸め方向間違いの少ない関数近似算法(実用)
海永 正博柏木 有吾
著者情報
ジャーナル フリー

2006 年 16 巻 3 号 p. 165-176

詳細
抄録

This paper proposes a function approximation algorithm with reduced rounding mistakes for single precision IEEE format, without using double or higher intermediate data. The algorithm is suited for embedded micro-controllers without double precision floating-point hardware. With the new algorithm, 3-9 extra cycles reduces the ration of rounding mistakes to around 1%.

著者関連情報
© 2006 一般社団法人 日本応用数理学会
前の記事 次の記事
feedback
Top