木更津工業高等専門学校紀要
Online ISSN : 2188-921X
Print ISSN : 2188-9201
ISSN-L : 0285-7901
数値計算における誤差について
宮崎 靖則
著者情報
研究報告書・技術報告書 フリー

1986 年 19 巻 p. 73-75

詳細
抄録

Recent study on error analysis is aimed at error in floating-point calculation and round-off error in computer calculation. Against this tendency, this paper describes fundamental error analysis, especially error expansion and its effect in arithmetical calculation.

著者関連情報
© 1986 独立行政法人 国立高等専門学校機構 木更津工業高等専門学校
前の記事 次の記事
feedback
Top