精密工学会学術講演会講演論文集
2002年度精密工学会秋季大会
セッションID: A09
会議情報

形状処理技術(2)
浮動小数点演算を用いた同次処理
*村田 誠治山内 俊哉浦出 航平菅原 篤志山口 富士夫
著者情報
キーワード: 同次処理, 整数演算, 正規化
会議録・要旨集 フリー

詳細
抄録
 同次処理では整数型を用いることが一般的である.本研究室では,可変倍長整数演算型(Integer型)を用いることにより,無誤差で演算を行うことを実現してきた.しかし,可変倍長整数演算型はソフトウェアで実装されている演算型であるため,演算速度が遅いという欠点がある.そこで,ハードウェアで実装されており,数値の表現範囲が比較的広い演算型であるdouble型を同次処理に用いることを提案した.同次処理では,データ長の削減を目的とした正規化という処理があるが,整数演算型に特化したアルゴリズムであった.本発表では,浮動小数点演算型にまで拡張した正規化を提案し,その効果について検討する.
著者関連情報
© 2002 公益社団法人 精密工学会
前の記事 次の記事
feedback
Top