コンパクト機械学習モデル用低精度量子化によるパラメータ数削減と精度のトレードオフ調査

抄録

クラウドによるAI提供時にはプライバシーとレスポンス時間の問題があり、 エッジ側にもAIを実現する「どこでもAI」が求められている。 しかし、エッジ側はエネルギー供給の強い制限があるため極めて高いエネルギー効率のAIが 必要である。本論文では量子化とアルゴリズムを改善したコンパクトモデルを利用した機械学習 の精度とエネルギー消費に関係するパラメータ数とトレードオフ調査結果を報告する。 コンパクトVGGモデルを、１）量子化　２）GAP　３）SENETの適用効果なども含めて明らかにした。 例えば、GAPを入れるとパラメータ数が８０％を削減できた。SEnetを入れることで、およそエラーが７５％削減できた。