次世代人工知能技術：社会実装の課題

フレームと新たな評価指標の探索

抄録

機械学習に基づく人工知能技術の産業応用を進める上での課題が顕在化している．その一つは人工知能の学習結果が人にとって理解できない，ブラックボックスとなってしまうことへの懸念である．また人工知能におけるフレーム問題は数学的構造に起因するため，機械学習に基づく人工知能においても当然問題になる．社会実装を進める際には，何がフレームとなっているのかを明示的に扱うアプローチが重要である．そこで学習結果や前提としているフレームを説明可能，解釈可能，介入可能なものとする「人間と相互理解できる次世代人工知能技術」の研究開発プロジェクトが進められている[本村2016a]．本発表では，プロジェクトの推進と，企業との概念実証(PoC)や調査研究を通じて明らかになった社会実装上の課題について議論する．