人工知能が今後の人間，社会に与える恩恵や影響を，具体的な技術の現状と課題を踏まえて考える．まず，人工知能技術の基礎（ニューラルネットワーク，深層学習，知識ベースシステム）と現状，および今後の方向性（実世界と人間性）について概説する．次に，人工知能技術が直面する課題（信頼性・安全性，説明可能性，偏向，価値の齟齬，実世界と人間性）および今後の発展に向けた研究状況を紹介する．最後に，人工知能の今後に関して，人工知能は心を持つべきか，および，人工知能が社会にとってどういう存在であるべきかという観点から論じる．

　人工知能（AI）を使った兵器の自律化は世界の軍事技術のトレンドになりつつある．自律兵器は戦局を有利にすると期待される一方で，その非人道性ゆえに規制を求める声も多く，国連で昨年，初の公式会合が開かれ，議論が始まった．日本でもAIを含めた先端技術の軍事応用に防衛省が注目している．防衛省は近年，先端技術の開発を進めるため，大学などの学術界の研究者向けに新たな研究費制度を始めた．米軍も日本の技術に注目し，学術界向けに研究助成を続けている．こうした状況を受けて，日本では，科学者の軍事研究への加担をめぐる関心が高まり，議論が始まっている．本稿ではAI兵器をめぐる世界の現状と日本の議論を紹介し，日本の取り得る選択肢について検討する．

　本稿では，ますます人間らしいロボットが開発される中で，日本の社会文化的な背景を考慮しながら，社会で受容されるロボットの在り方とは何かについて考察を行うことを目的とした．ロボットに対する心理的安心感について検討した研究を概説し，安心感には，ロボットと一緒にいて安心できるという「Comfort」などに合わせて，ロボットがどの程度人間らしいかも関連することを報告した．次に，人間らしさの認知的帰属に関しては，社会の中で学習される認知的機能という側面と，生まれながらにして人間がもっている感情の豊かさの二側面があり，欧米と比較した場合，日本人はそれらの側面のポジティブ・ネガティブの違いも敏感に区別することを報告した．これらの研究から，日本で受容されるロボットの在り方として，社会の価値観に沿っているかどうかや，時系列的な接触の経験などを検討する必要性について議論した．

　本稿では，人-機械のインタフェース・インタラクションを人工知能の観点から議論する既存の研究を，各学問分野および具体的な応用技術から書籍を中心に紹介する．第2章では3つの学問分野（エスノメソドロジー，認知科学，ヒューマンエージェントインタラクション）の，第3章では社会に実装され始めている2つの応用技術（コミュニケーションロボット，自動運転）の議論を概観する．各学問分野や応用技術の議論におけるアプローチは異なるが，いずれも独立した主体の内部のモデルのみに着目するのではなく，外部の環境を内包した状況付けられた人-機械の関係性を強調している．また，応用技術の研究では人-機械のインタラクションのあり方に関する社会的・倫理的議論が積み重ねられている．

　テクノロジーアセスメントとは，科学技術の発展が社会に与える影響を広く洗い出して分析し，それを関係者に伝え，相互の議論や意思決定・政策決定を支援する活動である．本稿では，人工知能（AI）に関して想定されるテクノロジーアセスメント上の論点を整理した上で，テクノロジーアセスメントのあり方，すなわち，枠組み・体制の選択肢について，検討する．国際的なテクノロジーアセスメントの取組み，各研究機関によるテクノロジーアセスメントの取組み，国によるテクノロジーアセスメントのための資金枠の設定，各国政府（議会，行政府）によるテクノロジーアセスメント取組みについて，テクノロジーアセスメント一般に関する経験やAIに関する試みを概観した後，このようなAIに関する実験的なテクノロジーアセスメント的活動の1つとして，日本の総務省情報通信政策研究所が行っている活動を検討する．そして，実利用や研究開発の現場から若干の距離のある観点から評価が行われている点，対象が包括的である点に特徴があるとする．また，開発者と利用者（学習データ提供者）の関係課題，利用者と非利用者が混在する移行期の課題等について指摘する．最後に，AIの政治的決定への影響やその可能性についても，社会的影響の1つとして若干考察する．

　現在，IT人材育成とそれに伴う「創造性」の習得が幅広い年齢層に求められている．本研究では，「プログラミング教育」で育む創造力を「タスクわけワークショップ」の作業を用いて可視化できるか検討した．中学生，人工知能学会全国大会学生企画セッションの参加者，大学院生を対象にしてワークショップを行った．そのタスクわけ作業の結果を，①タスクの増え方の特徴，②集団ごとのタスクわけの特徴，③感想文の読み取りの3点から分析した．その結果，特に中学生は「経験からタスクを広げる」能力が他の集団に比べて低いことがわかった．またすべての集団において，タスクを構成しているサブタスクに分割する力が同程度であることが読み取れた．このように，タスクわけ作業の分析をすることで各グループの持っている創造力を可視化することができた．これらの知見を利用し，プログラミング的思考に必要な創造力の可視化を行うことで，児童・生徒の主体的な学びにつながることを示唆した．

　現在の人類は，人工知能（Artificial Intelligence, AI）の技術革新に牽引される，第4次産業革命の時代を迎えていると言われている．わが国では，民間企業による採用場面や融資場面などの「適性」評価にAIが利用され始めており，刑事分野においても，AIを用いて犯罪の発生等を予測するシステムの導入が検討されている．米国では，一部の州や地域で，AIを用いた犯罪予測システムを用いた捜査が既に実施されているほか，刑事裁判における量刑判断にもAIが利用されている．その代表例が，COMPASという有罪確定者の再犯リスクを予測するプログラムである．しかし，このプログラムがどのようなアルゴリズムによって再犯予測を行っているのかは明らかにされておらず，このアルゴリズムにはバイアスが混入しているのではないかとの批判がなされている．このような状況下において，ウィスコンシン州最高裁は，COMPASの合憲性を肯定する判断を下した（State v. Loomis判決）．本稿は，State v. Loomis判決を手がかりとして，AIを憲法適合的に“公正に”利用するための道筋について検討するものである．

　「情報技術」は人間の知的作業に効率性をもたらす一方で，利用者の心的状態への負の影響も持ち得ることが指摘されている．一方で心理学の分野では心の良い状態を示すためのWellbeing指標が検討されており，これを情報技術に実装するPositive Computingの試みが始められている．しかしながらその設計指針については文化的背景に依存するだけでなく，そもそも定量化された心的状態の最適解を与えて，それに従わせることでは本質的な解決にならない．そこで，本稿ではWellbeingを促進する情報技術の方法論のあり方として，ヒトの無意識に着目した方法論について検討を行った．

　社会は情報技術の発達とともに，グローバル化・複雑化が進んでおり，人の持つ価値観も多様化してきている．そして，それに伴い，多様で変化する価値に気づき，広い視野を持って物事を捉えることが社会的に必要とされるようになってきている．本研究では，多様な価値観への気づきを与えるには何が必要か検討しながら，その仕組みのシステム化（AIR-VAS）を目指している．今回，気づきを与えるアプローチの一つとして，議論の場で自分達とは異なるグループの考え方や価値観を可視化させ，示すことで，新たな発想や考えを促すような仕組みを検討した．議論における単語の頻出度や共起度などをもとにして，議論をネットワーク構造で表現し，可視化させるプロトタイプシステムの実装を行い，実際に，ワークショップの中でシステムを運用した．本稿では，その結果を踏まえながら，議論の特徴とシステムの提示する情報の関係性やシステム活用の有効性について考察する．

　本稿の目的は，ロボットや人工知能技術に関する日本国内での社会的議論の状況に関して，そうした議論に多少なりとも参加している倫理学者という筆者の立場からの見解を示すことにある．そうすることによって，今後の議論のあり方について示唆を行い，より生産的なものとすることに寄与したい．なお，ここでいう「社会的」議論とは，専門家や関係者だけでなく，より広い範囲のステークホルダーが参加した議論を指している．ロボットや人工知能についての議論では，しばしばこの意味での社会的議論が必要と主張されるが，現状では不十分なかたちでしか行われていない．具体的な論点としては，1）情報の過剰さ，2）これらの技術に特有の社会問題の有無，3）既存の議論との連続性，4）価値の問題の重要性という4つを挙げて論じる．

　人工知能（AI）やロボットなどは，私たちの生活や職場に浸透しています．

　人工知能やロボットで生活や働き方が良くなる，あるいは悪くなるという「技術決定論」的な捉え方ではなく，新しいものが入ってきたときにこそ，今までの生活，仕事の在り方や制度，人間関係などを見直す機会となるはずです．

　現在，国内外で人工知能やロボット技術の開発原則や私たちの社会への影響や可能性の議論が行われています．しかし，私たちの生活や仕事に深く関係している技術だからこそ，専門家や有識者だけではなく，私たち一人一人が今後どのような社会を作っていきたいのか，あるいはどのような生活や仕事に価値を置いているかを共有する機会が必要です．

　本イベントは簡単には答えの出ない，これからの人工知能/ロボットと人間・社会・環境について考え，発信するための対話型ワークショップです．

　デュアルユース技術研究への期待は，まずは防衛装備（とくに次世代戦闘機）の調達費削減と技術獲得，そして将来的な国際共同開発を見据えたバーゲニングパワー向上を求める防衛技術外交政策の中で促された．これに日本のソフトパワー向上を求める科学技術外交政策と産学官によるイノベーション志向の科学技術政策が加わることで，デュアルユース技術研究に取り組むことが大学にも期待されるようになった．科学技術外交戦略の議論では，その管理や倫理は内閣府によって検討対象外とされ，国際化・高度化・高額化する通常兵器の取得とデュアルユース技術研究のスピンオン・オフばかりが検討課題になった．デュアルユース技術研究への積極的支援は政権によらずに推進されていたことから，それが日本の政治家のあいだである程度一般的な認識になっていたか，あるいは何らかの外的影響によっていたと考えられる．