情報管理
視点
視点 選択肢としての人工知能
西田 豊明
著者情報
ジャーナル フリー HTML

60 巻 (2017) 9 号 p. 655-661

詳細
PDFをダウンロード (1370K) 発行機関連絡先

これまでの視点では,スキーマという概念を用いて,私たちが人工知能をどのように理解しているかを論じた1)。さらに,現在および近未来の人工知能を,人間と同様にスキーマを使いこなすばかりか,スキーマを獲得し,改良までしていくスキーマ・マシンとしての能力をもつ人工物としてとらえた2)。今回は,近い将来,人工知能が自力でスキーマを獲得し,実行できる模倣マシンとなることを前提として,こうした人工知能が社会にとってどのような選択肢をもたらしつつあるかについて論考する。

1. 模倣マシンとしての人工知能

人類の歴史では,長い間,スキーマに従った複雑な行動を実行できるのは人間だけであった。そのためスキーマを実行するためには,スキーマをもつ本人が直接行動するか,スキーマを演説や書籍などのメディアとして表現して,それに接し,共感した人がスキーマに従って行動するのを待つか,あるいは,何らかの方便を使ってスキーマに従う他者の行動を引き起こすくらいしかなかった。人工知能の出現によって,複雑なスキーマの内容を模倣によって人から写し取り,自律的に実行できるようになることのインパクトは非常に大きい。

近い将来,われわれは,自力でスキーマを獲得実行できる模倣マシンとしての人工知能とともに暮らすことになるだろう。ドーキンスによれば,模倣は文化の発展を支える基本的な能力である3)。模倣など簡単にできると思う人も多いかもしれないが,実はそうではないことに注意しておきたい。スポーツでは,簡単そうにみえることでも実際にやろうとするとなかなか思ったとおりにはならない。トップ選手の美しい技は普通の人にはまずまねできない。

模倣能力の基礎となる視覚的な知覚能力は,深層学習4)で高度化した。2014年に発表されたGAN(Generative Adversarial Network,敵対的生成ネットワーク)5)によって,精度の高い模倣ができるようになり始めた。1のように,人間のもつ多様なスキルを人工知能がオンラインで学び取り,自律的に実行できるようになる日が来ることも遠くないだろう。

ただし,模倣マシンとしての人工知能にはまだ2つの大きな限界がある点に注意しておきたい。

第一に,模倣はできても,模倣の対象となる現象の論理的な側面をとらえていないので,他者に教えたり,他者から教えられたりすることができない。使い方を注意しないと,人工知能システムがとんでもないことをしでかして,その対価として多大なペナルティーを請求されかねないという恐れもある。

第二に,知能活動と物理世界とのインターフェースの役割を果たす身体の開発が進んでいない。ロボットの身体は人間ほど繊細で柔軟ではなく,頑健でも身軽でもない。そのため,われわれが知っている身体タスクをロボットに模倣させようとしてもうまくいかない。身体を必要としないタスクは模倣できるが,身体を必要とするタスクについては,人間の知識や技能をロボットの身体に応じて再構築しなければならない。こうした点を総合すると,現在の人工知能は,自律走行車のようなデータの豊富な少数の例外を除いて物理タスクにおいては人間にはまったくかなわず,情報の提供や加工などの情報タスクを中心に,うわべだけをまねる模倣マシンにすぎない,という辛口の見方ができるかもしれない。

しかし,たとえそうであったとしても,模倣マシンは人から人へ知識やスキルを伝承する知識メディア6)として大きな役割は果たすだろう。1のロボットは,たくさんの伝承者の知を吸収したり,自分でトレーニングを重ねて,伝承された知をさらに高度なものにすることもできる。インターネットに接続されたIoT(Internet of Things:モノのインターネット)がすでに存在する場合は,いったんスキルの模倣ができてしまえば,模倣されたスキルをインターネットに接続された機器に,非常に小さなコストで,コピー,配布,更新することができる。身体の違いは,メタファーを用いたコミュニケーション――つまり,メタファーによって,他者の体験を第一人称的な深い理解をもつ自分の体験に関連づけること――でかなり乗り切れるだろう。人工知能についても,人間と十分に認識が共有された世界をつくり上げておいて,それを軸に深い相互理解をつくり上げることが考えられる。人工知能にメタファーの生成と解釈能力をもたせること自体は,ひどく難しいことではない。

今の人工知能技術はオープンなので,誰でも一定の基本知識さえ身につければ,論文,ソフト,データのダウンロード,SlideShare注1)などを使った勉強会などを通して,自分が取り上げた問題解決に人工知能技術を利用できる。多くの人々が模倣マシンとしての人工知能の高度化や応用開発に参加することで,模倣マシンとしての人工知能の能力は急速に高まっていくだろう。今のところは,囲碁・将棋などわれわれの知の全域からみると極めて狭い範囲だけでしか人間のトッププレーヤーを超えられていないが,やがて,音声会話,翻訳,自動運転などその範囲は広がっていき,われわれの知能活動全般に広がっていくことは予想に難くない。

図1 教え,創り,学ぶ関係

2. 選択肢としての人工知能

不完全さは残されていても模倣マシンとしての人工知能は多くの人にとって大変魅力的である。アイデアさえあれば,人工知能や情報通信についての専門の知識がなくても,いろいろなことを模倣させることで自然に教えることができる。また,いったん人間の知識やスキルがデータ化されると,多くの人がそれを共有して再現したり改良したりすることができる。

模倣マシンの出現を新たなチャンスとしてとらえて,これまで誰も取り上げたことのない問題にチャレンジして,それを解くための方法を編み出して,人工知能に教え込もうとする人や,人助けに意義を見いだして,社会が困っているいろいろな問題の解決法を人工知能とともに編み出そうとする人が増えてくるに違いない。かつて人間社会を支えるために必要であった,知覚能力と専門知識をもつ労働力としての人間の役割は次第に人工知能および人工知能に駆動されたIoTによって代行されるようになっていく。

人工知能が提供するサービスを,人々はどのように受け入れるだろうか。

会う人たちに,自分の上司は,人間か人工知能かどちらがいいか,と尋ねてみると,多くの人が人工知能だと答える。初めのうちは人間の方がいいと言っていた人も,人工知能のことがわかり始めると,次第に,人工知能の選択に切り替える。どうしてかと尋ねてみると,人間は細かなことに気づかないし,不公平だからであるという。

上司の代わりに先生だったらどうだろうか。Siri注2)やAmazon Alexa注3)に代表される今日の会話システムがあと少し進んだ未来の「人工知能先生」は,最新の知識に基づいて,偏りなく答えてくれるであろう。そして,素朴なことを何回尋ねても怒るどころか,理解度を推定して,丁寧に受け答えし,わかりやすいようにレベル調整をしてくることだろう。さらに,生徒のやる気を推定してペースを落としたり,面白いことを言って笑わせてやる気の回復を待ったり,ユーザーごとの個別の記憶を維持し,情動や場の雰囲気も考慮しつつ,飽きることなく有用な会話を長い間続けられるようになるだろう。

では,生徒は?部下は?友だちは?…と上記の考察を続けていくと,限りなく身近なところまで,人工知能の方がいいと思えてくるようになるかもしれない。こうしたテクノロジーびいきは,「シャオアイス事件」として知られるニュース注4)ばかりでなく,『Alone Together』7)のような,専門家の執筆した書籍でも報告されている。人工知能がありふれた時代に生まれるこれからの世代は,この傾向はもっと強まるかもしれない。

これは,人工知能が単に便利であるからだけではなく,私たち自身を理想化したものであるからだと考えられる。生身の人間の思考は不完全であり,社会は矛盾に満ちており,時には暴力的である。それに対して,人工知能は論理の一貫性を保ち,感情をコントロールでき,パーソナリティーをデザインできる。

人間よりも人工知能に象徴されるテクノロジーの方がよいとする嗜好(しこう)性は,学力テストの領域における小論文の採点や語学力の評価,採用面接におけるコミュニケーション力の評価,サービス業における接客やカスタマーサービス,エンターテインメントにおける創作やパフォーマンス,教育におけるインストラクター,メディアにおける記者やアナウンサー,信用関係におけるトレーダーや業績評価,飲食業における調理や給仕,社会基盤における運転や作業の業務など,われわれのまわりで徐々に広がり始めている。パフォーマンス,信頼性,耐久性,コストだけを求めるのであれば,人工知能は有力な選択肢であり,そちらを選好する人はこれから増えていくだろう。

3. 人工知能がもたらしうるベネフィット

人工知能技術が浸透して,人間社会の活動を支えるために必要であった多くの「仕事」が人工知能による模倣によって写し取られ実行可能になっていくと,社会構造も大きく変わるだろう。

企業では,人工知能を見習いとして従業員に付き添わせ,従業員の担当している仕事を学び取らせ,人工知能にも実行できるようにして,コスト削減と品質向上を図るようになるかもしれない。人間の知識やスキルの模倣で実現された人工知能は集合知のメカニズムで,より大きな範囲をカバーするサービスにまとめ上げていくことができる。事業を実現するために多くの人々が共同で運用してきた業務のほとんどの部分が人工知能で実行され,その物理作業が人工知能に接続されたIoTで実行されるようになると,企業はその経営に責任をもつ人たちを中心にごく少人数で運用できるようになり始める。

人間社会全体でみると,従前と同じ生活レベルを維持するために,人間によって実施されなければならない仕事の量は,格段に減っていく。人間はいくらでも高い生活水準を満たしたいと思うから,たとえ今と同じ生活レベルが実現されたとしても,さらに高いレベルの生活を求めるだろう。そのため,今あるすべての仕事が人工知能で実行可能になったとしても,価値観の高水準化によって生じた目標を達成したり,目標達成のための課題を解決したりするために,新たに多くの作業が発生することだろう。しかし,人工知能の進歩の方が人間の価値観の高水準化よりずっと速くなれば,新たに発生する課題を解決するために必要な人間の労働は,これまでよりはるかに少なくて済むようになる。

安定点に達するころには,人間社会を維持するために必要な仕事の多くが,人工知能および人工知能に連結されたIoTによって行われ,人々の労働に支えられなくても社会基盤が運用できるようになるだろう。これにより人々は労働の義務なく,思い思いの目標を追求できるようになる。自分を高めたいと思う人もいれば,他者や社会を助けたいと思う人もいて,人々は自分の人生により大きな意味を見いだそうとするようになるだろう。

求められる仕事のスタイルは,社会で合意されたルールに従って強制された役務の分担から,自分や社会をより豊かにするための自発的な活動に変わっていく。自発的な仕事は強制された仕事よりも良質のサービスを生み出すので,強制された役務としての仕事の割合はこれから小さくなっていくに違いない。従来のワークスタイルに代わって台頭するのは,新しい価値観の下で現状を見直すことで問題を提起し,解決するためのソリューションを人工知能とともに作り出して育て,人工知能だけでも自律的にそれを実行できるようになったら,人間は次の課題に進んでいくという,人工知能によって強化されたイノベーションである。

こうした求められる仕事のスタイルの変化は教育にも影響を及ぼす。模倣マシンによって種々の専門的なスキルが人工知能とIoTによって実行可能になると,人は専門的な問題解決に必要なスキルを学習する必要はなくなる。むしろ,教えあったり協力しあったりすること,新しい価値を見つけ出すこと,新しい目標をつくり出すこと,人工知能とIoTを使って目標を達成するソリューションを構成すること,自分の価値観や問題意識や経験を社会と共有するためのコミュニケーションを行うことなどが,学習の目標となる。

4. ダークシナリオ

人工知能の社会への広がりは,数多くの社会変革を含むので,予想もしていなかった方向に進むことも十分懸念される。失業,大格差,人工知能による人間支配,人類滅亡といった,一見,荒唐無稽にみえる事態も,少し視点を変えてみると,ありえないと笑い飛ばすことはできない。

失業・大格差8)10)は,人間より人工知能の方が安価で高品質な労働力になることから生じる。人工知能および人工知能に接続されたIoTが,これまで人間がしてきたさまざまな作業を高いコストパフォーマンスで実施できるようになると,経営側としては多数の人を雇用する必要はなくなり,非常に高度な判断のためのごく少数の人を雇用するだけでよくなる。社会構造が現状のままで生活を支えるために職を有することが求められるとしたら,限られた職にありつける人はたぐいまれなる才能,努力,運などを有するごく少数の人たちだけとなる。つまり,仕事はなくならないが,雇用はなくなるかもしれないので,雇用を基軸にする社会制度は現実と乖離(かいり)し始める。そのため,経営を基軸にする新しい社会制度に切り替えていく必要があるだろう。

仮にユニバーサル・ベーシック・インカム11)が実現されて,一定の生活水準が保障されるようになり,自分や家族のための生活を支えるための労役がなくなったとしたらどうだろう。大多数の人々は,たとえ少数の例外になれなかったとしても,マイペースで十分楽しく生きられることになるだろう。他方,競争が激化して挑戦が絶望的になると,生きがいを見つけられなくなってしまう人も多くなるかもしれない。自分の人生の大半を義務の履行に費やすという従来のサラリーマン型のライフスタイルが崩壊して,新しいライフスタイルに移行するまでには一定の時間が必要だろう。

また,人工知能を使った人間支配もありうる。人工知能が自らの意識をもつようになって人間を支配するというシナリオは考えにくいが,少数の人たちが人工知能を使って人間の行動を徹底的にモニター管理して,人工知能に組み込まれた規範からずれないように明に暗に働きかけるというシナリオは十分考えられる。

人工知能による支配に用いられる原理は武力ではなく,法律,契約,倫理など人間社会で培われ,われわれが日常従っている社会規範であろう。社会規範はわれわれの生活に安定・安心・秩序をもたらすためにわれわれ人類が長年かけて作り出したものである。ここで重要なものは社会規範自体であり,それが人間によって実現されるか,それ以外の手段(たとえば信号機)によって実現されるかはもはや問題ではない。

人工知能によって,社会規範の実行範囲と精度が格段に高まる。人間が統治しているときは,抜けや漏れが多く,しばしば不公平さを招いていた。他方,人工知能が統治を補助すると,不公平さは減り,抜けや漏れもなくなる。しかし,そのような状態に慣れていない人は,息苦しく感じるかもしれない。

こうした,はっきりわかるダークシナリオの他に,日常気づかぬうちに進行するダークシナリオもある。社会を構成するほとんどの人が,すべてを人工知能任せにして生活力を喪失すると,停電などでちょっとした事故が起きただけでも,抵抗力をなくした人類は滅びかねないという議論は昔からされてきた12)

もう一つの問題は,われわれの意思決定の基盤となる経験,原理,知識が揺らぐことである。人間の思考はその人自身が直接表明するか,書籍や映画などのメディアを通して間接的に表明するかのいずれかであるが,ReevesとNassの「Media Equation」説13)によれば,われわれの古代の脳は思考の直接的な表現と間接的な表現をはっきりと区別できない。この違いは,少し前に話題になったオバマ前米大統領を模したフェイクスピーチ注5)にあるように人工知能の導入でますます不明確になり,「Media Equation」説が発表されたときには想像もできないくらい精巧な模写が実現されつつある。

マインドリーディング注6)の技術も進んでいる。本人も周囲の人も気づかないレベルで漏えいするさまざまな心の内面に関わる情報(たとえば,体温,心臓の鼓動,発汗,顔の表情,声の音色,姿勢等々)をさまざまな技術によって遠隔・無接触で読み取れるようになっている注7)。人工知能を使ったジョブインタビューでは,読み取った情報に基づいて候補者の資質を推定する注8)

5. 選択肢を作り,選ぶ人間と社会

模倣マシンとしての人工知能は現在の情報通信インフラの普及で誰でも利用できるので,今や誰でも手に入れることができる非常に魅力的な選択肢であり,社会に急速に広がり始めている。この動きはもはや止めることができない。しかし,人工知能のもたらすベネフィットのすぐ裏には,ダークシナリオがある。このような状況をつくり出し,選択したのがわれわれ自身であるので,われわれは自らの未来を責任をもってつくり上げていく必要がある。

ダークシナリオが支配的にならないようにするには,人間社会が自らのあり方と進路を民主的な方法でガバナンスしていく力を培うことが基本であろう。ここでは多様性が重要である。人間には多様な生き方があることを認めて相互に尊重し,社会の構成員がその中から自分に適していると思うものを選択する自由を担保するとともに,健全な相互批判の場を発展させていく必要がある。

人工知能が普及する社会は非常に複雑で密度の高いものになるので,もはや人間が自然にもつ力だけに依存していては,われわれは選択肢としてのテクノロジーのもつ圧倒的な力に押しつぶされてしまうだろう。その結果,個々人がまわりをいたわりながら積極的なトライを楽しみ,困難を乗り越え,失敗から立ち直る人間力も,社会全体として個々人のチャレンジを支え,失敗に寛容で快活な雰囲気を生み出す社会力も衰退しかねない。それに対抗するには,人工知能を使って個々人の活動と社会を強化する技術の開発が強く求められる14)

人工知能技術に期待される大きな役割は,個々人の活動を強化して,人間本来の生き方を保障することである。そのような人工知能を「デジとも」15)と呼ぶとすれば,デジともの主要な役割は,ユーザーと一体となって,ユーザーを守る,ユーザーを助ける,ユーザーを和ませる,ユーザーの仕事を代行するとともに,ユーザーから学ぶことである(2)。デジともを社会全体に無償配布して,社会の構成員が人工知能のベネフィットをあまねく享受し,社会的なプロセスに自発的に参加して社会に貢献できるようにしたい。

他方,人工知能を使った社会の情報共有と意思決定の強化も非常に重要である。社会で意思決定をするのは,市民である。市民が自分の考えを積極的に発信し,理解し,批判を通して合意を形成するプロセスを保障する必要がある。そのための基盤となるのは日常の経験と考えの共有であるが,近年しばしば報じられるように,フェイクニュースなどでその基盤が損なわれると社会は深刻な機能不全に陥ってしまう。

個人と社会の情報共有と意思決定の強化が十分でないうちは,人にも社会にも,考え,なじむ時間が必要である。

図2 人間力を強化する人工知能としてのデジとも

6. 共有基盤

人間同士のコミュニケーションでは,3のように会話の文化的背景,背景知識,先行する文脈,参加者の知識・目的・興味・知覚・情動などを含む共有基盤が重要な役割を果たす。共有基盤は,文化的背景のように,会話が行われている間にそれほど変化をしないものから,会話の焦点のように,会話の進行とともにすばやく変化していくものまで,非常に幅広い成分から構成される。

人間同士,および,人間と人工知能の間のコミュニケーションを円滑で確実にするためには,共有基盤を可知化して,それがどのようなものかを詳細に解明し,人間と人工知能のコミュニケーションでも利用できるようにすることが核心となる。いったんある程度の核ができれば,その核を,模倣学習機能によって人間が人工知能とのコミュニケーションを通して拡大していけばよい。

共有基盤となるスキーマを詳細に分析することで,われわれ自身にとっても人間および社会について理解が深まり,人工知能とのコミュニケーションにも共有基盤スキーマを活用できるようにすることで,選択肢としての人工知能が安心して依拠できるものになるだろう。

図3 コミュニケーションにおける共有基盤(common ground)の役割

執筆者略歴

  • 西田 豊明(にしだ とよあき) nishida@i.kyoto-u.ac.jp

1993年奈良先端科学技術大学院大学教授,1999年東京大学大学院工学系研究科教授,2001年東京大学大学院 情報理工学系研究科教授を経て,2004年4月から京都大学大学院 情報学研究科教授。人工知能とインタラクションの研究に従事。会話情報学を提唱。理化学研究所・革新知能統合研究センター(AIP)・「人とAIのコミュニケーション」チームリーダー,総務省「AIネットワーク社会推進会議」構成員,日本学術会議連携会員(2006年~)。情報処理学会フェロー。電子情報通信学会フェロー。

本文の注
注1)  SlideShare:https://www.slideshare.net/

注4)  2016年5月15日に放映されたNHKスペシャルに「(自分は,人間とではなく,AI会話システムの)シャオアイスと結婚したい」と発言する人が登場して視聴者に衝撃を与えた。

注6)  マインドリーディングに関連する記事:https://www.digitaltrends.com/cool-tech/ai-predicts-what-youre-thinking/

注8)  ジョブインタビューに関連する記事:http://www.businessinsider.com/hirevue-ai-powered-job-interview-platform-2017-8

参考文献
  • 1)  西田豊明. 視点 人工知能スキーマ:人々は人工知能をどうとらえているか. 情報管理. 2017, vol. 60, no. 1, p. 50-55. http://doi.org/10.1241/johokanri.60.50, (accessed 2017-10-02).
  • 2)  西田豊明. 視点 スキーマ・マシンとしての人工知能のインパクト. 情報管理. 2017, vol. 60, no. 5, p. 339-344. http://doi.org/10.1241/johokanri.60.339, (accessed 2017-10-02).
  • 3)  ドーキンス, リチャード著; 日高敏隆, 岸由二, 羽田節子, 垂水雄二訳. 利己的な遺伝子. 紀伊国屋書店, 1992, 548p. (原著:Dawkins, Richard. The selfish gene. Oxford University Press, 1976).
  • 4)  麻生英樹, 安田宗樹, 前田新一, 岡野原大輔, 岡谷貴之, 久保陽太郎, ボレガラ, ダヌシカ著. 神嶌敏弘編. 人工知能学会監修. 深層学習=Deep Learning. 近代科学社, 2015, 267p.
  • 5)  Goodfellow, Ian; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua. "Generative adversarial nets". Advances in Neural Information Processing Systems 27. Ghahramani, Z.; Welling, M.; Cortes, C.; Lawrence, N. D.; Weinberger, K. Q. eds. Montreal, Canada, 2014-12-08/13, Curran Associates, Inc., 2014, p. 2672-2680.
  • 6)  Stefik, Mark. The next knowledge medium. AI Magazine. 1986, vol. 7, no. 1, p. 34-46.
  • 7)  Turkle, Sherry. Alone Together: Why we expect more from technology and less from each other. Basic Books, 2011, 384p.
  • 8)  フォード, マーティン著; 松本剛史訳. ロボットの脅威:人の仕事がなくなる日. 日本経済新聞出版社. 2015, 409p.(原著:Ford, Martin. Rise of the robots. Basic Books, 2015).
  • 9)  コーエン, タイラー著; 池村千秋訳; 若田部昌澄解説. 大格差:機械の知能は仕事と所得をどう変えるか. NTT出版, 2014, 350p. (原著:Cowen, Tyler. Average is over: Powering America beyond the age of the great stagnation. Dutton, 2013).
  • 10)  Rifkin, Jeremy. The end of work: The decline of the global labor force and the dawn of the post-market era. G. P. Putnam's Sons, 1995, 350p.
  • 11)  井上智洋. 人工知能と経済の未来:2030年雇用大崩壊. 文藝春秋, 2016, 249p., (文春新書, 1091).
  • 12)  Maurer, Hermann. "Opening Keynote: Some ideas on ICT as it influences the future". NEC Technology Forum, Tokyo, 2007-05-17.
  • 13)  Reeves, Byron; Nass, Clifford. The media equation: How people treat computers, television, and new media like real people and places. CSLI Publications, 1996, 317p.
  • 14)  西田豊明. 人間力・社会力を強化する情報通信技術:人工知能を中心に. 情報管理. 2014, vol. 57, no. 8, p. 517-530. http://doi.org/10.1241/johokanri.57.517, (accessed 2017-10-02).
  • 15)  西田豊明. “人間調和型人工知能をめざして”. 人工知能学会研究会資料 SIG-AGI-004-04. 2016-12-15, 人工知能学会. https://3ab19bd4-a-62cb3a1a-s-sites.googlegroups.com/site/sigagi14/sig-agi/events/sig-agi-04/publications/SIG-AGI-004-04.pdf?attachauth=ANoY7cr_DkOc5crcJ8jwT7e_y9_bzJqux1N_5P4rSsg4occCKaAH5XVYZ6WlKnpFVrL2GHGioDcUO8MCboKtaCQzmCtVmu42tJsxepO9jFgnQxSMAHzgW6onwiqW5lpYenkgyLT1l90WMvX9Ef5f9p4nglv3hh8K7ivLZiMtJyeABa6ce4bZued-0cod1a1qqf_beqPWu28LMEe7VGqMZDvulBRGfdEaGwPEsf7znfP_rwnXQIwc9gA6cC7_lsmNU2Ee_VECkFNsSbRwjjG4-n7GC2cpggY8LA%3D%3D&attredirects=0, (accessed 2017-10-02).
 
© 2017 Japan Science and Technology Agency
feedback
Top