特別寄稿
Society 5.0と人格なき統治
2021 年 5 巻 1 号 p. 1-14
詳細
2021 年 5 巻 1 号 p. 1-14
我が国が今後実現すべき社会像として位置付けられているSociety5.0について、その中核をなすサイバー空間とフィジカル空間（物理空間）の融合という概念を中心に検討する。まず、現在までに存在すると想定されている工業社会（Society 3.0）・情報社会（Society 4.0）それぞれの性質について、物理空間におけるモノの生産・流通の効率化とモノへの化体を経ない純粋な情報財流通の実現と要約できることを指摘する。その上で、現在の社会ではモノと情報の空間が分断されていること、両者が緊密に結び付くことを阻害している人間という結節点に注目し、IoT・AI・ロボティクスといったICT技術を活用することによりその問題を解消して、自己決定的な行為主体でなく観測の客体としての人間が重要な位置を占める「人格なき統治」を実現するところにその中心的な意義があると指摘する。また、そのような形で社会のスマート化を進めることが資源利用の効率化を通じたSDGsの実現に貢献すること、ICT利活用により主体としての人の動作や接触に依存せず社会機能が維持できるwith／afterコロナ時代のレジリエントな社会構築につながり得ることを主張する。その一方、嘘・手加減・不服従といった一見ネガティブに捉えられる要素が、法を通じて行為主体たる人間の行動をコーディネートすることを意図してきた従来の統治においては一定の正当性を担い、人間的な価値の実現に貢献するものと位置付けられてきたことを踏まえ、「人格なき統治」が社会内部における規律訓練や法規範の自動的な実現・執行までを対象とする場合にはそのような要素を利活用する可能性が消滅すること、だからこそSociety 5.0において人間的価値・人間中心主義が強調されざるを得ないという論理的関係にあることを指摘する。
To investigate the notion of Society 5.0, the image of future society the Japanese government has proposed in recent years, the author try to focus on the existence of "person", as the link between the industrial society (Society 3.0) and the information society (society 4.0), which often lack credibility and efficiency. The core of Society 5.0 is then described as to establish "the governance without personhood" by utilizing ICT as IoT, AI, and robotics, which changes the position of human beings from autonomous and self-decisional subjects to objects to be surveyed. In one way, the author points out, such governance shall be positively evaluated as to increase efficiency of the whole society to save resources, or to establish resilient society in with / after COVID-19 era, in which the social functions can be kept with fewer humane movement and contact. On the other hand, while sometimes we respect such elements as lies, omissions, or disobedience as just and humane actions in our current governance in which we try to coordinate autonomous subjects' action through law as in the case of so called "noble lie" or Greek tragedy Antigone, the author points out that there will be no room for such elements under Society 5.0. Thus, the author concludes, if we would like to keep our humancentric values, they must be included beforehand in the basic design of the governance.
「高貴な嘘」（noble lie）と呼ばれる概念について考えよう。たとえば貧しい母子が年末近い冬の夜に蕎麦屋を訪れ、一杯のかけそばを注文したとする（どこかで聞いたような話だ）。やがて注文した品が届き、母は子に食べるように言う。「お母さんは食べないの？」と子供が心配そうに尋ねるが、「おなかが空いていないから大丈夫よ」と母は笑う。実際にはそうではないのだが、財布のなかにある金額でなんとか買うことのできる一杯のそばを子供にまず食べさせるためにそう答えたのだ。このように、それ自体は事実に反する虚偽の記述であり嘘として一般的には非難されるような発言でありながら、そのように言う目的が道徳的であり、そのために我々が一概には否定できないような行動を「高貴な嘘」と呼ぶわけだ。だがそのとき店のBGMを流していたスマートスピーカーがこう話しだす――「いいえ、あなたは空腹であり栄養分の補給を必要としています。温かい食事を取ることをおすすめします」。
架空の設例とは、もはや言えないだろう。たとえば家庭のクーラーのことを考えよう。かつては我々のような個々の利用者が特定の温度――たとえば20度の風を送るように機械へと指示を送っていただろう。日当たりの良い南側の部屋だと窓からの太陽光線で室内が暖まってしまい、クーラーからの風を20度にしても快適な室温（たとえば26度）にならない。さらに動作温度を下げようとして省エネ設定をかいくぐるために四苦八苦するようなトラブルもあっただろう。
やがてクーラーは設定された室温を実現するため、センサーを用いて観測した室内温度をもとに、出力を自動的に調整するようになった。さらに現在では、室内にいる個々の利用者の体表温度や彼ら彼女らがどう感じているか――現在の室温を快適だと思っているかどうかを、温度だけでなく動作に関する情報といったさまざまなデータを元に判断し、適切な動作についてクーラー自身が判断するようになってきている。何度の風を吹き出すか、室温を何度にするか、自分がいま暑がっているかどうかといった情報を人間の意図的な行為として積極的に伝達することなく、センサーが一定の状態を情報としてくみ取ることができるような対象としてそこに存在するだけで、機械の側で自動的に快適な状況をコーディネートし、我々の前に提供してくれるというわけだ。
だがこのような状況で我々は、嘘をつくことができなくなるだろう。本当はそうではないにもかかわらず、自分が暑がりだと主張してクーラーの設定温度を16度にするといった行動を我々が選ぶことは――それにどのようなメリットがあるかは別の問題として――さしあたり可能である。だが本当は寒がっているのに（たとえば）鳥肌を立てないようにすることはできないだろう。それは我々がどのように意思し行動を選択するかという自覚的・自律的な行為の次元ではなく、生物としての人間が一定の刺激に対してどのように反応してしまうかという状態の次元の問題だからだ。
そして逆に言えば、だからこそ、それを利用することによって人間の意図的な動作をわざわざ必要とせずに適切なサービスを提供できる可能性が開かれるのだと考えることができる。何もそこまで面倒がらなくてもエアコンの操作ぐらいこまめにやればよさそうなものだと言う人もいるだろうか。だが自分自身で機械の操作や意思表示のできない病人や乳幼児だけがその部屋にいるとすればどうだろうか。自分が暑さを感じているという事実に気付きにくい高齢者がエアコンを入れないまま熱中症にかかる事例も、夏には多く報じられている。意思や行為の能力にさしあたり問題のない我ら成人であっても、寝ているあいだに体を冷やしすぎる危険から自由ではいられない。我々の多くが現にそのようなサービスを快適なものだと思うからこそ、家電各社が競うようにそのようなコントロール――センサー技術による利用者の状態把握をもとにしたサービスを開発し提供するようになったということになりそうだ。
まずここで、その先にあるだろう状態こそが日本社会の向かうべきビジョンとして提唱されていることを確認しておこう。現在の政府において、今後の社会像としてしばしば言及されているのがSociety 5.0という概念である2。「第5期科学技術基本計画」（平成28年1月22日）において科学技術が牽引する来るべき社会の像として定位されたSociety 5.0は、「ICTを最大限に活用し、サイバー空間とフィジカル空間（現実世界）とを融合させた取組により、人々に豊かさをもたらす『超スマート社会』」あるいは「サイバー空間とフィジカル空間を高度に融合させたシステムにより、経済発展と社会的課題の解決を両立する人間中心の社会」と描かれているが、ここでいう「融合」の趣旨が明らかでないとか3、これ自体がバズワード、すなわち正確な定義や内容を持たない流行り言葉として作り出されたものにすぎないという意見もある。あるいは、ドイツ政府が製造業のオートメーション化・データ化・コンピュータ化をカバーする概念として2011年から展開してきたIndustrie 4.0（製造業4.0）というコンセプトを踏まえ4、それに対抗するという程度の意味しか持っていないという批判も聞かれる。
だが本稿ではそうではないということ、このSociety 5.0というビジョンには明確な内容と意味があり、かつそれは従来とは大きく異なる統治手法、社会問題の新たな解決方法を提案するものになると指摘しておきたい。その際に踏まえるべきなのは、Society 5.0（第5の社会）が、第3段階としての工業社会、第4段階としての情報社会に対比されるものと位置付けられており、したがってそれらのあいだにある分断を乗り越えるものとして理解する必要があるということだ5。
まず、工業社会（Society 3.0）とはどのようなものだったかを再確認しておこう。それは、商品というモノの生産と流通の過程が効率化される社会、過去と比較してケタ違いの商品生産とその豊富かつ広範囲な流通を実現した社会だった。
そのことを示すものとして広く理解されているのがテイラーシステム、ベルトコンベア式の工場生産を典型とする科学的管理法である。たとえば鍛冶職人が手作業でネジを作っていた、それ以前の時代を考えよう。仮に生産過程を構成する100種類の異なる作業――材料の鉄片を切り出す、炭火で加熱する、ハンマーで適切な形に形成していく等々――があったとすれば、そのすべてを修得し熟練した職人だけがネジを生み出すことができたということになる。そのような職人を養成するためには数年十数年の修行が必要だったために彼らは相対的に稀少であり、注文者に対して強い交渉力を有していただろう。その反面、必要となる生産設備（工場（こうば））は小規模で、個々の職人の資力でまかなえるようなものであった。
だがベルトコンベアの流れ作業はそれを一つひとつの工程へと解体し、それぞれの労働者がただ一つの作業を記憶し反復することができるようにするだけで全体の生産プロセスが実現するように組み替えてしまったのである。職人の時代、一人の鍛冶が工程1から100を順番に繰り返すことで生産されていったネジは、ベルトコンベアによって工程1を担当する労働者から工程2、3、4……を担当する労働者へと材料・半製品の側が移動することを通じて生産されるようになる。一人の労働者はたった一つの作業が間違いなくこなせる程度まで教育されれば十分であり、それだけを反復するので簡単に熟達し、効率よく作業を繰り返すだろう。
そこにいるのはプロセスの全体を理解しコントロールすることのできる職人ではもはやなく、工場経営者の指示に従って意味もわからずに特定の作業を繰り返す労働者にすぎない。他方で生産設備は多くの労働者が生産ラインに並んで同時に作業することができる大規模な工場（こうじょう）へと変化し、それを用意するための財産を備えた資本家が生産プロセスの中心として登場することになる。さらに言えば、ここにある資本家と労働者の非対称な力関係が労働運動を生み出し、自由な主体同士の水平・対等な関係を軸とする近代法から、非対称な関係の統御という修正を組み込んだ現代法への変化の原動力になったとも言うことができるだろう。
しかしこれによって我々はそれまでよりはるかに効率よく商品を生産することができ、それによって価格を引き下げることが可能になり、人々の生活は工業製品に埋め尽くされて豊かで幸福で安全なものへと変化してきたわけだ。戦間期アメリカの街頭に並ぶ黒一色のフォードT型は、このようなモノの流通の効率化の産物であったと言うことができる。
だがそこでは情報の扱いが未発達であり、その特性に十分対応したものになっていなかった。たとえば我々がコンビニで傘を買うとき、特にそれが雨の日であれば、店員は「包装を取り除きますか？」と聞いてくるだろう。我々が本当に必要にしているのは傘によって実現される機能、雨から自分の身を守ることができるという状態であり、流通のためには必要であっても傘の包装はそのためにまったく貢献しないからだ。もういらないものなので、サービスとしてこちらで処分しておこうというのが店員の提案の趣旨である。
では同様に新聞を買うときはどうだろう。それによって我々が必要としているのは特殊な事例を除けば（つまり雨に濡れた靴を乾かすために中に入れておきたいといった事態でなければ）商品として手渡される新聞紙自体ではなく、そこに掲載されているニュースであり情報だろう。だからこそ読んでしまったあとの新聞紙はもはや機能に貢献しない不要品であり、捨て去られて電車の網棚に点々と転がることになる。では傘の場合と同様にコンビニの店員がサービスとしてこう尋ねることはあるだろうか――「新聞紙を取り除きますか？」
もちろんない、というのは誰もがわかるようにそんなことはできないからである。新聞紙に掲載されたニュースは物理的にはインクの染みと考えることができるだろうが、それがどのような形でどのように分布しているかが文字であるためには重要なのであり、仮に紙からすべて剥がしてしまえばそこにあるのは情報としての正確を失ったただのインクの塊にすぎない。逆に言えばここでは、情報を流通させるためにわざわざそれを物理的な存在として物質に固定し（モノに化体させ）、それを複製・運搬するというコストが支払われていることになるだろう――情報としてのニュースを、たとえば口コミで人から人へと直接伝えるときにはそのようなコストが不要であるにもかかわらず。
それでもそのようなシステムが社会に定着していたのは、自明のことではあるが、工業社会では広範囲へと情報を伝達する可能性がそれ以外に実現していなかったからだ。たとえばこの時代、メディア産業であるかに思われる新聞社の社屋を占めていたのは輪転機とトラックヤード――物理的媒体としての新聞紙の複製・流通を実現するための設備であったし、音楽を伝える媒体としてのレコードは文字通りプレス機によって、一定の形状を持つモノの複製として生産されていた。そのための大規模な生産設備が利用できるメジャーレーベル（とそこに所属するアーティスト）とそれ以外（インディーズ）のあいだに存在する明確な格差も、そこから生じたものである。つまりこの時代、情報産業もまた情報の化体したモノの生産・流通を本体とする産業を意味していたということになるだろう。
だがたとえばテレビやラジオが電波という媒体を使うことによって、一から多への一方向という限定の範囲であれ、モノを経由することなく情報を社会全体へと流通させる手段が実現した。電話によって個々人が他の個人へと、音声に限定されてはいるが情報だけを届けることが可能になった。そしてインターネットの発展により多種多様な情報を・多様な主体のあいだで直接に・世界規模で伝えることのできる社会が到来し、我々は多くの情報を情報それ自体として――たとえば新聞紙に印刷されたものではなく手元のスマートフォンに表示された新聞社のニュースサイトとして、享受することができるようになったのである。このように、モノを経由することなく情報という無体財が生産され流通することによる効率化が実現したのが、情報社会だと言うことができるだろう。
たとえばかつてレコードという有体物の物理的な複製により生産・流通されていた音楽という情報財は、まずCDの登場によってデジタル情報として複製されるようになった。そのために必要な生産設備もレコードのプレス機と比較すればはるかに小型・安価なものになり、CD-Rのように簡易なメディアを用いるなら個人が十分に所有・利用できるようなものとなった。さらにオンラインでの音楽配信サービスが登場し、モノを介することなく情報財としての音楽を単体で流通させることができるようになると、かつてモノの生産と流通能力の差異により成立していたメジャーとインディーズのあいだの壁がなくなり、メジャーに認定された特権的なアーティストによる少品種・大量生産から、分散した主体による多品種・少量生産へと市場のあり方も変化することになっただろう6。
Amazonの電子書籍プラットフォームであるKindleを見れば、大手出版社が刊行した新書や文庫の電子版、学術出版社による専門書、そして著者自身によって制作された「私家版」の小説や漫画がAIに支援された「おすすめ」のアルゴリズムに沿って並び、フラットな市場を形作っていることが見てとれるだろう7。情報流通をモノへの依存から解き放つことにより高速・効率的でフラットな情報空間が生み出されたことが、情報社会の本質だと言うことができる。
だがこの段階ではまだ、モノの効率化としての工業社会と、情報の効率化としての情報社会が融合していなかった点に注意しなければならない。その両者を接合する結節点には必ず人間が介在しており、かつそれに由来する問題が起きていたのである。どういうことか。
コンビニの店頭でも利用されているPOSレジと呼ばれるものを想起しよう。商品にあらかじめプリントされたバーコードを店員が読み取ることによって会計が行なわれるのだが、同時にそこではどのような商品がいつどこで売れているかというモノの動きが情報へと変換され、ネットワークを通じて店舗全体、さらにはチェーン全体で集計されるわけだ。これにより、ある店でどのような商品が売れているか売れていないかを分析して入荷計画を作り、商品流通を効率化するようなことが可能になるだろう。
だが問題は、顧客という人間にはバーコードが印刷されておらず、店員という人間がその属性を判断してレジのキーを押すことによってしか（赤青の二色で年齢層を示す数字が書かれているキーを見たことがあるだろう）、情報へ変換することができなかったという点にある8。これによってはじめて顧客の属性と商品の動きの関係――たとえば新製品のチョコレートが主要顧客として想定していた二十代女性に本当に売れているのかどうか――を分析することが可能になるのだが、そこには顧客の外見から判断した属性が誤っているリスクや（たとえば私はこの二十年ほどほぼ一貫して「四十代男性」のキーを押されている）、店員が故意あるいは過失によってその作業を怠る危険性が常に含まれている。
情報から物質の世界への出口についても、同じような問題が存在していると考えることができるだろう。自家用車のカーナビゲーションシステムが、情報の世界でのやりとりをもとにしてこの先に渋滞が待ち構えていることを予測し、回避するよう我々に忠告してくることを考えよう。一般的に言えばそのアドバイスに従って渋滞を回避するようルート変更することによってこの車両の適切な利益が実現するだろうし、さまざまな車が同様の行動を取ることで渋滞箇所に流入する自動車の数が減ればそれによって問題が縮小するだろうから、社会全体の車両の動作もまた効率化されると考えることができる。
だが問題は、アドバイスを受けた現実のドライバーという人間がその指示に十分に従わないとか、従えない可能性があるということだろう。つまり我々は、急にアドバイスされてもそれが適切かを判断して従うかどうか決めることができないとか、そもそも他のことに気取られていてアドバイスに気付かないとか、新たなルートとして提示された道はこれまで走ったことがないので何となくイヤだとか、そのようにさまざまな理由で機械の指示に従いそこねるのだ。このように人間という信頼性の低いパーツがシステムに組み込まれていることによって、サイバーの世界とフィジカルの世界の接合には常に摩擦が生じているということになる。
このように考えたとき、状況を大きく変える可能性を秘めているものとしてSociety 5.0が浮上することになるだろう。冒頭の例をめぐって説明したように、まずそこでは情報の世界への入り口が人間による意図的な行為からセンサーによる状態の把握へと置き換えられていくことになる。さまざまな機械や物体にセンサーを取り付け、フィジカルな世界の人間や物質がどのような状態にあるかを把握し、インターネットを通じてそれを集約する技術として発展しつつあるのがInternet of Things（IoT；モノのインターネット）である。もちろんそれによって、これまでとはケタ違いの量のデータがシステムへと取り込まれることになるだろう。
さらに出口においてはロボティクスが活用される9。先端的には自動運転車や、古典的には自動制御されるようになったエアコンのように、情報をもとにして機械が自動的に制御され、物理的な動作を実現することになるだろう。そして、その中間をつなぐものがクラウドコンピューティングを背景としたAIの活用に違いない。情報はネットワーク上で蓄積され・分析され・集計され、社会規模での最適化や効率化を志向して処理されていくことになるというわけだ10。
ここでのポイントは、その一連の過程が人間を介在させることなく――やや正確に言えば人間の意図的な行為に依存することなく展開されるようになるということである。もちろんそこでもまだ、一定の状態にあったり情報を備えたりする存在としての人間は想定されている。すでに例として挙げたクーラーを考えれば、一定の体表温度を情報として持っていたり、寒いと思って何らかの動作（たとえば鳥肌を立てる、身をすくめる、手や指をこする）を行なうような人間が室内におり、彼らの状態を観測することなしにはクーラーが適切な動作を決められないという意味では、そこに人間は必要とされている。
だが重要なのはこのとき人間は観測や監視の客体であり、自ら決断し行為する主体ではないということだ。寒いと感じたときの反応として列挙したさまざまな動作が、しばしば人々によって無意識に行なわれるものであることに注意しよう。一連の過程を正しく動作させ、クーラーが快適な室温を実現するためには（そしてそれにより「冷やしすぎ」を予防して社会全体におけるエネルギー消費を効率化するためには）、我々の意識的な行為はむしろ有害なのだ。したがって、このシステムが実現するだろう我々の社会全体のコントロールは、人格なき統治と位置付けられるのにふさわしい。
このような形でICTを活用する社会が、一方においては一定のモノやサービスの提供に関する効率性を革新的に改善し、そのために必要となる資源量を大きく削減することは間違いないだろう。それによって、世界全体におけるSDGs（持続可能な開発目標）の実現や、環境保護と経済発展の両立といった社会課題の解決に大きく寄与し得るだろうことも疑い得ない。さらには、人流・物流を減らしつつこれまでと同様の（あるいはそれ以上の）社会的な利便性を実現しようとする意味において、with／afterコロナ時代、すなわち（必要な場合には）人の移動や人と人との接触を当事者たちの意に反しても制限しつつ社会機能を維持することのできるレジリエントな社会システムの構築が求められる時代に適したものだと位置付けることも可能だろう。
もはやクーラーは無駄に部屋を冷やさないのだし、渋滞した道路を迂回するようなルートを自動運転車が勝手に選択することによって混雑は自動的に解消し、道路交通も効率化されるだろう。顧客とその購入した商品の関係が自動的に記録され分析されていくことによって、たとえば私が毎朝ドリンクを購入する駅の自動販売機に近付いていくだけでいつも買っているペットボトル入りのコーヒーが選択画面の中心に表示されるようになるかもしれない（急いで電車に乗らなければならないときには有用だろう）。
あるいはその記録が私の医療情報と結合されることによって、たとえば私が買いたいと明示的に意思していたとしても塩分の多いスープ類を選択画面に表示せず、買うことが物理的にできないような状態が作り出されるかもしれない。これは私の自由を制約し、可能性を奪っているように思われるだろうか？ しかし私が実際に高血圧の治療を継続的に受けていることを考えれば、塩分摂取を制限することによって健康状態を改善し想定される余命を伸ばすことの方が私の人生の可能性全体を拡大しているということになるかもしれない。そのような形でそれぞれの個人を幸福にするために介入し、彼らの自由を制約しては、なぜいけないのだろうか？11
もちろんこれは、パターナリズム――相手の利益を実現するための干渉がどこまでどの程度許されるかという古典的な問題の変奏曲であるにすぎない。しかしここで干渉者として想定されているのは、干渉される側である我ら人間と能力的に大きくは異ならない別の個人ではなく、情報の収集・分析の正確さや持続性において従来とは隔絶した能力を誇るであろう自動化された統治システムなのだ。そしてAIの能力が日々向上していることを考えれば、干渉する側の判断が優れていないとか優越しているという証拠がないといった類の使い古されたパターナリズム批判を繰り返すことでこの問題に立ち向かうのはあまりにも無謀無策だと思われる12。
本稿で問題としてきたような人間の行為の介在しない統治システムにおいて人々が属性の束としてのみ把握されることを問題だと感じるとして13、プロファイリングがそれぞれの個人ではなく個々人の属性を対象とし、行為や状態の相関性に関する分析をもとにして将来の選好や行為を予想しようとする営みである以上、そこで個人の存在――主体的に判断し、自律的に行動し、場合によっては社会的に最適であるとか当の本人にとっても最適であるような行動をとらないような存在である個人というものが見失われる危険性があることに懸念を覚えるとして、ではなぜ個人なのか14、オルダス・ハクスリーの口吻を借りれば「不幸になる権利」を我々が要求するのはなぜなのかが、いま問われているのである。
「しかし私は快適を求めません。私は神を欲します。詩を、真の危険を、自由を、善良さを欲します。私は罪を欲するのです」
「では実のところ」ムスタファ・モンドは言った。「君は不幸になる権利を要求しているわけだ」
「それで結構です」と野蛮人（サヴェジ）は昂然と言った。「私は不幸になる権利を求めているのです」15
たとえばそれを、冒頭に取り上げた嘘との関係で考えることもできるだろう。嘘とは不道徳なものであり、そのようなものを我々は必要としないと言う人もいるかもしれない。しかし客観的な事実、あるいは主観的に認識している事実（嘘という概念がこのどちらと主たる関係を持っているかも重要な問題だ）と異なる発話や主張をすることを嘘というとき、そのすべてが――たとえば他者を精神的に傷付けるとか誤った・不利な判断に誘い込むという意味で――不道徳なものと考えることはできるだろうか。
我々はここで、Society 5.0においては冒頭に挙げたような「高貴な嘘」の可能性が失われることにも注意する必要がある。画像認識や体表の温度観測をもとに目前の利用者の栄養状態がどのようなものであるか、いま空腹かどうかといったような事実が認識され、それをもとにした「アドバイス」が与えられるとき、たとえば「いま満腹なので」と称して毒入りの饅頭を相手にだけ食べさせようとするように相手を騙して不当な利益を得るための嘘はつけないようになるだろう。だがそれと同時に、冒頭の例における母も悲しい嘘を暴かれてしまう。「やせ我慢」「武士は食わねど高楊枝」と表現されるように、ときには事実と異なる建前を守るために自らの利益を犠牲にすることが正しい行為であり、人間の尊厳と結び付いた高貴な行ないになり得ると我々が考えるのであれば、センサー技術により収集された情報に依拠する快適な社会においてそれが不可能になることを、どう評価するべきなのだろうか。
あるいは、法やそれに基づく命令に反する行為について考えよう。それはただちに悪であり、禁止され、あるいはその可能性自体を奪われることが望ましいものだろうか。
ギリシア神話において、トロイア王の子・パリスを生む際にその母が見た夢は不吉であるとする占い師に勧められ、父王は彼を殺害するよう部下に対して命じる。しかし部下は無辜の赤子を殺すに忍びず、イーデー山に捨てるにとどめ、羊飼いに拾われたパリスは無事に成人することができた（そのことが女神たちの争いとトロイア戦争の遠因になるのだが）。この物語における部下の行動を、我々は不正とか邪悪と看做すだろうか。
しかしそれが正当な・善い行為であったとして、それが可能なのは物語の世界において（あるいは現在の我々の世界においても）掟の効果が完全ではないからだということになるだろう。その決断を下しているのが人間であれAIであれ、下された決定がロボティクスなどによって完全に・自動的に執行されてしまう社会において、王の部下には何ができるのだろうか。より一般的に言えば、法に反するが当事者がその正当性を確信し、世論を喚起する等の目的でなされるそのような行為――市民的不服従（civil disobedience）と呼ばれるもの16――の可能性は、Society 5.0において失われてしまうのではないだろうか。
たとえば中国で導入されつつあるという「交通違反者暴露台」17というシステムがある。交差点を赤信号で渡ろうとした歩行者のように、制裁すべき行為者の存在をシステムがとらえたとしよう（防犯カメラ映像をAIが解析してそのような行為を探知するのだ）。その映像は警察が持っている全市民の顔写真を含むデータとただちに照合され、行為者が特定されることになる。その結果、市街各所に設置されている液晶ディスプレイに違反者の姓名・違反行為と顔写真が大々的に表示されることになるというのだ。
この段階では、さらしものになったことから当事者の感じるであろう羞恥といった人格的反応が、同様の行為の発生を抑止する要素として期待されている。だが我々はただちに、このようなシェイミング（辱め）だけでなく何らかの物理的制裁（たとえば電気ショック）が、自動的に動作する装置によって違反者に加えられるシステムを想定することができるだろう。鈴木健も、「契約の自動実行」という（誤った）表現で、このようなシステムを構想している――「まわりにタバコを吸う人しかいない場合はタバコを吸ってもよいとする。過去にいつタバコを吸ったかというデータがライフログに残っていて、もし問題があればタバコ自体が着火しない。そういうタバコが開発されるだろう。（……）こうした処理は、ビルのドアやタバコのなかに埋め込まれたユビキタスデバイスが自動的に判定して実行する。これはまるで契約の自動実行のようなものである」18。Society 5.0において実現する人格なき統治がこのように個々人の行為への制裁までを実現するならば、そのとき社会は非常に効率の高い規律訓練の手段を得ることになるだろう。
もちろんこのような規律訓練は、近代の刑事法がまさに目的としてきたものであるに違いない19。特に法が事前に市民に対し公開されていることを求める法治国原理は、制裁を予告することによって市民の側で自主的な行動変容が実現することを期待していたはずだ。その典型が――その程度は別にして――死刑の抑止効果と呼ばれるものだろう。その意味で刑罰は、その存在によって自らを適用すべき事態が減少し、願わくば消滅することを期待するという、二律背反的な性格を帯びている。
だが、同時にそこでは相当に強い制裁が予定されてもいる。現実に発生するすべての犯罪が発見され摘発されるわけでもない以上、その確率を考慮しても十分な抑止力が生じるレベルまで強い制裁を、社会としては予定せざるを得ないからだ。またそのことから、重大な結果をもたらす刑罰というものを正しく運用するための厳重な手続きや権利保障が求められることにもなっただろう。
これに対し、Society 5.0が実現する完全に執行可能な制裁システムは、そこで与えられる処罰をごく軽微にすることができるだろうし（中国の交通違反者暴露台が科す罰金は数百円程度と言われている）、それに比例して手続的保障も軽いものにすることが許されるだろう。そこで実現するのは、速く軽く回転し続ける規律訓練のサイクル――たとえば我が国においてもアジャイル・ガバナンスとして提言されているもの――なのである20。
だが我々は再びここで問うべきだろう――そこに嘘や手加減、あるいは市民的不服従の可能性は存在するのだろうか。たとえば自分が横断歩道を渡りおわった瞬間、まだ交差点の途中にいて転んだ老人を助けに戻る行為は、交通違反者暴露台の制裁対象になってしまわないだろうか。形式的にはルールに反するが結果的には正当化されるであろう行為――正当防衛や緊急避難といったものも法の内部において我々がその存在を予定した形式であろうが――を救済することは、可能なのだろうか。
ジャック・デリダが『法の力』において、反復可能な法（droit）と、すべての正しさの根拠となる正義（justice）を区別していることを思い出そう――「法は正義ではない。法とは計算の作用する場であり、法がいくらかでもあることは正義にかなっている。けれども正義とは、それを計算することの不可能なものである」21。彼によれば、ルールとしての法はそれぞれの事例の個別性を踏まえることができず、常に正義から一定の乖離を抱えざるを得ないのであった。デリダの結論に従うかは別として、法というシステムがこの両面――規則性と具体的正当性を――常に意識し、それを調整する原理を組み込んできたこと（典型的には公序良俗（民90条）や正当行為（刑35条）が挙げられよう）、さらには執行の当事者による手加減を許してきたことは、認められるのではないか22。たとえば軽犯罪法に定められている禁止とそれに対する制裁がそのまま忠実に執行されていると考えるものがいるだろうか。法というシステムは、明示的にも潜在的にも、自己決定的な個人が介在しその判断がさまざまな影響を及ぼすことに期待しているのだ。その故になされるべきことが十分に行なわれないという不完全性が生じることもあれば、事前見通しの不十分さを実質的には補完するような運用が行なわれたり、見通されていなかった状況において既存の法を想定外の方法で活用する方法が発見されることもあるだろう。システム的な意味における人間の不完全性は、同時にそれが進化や創造の契機になるという両義性を帯びている。
それと比較したならば、Society 5.0で実現するであろう人格なき統治は、まさに自己決定的人格に頼ることなくシステムの完全性にその正当性を依存するものだと考えることができるだろう。だからこそそこでは人間中心主義がことさらに掲げられなければならないのだ――人間が作り人間が執行するシステムであれば、ことさらにその人間性を破壊するような手間をかけない限り23人間的な帰結が生じることを当然に期待できよう。執行過程に人格ある人間が介在しないからこそ、人間的な価値は設計段階において意図的に留意され組み込まれる必要があるのではないだろうか。そのことが、Society 5.0や人工知能に関係するさまざまな文章において、あるいはことさらに人間的価値・人間中心主義に言及される背景として、人々があるいは暗黙のうちに感じていることではないのだろうか24。
だがそのようなシステムもまた――少なくとも現在から見通すことのできる範囲においては――人間によって作られるよりない。我ら人間が完全なシステムを設計し得ると信じるのか、その不完全性を個々の人格による創発的な判断によって補おうとするのか。これがSociety 5.0が見せる夢に対する我々の態度を分かつものになるだろう25。
「よろしい、幸福のことは我々に任せなさい。そうすれば、我々は諸君に、その幸福をさしあげましょう。」いいえ、皆さん、我々はそうさせてはなりません。その好意がどんなに思いやりのある、魅力的なものであっても、我々は、権力がその限界を逸脱しないことを心から念願しようではありませんか。権力は、あくまで適正であることが必要なのであります。我々は、幸福であることに自分自身が責任を負う覚悟であります。2627
1 慶應義塾大学法学部教授。
2 一例として内閣府「内閣府の政策」内にあるSociety 5.0のページ（https://www8.cao.go.jp/cstp/society5_0/index.html）がある。
3 日立東大ラボ『Society 5.0 人間中心の超スマート社会』（日本経済新聞社出版、2018年）第1章は「現実世界のモデル化」というキータームを用いてこの点を適切に説明しているが、システムからの出力を「知識」と位置付けており、ロボティクスによりフィジカル空間に実際の変化が加えられる可能性を何故か除外しているように思われる。
4 日立東大ラボ（前掲注3）第1章第5節は両者の違いについて、Industrie 4.0が製造業を中心とするスマートファクトリーの実現であるのに対し、Society 5.0は社会全体のスマート化であると適切に指摘している。
5 「段階」と表現しているが、Society 3.0を生み出した産業革命の後にもSociety 2.0を支えた農業がなくなってはいないように、社会を構成する中心がシフトしていくもののそれぞれの社会はいわば重層的に存在し続けるのだという点には注意する必要がある。
6 この変化を市場の側で見たものが、いわゆるロングテール現象ということになるだろう。参照、Chris Anderson, The Long Tail: Why the Future of Business is Selling Less of More, Hyperion, 2006（篠森ゆりこ（訳）『ロングテール：「売れない商品」を宝の山に変える新戦略』（早川書房、2006年））。
7 フラット化という概念に注目してインターネットのもたらす社会変動を指摘したものとして、参照、佐々木俊尚『フラット革命』（講談社、2007年）。
8 2021年現在、複数の大手コンビニチェーンのPOSレジではこの機能が廃止されている。本文で指摘した問題に加え、ポイントカードシステムを用いることにより顧客の側から個別化可能な情報が提供されるようになったこと（人間にバーコードが貼られるようになったこと）が背景として指摘されているが、そこでも顧客個人の努力――忘れずにポイントカードを携帯・提示するといった――が必要となっている点に変わりはない。
9 前述したとおり、日立東大ラボ（前掲注3）はシステムの出力を知識と位置付けるため、それが現実世界を動かす方法には「大量で多様なデータを使って人が意思決定することで、社会を動かしていく」「人が介在することなしに、データが自動で社会を動かしていく」という二つの方法があると整理し（35頁）、両者が並存すると主張する――「“最適な”コントロールを実現するのはAIであるかもしれないが、“最適”とは何かを決めるのは人間なのである」（39頁）。だが実現の可能性・効率性を追求すれば人間に依存することの問題性は明らかになるだろうし、“最適”の決定についても、たとえばその基準となる幸福の定義によっては客観的に、人間が介在することなく行なえることにもなるだろう。この問題に関する簡単な整理として、参照、大屋雄裕「価値と分配と効率性：消費者法の位置付けの前に」『法律時報』1114号（2019年）108―114頁。
10 その際、中心的に用いられるプロファイリング技術とその問題性については、参照、山本龍彦「AIと「個人の尊重」」福田雅樹・林秀弥・成原慧（編）『AIがつなげる社会：AIネットワーク時代の法・政策』（弘文堂、2017年）320―343頁。その（やや批判的な）検討については、参照、大屋雄裕「プロファイリング・理由・人格」稲葉振一郎他（編）『人工知能と人間・社会』（勁草書房、2020年）260―296頁。
11 すでに注9で指摘したとおりここには、幸福を各人の客観的な利益が実現することと考えるか、本人の主観的認識に基づく選択が実現することと考えるかという問題が隠れている。
12 ここでは井上達夫によるパターナリズム批判――「パターナリズムは、国家の個人に対する知的・倫理的優越性の前提の下に、後見的配慮という形での、国家の個人に対する強制・干渉・操縦（マニピュレーション）を要請する」（井上達夫『法という企て』（東京大学出版会、2003年）208頁）――を念頭に置いている。井上は同様の主張を（大屋の批判に反論する形で）繰り返しているが――「パターナリズムの実践は実践主体に他者の幸福を配慮するための高度の能力と資源、そして重い自己の負担・犠牲を厭わないだけの他者の幸福への強いコミットメントを要請する。パターナリズム実践主体の資格に関わるこの制約条件を満たすことは容易ではない」（井上達夫「批判者たちへの「逞しきリベラリスト」の応答」『法と哲学』2号（信山社、2016年）199頁）――現在の社会を念頭に置いたとしても組織的・集合的決定によって優れた決定に至り得る可能性を否定することで民主政の重要な正当化根拠を掘り崩している点には注意する必要がある。井上は自らの見解の根拠を「人間的脆弱性から免れた特権的存在の不在」（同）と要約しているが、AI後の社会に対してこの議論が適用し得ないことをこれ自体が表現していると考えることもできよう。
13 山本龍彦（前掲注10）323頁。
14 法のモデルとして、人々を人格ある個人（行為主体）として尊重するものだけでなく、「人間動物」（human animal）として（一定の指摘に因果的に反応する客体として）扱うものが可能であるという主張として、参照、安藤馨「租税と刑罰の境界史：法の諸モデルとその契機」金子実（監修）『現在租税法講座第1巻 理論・歴史』（日本評論社、2017年）321―343頁。
15 Aldous Huxley, Brave New World, Chatto & Windus, 1932, ch. 17（邦訳には、大森望（訳）『すばらしい新世界〔新訳版〕』（早川書房、2017年）などがあるが、訳文は独自に作成した。）
16 ギリシア神話におけるアンティゴネーの挿話以来、不正である掟に対して意図的に反逆する（そして処罰を引き受ける）ことの持つ倫理的意義は重要性を認められてきた（法の誕生との関係でこの挿話を重視するものとして、参照、木庭顕『誰のために法は生まれた』（朝日出版社、2018年）第4回）。ベトナム戦争との関係でも市民的不服従としての徴兵拒否が注目され、多くの議論はそれを否定しがたいものと位置付けている（たとえば John Rawls, "The Justification of Civil Disobedience", in: Hugo Adam Bedau (ed.), Civil Disobedience: Theory and Practice, Pegasus, 1969, ch. 17 = 平野仁彦（訳）「市民的不服従の正当化」田中成明（編）『公正としての正義』（木鐸社、1979年）第5章）。
17 参照、赤間清広『中国 異形のハイテク国家』（毎日新聞出版、2021年）32―36頁。
18 鈴木健『なめらかな社会とその敵：PICSY・分人民主主義・構成的社会契約論』（勁草書房、2013年）217―218頁。なお参照、大屋雄裕「功利主義と法：統治手段の相互関係」若松良樹（編）『功利主義の逆襲』（ナカニシヤ出版、2017年）236―237頁。
19 また、それが一定の正統性を付与された法の効率的な実現を目指すものであり、その法が人々の幸福を実現することを目的にしているという意味において（一般的に言えば交通安全が確保されることはすべての市民の幸福につながっているだろう）、中国的な統治システムは我々の――あるいは欧米も含めて――ものと根本的に異質だったり異様なものであるわけではない。それはただ、嘘や不服従を含めた人間的な要素へのこだわりやためらいがない、思い切ったシステムなのである。同様の指摘を加えるものとして、参照、梶谷懐・高口康太『幸福な監視国家・中国』（NHK出版、2019年）。
20 経済産業省・Society 5.0における新たなガバナンス研究会「Governance Innovation Ver. 2：アジャイル・ガバナンスのデザインと実装に向けて」（2021年7月30日）。公正を期せば、アジャイル・ガバナンスは公権力の側における統治のデザインと改善を迅速かつ効率的に行なおうとするところにその主眼があり、一定の統治目的を前提として被治者の行動変容を効率化しようとする中国的統治とは視点が大きく異なっている。
21 Jacques Derrida, Force de loi: Le «Fondement mystique de l'autorité», Galilée, 1994, p. 38（堅田研一（訳）『法の力』（法政大学出版局、1999年）39頁）。原語のdroitを邦訳は「法／権利」としているが、ここでは「法」のみにした。
22 行為の評価が事前・事後で異なり得ること、それに対応する制度として恩赦や緊急避難を位置付けるべきだということについて、参照、大屋雄裕「行為指導と罪責追及のジレンマ」『刑事法ジャーナル』58号（成文堂、2018年）38―44頁。
23 映画『フルメタル・ジャケット』（スタンリー・キューブリック監督、1987年）に登場したハートマン軍曹（ロナルド・リー・アーメイ）の罵詈雑言を思い出す人も多いだろう。
24 その意味で、人間の介在するもの・しないものという二種のシステムが存在し得ること、それが後者に統一されてしまわないことがSociety 5.0の人間中心性を支えることを日立東大ラボ（前掲注3）39頁は正しく指摘しているが、両者が自然に並存し役割分担するという想定の根拠は十分に示されていない。
25 「第6期科学技術・イノベーション基本計画」（令和3年3月26日）はSociety 5.0について「一人ひとりの多様な幸せ（well-being）が実現できる社会」と位置付け、単に経済的豊かさだけでなく「精神面も含めた質的な豊かさ」、生き方の選択や失敗に対するセーフティネットを含めたものと表現している。他方でwell-beingという表現は客観的で測定可能な幸福概念との関係が強いものであり、この点の整理がどのようになされているかは必ずしも明確でない。参照、大屋（前掲注9）。
26 Henri Benjamin Constant de Rebecque, «De la liberté Anciens comparée à celle des Modernes», 1819（大石明夫（訳）「近代人の自由と比較された古代人の自由について：1819年、パリ王立アテネ学院における講演」『中京法学』33巻3・4号合併号（1999年）184頁）。
27 本稿の一部として、大屋雄裕「Society 5.0と未来の統治」『三色旗』829号（慶應義塾大学出版会、2020年）25―32頁を利用した。また、本稿は科学研究費補助金18H00791、同19K21676による研究成果の一部である。記して感謝する。
