寄稿論文
AI原則の事業者による実施とコーポレートガバナンス
2020 年 4 巻 2 号 p. 25-43
詳細
2020 年 4 巻 2 号 p. 25-43
日本をはじめ各国でAI原則の策定が進み、その一般的な内容については、ほぼコンセンサスが成立している。そうした中で、今後は、AI開発や利活用に関係する事業者によるAI原則の実施が重要な課題となる。AI原則の実施とは、各事業者がAI原則をなぞるようにしてAI指針を作成すればよいということではないし、CSR活動の連想から想定されがちな「本業に余力がある範囲での社会的活動」であってもならず、企業組織内で実効性が確保されるように、それをコーポレートガバナンスの一環として位置づける必要がある。また、AI製品の開発過程には、通常、複数の事業者が関与するので、そうした開発契約に連なる当事者（サプライチェーン）の全体にわたって、契約関係のガバナンスとして行うことも求められるであろう。
コーポレートガバナンス理論との関係では、まず、会社経営者に株主の利益最大化を基準とした行為規範を課すという考え方には、近年、反省が提起されている点を指摘できるであろう。株主の長期的な利益を実現するためにはステイクホルダーの利益に十分な配慮を必要とするという考え方は、日本でも定着しつつある。AI原則の実施は、社会によるAIの受容を促進するので、AIの開発や利活用に携わる事業者の中長期的な利益になるということは、理解しやすい。また、企業活動から生ずる外部不経済を抑制することの必要性も、地球環境問題や労働・人権問題などとの関連で共有されつつあり、AIが社会の基本的な価値に反して利用されないようにするためのAIガバナンスは、むしろそれらと同様の取組として位置づけることもできるであろう。
AI原則を実施するためのAIガバナンスは、それ自体としては、事業者による取組である。しかし、それを促進することは、社会的にも意義がある。社会による集団的な意思決定に際して、市場メカニズムを通じた「退出」や規制の執行による「忠誠」によることも考えられるが、AI製品については、いずれも、十分に機能するとは限らない。そうした中で、AIの利用態様について社会的に見解が分かれ、法的なルールがまだ存在しない場面も含め、社会からの「発言」を受け止め、責任をもってAIの開発と利活用を進めるというアプローチが適合的であると考えられる。これこそが、事業者によるAIガバナンスの社会的な意義であると考えられる。
Now that the AI principles have become widespread in the world, the focus has shifted to the implementation in practice. Obviously it is not enough that the companies just copy the AI principles and publish them as their own business policies. The private entities engaged in the development and use of AI must address the implementation of AI principles as an issue of corporate governance. Furthermore, they need to implement the principles within the framework of contractual governance, given that several entities are commonly involved in the development of AI products. In this context, it is useful to recognise that the straightforward shareholder primacy approach to corporate governance has recently been criticised. The AI governance to ensure that the use of AI does not undermine the fundamental values of the society is in line with the emerging focus on the social and environmental issues in the practice of corporate governance (ESG focus). Viewed from the society, the commitment to the AI governance by private entities enables dialogues between the commercial developers and/or uses of AI and the members of the civil society on the use of AI products. By borrowing the well-known framework, it constitutes the “voice” approach on collective decision over the use of AI in the society, as opposed to the “exit” approach relying on the market mechanism to have the better AI products to survive or the “loyalty” approach through the enforcement of the regulation to exclude such AI products as the regulator finds inappropriate. As concerns the use of AI products in the society, on which people’s views can be divided, the “voice” approach seems to be the most efficient.
AI技術の実社会における利活用が現実化するとともに、この技術が社会の基本的な価値と抵触したり、それを空洞化させたりするおそれも強く指摘されるようになった。その結果、2010年代の半ばごろから、世界各地で、AIの開発や利活用のあり方に関する基本的な考え方が議論されていった。民間主体のイニシアティヴによる動きとしては、Future of Life Instituteの呼びかけで作成されたアシロマ原則（2017年1月公表）や、IT大手企業が中心となったPartnership on AIの「信条」（2016年9月公表）がよく知られたものであろう2。日本では、世界的に見ても早い時期から官民による取組が進み、総務省情報通信政策研究所を事務局とするAIネットワーク社会推進会議が、2017年には「AI開発原則（案）」を3、そして2018年には「AI利活用原則」を、それぞれ公表した4。この両原則は、国際的にも大きな影響を与え、2019年5月にOECD閣僚理事会で「AIに関する閣僚理事会勧告」が採択される契機となった。他方、国内では、この両原則が実現しようとする社会的な価値を明確化する必要性が認識され、2019年3月に「人間中心のAI社会原則」が策定されている5。
世界各地で公表されているAI原則等を比較すると、国により、また作成主体によって、力点の違いや独自の視点も多少は見られるものの、基本的な考え方はほぼ収斂していると言ってよい。従って、AI原則の内容をめぐる議論は一段落し、今後は、それをAI開発や利活用の現場で実施していくフェーズに移行していくことになろう。企業が自社としてのAI原則を策定、公表する事例はすでに内外で少なからず見られるようになった。さらに、各国政府の中には、AI原則を事業者等が実施するためのガイダンス文書を作成する動きもある6。国内でも、経済産業省の「AI社会実装アーキテクチャー検討会」が2021年1月に公表した中間報告「我が国のAIガバナンスの在り方 ver. 1.0」には、そのような問題意識が明示されている7。
しかし、早くからAI開発や利活用のあり方に問題意識を持ってきた企業を別にすれば、事業者から見て、AI原則の実施といっても簡単に実行できるものではない。分析的に言えば、そこには、二つの問題が存在する。その一つは、AI原則は抽象的な考え方を提示しているにすぎないので、それを具体的なアクションに落とし込む必要があるという実践的な課題である。AI社会実装アーキテクチャー検討会においても、「AI原則に関する社内規定の具体化のためには、中間的かつ実践的なガイドラインが必要である」という指摘がなされたと報告されている8。いま一つは、理論的な問題であり、事業者が株式会社である場合、株主共同の利益としての企業価値を最大化することがコーポレートガバナンスの理念とされる中で、コストをかけてAI原則を実施することはどのように正当化されるのかという点である。これらの問題に対する回答が明確にされなければ、AI原則の事業者による実施を呼びかけても掛け声倒れとなり、現実にはなかなか進まないという結果になりかねない。
本稿は、このうちの第一の問題を意識しつつ、主として第二の問題について検討を加えるものである。まず、AI原則の実施という課題を、事業者の活動に位置づけてみる。とくに、AI開発には複数の企業や開発主体が関与する場合が多いことから、コーポレートガバナンスの問題とともに、サプライチェーンの管理という側面をも持つことに注意して考えよう（Ⅱ）。次に、コーポレートガバナンスの理論において、株主の利益と株主以外の関係者（ステイクホルダー）の利益の関係がどのようにとらえられているかについて最近の議論を概観し、それをAI原則に適用した結果を検討する。この関係で、ESG（環境・社会・ガバナンス）に対する意識が近年急速に高まっているという動向は、重要な意味を持つ（Ⅲ）。さらに、そうした事業者によるAI原則実施の取組が、社会全体から見るとどのような意味を持つかについて考えたい。これは、言い換えれば、なぜAI原則の実施を進めなければならないのかを改めて問うことである（Ⅳ）。最後に、以上をふまえて、今後、AI原則に関して日本の政府及び事業者がとるべき対応を呈示し、まとめとする（Ⅴ）。
なお、本稿で用いる用語について、ここで整理しておきたい。まず、「AI原則」は、AIの開発ないし利活用にあたっての考え方を示した文書のうち、各国の政府や民間団体などが策定するものを指して用いる。日本では、「人間中心のAI社会原則」や「AI開発原則」「AI利活用原則」がこれにあたる。これと区別するため、各事業者が、自社ないし自社グループにおけるAIに対する考え方を示すものとして策定した文書は「AI指針」と呼んでおく。AI指針の中には、まったく自発的に作成されるものもあれば、AI原則を実施するために作られるものもあろう。なお、このような用語の使い分けは、各文書の作成主体を区別するため、まったく便宜的に、本稿限りで採用するものである。
次に、AI（人工知能）という言葉は技術を指して用いることとし、AIを利用した製品やサービスは、「AI製品」と呼んでおく。AIの場合、AIスピーカーやAI家電製品、自動走行車など有体物の製品のほか、端末上のアプリを通じて提供されるAIを用いたサービスも多種多様なものが商品化されるであろうが、有体物の製品と無形のサービスを特に区別する必要がない限り、一括して「AI製品」とする。これも、記述を簡単にするための便宜的な用語法である。
関係する主体については、AIのプログラムやAI製品を開発する者を「開発者」と呼び、開発されたAI製品を販売する者や、オンライン上のサービスとしてAI製品を提供する者、およびAI製品を自己のために使用する消費者等を、AIの「利用者」と総称する。従って、「AI利用者」の中には、AIサービスのプロバイダとAI製品をいわば自家利用する者（最終利用者）とが含まれることになる。さらに、後者の最終利用者にも、AIによる診断装置を参照して診察を行う医師やAIを用いた不正検知装置を利用する会計士のような事業者的利用者と、AI家電やスマートフォン上のAI利用アプリをまったく自分のために利用する消費者的な利用者が存在する。これらの用語法は、『AI利活用ガイドライン』の検討過程において整理された用語法に従うものである9。
事業者によるAI原則の実施といっても、その意味合いは、事業者の置かれた状況によってまったく異なりうる。具体的には、株式会社、持分会社そして個人事業などの事業形態、上場企業と非上場企業、多数の子会社や関連会社などを擁する企業グループとAI専業の単体企業などの相違が、すぐに考えられる。AI開発の分野では、未上場のスタートアップ企業が少なくないので、事業者の置かれた状況の多様性に留意することは、特に重要である。
上場された株式会社の中には、自社ないし自社グループにおけるAI開発や利活用について、すでにAI指針を設け、その実施体制を公表している事例がある。たとえば、ソニーグループでは、2018年9月に「ソニーグループAI倫理ガイドライン」を策定した10。ソニーグループは、1987年に人権擁護室を、そして1995年にはソニーグループ人権委員会を設置してきたが、ソニーグループAI倫理ガイドラインの策定も、そうした取組の延長線上に位置づけられている。ソニーグループのサステナビリティレポートによれば、「CSR担当執行役が管轄する本社CSR担当部署において、ソニーグループ全体の事業活動およびサプライチェーンにおける人権リスク評価およびモニタリングを実施」しているとのことであるから11、AI倫理ガイドラインの適用や遵守状況の評価などは、CSR担当部署の責任に属するものと推察される。
2019年4月に「NECグループAIと人権に関するポリシー」を策定したNECグループの場合12、それに先立つ2018年10月に「デジタルトラスト推進本部」を設置し、「AIと人権に関するポリシー」にもとづく社内制度の整備や研修などは同推進本部が推進している13。デジタルトラスト推進本部は、「全社戦略の策定・推進を担う」組織と記述されており、部門横断的な存在であると見られる。そして、NECグループのサステナビリティレポートの中では、「AIと人権」の取組は「環境」「ガバナンス」「社会」のうちの「社会」の項目で記述されている。
NECグループとほぼ同時期の2019年3月に、富士通グループでも「富士通グループAIコミットメント」を策定した14。富士通グループの場合、2020年4月には業務執行組織である経営会議の下に「サステナビリティ経営委員会」が置かれ、「AI時代の人権」は、サステナビリティ経営委員会が取り組む重要課題の一つである「人権と多様性（ダイバーシティ＆インクルージョン）」の中に位置づけられている15。サステナビリティ経営委員会は、社長を委員長とし、委員長が指名する役員が委員として任命される構成になっていることから、経営陣が直接的に責任を持つ体制と評価することができよう。
一般的に言えば、AI原則の実施やAI指針の策定のように収益と直結せず、むしろコストを必要とする活動は、コンプライアンス（法令遵守）かCSR（企業の社会的責任）に位置づけられることが多い。しかし、AI原則やAI指針の場合、プライバシーなど法的な権利を害さないための対応という側面はあるものの、コンプライアンスの範疇には収まりきらない。それ自体は拘束力を持った法令ではない上に、内容的にも、サイバーセキュリティの確保（セキュリティの原則）やシステムの透明性に対する要請（透明性の原則）など法的な権利義務とは対応しない要素を含むためである。その結果、AI原則の実施やAI指針の策定は、CSRないしその発展形態としてのサステナビリティに関する活動に位置づけられることが多くなると思われる。AI指針の策定などを先進的に進めてきた上記の3社は、まさにそうした考え方を示している。しかし、これらの事例が示すとおり、各事業者がAI原則を実施するためには、単にAIに関する指針を策定するだけではなく、その実効性を担保するための組織的な対応が必要になる。その意味で、AI原則の実施やAI指針の策定は、従来、本業に余力がある場合に行う社会貢献と理解されてきたCSR活動とは、やや異なった面がある。
こうしたAI原則の実施やAI指針の策定の特徴は、サイバーセキュリティに関する対応と共通している。サイバーセキュリティの確保もまた、それ自体は収益を生まず、むしろコストを要する活動である。しかし、経済産業省と独立行政法人情報処理推進機構（IPA）が策定した『サイバーセキュリティ経営ガイドラインVer 2.0』は、セキュリティ対策の実施を「コスト」と捉えるのではなく、将来の事業活動・成長に必須なものと位置づけて「投資」と捉えることが重要であると説き、「セキュリティ投資は必要不可欠かつ経営者としての責務」であると述べる16。経営者の責務であるとすれば、それは、コーポレートガバナンスの課題として位置づけられることになろう。実際に、経済産業省が企業グループにおけるコーポレートガバナンスのあり方について取りまとめた『グループ・ガバナンスシテムに関する実務指針 （グループガイドラン）』では、サイバーセキュリティを内部統制システム上の重要な項目として位置づけている17。
この例にならうならば、AI原則の実施も、AIの開発や利活用にかかわる企業においては、コーポレートガバナンスの課題として認識し、経営者（会社の形態に応じ、業務執行取締役ないし執行役）が必須の責務として取り組むべきものであると考えられる。ここに、AI原則をめぐる議論は、それを実施するための「AIガバナンス」の概念へと発展することになる。前述した『我が国のAIガバナンスの在り方ver.1.0』という報告書は、「AI原則からガバナンスの具体化へ」と進むことを提唱しているが18、それは、関係する各事業者において、コーポレートガバナンスの中にAI原則の実施という課題を位置づける必要性の指摘として理解されるべきであろう。
２．AI原則の実施と契約のガバナンスAIを利用した商品やサービスを展開する際には、多くの企業が関与する。基本となる技術は、ある特定の企業が開発したものであったとしても、それを実装するために他の企業が持つ技術を必要としたり、教師データの作成、データの収集等の過程にはさらに別の企業が関与したりすることが多いからである。そうだとすれば、AI原則の実施は、単一の企業または企業グループにおけるコーポレートガバナンスの問題にとどまらず、契約により構築されたサプライチェーンの全体に及ばなければならない。
しかし、コーポレートガバナンスという概念が広く認識されていることとは異なり、契約関係のガバナンスは、最近まで、あまり議論されてこなかった。時代を遡ると、1980年代に組織の経済理論を開拓したオリバー・ウィリアムソンは、組織のガバナンスに対応して、「契約関係のガバナンス」を論じている19。しかし、その議論は、法律学の分野にはほとんど影響を持たなかった。2009年にドイツの法学者が書いた論文は、「契約のガバナンス」に関して論じられるべき問題領域を概観した上で、これまでガバナンスの研究がコーポレートガバナンスに限定されていたことの方が驚きであり、契約のガバナンスは、コーポレートガバナンスと並ぶ重要な研究対象とされるべきであると述べている20。
そもそもコーポレートガバナンスは、会社をめぐる利害関係者（主として経営者、株主および債権者）の間に発生するエイジェンシー問題を解決するために論じられてきた21。エイジェンシー問題とは、ある関係者の利益が別の関係者の行動によって影響されるという関係が存在するために、前者が最適な行動を選択できないという問題である。契約関係においても、とりわけ一定の期間にわたって契約関係が継続する場合には、そうしたエイジェンシー問題はあり得るが22、それに対する対処は、個別的な契約の内容と考えられ、「契約のガバナンス」として論じられてはこなかった。ところが、最近になって、コーポレートガバナンスの文脈でも、労働問題（人権問題）や環境問題など、会社外の主体に対する関係で望ましい行動をとること（経済学の用語では外部不経済の問題への対応）をめぐってガバナンスが論じられるようになった。そしてそうした問題に関しては、企業自身が適切な行動をとるというだけではなく、途上国などにも展開するサプライチェーンの全体を通じた対応の必要性が主張され、実際に、一部の国ではそれを要求する制度も導入された（後述Ⅲ３）。このような動向の中で、契約のガバナンスにも関心が向けられるようになったのである。
もっとも、会社の内部とは異なり、会社と契約関係に立つ相手方との関係では、ガバナンスの規律方法に、より大きな幅が存在する。ある論者は、それを三つに大別している23。第一は、契約関係である以上、相手方に問題とされるべき事情（人権侵害や環境損害）があることを知りながら取引した場合を除き、価格等の取引条件以上にはガバナンスを考慮しないという考え方である。これを、「市場的ガバナンス」と呼ぶことができよう。社会的に望ましい行動は、せいぜい、取引価格に反映される（例えば環境に配慮した製品には価格を上乗せする）にとどまる。第二の規律方法は、取引の基準として一定の条件を提示するが、その遵守については相手方の取組を尊重するというものである。取引の基準が存在する以上、監査の仕組みや、遵守に対するインセンティヴなどが採用されることはあり得るが、それでも、一方当事者が提示した基準（モジュール）について、相手方が受け入れるか否かの選択権を持つという構造に、なお市場の特徴が残っている。これを「モジュール的ガバナンス」と呼ぶ。第三に、サプライチェーンの参加者間に、ガバナンスのための調整メカニズムを構築するというあり方も想定できる。具体的な方法としては、合同のワーキンググループを設置するとか、ガバナンスを目的とした契約を締結することが考えられよう。第一、第二の規律方法と対比して、論者はこれを「関係的ガバナンス」と呼んでいる。
AI原則を実施していくためには、さしあたり、モジュール的ガバナンスの規律手法を採用し、AI原則や各社のAI指針を調達契約や開発委託契約の条件に盛り込むとともに、必要に応じて、その遵守状況を確認するための調査権限や、違反が認められた場合の契約解除権などを規定することが考えられよう。もっとも、こうした契約条項については、日本法の下では、下請法や、民法に定められた定型約款の規制などに照らして完全に有効性を認められるかという問題がありうる。さらに、相手方が国外に所在する場合には、国際私法の考え方を整理する必要性も生じ、問題は一層複雑になるであろう。相手国に日本のAI原則と異なる規律が存在する場合には、属地的強行規定の適用関係が大きな問題として浮上する。そのような場合には、関係的ガバナンスの規律を導入し、サプライチェーンの参加者全体としてAI原則の実施を議論し、各社が自発的にそれを受容するといった仕組みが必要になるかもしれない。
３．保険によるリスク管理とAIガバナンスところで、「契約のガバナンス」には、「契約関係のガバナンス」とともに、「契約を通じたガバナンス」という意味もある24。AIガバナンスにおいては、プライバシー侵害等のリスクを意識して、保険制度に対する期待が示される場合もあるが、それは、保険契約を通じたガバナンスとも言うことができよう。
ただし、保険制度は、それ自体としてはリスクを移転ないし分散する仕組みであり、全体としてのリスクを減少させるものではない。そうした保険制度の性質に照らすと、一定以上にリスクを抑制することができない場合、残存リスクを保険に付して保険者に移転することは有益である。たとえば、AI製品の開発者が、製品の機能が不足しているとして利用者から責任を追及されるリスクや、製品利用者の顧客など第三者からプライバシー侵害を主張されるリスクなどについて、保険を付すことが想定できる。サイバー攻撃による個人情報の流出など第三者の行為に起因するリスクを保障する保険も、同様に有意義であろう。リスクの発生確率が正確に算定できるのであれば、それを前提としたリスク発生の期待値と保険料が一致し、確率論的には、保険者にも被保険者にも損得はない。
保険制度は、それ自体としてリスクを減少させるものではないが、商品の設計次第では、リスクを減少させるような当事者の行動に対してインセンティヴを与える可能性を持つ。保険商品は、保障の条件としてリスクを一定の水準以下に抑えるような行為を義務づけることができるからである。わかりやすい例としては、火災保険で、火災報知器の設置が保険給付の条件とされるというものがある。保険市場に対して大きな影響力を持つイングランド法では、ワランティという仕組みが用いられるが、日本の保険法には「前提条件」という制度が存在しない。そのため、リスクを抑制する措置について告知義務（保険法4条）を課した上で、そうした措置をとっていない場合を免責事由（保険者の免責、すなわち保険金が支払われない事由。保険法17条参照）として規定する方法がとられる。この場合には、保険による保障を受ける可能性がインセンティヴとなって、被保険者がリスクの抑制に努めるという効果がもたらされるのである。
こうした被保険者に対するインセンティヴ効果を利用すると、保険契約を通じたAIガバナンスの可能性が生まれる。AIに関するリスクを保障する保険商品の前提条件として、被保険者であるAI開発者や、サービスプロバイダーであるAI利用者によるAI原則の実施、あるいはAIガバナンスの構築を義務づければ、AIリスク保険が普及するとともにAIガバナンスも関係業界に浸透するという好循環が期待できるであろう。ただし、実際的には、保険者は前提条件が充足されていたか否かをどのようにして確認するのかという問題が残る。とりわけ、被保険者以外の主体も含めたサプライチェーン全体についてAI原則の実施を考える場合には、事故が発生して保険金の給付が請求された後に、AI開発の委託先やコンポーネントの調達先などの取引関係者に対して保険者が協力を求めてもなかなか応じてもらえない可能性もある。その場合、AIリスク保険が普及したとしても、それを通じてAI原則が広く定着していくとは限らないことになろう。
AI原則の実施を、「AIガバナンス」としてコーポレートガバナンスの中に位置づける場合に、そもそも、コーポレートガバナンスの理論に照らしてそのような活動が正当化されるのかという理論的な問題を考えておく必要がある。とりわけ、AIの開発や利用に携わる事業者が株式を上場する株式会社である場合、コーポレートガバナンスの基本的な考え方として、会社経営者は株主（または将来の株主としての投資家）の利益に沿った経営を義務づけられるのではないかという疑問に答えなければならない。
この点に関連して筆者は、英国の研究をも紹介しつつ、「株主だけではなく従業員の利害にも配慮し、さらに、社会とのつながりをも意識して経営するという日本企業のスタイル」がAIを利用した技術革新の時代に適合性を持ちうると論じたことがある25。この見解は、幸いにも、『我が国のAIガバナンスの在り方ver. 1.0』によって取り上げられ、こうした株主以外のステイクホルダー（利害関係者）への配慮を活かしつつ「中間的なガイドラインを通じて、サプライチェーン全体でAIシステムに対する信頼が確保されるように支援すべきである」という提言がなされた26。この主張について、結論をいま改める必要があるとは考えないが、株主の利益に沿った経営を強調する考え方が、最近十数年の間、コーポレートガバナンス改革の基調であったこととの関係を整理し、AIガバナンスを口実としてコーポレートガバナンス改革の停滞や逆行が生まれないようにしておきたい。
まず、日本におけるコーポレートガバナンス論が、世界の議論と微妙にねじれた関係にある点を指摘しておく。日本の株式会社（少なくとも大規模な公開企業）については、従業員を中心とした利害関係者（ステイクホルダー）の利益に沿って経営されているという評価が広く抱かれてきた。それは、第二次世界大戦後、財閥解体が実行され、それにより放出された上場会社株式を株式持合いという形で吸収した結果、株式が分散保有されつつ、経営に対する株主の影響力が限定されるという状況が成立したことに対して、海外の日本研究者から広まった見方である。しかし、会社法学の理論では、昭和10～20年代に株式の本質をめぐる論争が戦わされ、自益権（株主の経済的な権利）と共益権（株主が持つコーポレートガバナンス上の権利）を一体的な「社員権」としてとらえる見解が通説化した。それ以降、日本の会社法理論は、むしろ株主の利益を中心に組み立てられてきたと言ってよい。そこでは、上場会社であっても主要株主の支配権が強く及ぶという前提のもとに提唱されていたのではないかと指摘されているが27、ともあれ、会社法学と海外から見た日本企業論（または日本社会論）との間にねじれが存在したのである。
第二のねじれは、ステイクホルダーの利益を重視するそうしたコーポレートガバナンスのあり方が、1990年代以降、日本経済の停滞をもたらしたと評価されるようになったことから生まれた。そうした認識の当否はさておき、政策的には、株主ないし投資家の利益に沿った株式会社経営を求めるコーポレートガバナンス改革が進められ、経営者が企業価値を最大化する責任を負う「攻めのコーポレートガバナンス」が求められるようになった28。このとき、そこにいう企業価値が、会社法学の通説と結びつけられて、「株主共同の利益」と定式化されるようになったのである。ところが、こうしたコーポレートガバナンス改革が制度に反映されるようになった2010年代には、欧米を中心に、2008年の世界金融危機（日本でいう「リーマンショック」）を大きな契機として株主利益を最優先にする会社経営（株主利益第一主義）に対する反省が広がった29。こうして、日本のコーポレートガバナンス論は、世界の議論との間に二重のねじれを抱え込んだ。
そうした中で、たとえAIガバナンスとの関係であれ、安易にステイクホルダーの利益を強調すると、日本で十数年にわたって進められてきたコーポレートガバナンス改革を停滞させるおそれがある。ESGなどの動向を説明する文脈で、日本には古くから近江商人の「三方よし」（売り手よし、買い手よし、世間よし）という考え方があると言われることが少なくないが、「三方よし」には、本来的に対立する当事者及び第三者の利害をどのように調整するかという原理が示されていない。まして現代では、会社のステイクホルダーは多様であり、その利害も相互に一致していないため、ステイクホルダーの利益に沿った経営は、結局のところそうした多様な利害の調整を理由とした経営者の裁量を増大させ、経営者や、経営者と利害を強く共有する関係者（伝統的な日本企業では正規雇用の従業員）の利益を優先する結果に終わりかねない30。言い換えれば、株主利益第一主義を修正しようとする場合、会社経営者にはどのような行為規範が課されるのかを検討しなければならないのである。
２．株主の長期的な利益とステイクホルダー日本で「攻めのコーポレートガバナンス」を推進する改革が進められた2010年頃から、海外では、むしろ株主利益の過剰な強調を修正する動きが見られるようになった。その中には、大別すると二つの考え方が存在するように思われる。
第一の考え方は、株主の利益を短期的な株価の上昇と同視するのではなく、より長期的に見て、持続可能な株主利益の実現を追求しようとする。利益の実現が長期間にわたって持続可能であるためには、従業員や取引相手、さらには会社が置かれている地域社会や地球環境などとも共存していく必要があろう。従って、さまざまなステイクホルダーの利益を図ることは、長期的には、株主利益の追求に一致するとこの立場では考えるのである。
こうした考え方は、英国では、2006年の会社法に反映された。これ以前の英国では、取締役は「会社」に対して忠実義務を負うとされていた。裁判所は、そこにいう「会社」の利益を株主の利益の意味であると明言していたわけではないとも言われるが、実務上は、取締役は株主の利益を基準として経営を行うものと解されていた31。90年代末からの会社法改革の中で、会社が株主価値を基準として経営されるべきことは前提としつつ、企業価値を持続的に（サステナブルに）最大化し、現在および将来の株主の利益を実現するために、従業員や取引先、顧客その他のステイクホルダーの利益に対して考慮を払い、ステイクホルダーとの長期的な関係を構築するという「啓発された株主価値」(enlightened shareholder value)の概念が呈示された32。この考え方にもとづいて、2006年英国会社法の172条は、会社の取締役は「会社の成功を促進し、その構成員全体の利益を実現すると誠実に信ずるところに従って行動する」義務を負うと定め、その際には、(a)経営判断の長期的な帰結、(b)会社の従業員の利益、(c)会社がサプライヤー、顧客等との関係を構築する必要性、(d)企業活動がコミュニティおよび環境に対して与える影響、(e)会社が高い水準の行動をとることに対する評判、(f)会社構成員の間で公正に行動することの必要性、を考慮しなければならないと明示した。この規定の導入後も、取締役の義務に関する裁判所の判断に実質的な変化は見られなかったとも指摘されているが、株主の利益を、長期的かつ規範的にとらえることで、ステイクホルダーの利益を考慮するという方向性が提示されたとは評価できよう33。
英国では、その後、より具体的に労働者の人権を問題とする規制も導入された。それが、2015年の現代奴隷法と呼ばれる法律である。この法律では、サプライチェーンの中で奴隷的状況や人身売買が行われていないことを確保するために会社がとった行動を「奴隷状態・人身売買年次報告」として開示するように義務づけた。あくまでも開示義務にすぎず、奴隷状態や人身売買などが行われないようにする注意義務を課したわけではないが34、ステイクホルダー（この場合は労働者）の利益をないがしろにしてまで株主利益を図ることに対する否定的な評価を前提とした立法であるとは言えよう。
英国のように理論化されてはいないが、米国でも、経営者の団体であるビジネスラウンドテーブルが、2019年に「会社の目的に関する声明」の中で同じような考え方を表明した35。この「声明」は、会社経営者が「すべてのステイクホルダー」（顧客、従業員、サプライヤー、コミュニティ）の利益にコミットすると宣言している。米国では株主利益が他の利益に優先されるというイメージが強いためか、この「声明」は、株主利益を基準としたコーポレートガバナンスからの転換として報じられた。しかし、コミットメントの末尾には「株主の長期的利益を生み出すこと」が明記されているので、ステイクホルダーの利益を尊重することが株主の長期的な利益をもたらすという趣旨であったとも解される。もっとも、仮にそのような趣旨であったとすれば、従来の株主第一主義とどの点で異なるのかという疑問も生じうるであろう。
「攻めのコーポレートガバナンス」に向けた改革が続いてきた日本でも、株主の利益を長期的な持続可能性という観点からとらえる動きが現れている。機関投資家に対して投資先とのかかわり方の標準を提示した『スチュワードシップ・コード』には、2017年に改訂された際に、ESG（環境・社会・ガバナンス）の要素が「中長期的な企業価値に影響を及ぼす」という記述が追加された36。その後、2020年の再改訂においてESGへの言及はさらに重要度を増し、機関投資家のスチュワードシップ責任を述べた第一の原則の中で、「サステナビリティ（ESG要素を含む中長期的な持続可能性）」への考慮が求められるに至った37。実際にも、ESGに対する取組を指標化して投資先企業を選別する動きは、ここ1～2年で、日本の機関投資家の間にも急速に拡大しつつある。ここでも、人権などの社会問題や環境問題に対する考慮は、中長期的には企業価値を増大させることを理由として、従っておそらくはその限りで、会社経営者の責任に含まれるようである。
３．外部不経済の修正株主利益の過剰な強調に対して疑問を投ずる考え方には、もう一つの流れがある。その論者は、企業活動が組織の外部に対して与えているマイナスの影響を直視し、会社の経営者はそれを抑制するような経営を行う責任があると主張する38。
たとえば、著名な経済学者が最近に公表した論文では、会社に対する投資家（機関投資家が投資する場合は、その機関投資家の資金源となっている窮極的な資金提供者）の選好を会社の経営に反映させるという考え方が提唱されている39。社会の人々に政策論として意見を尋ねれば、社会問題に対する積極的な取組を支持する見解は少なくない。そうした人々が、直接に株式投資を行うだけではなく、年金や生命保険の掛け金を拠出するという形で、機関投資家の投資資金をも提供している。そうだとすれば、資金を預かって運用する機関投資家は、株価によって評価される収益の最大化に満足するのではなく、もしも資金提供者が社会問題への配慮を求めるのであればそれに従った経営が行われるように株主としての権利を行使するべきではないかと論者は主張する。この見解は、会社経営が株主以外のステイクホルダーの利益に従って行われるべきだと主張しているわけではなく、「株主の定義」を窮極的な資金提供者が持つ選好によって再定義しようとするものである。しかし、ステイクホルダーの利益への配慮が、長期的には株主の利益に還元されるという予定調和的な前提に立つわけではなく、その意味で、第一の考え方とは質的な差があるといえよう。
環境問題や社会問題がなぜ問題視されるかと言えば、そうした問題が発生しているときは、会社が収益を挙げる上で生ずるコストが、株主以外の主体に転嫁されているからである。経済学の用語でいえば、企業活動から「外部不経済」が発生している状況と言える。社会的に見れば、外部不経済の発生はない方がよいが、それに対して、個別企業が経営判断の中でどこまで対処するべきかについては、さまざまな議論があり得よう。
最も極端な立場は、「会社と自然環境」の間にエイジェンシー問題を肯定し、それを法制度によって解決しようとするものである40。日本でも、会社の経営者は、株主利益の最大化ではなく社会的厚生の最大化を行為規範として経営を行う義務を負うと主張し、「非営利的経営」を提唱する見解がある41。この見解をとれば、外部不経済は理論上、発生しないことになるが、そこまで強い責任を肯定することは、企業活動に対する投資のインセンティヴを損ない、会社が営利を追求することによる効率性を害する危険もあり得る42。また、社会的な厚生を実際に算定することは容易ではないから、結局のところ、経営者が大きな裁量権を手にしてそれを自らの保身に利用するという可能性も生じかねない。
前述した経済学者の論文は、この点を株主（窮極的な資金提供者）の選好に従って決めようとするものであり、具体的には、会社経営者は株式価値の最大化ではなく株主（窮極的な資金提供者）にとっての厚生（welfare）を最大化するように経営を行う義務を負うこと、さらに年金基金等の機関投資家は年金保有者（窮極的な資金提供者）に対して政策選好の調査を行い、そこに示された選好の範囲では、経営者に対して株式価値の最大化とは異なる経営を要求する義務を負うことを主張する43。これとは別に、一応の数値基準を設定し、その範囲内では、経営者が株主以外のステイクホルダーの利益を考慮できる、あるいは考慮しなければならないと説く見解も現れている44。
この第二のグループに属する考え方も、現実の法制度に影響を与えた例がある。たとえばインドでは、2013年に成立した新しい会社法が、会社の取締役の義務を「会社の構成員全体の利益を図り、会社、従業員、株主及びコミュニティの最善の利益並びに環境の保護のため、会社の目的を促進すること」と規定した（166条2項）。そうした考え方を前提として、一定規模（純資産50億ルピー以上、売上げ100億ルピー以上、又は純利益5000万ルピー以上）の会社は、取締役会に独立取締役1名以上を含むCSR委員会を設置し、直近3年間の平均純利益の2％以上をCSR活動に支出する義務を課されている（135条）。「CSR活動」と認められる活動は、別表Ⅶに指定されており、貧困の解消や教育の普及、環境のサステナビリティ実現などである45。
また欧州でも、フランスでは、2017年の会社法改正により、一定の従業員規模（グループ全体でフランス国内に5000人以上又は全世界に1万人以上）の会社には「人権・自由、人の健康と安全、環境」に関する計画の策定を義務づける規定が導入された。開示だけではなく、取締役の注意義務（due diligence）としてステイクホルダーに対する配慮義務が規定された点が、2006年の英国会社法とは異なる点であり、義務の違反は民法上の不法行為責任を発生させる根拠となり得る。この規定が導入された直接の契機は、バングラデシュで2013年に違法建築が倒壊し、縫製工場の労働者に多数の犠牲者を出した事故であった。会社法改正の翌年に公表された報告書でも、会社が地球環境と関係者の基本的人権に対する影響を考慮して経営判断を行うよう提言されており、フランスでは、株主の長期的利益というよりは、外部不経済の修正という観点によってこうした制度が位置づけられていると思われる46。
ところで、フランス会社法のステイクホルダーに対する配慮義務は、会社単体ではなく、サプライチェーンの全体を対象としている。これは、先に論じた「契約のガバナンス」を、取締役の注意義務という形で法制化したものと言える。企業活動に伴う外部不経済は、定義上、企業の外部に発生するものであるから、会社単体に適用される制度を設けても効果は小さい。現実にも、先進国では環境法制や労働法制が整備され、その適用を受ける企業も法令を遵守しているが、サプライチェーンの末端には途上国の企業が位置していて、その所在国では、法規制が緩かったり、法の執行が不十分であったりすることは珍しくない。従って、社会全体の厚生を論ずるのであれば、コーポレートガバナンスは「契約のガバナンス」を包摂したものとならざるを得ないのである。
４．新しいコーポレートガバナンス論とＡＩガバナンス以上に見たコーポレートガバナンス論の新しい展開をふまえ、AIガバナンスの意義を、改めて考えてみよう。AI原則の策定に際して繰り返し指摘された点は、AIが人々に受け入れられなければ社会的な実装も進まず、その結果、AIの開発や利活用も停滞するのではないかという問題であった47。欧州連合（EU）が「信頼されるＡＩ(trustworthy AI)」を提唱し、2020年2月に欧州委員会が公表した『AI白書』でも48、「信頼のエコシステム」としてAIに関する規制の体系を提案する理由も、そこにあろう。AIの開発や商品化（利活用）を行う事業者から見ると、ステイクホルダーである消費者（顧客）や関係者（とくにAIが使用するデータの提供者）に配慮することが、長期的に見た株主の利益に帰結すると考えられる。すると、AI原則の実施やそのためのAIガバナンス構築は、長期的な株主の利益（「啓発された株主利益」）のために必要であり、会社経営者はそれを実行する義務を負うと言えそうである。
しかし、AIの不適切な利活用は、地球環境問題と同じような意味で、社会に外部不経済を発生させるとも考えられる。たとえば、偏りのあるデータにもとづいて（「適正学習の原則」に反して）AIを開発し、商品化した場合に、直接のユーザーはそれに満足しているという場合もあり得る。政治的な主義主張などに関して、自分が聞きたいと感ずる内容の情報だけを取り入れようとする「エコーチェンバー現象」などはそうした場面である。あるいは、AIシステムを利用して消費者向けのサービスを提供する事業者から見ると、そのAIシステムがプライバシーの保護やサイバーセキュリティに欠けていて、最終的な利用者である消費者に不利益を与えるとしても、開発コストが低く抑えられ、大きな利益を挙げられるかもしれない。消費者にとってAI製品のメカニズムが十分にわからないときには、そうした不利益が製品や事業者の評価に直結するとは限らないし、プライバシー侵害について損害賠償などの法的な救済を求めることも簡単ではないからである。しかし、結果として差別的な判断を行うAI製品が出現したり、セキュリティが不十分なAIからプライバシー情報が漏洩したりすれば、社会的には、明らかに不利益（外部不経済）が発生している。
そうだとすれば、AIガバナンスの必要性は、外部不経済を解消するための要請と見ることもできよう。AI指針等を自発的に作成した先進的な各社が、それをCSRないしESG活動の一環として位置づけていることには、このような意味で、理論的な根拠があると考えられる。また、そうした位置づけに照らすと、AIガバナンスは、会社単体にとどまらず、サプライチェーンの全体にわたって実施する「契約のガバナンス」と位置づけられるべきである。機械製品とは違い、AIの製品化については、システムの開発や教師データの作成などを委託される外部の企業を「サプライチェーン」とはあまり呼ばないかもしれないが、AI製品の開発に関与する複数の企業間の共同開発・提携等の契約関係を対象としたAIガバナンスが求められることは、機械製品のサプライチェーンの場合以上に、必要であると考えられる。
AI原則の実施およびそのためのAIガバナンスの確立は、以上に論じたとおり、個々の事業者にとっては、コーポレートガバナンスの問題である。それを社会の側から見たとき、どのような効果が期待されるのであろうか。これは、AI原則を無視したAIの開発や利活用がもたらす「外部不経済」とは、具体的にはどのようなものかという問題でもある。
まず、AIに対して人々が不安を抱いているとAI製品が社会に受け入れられないという問題について掘り下げてみよう。2020年7月に、消費者庁は、『AI利活用ハンドブック』を作成した49。その中では、仮設の問題事例がいくつか掲げられている。たとえば、AIを利用した健康相談サービスが、「AIを利用してユーザーの健康状態を診断する」と謳われているが、実は、そのシステムが事業者側で操作されていて、健康関連商品の広告に誘導するような判定が出やすいシステムとなっているとか、診断結果を説明する擬人化されたAIボットとの会話に対して多額の課金を誘発するアプリであるといった事例である。AIのプログラムについては、技術的にも、事後的な説明可能性の問題が指摘されており、まして消費者にとっては、ほぼブラックボックスとなることが避けられないであろう。そもそもAIが本当に用いられているのか否かすら、アプリを利用しているだけの消費者には、ほとんど検証が困難である。そうした中で、『ハンドブック』に掲げられたような問題事例が現実に一例でも存在すると、消費者は、AI製品全般に対して不信感を持つ可能性がある。優良な事業者は、AIガバナンスに対する取組を公表して、自社のAI製品にはそのような問題が伴っていないことを示すという対応も考えられるが、公表された「取組」が消費者に信用されるとは限らない。
消費者に対して欺罔的なAI製品は、法令違反の問題を生じるから、コンプライアンスの領域に属するとも言える。しかし、AIガバナンスの問題は、コンプライアンスに尽きるわけではない。『AI利活用ハンドブック』は、AIの判断基準がユーザーの意向と齟齬を生ずる場合もあり得ることを指摘する。たとえば、同じくAIによる健康相談サービスが、医学的には適切なアドバイスを提示しているにもかかわらず、ユーザーが、それとは違った選好（医学的に推奨されるよりも痩せたいという希望など）を持っている場合などである。医学的には適切な判定をしているのであれば、法令違反の問題になるとは考えられないが、ユーザーは、アプリ内のＡＩが歪められていると受け取り、AI製品に対する不信感を募らせるかもしれない。そうした行き違いを防ぐためには、AI製品がどのような考え方にもとづいて設計され、またシステムの開発やデータの学習等のプロセスにおける適正さをどのようにして確保したかというAIガバナンスが開示され、説明されることが重要になるであろう。
２．法的なルールがない領域へのAI利活用AIに対する信頼の確保という問題は、AI製品の最終利用者である消費者との関係でのみ生ずるわけではない。消費者であれば、AI製品の提供者と契約関係にあり、開発者から見ると、自社との契約にもとづいて開発されたAIを利用する事業者（アプリ等によるAI製品の提供者）の顧客であって、契約の連鎖の先に存在する。しかし、AI製品の開発者や利用者とはまったく独立した一般社会がAI製品に信頼を抱くかどうかも大きな問題である。
そのような一般社会からの信頼が問われた事例として、歌手の美空ひばりが存命であったと仮定したときに想定される現在の歌声をAIによって合成した「AI美空ひばり」のケースが挙げられよう。このプロジェクトは、開発の過程がNHKスペシャルとして2019年に放映され、注目を集めた。その後、NHKが同年末の紅白歌合戦にAI美空ひばりを登場させたところ、賛否両論が巻き起こり、著名なアーチストが美空ひばりに対する「冒瀆」であると激しく批判する事態に発展した50。番組の視聴者は、契約にもとづいて「AI美空ひばり」を利用したわけではないので、賛否双方の見解は、AI開発者や利用者とは契約関係に立たない一般社会からの評価である。
賛否の評価にはここでは立ち入らないが、AIガバナンスの観点から見たとき、AI美空ひばりというプロジェクトの主体や、そのプロジェクトのガバナンスがわかりにくかったことは否定できないように思われる。NHKスペシャルの中では、美空ひばりの親族や後援会、ゆかりのあった芸能関係者などの意見を聞きつつ、「全員が納得できるもの」を作っていった旨が強調されていた51。しかし、番組の企画にもとづくプロジェクトでは、意見を求められる関係者の範囲は恣意的にならざるを得ない。たとえば、後に批判をするアーチストを含めた多くの人の意見はなぜ求められなかったのかという説明は存在しないし、説明しようとしても不可能であろう。このように言うことは、「関係者」の範囲を広げるべきであったという主張ではなく、開発の方向性を決めた主体は誰か、プロジェクトが大きな岐路に立った時に最終的な判断を行った責任はどこに所在するのか、といったAIガバナンスが必ずしも明確でなかったという点に注目する趣旨である。
そうした責任主体が明確にされていたならば、現実に放送されたAI美空ひばりは、責任主体の「解釈」の産物として位置づけることができたであろう。物故した文学者など過去の著名人について、アンドロイドにより「再現」することができたとしても、それは一つの「解釈」にすぎず、そこに単一の「真実」を想定することはできないという指摘がある52。開発者の立場としては、社会の中で共有されている（その故人の）人格を可能な限り再現したと言えるかもしれないが53、それを絶対的な再現と位置づけてしまった途端に、他の再現は存在しえなくなってしまう。いかなる技術が用いられようとも、故人の再現は、一つの解釈にすぎないと位置づけることではじめて、物故者のアンドロイドを制作する自由が確立される。一つの解釈に対しては、別の責任主体から異なる解釈が呈示され、相互の解釈をめぐる批判や議論を通じて理解が深められていくのである。そのような展開を可能にするためには、AI開発におけるガバナンスを確立し、それを社会に対して公表することで、AI（アンドロイド）による解釈としての「再現」を行った主体は誰かということが明示されなければならなかったと思われる。この場合、AIガバナンスは、AI（による故人の「再現」）が社会の中で受け入れられ、社会を豊かにする方向で利用されることを確保するという役割を果たすのである。地球環境のサステナビリティと同様に、これは、事業活動から生じ得る外部不経済を抑制するためのガバナンスであると言えよう。
３．AIに関する「退出、発言、忠誠」社会における集団的な意思決定について、「退出（exit）、発言（voice）、忠誠（loyalty）」という三つのモードがあり得るということは、よく知られている54。市場原理は、基本的に「退出」のメカニズムである。AI製品の中で、信頼されるものが消費者によって選択され、信頼されないAI製品は淘汰されるという考え方が、これにあたる。このメカニズムに関する問題は、消費者が十分な情報と理解を持って市場での選択を行うことができるか否かという点にあろう。消費者が選択に際して利用できる情報量には限界があるので、たとえば、AI原則の実施状況を表示するラベル（プライバシーマークに似た「AI原則マーク」）のような形で情報を集約的に伝える仕組みが必要になる。ところが、欧州委員会の『AI白書』がこうした仕組みを提案したところ55、批判的な意見が多かったようである56。この事実は、AI製品の受容に関して、「退出」のメカニズムの有効性に疑問を投げかける。
その対極に、AIの開発や利活用について法令による規制を課すという考え方がある。EUのAI白書は、ハイリスクのAIについては、事前のアセスメントなどを義務づける規制の導入が必要にあるという見解を示す57。法令にもとづく規制は強制的に執行されるので、社会の側から見れば「忠誠」の選択肢しかない。しかし、消費者向けの健康相談サービスのように、法令による規制の下では許容される範囲内でも適切さが問われる局面があり得る。また、AIによる故人の「再現」のように、法的に許容される範囲自体が明確になっていない問題も多い。
さらに言えば、AIにかかわる規範には、法律による記述が難しいものも少なくないように思われる。法律は、人（自然人または法人）による財物の支配という構造を前提として組み立てられているが、AIが大量のデータを取得し、利用していく際には、データを特定の人に帰属させることが難しかったり、その利用関係が法律上は明確でなかったりする場合も存在するからである58。AI原則が、どこの国でも法令の形態をとらず、拘束力のない「原則」の形態をとる理由は、単にソフトな形で規範を定着させようとしているわけではない。「ソフトな規範」という考え方は、強制力のあるルールの執行が伴う硬直的な運用を回避しつつ、規範の定立は実現しようとするものであるが、一般的に言われるほど効果的なものではない。それを裏返せば、実効性のないルールだけがつくられ、現実は何も変わらないということになりかねないからである。
AI原則が法令の形式をとらない理由は、「ソフトな規範」が望ましいからではなく、人による財物の支配という枠組に収まりづらい情報（データ）の主体の権利・利益をはじめとして、法令によっては適切に記述することができない規範が必要とされる点に求められるべきであろう。たとえば、「通常有すべき安全性」を欠いた工業製品は損害賠償責任（製造物責任）を発生させるが、それと同じような意味で、「偏ったデータを学習させたAI」から民事責任が発生するという制度には、理論上、大きな困難が伴うであろう。そこで、AI開発については、法令ではない「原則」という形の規範が適切と考えられるのである。そうであれば、「忠誠」のメカニズムもまた、社会によるAIの受容について、あまり有効ではないと思われる。
このように、「退出」「忠誠」のいずれの選択肢にも限界があるとすれば、AIの利活用が進む時代には、利用者や消費者の見解や反応を受け止めつつ、AIの開発や利活用を進めるという「発言」のアプローチが有効であろう。「発言」のメカニズムを制度化し、AIの開発や利活用のプロセスに組み入れるために、事業者の側では、利用者や消費者の「発言」を受け止める場とプロセスが必要になる。それが、AIガバナンスの社会的な意義である。
各国でAI原則の策定が進む中で、今後、AI開発や利活用に関係する事業者によるAI原則の実施が重要な課題となる。本稿では、それが具体的にはどのようにして取り組まれるべきか、そうした取組はコーポレートガバナンスの理論の中でどのように位置づけられるべきか、そして社会的に見るとそうした取組はなぜ必要とされるのか、という問題について検討してきた。その結論は、AI原則の実施を各事業者がコーポレートガバナンスの課題として認識し、「AIガバナンス」として取り組むことが、コーポレートガバナンス理論においても正当化され、また社会的にも、AIが社会から前向きに受け入れられるために要請される、というものである。そうした検討の過程では、コーポレートガバナンスをサプライチェーンに拡大して「契約のガバナンス」を考えるべき必要性や、近年のコーポレートガバナンス理論では、株主の利益をもっぱら基準とした会社経営を義務づける「株主第一主義」の考え方に対する反省が示されていることなどにも目を配ってきた。
このように言えるとしても、実際に、AIガバナンスを社会に定着させていくことは、容易ではない。とりわけ、それをサプライチェーンの全体に及ぼしていこうとすれば、大規模公開企業だけではなく、スタートアップ企業などの中小事業者や研究機関、海外の事業者などにもAIガバナンスを実施していく必要がある。そのためには、AI製品の開発契約、製品化契約などの書き方に工夫が必要になるであろうし、AIに関連する保険商品を通じたインセンティヴにも期待が持たれる。そして、ありきたりではあるが、政府や有識者、法律などの専門家が関与する業界横断的な場を通じて、AIガバナンスの重要性を訴えかけていくことの必要性を、改めて強調しておきたい。
※ 本論文は、科学研究費「サステナブルな社会の実現に向けたコーポレート・ガバナンスにおける役員構成の意義」（課題番号17H02471）の助成を受けた研究の成果に属する。
1 学習院大学法学部法学科教授
2 初期のこうした動向については、成原慧「AIの研究開発に関する原則・指針」福田雅樹＝林秀弥＝成原慧編著『AIがつなげる社会』〔弘文堂、2017〕78頁、工藤郁子「ロボット・AIと法政策の国際動向」弥永真生＝宍戸常寿編『ロボット・AIと法』〔有斐閣、2018〕33頁参照。
3 AIネットワーク社会推進会議『報告書2017』（平成29年7月28日）別紙１「国際的なAI開発ガイドライン案」、AIネットワーク社会推進会議『報告書2019』（令和元年8月9日）別紙１「AI利活用ガイドライン～AI利活用のためのプラクティカルリファレンス～」。「AI開発ガイドライン案」については、福田＝林＝成原・前掲書〔註2〕参照。当時、AI開発ガイドラインに「案」という語が付されていた理由は、それを国際的な議論のたたき台として提案するという意図があったためである。福田雅樹「『AIネットワーク化』およびそのガバナンス」福田＝林＝成原・前掲書〔註2〕・2頁、31頁、成原・前掲〔註2〕・97頁参照。
4 AIネットワーク社会推進会議は、2015年の「インテリジェント化が加速するICTの未来像に関する検討会」を踏まえ2016年に立ち上げられた「AIネットワーク化検討会議」（当初の名称は「ICTインテリジェント化影響評価検討会議」）が発展的に改組されたものであり、海外の民間主体による取組と比較しても、きわめて早い時期に問題意識が抱かれていたことが注目される。
5 統合イノベーション戦略推進会議決定「人間中心のAI社会原則」（平成31年3月29日）。
6 たとえば、シンガポール個人情報保護員会（Personal Data Protection Commission Singapore）によるModel Artificial Intelligence Governance Framework, Second edition (2020)（初版は2019年）、英国情報コミッショナーオフィス（Information Commissioner’s Office）によるExplaining decisions made with AI (2020)。
7 AI社会実装アーキテクチャー検討会『我が国のAIガバナンスの在り方 ver. 1.0』（令和3年1月15日）。
8 『我が国のAIガバナンスの在り方 ver. 1.0』〔前掲・註7〕・19頁。
9 『AI利活用ガイドライン』〔前掲・註3〕・8-9頁。
10 「ソニーグループAI倫理ガイドライン」（2018年9月、2019年3月改定）（https://www.sony.co.jp/SonyInfo/csr_report/humanrights/AI_Engagement_within_Sony_Group_Ja.pdf ）。
11 ソニー株式会社『サステナビリティレポート2020』〔2020〕40頁。
12 「NECグループAIと人権に関するポリシー」（2019年4月）（https://jpn.nec.com/press/201904/images/0201-01-01.pdf ）。
13 日本電気株式会社『サステナビリティレポート2020』〔2020〕80頁。
14 「富士通グループAIコミットメント」（2019年3月）（https://www.fujitsu.com/jp/documents/about/csr/humanrights/fujitsu-group-ai-commitment-201903_ja.pdf ）。
15 富士通株式会社『富士通グループ統合レポート2020』〔2020〕40-41頁。
16 経済産業省＝独立行政法人情報処理推進機構『サイバーセキュリティ経営ガイドライン Ver 2.0』〔2017〕5頁。
17 経済産業省『グループ・ガバナンスシテムに関する実務指針 （グループガイドラン）』〔2019〕92頁。
18 『我が国のＡＩガバナンスの在り方 ver.1.0』〔前掲・註7〕・4頁。
19 Oliver E. Williamson, The Economic Institutions of Capitalism (The Free Press, 1985) 68. 内田貴『契約の再生』〔弘文堂、1990〕168-169頁参照。
20 Florian Möslein & Karl Riesenhuber, ‘Contract Governance – A Draft Research Agenda’, 5 (3) European Review of Contract Law (2009) 248.
21 Reinier Kraakman et al., The Anatomy of Corporate Law, third edition (Oxford University Press, 2017) 29-30.
22 松中学「契約による市場組織化――フランチャイズの経済分析と法」ジュリスト1540号〔2020〕17頁。
23 Gary Gereffi, John Humphrey & Timothy Sturgeon, ‘The governance of global value chains’, 12 (1) Review of International Political Economy 78 (2005). See also Jaako Salminen, ‘Sustainability and the Move from Corporate Governance to Governance through Contract’, in: Beate Sjåfjell & Christopher M. Bruner (eds), The Cambridge Handbook of Corporate Law, Corporate Governance and Sustainability (Cambridge University Press, 2020) 57, 63-64.
24 Möslein & Riesenhuber (fn 20), 274.
25 小塚荘一郎『AIの時代と法』〔岩波書店、2019〕214-223頁。
26 『我が国のAIガバナンスの在り方ver. 1.0』〔前掲・註7〕・22頁。
27 江頭憲治郎「鈴木竹雄博士の会社法理論」ジュリスト1102号〔1996〕46頁、49頁。
28 この経緯については、Gen Goto, Manabu Matsunaka & Souichirou Kozuka, ‘Japan’s Gradual Reception of Independent Directors‘, in: Dan W. Puchniak, Harald Baum & Luke Nottage (eds), Independent Directors in Asia (Cambridge Unniversity Press, 2017) 135. 「攻めのコーポレートガバナンス」という表現は、コーポレートガバナンス改革を経済政策の重要アジェンダとして掲げた『日本再興戦略 – Japan is Back – 』（平成25年6月14日）が用いた「攻めの会社経営」に由来すると思われる。
29 Judd F. Sneirson, ‘The history of shareholder primacy, from Adam Smith through the rise of fainancialism’, in: Sjåfjell & Bruner (fn 23), 73, at 84.
30 田中亘「株主第一主義の合理性と限界（下）」法律時報92巻7号〔2020〕79頁、82頁、田中亘「株主第一主義の意義と合理性」証券アナリストジャーナル58巻11号〔2020〕7頁。
31 Andrew Keay, The Enlightened Shareholder Value Principle and Corporate Governance (Routledge, 2013) 53-61.
32 「啓発された株主価値」の概念は、1995年に、王立技芸協会が公表した『明日の会社』という報告書（The Royal Society for the encouragement of Arts, Manufactures & Commerce, RSA Inquiry: Tomorrow’s Company (1995)）の中で最初に提起されたものとも言われる。Andrew Johnston, ‘Marke-led sustainability through information disclosure’, in: Sjåfjell & Bruner (fn 23), 204, 207.
33 Johnston (fn 33), 209-210. 豊島勉「英国におけるコーポレート・ガバナンス――洗練された株主価値原理の検討――」修道商学55巻1号21頁。
34 Johnston (fn 32), 216.
35 Business Roundtable, Statement on the Purpose of a Corporation (August 19, 2019), available at （ https://s3.amazonaws.com/brt.org/BRT-StatementonthePurposeofaCorporationOctober2020.pdf ）.
36 『「責任ある機関投資家」の諸原則 ≪日本版スチュワードシップ・コード≫ ～投資と対話を通じて企業の持続的成長を促すために～』（2017年5月29日）2頁、指針3－3。
37 『「責任ある機関投資家」の諸原則 ≪日本版スチュワードシップ・コード≫ ～投資と対話を通じて企業の持続的成長を促すために～』（2020年3月24日）指針1－1。
38 田中・前掲〔註31〕・83頁以下参照。
39 Oliver Hart & Luigi Zingales, ‘Companies should maximize shareholder welfare not market value’, 2 (2) Journal of Law, Finance, and Accounting (2017) 247. 著者が米国の大学教授であることを反映して、ここでの社会問題としては、地球環境問題や労働問題以上に、たとえば小売店で銃を販売しないことなどが言及されている。
40 Beate Sjafjell, ‘Redefining agency theory to internalize environmental product externalities: a tentative proposal based on life-cycle thinking’, in: Elénonore Maitre-Ekern, Carl Dalhammar & Hans Christian Bugge (eds), Preventing Environmental Damage from Products (Cambridge University Press, 2018) 101.
41 草野耕一『株主の利益に反する経営の適法性と持続可能性――会社が築く豊かで住みよい社会』〔有斐閣、2018〕。
42 田中・前掲〔註31〕・86頁。
43 Hart & Zingales (fn 40), 263-266.
44 Einer Elhauge, ‘Sacrificing corporate profits in the public interest’, 80 (3) New York University Law Review 733. 田中・前掲〔註31〕・86頁。
45 Harpreet Kaur, ‘Achieving sustainable development goals in India’, in: Sjåfjell & Bruner (fn 23), 460.
46 Véronique Magnier, ‘Old-fashioned yet innovative: corporate law, corporate governance and sustainability in France’, in: Sjåfjell & Bruner (fn 23), 276.
47 小塚・前掲書〔註25〕・215-216頁もその趣旨である。
48 European Commission, White Paper on Artificial Intelligence – A European approach to excellence and trust (COM(2020) 65 final) (2020).
49 『AI利活用ハンドブック ～AIをかしこく使いこなすために～』（2020年7月）。ハンドブックの作成に至る検討の結果については、『消費者のデジタル化への対応に関する検討会AIワーキンググループ報告書』（令和2年7月）参照。
50 「『AIひばり』に賛否 冒瀆？由緒正しい創作？」読売新聞2020年3月14日朝刊31頁。
51 「NHKスペシャル AIでよみがえる美空ひばり」2019年9月29日放送。5分間のダイジェストがYouTube上で配信されている。
52 漱石アンドロイド共同研究プロジェクト『アンドロイド基本原則：誰が漱石を甦らせる権利をもつのか？』〔日刊工業新聞社、2019〕168頁。
53 漱石アンドロイド共同研究プロジェクト・前掲書〔註53〕・107頁。
54 A.O.ハーシュマン『離脱・発言・忠誠』〔ミネルヴァ書房、2005〕。
55 White Paper on Artificial Intelligence (fn 49), 24.
56 『我が国のＡＩガバナンスの在り方 ver.1.0』〔前掲・註7〕・20頁。
57 White Paper on Artificial Intelligence (fn 49), 23.
58 小塚・前掲書〔註25〕・87-95頁参照。
