Have Our General AI Principles Worked?
The Pathway from Non-Binding Principles to Universal Principles
2020 Volume 3 Issue 2 Pages 53-70
Details
2020 Volume 3 Issue 2 Pages 53-70
「AI原則ブーム」が到来するとの予想のもとで、AI原則を単なる非拘束的な原則として活用を求める段階から、AIの実用・実装に対応した法規範においてその活用を考えるべきではないかとの提案を試みることが本稿の目的である。
第三次AIブームの興隆によって、社会の様々な場面でAIの研究開発からその活用が現実化するとともに、その適正な利用にあたって原則の重要性が認識されるようになりつつある。そのため、エマージング・テクノロジー（新興技術）の活用を見据えて必要な対応を推進するための取り組みとして、基本法的なものを整備することで非拘束的な「原則」と謳ってきたものを基本原則として定めたり、法定公表事項として当該原則を組み込んだルール作りを考えることはできないだろうか。
新たな問題に対応するためのルール作りは、EUにおける取り組みが様々な局面で先行しているが、「AI規制」に向けた検討においても同じ図式が繰り返されようとしている。本稿では、国内外における原則・ガイドライン等策定の現況を概観するとともに、EUにおける検討動向について、「信頼できるAIのための倫理ガイドライン」の内容と「評価リスト」、AI規制の方向性を示すホワイト・ペーパーの内容を概観することで、今後の規制に向けた方向性を把握する。EUにおける検討状況を参考にすることは、我が国における取り組みを考えるにあたり示唆に富むものである。
最後に、OECDが「人口知能に関する理事会勧告」を採択した意義とともに、法的拘束力を有さない原則が法整備において参照されているOECDプライバシー・ガイドラインの位置づけを再確認することで、非拘束的なガイドラインではあるものの、OECDプライバシー8原則が各国の法制度において参照されるに至っている点に着目し、非拘束的原則が普遍的原則として用いられてきた意義を考える。
Since we have an expectation that the ‘AI Principle Boom’ has arrived, the purpose of this paper is to suggest the following point: we should think about the AI principles not so much as mere non-binding principles but as the laws and regulations which correspond to the practical use and implementation of AI.
With the rise of this third AI Boom, the practical use of AI has been realised following research and development into the various related aspects of society. Therefore, the importance of formulating some principles for its proper use has been recognised. Consequently, I would like to consider our establishing a basic law rather than some non-binding principles. Alternatively, we could establish some rules which incorporate some related principles following a decision announcement by the Government. This is because it is essential to promote the necessary and relevant measures for an optimal utilisation of these emerging technologies.
The EU is leading the way in creating some rules for dealing with the new and related issues. In addition, a similar scheme will be repeating the discussions on the ‘AI regulations’ in the EU. Thus, this paper provides an overview of the current status of the formulation of these principles and guidelines both in Japan and overseas. In addition, in order to understand the direction of the future regulations in the EU, we will outline the contents of the ‘White Paper’, ‘The Ethical Guidelines for a Reliable AI’ and an ‘evaluation list’ which will indicate the future direction of these AI regulations. This idea is based on my recognition that it is important to refer to the EU's efforts in considering our future efforts in Japan.
Finally, we wish to reaffirm the OECD’s adoption of the Council Recommendations on Artificial Intelligence. Furthermore, we intend to reconfirm our position on the OECD Privacy Guidelines which refer to non-binding principles in legislation. I note here that the OECD’s Eight Principles have been referenced in national legal systems and I refer to this simply to show an example where the non-binding rules are used as universal principles.
2020年は、「AI原則ブーム」が到来すると予想したい。AIを用いるにあたって決意表明のように指針や原則等の公表を行う傾向が、多くの企業や様々な組織において顕著になると考えられる。
国内では、総務省のAIネットワーク社会推進会議2において検討がなされた「AI研究開発原則」と「利活用原則」を踏襲した原則が広く策定されて公表されることになると考えられる。国外では、OECDのAI理事会勧告をはじめとして、国際機関や様々な組織が策定した原則を参考にしたものが増えるであろう。
2020年1月の本稿執筆時点では、国内では約10社程度がそのような原則を公表している状況にある。現在公表されつつある原則は、総務省AIネットワーク社会推進会議において検討がなされた原則を踏まえつつも、各社で独自に検討をした取り組みに基づく原則を公表しているという状況にある。今後は、多くの事業者がその動向に追従することになると思われるが、AI原則ブームに乗り遅れまいと形式的に原則を公開する事業者が増えるにつれ様々な問題も生じるおそれがある。
AI原則を学術的に研究することを試みる機会も増えると考えられる。原則の存在の有無を調査する研究や、原則の各項目の一覧をマルバツ形式で調査するといった星取り表のような定量調査が多く見られるようになることが想定される。どのような原則が存在し、どのような項目が採用されているかを調査することは、その揺籃期においては不可欠な研究である3。
AIを用いるにあたって配慮し遵守すべき「原則」は、その原則が公表されていることに意味があるのではなく、その原則が必要であるから原則となっているのであって、その原則を踏まえた取り組みの実施を目指すことに意義がある。「原則」を原則公表することに意義はない。なぜその原則が必要で、原則に基づいて何をすべきなのかを考えた結果、それが原則として体現されるべきものである。
「AI原則は機能するか」という観点から考えてみると、これまでは原則策定の取り組みを試行錯誤し、AIを利用するにあたっての検討・研究・開発にあたり最低限必要な原則はなにかを検討する機会が多かった。今後、AI原則ブームが到来し形式的な原則が広く普及するとなると、今後の検討事項としては、非拘束的なガイドラインや原則としての位置づけを明確にしつつ、次のステップとして、「法定公表事項」や「法定事項」として当該原則を組み込んだルール作りを考える時期に来ているのではないだろうか。つまり、実用・実装段階に向けた法規範としてAI原則の活用を考えるべきではないだろうか。
原則の公表が広まるにつれ、原則策定が本来のAI原則の意図・意義とは異なる方向に進む懸念がある。懸念事項の筆頭としては、形式的な原則公開やいわゆるコピペ（単なる複製）原則の広まりにより、原則を記した文書の公表意義の希釈化が見込まれる。
その先例は既に存在する。個人情報保護法に基づく個人情報の取り扱いに関する法定公表事項の公表や、JIS Q 15001「個人情報保護マネジメントシステム」に基づく「個人情報保護方針」は、いわゆるコピペの個人情報保護方針が散見される典型例といえる。他の事業者の個人情報保護方針がそのまま掲載されていて、元の事業者名まで残っているような事例は見受けられなくなったが、その内容が完全に一致しているものも少なくない。
形式的・形骸化したプライバシーポリシーや個人情報保護方針の掲載をめぐる問題は、長年の懸念事項として議論がなされてきている。
確認まで、個人情報保護法では「個人情報保護方針」や「プライバシーポリシー」の掲載は義務づけられておらず、法27条「保有個人データに関する事項の公表等」が法定公表事項として義務づけられている。平成16年4月2日に閣議決定された「個人情報の保護に関する基本方針」において、「6 個人情報取扱事業者等が講ずべき個人情報の保護のための措置に関する基本的な事項」「(1) 個人情報取扱事業者に関する事項」「① 事業者が行う措置の対外的明確化」において、「事業者が個人情報保護を推進する上での考え方や方針（いわゆる、プライバシーポリシー、プライバシーステートメント等）」において、事業者が取り組むべき基本的事項として、個人情報保護に関する考え方や方針の公表が定められたことにより、多くの事業者が「個人情報保護方針」を公表している。また、JIS Q 15001:2017「個人情報保護マネジメントシステム－要求事項」の5.2.2（外部向け個人情報保護方針）に基づき当該方針を公表している場合もある。
しかし、その形骸化は長年に渡る懸案事項であり、消費者委員会個人情報保護専門調査会「個人情報保護専門調査会報告書～個人情報保護法及びその運用に関する主な検討課題～」（平成23年7月）においても「個人情報保護方針は、かなり形骸化しているのが現状である。事業者における個人情報の取扱い状況の透明性を確保するために必要な表示として、個人情報保護方針の位置付けを検討する必要がある。連邦取引委員会法のように、表示と実際の取扱い状況が異なる場合には何らかの処分があるという表示義務によって、適正な表示・実効性を担保することも検討すべきである。」との意見が示されている。その上で、同報告書においては、基本方針のプライバシーポリシーに関する検討課題として、「①保有個人データの利用停止等、②委託処理の透明化、③利用目的の明確化、④取得元等の具体的明記等、プライバシーポリシー等に基づく事業者による取組については、事業者の自主的な取組に委ねるのでは不十分ではないかとの意見もあることを踏まえ、その進行状況及びプライバシーポリシー等の役割を検討する必要がある。」との意見をまとめている。つまり、形骸化の要因は、個人情報保護方針を掲載しなくても違法でないだけでなく、その内容と実際の個人情報の取り扱い状況が異なっていても、利用目的の明示やその他の通知・公表事項を適切に公表しさえしていれば、個人情報保護方針の記載内容の是非が問われることがないからである。
個人情報保護法の3年ごと見直しとしての改正に向けた検討においては、「保有個人データに関する公表事項の充実」として、「個人情報取扱事業者による保有個人データの本人に対する説明の充実を通じて、本人の適切な理解と関与を可能としつつ、個人情報取扱事業者の適正な取扱いを促す観点から、個人情報の取扱体制や講じている措置の内容、保有個人データの処理の方法等の本人に説明すべき事項を、法に基づく公表事項（政令事項）として追加することとする。4」ことが示されている。しかしながら、個人情報の取り扱いに関して方針等に示した内容と実態が異なる場合であってもその違法性が問われることは法改正においても見込まれていない。
一方で、米国法では、個人情報保護方針をはじめとして法定の公表事項の内容が、実際の手続きと異なる場合に法執行が可能な仕組みを導入している。連邦取引委員会（FTC）法第5条の手続きである。これを個人情報の取り扱いについて適用する場合、事業者における取扱手続の公表と実際の取り扱い状況に乖離が認められる場合には、「不公正又は欺瞞的行為に基づく取引」（連邦取引委員会法（FTC法）第5条(15 U.S.C.§45(a)(1))）としてFTC法に基づく法執行が可能である。FTCの権限として、事業者が個人情報の保護に関する取り組みの内容をプライバシーポリシー等によって表明し、適切な保護措置を講ずるとしていながらそれに反した場合に行政処分を下す権限が付与されている。
以下、同法の規定に沿ってFTCの権限内容についてみてみると、はじめに、違法行為の中止を命ずるために停止命令("cease and desist" order)を下すにあたって、公式に公聴会を開催することとなっている。(15 U.S.C.§45(b))その際に、公共の利益を保護する結果となることが予想される場合、FTCは、暫定的差止命令又は暫定的若しくは永続的禁止命令を要請することができる。(15 U.S.C.§53(b))
不公正又は欺瞞的な行為が広範多岐に渡る場合、又は当該行為に係る停止命令が既に発せられている場合、FTCは当該行為又は業務について規定している行政規則を公表することができる。
FTCの命令に従わない者は、違反行為一つにつき、侵害行為が継続している間、各侵害行為につき一日当たり1万ドル以内の民事罰に科される。(15 U.S.C.§45(l))
同様に、故意に連邦取引委員会規則に違反した者は、それぞれの違反行為につき、1万ドルを支払わなければならない。(15 U.S.C.§45(m))
なお、第5条は、不公正又は欺瞞的行為若しくは業務に対するFTCの権限の適用外についても定めており、適用除外に含まれるものとして、金融機関（銀行、貯蓄貸付組合、及び消費者信用組合等）、コモン・キャリア（電気通信事業者及び州際間一般輸送業者）、航空会社、貨物及び倉庫会社があり、これらの分野は、他の法令に基づいて他の行政機関が法を執行することとなっている。
つまり、法定公表事項として情報の取り扱いに係る手続の内容を公表することの意義は、事業者等による情報の適正な取り扱いと保護についての宣言にとどまらない。本人の権利利益保護の観点から宣言に則った情報の取り扱いがなされていることを約束することで、その約束が守られなかった時には法令違反として制裁の対象になる可能性があることを事業者等に認識させ、適正な情報の取り扱いと保護にあたっての法令を遵守することを促進することにある。
同様に、我が国においても、法律が定める事項について公表義務を課している手続には様々なものがある。「特定商取引法」や「景品表示法」が定める公表事項、「金融商品取引法」に基づく取引説明書・取引約款や利益相反管理方針の公表、「金融商品の販売等に関する法律」に基づく勧誘方針の公表、「個人情報保護法」に基づく保有個人データに係る事項の公表、その他の業法や行政機関等を対象とした法令が定める法定公表事項があげられる。
個人情報保護法に基づく個人情報保護方針やプライバシーポリシーの掲載は、当該方針等に記載した内容と実際の個人情報の取り扱いに整合性がない場合には、適切な取り扱いではないとして法執行の対象にする方向に移行すべきではないかという意見を、同法の三年ごと見直しにおける筆者の意見5として表明した。
同様に、AI原則を単なる非拘束的な原則として活用を求める段階から、法定公表事項としての位置づけに移行することを検討してもよいのではないかと考えている。
2015年に、将来的なロボット共生社会に向けて求められる基本となる原則として、筆者は、OECDプライバシー8原則を参考に、2015年のロボット法学会設立準備研究会において、「ロボット法 新8原則（新保試案）New Eight Principles of Laws of Robotics (Tentative Proposal by Dr. Shimpo)6」(2015年10月11日)を公表した。
2015年の時点ではAIブームの揺籃期でもあり、「EUのロボロー・ガイドライン(2014年9月)7」が公表され、米国においてもWe Robotといった国際会議が開催されるなど、国外ではロボット法に関する議論が高まりつつある時期であった。ロボット法学会設立準備研究会では、ルール作りや必要な規制を将来的に検討するにあたって、共通の汎用的な意識共有の必要性の認識のもとで、「原則」の策定が有効ではないかと考えて新8原則を試案として公表したが、「規制強化」による技術開発への萎縮効果を懸念する反対意見8が寄せられた。
その後、AIブームの興隆により原則策定の重要性が認識されるようになったものの、2015年に新8原則を公表した際の誤解や懸念の轍を踏まないように、エマージング・テクノロジー（新興技術）の活用を見据えて必要な対応を推進するための取り組みとして、まずは基本法的なものを整備し、非拘束的な「原則」と謳ってきたものを明確なルールとして活用することはできないだろうか。
試案として、「新興技術活用推進基本法（通称：エマテク新法）（新保試案第二弾）」のような基本法の制定により、エマテクの振興に必要な基本理念を定めるとともに、基本原則を法定するという考えもあり得るのではないかという提案が本稿の主たる目的である。
開発者や事業者にとっても、AIを利用した取り組みを推進するにあたって、安全かつ安心な利用を前提とした取り組みをアピールするための格好の機会になると考えられる。そのような原則の策定やそれに基づく取り組みが重要であるという認識が広まることにより、その取り組みの重要性が再認識される好循環が生ずることで、多くの事業者がAI原則に基づく取り組みを公表するようになることが期待され、新興技術の開発を推進・促進する上でも「原則」が重要な意味を持つことになる。
情報通信法学研究会AI分科会（令和元年度第1回）では、当該報告時点で確認が可能な97本の国内外の原則・ガイドライン等の調査結果を報告した。本稿は、紙幅の関係でその一覧は掲載しないので、原則・ガイドライン等の一覧はAI分科会の筆者報告資料9を参照されたい。
時系列で並べてみると、最初の体系的な検討は、「EUのロボロー・ガイドライン(2014年9月)10」である。ロボットをめぐる法的課題の体系的な検討を試みた最初の取り組みであるが、報告書では体系的なガイドラインの提示には至らず、具体的な問題を手がかりに検討に着手せざるを得なかったとしている。
「ロボット法 新8原則（新保試案）」の着想に至った最初のヒントは2014年のロボロー・ガイドラインであった。2014年のロボロー・ガイドライン11は、かなり早い段階でこのような原則の必要性に基づいて検討がなされたことがわかる。EUでは様々なルールを先行して決める傾向があるが、当該ガイドラインも同様であるといえる。その後、2016年に入ってからは原則等の策定に向けた取り組みが本格化する。
公的部門は、EUが取り組みを始めて、アメリカ、日本における取り組みが続いている。この点からしても、日本の取り組みはかなり早い段階で、原則やガイドライン策定に向けた検討に着手してきたことは明らかである。とりわけAI開発原則は2017年の段階で公表しており、諸外国の取り組みと比較しても取り組みが先行している。
その後、公的部門のガイドラインの制定が急速に増加したのは2018年である。プライバシー・コミッショナー会議(ICDPPC)でデータ保護に関する原則が公表されて以降は、各国がかなり急ピッチに様々な原則を公表している。
ICDPPCにおける議論は、あくまでプライバシー及びデータ保護という観点からのものである。ノルウェーの「人工知能とプライバシー」も同様にこの分野での原則策定の取り組みである。最近では、例えば自動運転、コネクティドカー、アルゴリズムに特化したものやヘルスケアなどの個別分野における取り組みが少しずつ具体的な原則として策定されているという状況である。
一方、民間部門については、ロボティクス原則がEPSRC（英国工学及び物理科学研究評議会）12から2011年に公表されてはいるものの、これは産業用ロボットに関するロボット工学・ロボティクスの分野におけるものである。フランスも同様にロボティクスに関するものを公表している。
民間分野のAI原則策定の取り組みが進展しはじめたのは、AI Now Instituteが2016年に原則を公表してからである。日本でも人工知能学会の原則公表など進展が見られた時期である。
2018年は、公的部門だけでなく、各国の様々な機関が原則策定の検討を実施しており、NPO・NGOも様々な原則を公表している。
2019年になると、各国が原則の策定の取り組みを進めているが、民間企業において原則公表の動向が見受けられるようになったのは2019年である。イギリスの一部の企業が2017年あたりに原則を策定しているところはあったものの、2019年は企業におけるAI原則公表元年といえるであろう。
今後は、数多くの組織が原則を公表するようになると思われるため、個々の原則やガイドライン等の策定状況を2020年以降は網羅的に確認することは難しくなると思われる。
| 総務省「AIネットワーク化検討会議13」（旧称：ICTインテリジェント化影響評価検討会議）(2016年1月-6月)、その後、総務省「AIネットワーク社会推進会議」（2016年10月～）「AI開発ガイドライン」、「AI利活用ガイドライン」 |
| BSI (British Standard Initiative) BS 8611:2016, Robots and robotic devices Guide to the ethical design and application of robots and robotic systems（2016年4月）14 |
| スタンフォード大学AI100「2030年における人工知能と生活」（2016年6月）15 |
| Partnership on AI（2016年9月）16 |
| 英国下院科学技術委員会「ロボティクスと人工知能」（2016年10月12日）17 |
| 米国ホワイトハウス「人工知能の未来に備えて」（2016年10月）18 |
| 米国電気電子学会（IEEE）「倫理的に調整された設計」（2016年12月）19 |
| 欧州議会「ロボティックスに係る民事法的規則に関する欧州委員会への提言」（2017年2月）20 |
| ITU（国際電気通信連合）グローバルサミット「AI for Good」（2017年6月）21 |
| AAAI/ACM「AI、倫理、社会に関する会議」（2017年）22 |
| 中国国務院「次世代人工知能発展計画」（2017年7月） |
| Future of Life Institute（FLI）「アシロマAI原則」（2017年1月）23 |
| 内閣府（総合科学技術・イノベーション会議）「人工知能と人間社会に関する懇談会」(2017)24 |
| 人工知能学会倫理委員会「人工知能学会 倫理指針」（2017年2月28日）25 |
| 内閣府（総合科学技術・イノベーション会議）人間中心のAI社会原則検討会議「人間中心のAI社会原則」(2018)26 |
| 「英国上院AI特別委員会AI報告書」（2018年6月）27 |
| International Conference of Data Protection and Privacy Commissioners(ICDPPC), Declaration on Ethics and Data Protection in Artificial Intelligence(2018年10月）28 |
| OECD「AIに関する理事会勧告」(2019年5月22日）29 |
OECDは、「人工知能に関する理事会勧告30」として人工知能に関する原則を2019年5月22日に採択した。人権と民主的価値を尊重し、革新的で信頼できる人工知能を推進することを目的として策定されたものである。
OECD加盟36カ国に加えて、アルゼンチン、コスタリカ、コロンビア、ブラジルを含む国によって採択されている。
OECDにおいて、人工知能に関する原則が理事会勧告として採択された意義は、先進国間の自由な意見交換・情報交換を通じて、1)経済成長、2)貿易自由化、3)途上国支援（OECDの三大目的）に貢献することを目的とするOECDの役割と国際社会における影響力に鑑み、従来の個別の団体や研究組織が原則等の策定に向けた取り組みを実施してきたのとは異なり、今後の国際的な取り組みに大きな影響を及ぼすことが期待される点にある。
OECDにおける様々な検討事項は、全体の活動について検討する機関に加え、OECDの三大目的に添う形で経済政策委員会、貿易委員会、開発援助委員会があり、各方面の専門家が参加して議論がなされている。OECDの意思決定機関として理事会があり、閣僚レベルが参加する閣僚理事会（年1回開催）と常任代表による通常理事会（随時開催）が開かれている。また、主要な問題に関する検討を行う場として執行委員会（年2回開催）があるが、このようなOECDの役割と国際的な影響力の観点からすると、AI原則が理事会勧告として採択に至った意義は大きい。
人工知能に関する理事会勧告では、信頼できるAIの責任ある管理のため、5つの補完的な価値を基本とする原則を示している。その内容は、AIが急速に進化している現状に対応して実用的かつ柔軟な基準が設定されている。
OECDでは、情報の取り扱いについて、プライバシーやデジタルセキュリティリスク管理など各分野において理事会勧告が採択されているが、当該AI原則はそれらの既存のOECDの勧告等を補完するものとして位置づけられる。その適用範囲も、OECD加盟国に限定したものではなく、世界中のAI開発に適用することを念頭に置いたものである。
なお、これらの価値に基づく原則をふまえて、OECDは各国政府に対して5つの「政府に求められる対応」も示している。
| ① 包括的な成長、持続可能な開発及び幸福の促進 |
| AIは、あまねく広がる成長、持続可能な開発及び幸福を促進することにより、人々と地球に利益をもたらすものでなければならない。 |
| ② 人間中心の価値と公平 |
| AIシステムは、法の支配、人権、民主主義の価値、多様性を尊重するように設計し、適切で安全な手段（たとえば、必要に応じて人間の介入を可能にする）を実装して、公平かつ公正な社会を確保するものでなければならない。 |
| ③ 透明性と説明責任 |
| AIシステムの透明性を確保し責任ある情法開示を行うことにより、AIに基づく結果を人々が理解し、それらに対抗できるようにしなければならない。 |
| ④ 堅牢性、セキュリティ及び安全性 |
| AIシステムは、ライフサイクル全般を通し堅牢で安全かつ安心に機能する必要があり、潜在的なリスクを継続的に評価及び管理しなければならない。 |
| ⑤ アカウンタビリティ |
| AIシステムを開発、展開又は運用する組織及び個人は、上記の原則に沿って適切に動作させる責任を負わなければならない。 |
| ① AIの研究開発への投資 |
| 研究開発への公的及び民間投資を推進し、信頼できるAIのイノベーションを促進すること。 |
| ② AIデジタルエコシステムの育成 |
| デジタル社会基盤と技術、データと知識を共有する仕組みにより、利用可能なAIエコシステムを育成すること。 |
| ③ AIを実現する政策環境の形成 |
| 信頼できるAIシステム展開への道筋を開く政策環境を確保すること。 |
| ④ 人的能力の構築と労働市場の変革の準備 |
| AIを利用する技能を人々に身につけさせ、労働者が公正に転職できるよう支援すること。 |
| ⑤ 信頼できるAIのための国際協力 |
| 国境や分野を越えて協力することで、信頼できるAIの責任ある管理を進展させること。 |
新たな問題に対応するためのルール作りにおいて、EUの取り組みが様々な局面で先行してきたことは周知の通りである。個人情報保護の分野においても、1995年に制定された個人データ保護指令（個人データ取扱いに係る個人の保護及び当該データの自由な移動に関する1995年10月24日の欧州議会及び理事会の95/46/EC指令）から2016年に制定された一般データ保護規則(GDPR)への移行と法規制のアップグレードの度合いは目覚ましい。
加えてEUでは、「AI規制」に向けた検討に既に着手しており、今後のAI規制をめぐる議論を主導すべく先行した検討がなされている。
我が国は、AI原則策定に向けた取り組みでは既に先行していることから、先発組としてのプライオリティを維持しつつ法規制のあり方を考える上で、EUの取り組みを参考にすることは重要である。そこで、現時点でのEUにおける取り組みを参照する。
EUは、2014年に「EUのロボロー・ガイドライン（2014年9月）」を公表して以降、第三次AIブームの進行とともに、自律型システムの利用に伴う問題が将来的に生ずることを念頭に、AI、ロボット、自律型システムと法的な課題に関する検討を行っている。それらの検討をまとめたものが、2018年3月に公表された「AI、ロボット、自律型システムに関するステートメント31」である32。
本文書は、人工知能、ロボット技術及びいわゆる「自律型」の技術進歩に伴い、道徳に係る問題について喫緊に対応が必要であり、かつ、複雑な問題を提起していることに鑑み検討がなされたものである。その目的は、倫理的、社会的及び法的な課題に関する答えを見出すことであるが、異なるイニシアティブのパッチワークとして共通の利益を求める方向性を示すことを目指している。当該目的を達成するため、集合的、広範囲、包括的な検討と対話の必要性を強調し、社会を構成する上で求められる価値観、社会においてテクノロジーが果たすべき役割に焦点を当てた対話が必要であるとしている。
本文書の公開は、共通の国際的な倫理的及び法的枠組みの構築を目指す取り組みへの着手を示すものであって、人工知能、ロボット技術、「自律」システムの設計、製造、使用および管理が対象である。
基本的な倫理原則を提案することで、EUの各条約及びEU基本権憲章に定められた価値観に基づく考えを示し、将来的な規制に向けた議論を展開する上で基礎となる課題を提示している。
2018年6月に欧州委員会はHigh-Level Expert Group on AI (AI HLEG)33を設置し、「信頼できるAIのための倫理ガイドライン34」が2019年4月に公表されている。
ガイドラインでは、信頼できるAIに必要な条件として、（1）すべての適用される法令及び規則を遵守する適法性、（2）倫理的原則と価値観に則った倫理性、および（3）技術的及び社会的観点の双方からの堅牢性、の三条件を示している。
ガイドラインの目的は信頼できるAIに求められる枠組みを示すことではあるが、適法性の担保に関する原則は、必ずしもその枠組みにとどまるものではないことから、倫理的かつ堅牢なAIの開発を促進する上で必要な要素を示すことが主な目的となっている。ガイドラインの対象はすべてのステークホルダーである。
さらに特筆すべき点として、ガイドラインとして倫理的な原則の一覧を単に示すことが重要なのではなく、そのような原則が実際に機能をする上で必要な検討事項を、社会技術システム(socio-technical systems)のアプローチから示すことが目的であるとしている。前述の通り、「原則」は原則にしかすぎないが、原則を抽出して示すことが最終目的であるかのような検討は機能しない原則を列挙するおそれがある、ということをEUの専門家グループが認識した上で当該ガイドラインを策定している点は重要な視点である。
当該ガイドラインは三つの部分から構成される。
一つ目は、信頼できるAIガイドラインに必要な基盤である。基本的権利の保障の観点から必要な倫理原則を示し、人間の自律性の尊重、危害の防止や公平性、説明可能性といった観点から必要な倫理原則を検討することが必要であるとしている。さらに、子供や障害者等への配慮とともに労使関係など情報の非対称性や弱い立場にある者の保護の観点からの検討。予測が困難な問題を引き起こす可能性があることを認識した上で個人や社会に多大な利益とともに大きな影響を及ぼすことについて留意すること。具体的には民主主義や法の支配、さらには人間の心身に対する影響も起こり得ることからそのようなリスクを減らすための適切かつバランスのとれた基準を設けることを示している。
二つ目は、信頼できるAIの開発、実装及び利用にあたって必要な7つの条件を提示している。（1）人間の関与と監視、（2）技術的な堅牢性と安全性、（3）プライバシーとデータ管理、（4）透明性、（5）多様性、非差別及び公平性、（6）環境及び社会的幸福、（7）説明責任。
三つ目は、AIシステムの開発、実装又は利用において信頼できるAIの「評価リスト35」を採用し、それが適用される特定のユースケースを検証すること。
以上を踏まえて、三つ目の評価リストは2019年末を期限として評価が実施されている36。
EUでは、これまでの検討を経て、次なるステップとして具体的な規制に向けた検討に着手している。検討状況について本稿執筆時点で公式な情報は公開されていないが、EUの民間団体の政策関係サイトに掲載されている情報37に基づき、今後の規制に向けた動向を把握したい。
今後公表が予定されるホワイト・ペーパーは、AI研究開発における米国および中国の取り組みを意識しつつ、欧州の価値観と原則に基づくAIの研究及び技術開発の促進を目指す上で必要な規制の方針を示す内容となっている。
その構成は、①現行のEUにおけるAIをめぐる政策的な枠組み、②欧州における具体的な政策（投資や技能向上及び中小企業対策）、③AIシステム開発に必要なデータ利用のあり方、④将来的な欧州における法規制に向けた主な論点、⑤ステークホルダーの貢献と政策立案に向けたタイムラインからなる。
規制の枠組みの方向性は、新たな分野におけるイノベーションの促進を前提とした規制であるとともに、欧州における価値や原則を尊重した上での技術開発を目指すものである。一方で、AIの利用に伴う新たな可能性とともに生ずるリスクについて、現行のEUの法規制の枠組みの範囲内ではすべての問題をカバーしきれていないとともに、効果的な規制の方法についても要検討であるとしている。同時に、現行のEU加盟国の法的枠組みを踏まえた上で、欧州企業が最大限の利益を享受できるようにバランスの取れた規制の枠組みを検討することが必要であるとしている。
そのために求められる主要な要素として、①基本的権利に対するリスク（具体的には差別やプライバシーおよびデータ保護の観点からの問題）、②安全及び法的責任をめぐるリスクの二つをあげている。
その上で、現在のEUにおける法的枠組みにおいて検討が必要な次の6点を示している。
以上を踏まえて、法的義務として検討すべき以下の7つの項目を示している。①開発者に対する説明責任と透明性の確保、②利用者に対する透明性の確保と情報提供、③AIシステムのリスク軽減のための設計原則、④AIの学習データの質と多様性の確保、⑤開発者に対するリスクアセスメントの実施とリスク軽減のための措置、⑥自動化された意思決定に対する人間による関与方法の検討、⑦製造物について追加で必要な安全対策。
以上の目的を達成するための規制の枠組みについての選択肢は、①自主的な取り組み、②公的部門及び顔認証に係る問題についての個別分野における対応、③リスクの高いアプリケーションについてリスクに対応した規制、④安全性及び法的責任の観点からの対応、⑤ガバナンス38を提示している。
これらの内容は本稿執筆時点では非公式な情報に基づく解説であることから、あくまで今後の施策検討にあたっての参考情報としての紹介にとどまるが、今後のEUにおけるAI規制の方向性が体系的なものであることがわかる。
OECD理事会勧告として定められたOECDプライバシー・ガイドラインは、1980年に制定されてから現在に至るまで、各国の法制度に多大な影響を及ぼしている。それはOECDのすべての加盟国において、個人情報の保護に関係する法令が制定されていることからも明らかである。さらに、OECD加盟国以外の諸外国においても、個人情報の保護に関する法整備にあたっては、当該8原則を組み込んだ法律が制定されている。
OECDプライバシー8原則の法的な位置づけについて考えてみると、OECD加盟国における法整備の指針となるものではあるものの、法的拘束力を有するものではない。1980年の制定時点では、プライバシー保護に関する法律を整備していないOECD加盟国も多い状況であった。そのため、ガイドラインに定められている「要求事項」は、①ガイドラインにおいて示された原則を国内法において考慮すること、②プライバシー保護の名目で個人データの国際的流通を不当に阻害しないこと、③ガイドラインの履行について協力すること、④ガイドライン適用のための特別な手続及び協力に速やかに同意すること、の4つにすぎなかった。
つまり、非拘束的なガイドラインではあるものの、国内法において個人データの国際的な自由な流通と保護について必要な手続きを定めることを求めており、8原則が汎用的かつ普遍的な原則として各国の法制度において参照されるに至っている点に着目することには重要な意義がある。これは、2013年にOECDプライバシー・ガイドラインが改正された時の議論においても、その意義を再確認する結果となった39。
一方で、ルール作りにおいてはプライオリティの確保がイニシアティブの獲得につながることがある。例えば、個人データ保護への取り組みにおいて、EUでは個人データ保護指令から一般データ保護規則(GDPR)に至るまで、先行して様々な取り組みを実施し新たなルールを示すことで、EU以外の諸外国でもその取り組みへの対応が求められることとなっている。この図式が、AI原則の策定と規制に向けた取り組みにおいても繰り返されようとしている。
2014年にEUはロボロー・ガイドラインを公表したのを嚆矢に、様々な検討を重ね、非拘束的なガイドラインとともに原則を公表した。信頼できるAIガイドラインでは、倫理的な原則の一覧を単に示すことが重要なのではなく、そのような原則が実際に機能をする上で必要な検討を行う重要性を示した上で、当該原則が汎用性を有する原則として実際の規制に組み込むことを想定した議論を進めている。さらに、AI規制に向けた法整備を視野に体系的な検討を進め、その構想の具体的内容を示すホワイト・ペーパーの公表に向けた準備を進めている。
我が国においても、総務省のAIネットワーク推進会議における取り組みは、諸外国における取り組みよりも先行して精緻な検討がなされ、その結果、2016年にはG7香川・高松情報通信大臣会合40における公表とともに、OECDのAI理事会勧告としてのAI原則の策定に至るなど影響力を及ぼしイニシアティブも獲得している。
これらの動向を踏まえると、今後想定されるAI原則ブームの到来によりAI原則の普及による社会的な原則の受容性の高まりとともに、非拘束的な原則やガイドラインであっても法整備において参照する原則として機能させ、法整備が実施されたあとの実効性を確保するための取り組みも含めた検討に移行すべき段階に来ているのではないだろうか。
1 慶應義塾大学総合政策学部教授
2 総務省「AIネットワーク社会推進会議」(https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/index.html)。
3 新保史生「AI原則は機能するか？－AI・ロボットを用いることに伴う原則策定の取り組みから法定事項としての位置づけへ－」情報通信法学研究会AI分科会（令和元年度第1回）(https://www.soumu.go.jp/main_sosiki/kenkyu/hougakuken/ai_r1-1.html)では、当該報告時点で確認が可能な97本の国内外の原則・ガイドライン等の調査結果を報告している。なお、本稿は、本報告に基づくものである。
4 個人情報保護委員会「個人情報保護法 いわゆる3年ごと見直し 制度改正大綱」（令和元年12月13日）20頁。
5 第105回 個人情報保護委員会（令和元年5月17日（金））資料4 新保史生提出資料(https://www.ppc.go.jp/aboutus/minutes/2019/20190517/)。
6 新保史生「何故に『ロボット法』なのか」ロボット法学会設立準備研究会（2015年10月11日）報告資料(2015)。当該原則の詳細については、新保史生「ロボット法をめぐる法領域別課題の鳥瞰」情報法制研究創刊号9章(2017)PP.PP.65-78、Fumio Shimpo, The Principal Japanese AI and Robot Strategy and Research toward Establishing Basic Principles, RESEARCH HANDBOOK ON THE LAW OF ARTIFICIAL INTELLIGENCE, Woodrow Barfield, Ugo Pagallo(ed), Edward Elgar Publishing (2018) PP.114-142, Jacob Turner, ROBOT RULES: REGULATING ARTIFICIAL INTELLIGENCE, Palgrave Macmillan; 1st ed. (2019).
7 Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics, FP7-SCIENCE-IN-SOCIETY-2011-1, Project No.: 289092.
8 「深層断面／「法学会」設立難航?ロボ「社会進出」課題多く、業界関係者から異論」日刊工業新聞2016/1/18 https://www.nikkan.co.jp/articles/view/00371272。
9 前掲注3を参照。
10 See, supra note 7.
11 2014年に公表されたロボロー・ガイドラインの報告書作成のための調査費用（予算）は149万ユーロである。日本国内では、このようなガイドライン策定などの調査委託事業で1億円を超える報告書は、現在はほとんど見かけることがない。
12 時系列からすると、2010年9月にUK Research and Innovation (UKRI)のThe Engineering and Physical Sciences Research Council (EPSRC) が、研究開発者及び利用者向けの5つの原則及び産業界への7つのメッセージから構成される原則を公表したものが、近時のAI・ロボットをめぐる原則の中では最初のものと考えられる。EPSRC, Principles of robotics (https://epsrc.ukri.org/research/ourportfolio/themes/engineering/activities/principlesofrobotics/).
13 「AIネットワーク化検討会議」(http://www.soumu.go.jp/main_sosiki/kenkyu/iict/index.html)。
14 BS 8611:2016(https://shop.bsigroup.com/ProductDetail?pid=000000000030320089).
15 Stanford University, One Hundred Year Study on Artificial Intelligence (AI100) (https://ai100.stanford.edu/).
16 Partnership on AI(https://www.partnershiponai.org/).IBM、Microsoft、GoogleのDeepMindが、AIに関する独自の倫理規範を確立し、2018年に「AIのパートナーシップ」などの幅広いイニシアティブを作成するために設立した団体。
17 Robotics and artificial intelligence inquiry(https://www.parliament.uk/business/committees/committees-a-z/commons-select/science-and-technology-committee/inquiries/parliament-2015/robotics-and-artificial-intelligence-inquiry-15-16/)
18 White House, The Administration’s Report on the Future of Artificial Intelligence, (https://obamawhitehouse.archives.gov/blog/2016/10/12/administrations-report-future-artificial-intelligence). ホワイトハウスは、2019年3月19日に、米国政府によるAI戦略のポータルサイトai.gov(https://www.whitehouse.gov/ai/)を立ち上げている。
19 IEEE's(Institute of Electrical and Electronics Engineers) policy paper on ‘Ethically Aligned Design’(http://standards.ieee.org/news/2016/ethically_aligned_design.html).
20 European Parliament (http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html)(2015/2103(INL)).夏井高人「ロボット法の制定を求める欧州議会決議 [参考訳]」法と情報雑誌第2巻第5号（通巻第11号・2017年5月号）。
21 ITU's (International Telecommunication Union) Global Summit ‘AI for Good’(https://www.itu.int/en/ITU-T/AI/Pages/201706-default.aspx).
22 ACM's (Association for Computing Machinery) work on the issue, including a major AAAI/ACM ‘Conference on AI, Ethics, and Society’in summer 2017(http://www.aies-conference.com/).
23 Asilomar AI Principles(https://futureoflife.org/ai-principles/).
24 「人工知能と人間社会に関する懇談会」(https://www8.cao.go.jp/cstp/tyousakai/ai/index.html)。
25 「人工知能学会 倫理指針」(http://ai-elsi.org/archives/471)。
26 「人間中心のAI社会原則」(https://www8.cao.go.jp/cstp/tyousakai/humanai/index.html)。
27 Government response to House of Lords Artificial Intelligence Select Committee’s Report on AI in the UK: Ready, Willing and Able?, June 2018(https://www.parliament.uk/documents/lords-committees/Artificial-Intelligence/AI-Government-Response2.pdf).
28 ICDPPC, Declaration on Ethics and Data Protection in Artificial Intelligence(https://icdppc.org/wp-content/uploads/2019/04/20180922_ICDPPC-40th_AI-Declaration_ADOPTED.pdf).ICDPPCの倫理及びデータ保護に関する宣言は、6つの指針的原則から構成される。その後、一般からの意見募集(Public consultation : Ethics and Data Protection in Artificial Intelligence: Consultation extended until 15 February 2019 (https://icdppc.org/public-consultation-ethics-and-data-protection-in-artificial-intelligence-continuing-the-debate/)）が実施され、2019年10月にアルバニアのティラナで開催される第41回の会議において当該原則について審議がなされる予定であったが、2020年10月にメキシコで開催される第42回会議に向けて引き続き検討がなされることとなった。
29 OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449.
30 経済協力開発機構（OECD）における人工知能（AI）に関する取組(https://www.soumu.go.jp/menu_seisaku/ictseisaku/oecd_ai/index.html)。日本語版は、OECD、人工知能に関する理事会勧告、OECD/LEGAL/0449(https://www.soumu.go.jp/main_content/000642217.pdf)。OECD, Recommendation of the Council on Artificial Intelligence, Adopted on 22/05/2019, C(2019)34, C/MIN(2019)3/FINAL, C/M(2019)10. (https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449.
31 European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence, Robotics and ‘Autonomous’Systems, Brussels, 9 March 2018.
32 本文書の策定に際して主に参照されている文書は、The Forum on the Socially Responsible Development of Artificial Intelligence held by the University of Montreal in November 2017, 'Declaration for a Responsible Development of Artificial Intelligence’ has been developed. It is now publicly accessible on an online platform where all sectors of society are invited to comment on the text.(http://nouvelles.umontreal.ca/en/article/2017/11/03/montreal-declaration-for-a-responsible-development-of-artificial-intelligence/).
33 European Commission, High-Level Expert Group on Artificial Intelligence (https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence).
34 European Commission High-Level Expert Group on Artificial Intelligence, Ethics Guidelines For Trustworthy AI, 8 April 2019(https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai)(8 April 2019). ガイドラインのダウンロードURL(https://ec.europa.eu/futurium/en/ai-alliance-consultation),(https://www.aepd.es/sites/default/files/2019-09/ai-ethics-guidelines.pdf).最初の草案は2018年12月18日に公表された。
35 European Commission, EU artificial intelligence ethics checklist ready for testing as new policy recommendations are published (https://ec.europa.eu/digital-single-market/en/news/eu-artificial-intelligence-ethics-checklist-ready-testing-new-policy-recommendations-are)(26 June 2019).
36 倫理ガイドラインの検討に係る評価リストのパイロットプログラムへの参画募集については、2019年12月1日を期限として調査を実施。European Commission, Ethics Guidelines for Trustworthy AI, Pilot the Assessment List of the Ethics Guidelines for Trustworthy AI (https://ec.europa.eu/futurium/en/ethics-guidelines-trustworthy-ai/pilot-assessment-list-ethics-guidelines-trustworthy-ai).
37 Samuel Stolton, Commission considers facial recognition ban in AI ‘white paper’17th Jan, 2020(https://www.euractiv.com/section/digital/news/leak-commission-considers-facial-recognition-ban-in-ai-white-paper/)(updated:22nd Jan, 2020).
38 山本龍彦「『完全自動意思決定』のガバナンス－行為統制型規律からガバナンス統制型規律へ？」『情報通信政策研究』第3巻第1号、PP.25-45（2019）は、GDPRを厳格な規制を定めつつも違法行為に対する執行困難性を念頭において総合的なガバナンス体制の構築を管理者に要求することで法令遵守を求める「ガバナンスとしての法」と観念し、アルゴリズム用いた意思決定が一般化するAI社会の中心的な法的アプローチになる可能性があると説く。
39 2013年のOECDガイドライン改正では、5部22項目から構成されていた1980年版が、2013年改正版では6部23項目に変更されてはいるものの、ガイドライン全体の項目数は1項目のみの増加にとどまっている。さらに、ガイドラインの対象範囲に変更はなく、8原則も変更されていない。一方で、加盟国への「要求事項」は、前述の4項目から、①プライバシーの保護と情報の自由な流通に対し、政府内の最高レベルでリーダーシップを示し実行すること、②本勧告の附属書に示され全体を構成するガイドラインを、すべての関係者（ステークホルダー）が関与するプロセスを通して履行すること、③公的部門及び民間分野の双方に勧告を広く浸透させること、の3つに変更されている。各国の法整備が完了していることを踏まえ、公的部門及び民間分野の双方においてその実効性を担保するための取り組みを実施するとともに、すべての関係者（ステークホルダー）の関与を求める内容へと変更がなされている。
40 G7香川・高松情報通信大臣会合(https://www.soumu.go.jp/joho_kokusai/g7ict/index.html)（2016年(平成28年)4月）。
