A Study of the AGI Era and the Industrial Organization of Media Content Production
2024 Volume 8 Issue 1 Pages 1-17
Details
2024 Volume 8 Issue 1 Pages 1-17
生成AIに対する反発は既に強く、AGI（Artificial General Intelligence：汎用型人工知能）、ASI（Artificial Superintelligence：人工超知能）に対しても引き続き同様であろう。一般にも、新しい機械や技術の、突然の出現に対しては、常に人間関与のあり方が再考される傾向がある。そうした人間の存在感を強調する希求が、メディア・コンテンツの場合には、従前のコンテンツ制作手法やジャンルのレガシー化やクラシック化を促す要因になると考える。それはボーモルが費用病として提示した産業組織を生む。だからといってAIが棄却されるばかりではなく、AIを前提とした新しいジャンルや型が分化していくことも考えられる。
AIへの受容と反発は、まだどちらが優位とは判断できず、AGI、ASIの進展に伴い、便益とリスクがどのように評価されていくか、規制導入ではなく自由体制を前提とする上では、引き続きの注視が必要である。
The backlash against generative AI is already strong and will continue to be so against AGI and ASI. In general, the sudden emergence of new machines and technologies always tends to cause people to reconsider the nature of human involvement. In the case of media content, this desire to emphasize the presence of humans is a factor that encourages the legacization and classicization of traditional content production methods and genres. This gives rise to the industrial composition that Baumol presented as a cost disease. This does not mean that AI will be dismissed, but it is possible that new genres and fields will be differentiated on the basis of AI.
Neither acceptance nor opposition to AI can yet be judged as predominant, and how the benefits and risks will be evaluated as AGI and ASI progresses will require continued close attention in assuming a free rather than regulated regime.
人類は、2024年時点のAIですら、持て余し気味であるが、技術進歩はさらにAGI、ASIという局面を準備している。人類の知能を上回りそうということで、決して弱くない反発も観察される。そして約200年前のラッダイト運動のように、人間の居場所を求めるような言説も観察される。もちろんAIの効用を全く認めていないわけではなく、一部にはレント・シーキングな動きもみられる。反発と受容、それぞれが育っている印象を持つ。
そこで拙者が想起するのは、約60年前に出された停滞産業部門と発展産業部門の二項対立構図、「ボーモルの費用病；Cost Disease」という産業組織論上の理論である。この発想をもとに、AGI/ASI時代のメディア・コンテンツに対する役割を考察する。
AIについては、何度も“第x次・AIブーム”2とよばれるような、強い期待と失望（ないしは反発）の歴史を繰り返しているし、そもそもIT系全般には、ガートナー社が唱えるようなハイプ（誇大）が起きやすい傾向がみられる。今世紀に入ってからの機械学習型AIや生成AIに対しても、その誇大と幻滅は観察されてきた。ガートナーの最新のハイプ曲線でも、AIは未だ「過剰な期待」状態にあり、一部、幻滅期に入りつつある（図表１）。
【図表出所】 Gartner3
比較的近著のなかで、広くAIへの懸念を呈したもののひとつは、Bostrom(2014)4 であろう。この書では、実存的大惨事を防ぐためには、最初の超知能の「AI制御問題」を解決する必要があることが主張される。解決策としては、人間の生存と幸福と両立するような、一貫推定意志（Coherent Extrapolated Volition）、道徳的正義（Moral Rightness）、道徳的許容（Moral Permissibility）を超知能に植え付けることが提唱される。拙者はこの開発段階での仕込みという指摘は重要と考える。しかしながら、制御問題を解決するのは驚くほど困難としており、なぜなら、ほとんどの目標は、機械で実装可能なコードに変換された場合に、予期しない望ましくない結果につながるから、としている。実際、本稿執筆時点（2024年夏）でも、制御可能性は、Schuett et al(2023)におけるAI開発専門家に対するアンケート調査での、50のAGI安全管理手法についての評価結果でみられるように5、決定的方法を見出せず、開発初期段階から複合的に対応せざるを得ない点からも、Bostrom(2014)の危機感には、説得性がある。
またMerchant(2023)6は、従前の産業革命時のラッダイト運動と現在のギグ・エコノミーの間にアナロジーを見出し、技術が誰に利益をもたらし、誰を圧迫しているのかについて考察している。ラッダイト運動という反乱を起こしたのは、不真面目な労働者ではなく、それまでの「手工業」時代の仕事のやり方に基づいて、真摯に作業に従事していた“真面目で勤勉な労働者たち“であり、自分たちの生計を守るための必死の抵抗であったことは、事の深刻さを意味する。そして（実際に19世紀、20世紀前半がそうであったように）技術の進歩が経済的不平等を拡大し、社会的な分断を引き起こす可能性があると指摘する。また現代の労働者に対する応用として、技術の進化に対する警戒心、労働者の権利の擁護、技術との共存、未来への準備（労働者自身のスキルアップ）を述べている。機械学習AIが喧伝された頃（2010年代中盤）以来、ネオ・ラッダイト運動ともいえるようなAIに対する反発の動きは小さくなかった。
先にあげたBostrom自身は、その近著（Bostrom(2024)7）、およびその著に対する著者インタビュー記事8で、焦点を変えたことが読み取れる。Bostrom(2014)がAIのリスクに焦点を当てていたのに対し、Bostrom(2024)では、AIが安全に開発され、AIが気候変動、病気、労働の必要性など多くの問題を解決するなど、技術の恩恵を最大限に活用できる遠い未来への希望を著している。
２．２ コンテンツ産業 実務での反発と迷い、取り込み ２．２．１．音楽業界での反発と取り込み音楽業界の生成AIに対する反発と、逆に取り込む動きは、現在のAIに対する認識の象徴例のようにみえる。初期段階で、ユニバーサル・ミュージックは、Spotifyやapple Music 等の音楽ストリーミング事業者に対して、AI企業からのアクセス・ブロックを求めた、と報じられている（23年４月13日）9。
その後、ソニー・ミュージック、ワーナー・ミュージック ユニバーサル・ミュージックのメジャー３社は、音楽生成AI企業、SunoとUdioを連邦裁判所に提訴した（24年６月24日）10。いわゆる学習データ用に、それぞれの社の楽曲が無断使用されたというものである。わが国の場合は、議論の多い著作権法30条４項にて、学習させること自体には権利制限があるが、諸外国においては必ずしもそうではないし、今後、その「無断使用」をどのように立証し、それが証拠になるかは、注目したい点である。なぜなら訴えられたそれらのサービスでは、プロンプトに既存アーティストの名前や楽曲、歌詞などの、特定曲を特定しやすいものが入っていると、生成を拒むようにはしているからである。
その後もソニー・ミュージックは、人工知能（AI）企業や音楽ストリーミング・プラットフォームに対し、明確な許可なく同社のコンテンツを使用しないよう宣言を出し、700社余りに書簡を送付する形で、警告したと報道される（24年５月16日）11。
ところが訴えたそれらの社は、全面的にAIの存在を否定しているわけではない。むしろAIの効用の取り込みに熱心な側面もある。まずユニバーサル・ミュージックは、YouTubeとの間で、「YouTube Music AI Incubator」の提携・設立を発表している。ユニバーサル ミュージックのルシアン・グレンジ会長兼 CEO は、「AIのポジティブな面を促進しながら、潜在的なマイナス面を制限できる効果的なツール、インセンティブや報酬、およびその他のルールをいかに確立できるか、アーティストや作詞・作曲家が創作物における権利や意志を保持し、公正な報酬を得るために、安全かつ責任ある収益性の高い音楽と動画のエコシステム、AIは人間のクリエイティビティを強化するためのもので、その逆ではないという YouTube の音楽AIの基本的な考え方を基盤」12という意識のもとで締結されている（23年８月21日）13。日本向けは24年３月21日に発表されている14。YouTube側も「音楽AIの基本的な考え方」15を定め、「AIは無視できない、適切な権利保護、音楽コミュニティの信頼性と安全性の向上」を謳った上でのAI開発である。
ワーナー・ミュージックは、「伝説的なフランス人アーティスト、エディット・ピアフの財団と提携し、彼女の声とイメージを再現する革新的で画期的なAI技術を開発」（23年11月14日）16、また「音楽生成AIの米Boomy社との提携」を発表している（23年11月29日）17。後者は「レガシーな音楽業界のプレイヤーがBoomyのビジネスモデルを支持した結果であると同時に、AIと人間のクリエイティビティの融合が新たな動きを音楽業界にもたらすことを示している」と評されている18。
一方、メジャー３社に訴えられたSunoは Microsoft Copilotと提携、「音楽のバックグラウンドに関係なく、簡単なプロンプトで楽しくて巧妙でパーソナライズされた曲を簡単に作成できるように」した（23年12月19日）19。
２．２．２．新聞業界での活用と反発世界新聞・ニュース出版社協会（WAN-IFRA）20は、ジャーナリスト、編集マネージャー、その他のニュース専門家を対象にして、AI活用動向を調査し、その結果を23年５月25日に発表している21（図表２）。
【出所】 WAN-IFRA22
この調査を見る限り、活発にAIが用いられている印象を受ける。ただしWAN-IFRA自身は、この調査のニュース・リリースのなかでも、AI使用ガイドラインを持たないことや、不正確さと盗作はニュース編集室の最大の懸念事項であることを指摘している。
そして23年９月６日には、「AIに関する包括的な世界宣言」23を発表し、AIシステムが「私たちの知的財産を無差別に不正に流用することは、非倫理的で有害であり、私たちの保護された権利の侵害である」と、権利保護側の主張を強くしている。日本の日本新聞協会も追随するように、「生成AIに関する基本的な考え方」24（23年10月30日）、「生成AIにおける報道コンテンツの無断利用等に関する声明」25（24年７月17日）を出している。
その後、WAN-IFRAは「WAN-IFRAとOpenAIがニュースルーム向けのグローバルAIアクセラレーターを立ち上げ」26（24年５月29日）、「ニュースルームAI Catalystが2024年９月にヨーロッパで開始」27（24年８月26日）と、どちらかといえば、AI利活用の動きを見せている。
２．２．３．映像分野での反発と取り込み2023年は、ハリウッド周辺で、脚本家組合（WGA）と俳優組合（SAG-AFTRA）による大規模かつ長期間のストライキが行われたが、その際のひとつの争点は生成AIの取り扱いであった。結果的にその交渉の結果28、俳優については、俳優の顔や体の一部を生成AIによって「合成」する場合、さらにスタジオが一般的に出演者のスキャン画像を再利用したい場合に、その説明をすること、同意を得ることと、報酬の支払いが、合意された。対象となる俳優の生死は問わない（死後においても、亡くなった出演者の独占的権利を所有する「正式な代理人」から同意を得る必要がある）。なおこれはあくまで団体協約、ソフトローであったが、カリフォルニア州上院は ハードローとして可決した（24年８月31日、知事署名９月17日）29。
2023年のこれらは対映画、放送、ネット映像配信業務であったが、SAG-AFTRAは対ビデオ・ゲームに対しても、主にAIレプリカを争点としたストライキを構えた（24年７月26日）30。
さらに進んで、俳優（音声）のデジタル・レプリカについて、SAG-AFTRAは、スタートアップ企業NarrativとAIデジタル音声レプリカ契約を結んだことを発表している（24年８月12日）31。Narrativ は、AIツールを使用してAIテクノロジーを介してデジタル音声コマーシャルを制作するタレントと広告主や広告代理店を結び付けるオンライン・プラットフォームである。同社と SAG-AFTRA との新たな契約では、組合の 16 万人の会員に、声優と広告主を結び付けるデータベースに自分自身を追加する機会が与えられる。個々の会員は、SAG-AFTRA が広告主と結んだ最新のコマーシャル契約で定められた最低料金を下限値にした上で、プロジェクトごとに自分の声の使用料を交渉することができる。いろいろな解釈のできる動きであり、デジタル・レプリカの市場価格を下げ止める効果や、SAG-AFTRAがデジタル・レプリカの窓口権を発揮するような動きとも受け止められる。
２．３ 反発の核にある人間重視結果として、著作権法の思想が人間関与を求めているし、著作財産権に集約されるように、「人が関与すること」というメタには、付加価値があることになっている。
拙稿（2023）でも述べたが、2022年８月26日から開催された第150回コロラド州品評会（fine art competition, the Colorado State Fair）のデジタルアート部門において、ジェイソン・アレン（Jason Allen, コロラドのゲーム会社Incarnate Games社長）が提出した作品が１位を獲得、その作品がMidjourneyによって生成されたものであったことが、様々な議論を巻き起こした。前後して米国著作権局（The US Copyright Office）は、AI制作物に著作権はない旨の声明を何度か、出している32が、そこで問われたことは、人間の創作であるか否か、あるいは人間がどの程度関与しているかであった。アレン自身は再審査を要求し、その過程で「624回のプロンプト入力とPhotoshopによる修正」をした作品であることも明らかになったが、米国著作権局審査委員会は「登録に必要な人間の著作性が欠けている」として、著作権での保護を拒否している33。
著作財産権に限らずとも、何世代にも渡って大量生産・大量消費時代に慣らされてきた我々の現代においても、（少数ではあるものの）いわゆる職人の仕事、正確には「手工業」による生産物にも、引き続き、価値を見出している。また同じ缶ドリンクやスナックの購買においても、自動販売機の効率の良さは認めつつも、生身の店員がいる清掃の行き届いたコンビニでの購買も並立している。
２．４ 制度面での動きAIのリスクを、制度によって対処する動きもまた活発である。日本国内だけでも、
といった形でのガイドラインが、相次いで発行されている。いずれもリスクと効用（利活用）の両面を認識しつつ、どちらかといえば、リスクがある点を指摘し、それに対する注意を促している。
そうした際に、概念としての「信頼できるAI（Trustworthy AI）」がある。Ammanath(2022)38によるそれは、透明性、公平性 堅牢性、プライバシー、セキュリティ、説明可能性、セキュリティ、といった要素で信頼を説明・構成しているが、EUが2019年に出した「信頼できるAIのためのガイドライン」39で提示されている、人間の主体性と監督、技術的な堅牢性と安全性、プライバシーとデータ ガバナンス、透明性、多様性・差別の禁止・公平性、社会と環境の幸福、説明責任、と、大きく異なるものではない。その後の民間のマイクロソフトの「責任あるAI（Responsible AI）」40、NVIDIAの信頼されるAI（Trustworthy AI）41 といった考え方も、開発における倫理重視を示すものと考える。
グーグルの研究チームは、プレプリント・サーバーarXiv上に、AI、AGI、ASIのタイポロジーのひとつの考え方を提示している（Morris, et al（2023））42。どのくらいの人数（割合）の熟練した成人（skilled adults）の技能・知能を上回るかで、AIを段階分け、分類をしている概念的なものである。併せて、過去レビューとして９つの定義（第２節Defining AGI: Case Studies）と６つのAGI定義の原則（３節3. Defining AGI: Six Principles）をまとめている。
現行のAI（ChatGPT （OpenAI、2023）等）は、グーグル分類の「レベル１；新興」にあるとされ、目安として「未熟な人間と同等か、それより多少優れている」とされる。次の「レベル２: 有能、熟練した成人の 50 パーセンタイル以上、優れている」、「レベル３: 専門家、熟練した成人の少なくとも90パーセンタイル以上」、「レベル４: 達人、熟練した成人の少なくとも99パーセンタイル以上」、「レベル５: 超人、熟練した成人の全てを上回る」としている。
なお同文献の３節で提示される６つのAGI定義の原則では、
としており、（動学的発展モデルではなく）静学的にみれば、特定タスク用（原書ではnarrow）ではなく汎用性（generally）、そのためのメタ重視、を重視している。この点を加味した上で、汎用的でメタ重視なAIであれば、レベル２以上でAGIとの性格が高まりだすように受け取れる。ASIについては、明確にレベル５と置かれる。
| パフォーマンス（行）×一般性（列） | （汎用性のある）AIの例 | 自律レベル | システム例 | AGI レベルのロック解除 | 導入されたリスクの例 |
|---|---|---|---|---|---|
| レベル０: AIなし |
一般的な非AI 人間参加型コンピューティング |
自律レベル０: AIなし 人間がすべてを行う。 |
アナログなアプローチ（例：紙に鉛筆でスケッチする） AI 以外のデジタル ワークフロー (例: テキスト エディターでの入力、ペイント プログラムでの描画) |
AIなし | 該当なし（現状維持リスク） |
| レベル１: 新興 (Emerging) 未熟な人間と同等か、それより多少優れている |
ChatGPT (OpenAI 、2023 )等 | 自律レベル１: ツールとしての AI。 人間がタスクを完全に制御し、AI を使用して日常的なサブタスクを自動化。 |
検索エンジンを利用した情報検索 文法チェックプログラムを利用して文章を修正する 機械翻訳アプリで標識を読む |
可能： 新興の狭義のAI おそらく可能： 有能な狭義のAI |
スキルの低下（例：過度の依存） 既存産業の混乱 |
| レベル２: 有能 (Competent) 熟練した成人の 50 パーセンタイル以上 |
有能なAGI； 未達 |
自律レベル２: コンサルタントとしてのAI。 AIは実質的な役割を担うが、それは人間によって呼び出された場合のみ。 |
言語モデルを利用して文書セットを要約する コード生成モデルによるコンピュータプログラミングの高速化 洗練されたレコメンデーションシステムを介してほとんどのエンターテインメントを消費する |
可能： 有能な狭義のAI おそらく可能： エキスパート狭義AI; 新興のAGI |
過度の信頼 過激化 標的を絞った操作 |
| レベル３： 専門家 (Expert) 熟練した成人の少なくとも90パーセンタイル以上 |
専門家AGI； 未達 |
自律レベル ３: 協力者としての AI。 人間とAIが同等の協力、目標とタスクのインタラクティブな調整。 |
チェスをプレイするAIとのやり取りと分析を通じてチェスプレイヤーとしてのトレーニング AIが生成したキャラクターとのソーシャルインタラクションによるエンターテインメント |
可能： 新興のAGI おそらく可能： エキスパート狭義AI; 有能なAGI |
擬人化 (例: 準社会的関係) 急速な社会変化 |
| レベル４: 達人 (Virtuoso) 熟練した成人の少なくとも 99 パーセンタイル以上 |
達人AGI； 未達 |
自律レベル４: エキスパートとしての AI。 AI がインタラクションを促進し、人間がガイダンスとフィードバックを提供したり、サブタスクを実行する。 |
AI システムを使用して科学的発見を促進する (例: タンパク質の折り畳み) | 可能： Virtuoso ナロー AI おそらく可能： エキスパートAGI |
社会規模の倦怠感 大量の労働力の喪失 人間例外主義の衰退 |
| レベル５: 超人 (Superhuman) 100%の人間を上回る |
人工超知能（ASI）； 未達 |
自律レベル５: エージェントとしての AI。 完全に自律的な AI |
自律型AI搭載パーソナルアシスタント (まだロック解除されていません) |
おそらく可能： Virtuoso AGI; ヴィルトゥオーゾAGI; ASI |
ずれ 権力の集中 |
【出所】arXiv preprint43
OpenAIはAGIを「最も経済的に価値のある作業において人間よりも優れたパフォーマンスを発揮する高度に自律的なシステム；highly autonomous system that outperforms humans at most economically valuable work」と定義44している。ブルームバーグの報道によれば、OpenAIは社内向けに、汎用人工知能、想定外の状況でも自ら学習し、能力を応用して処理することができる、人間に近い知能を持つ人工知能に至る５段階モデルを提示したとされる。
前世紀のうちに、John Rogers Searle46による「強いAI；strong AI, full AI」「弱いAI; weak AI, narrow AI」という分け方が存在していた。汎用に使えるAIと特化型AIを分ける考え方であるが、前者の汎用型を指して、AGIとみなしている場面が多いと思われる。付随して、強いAIでは、AI自身の自律的な学習を措定しており、一方、弱いAIでは人間の指示、プロンプトを必要とするものとされていた。
2024年時点に存在するAIの多くは「弱いAI」とされているように思われる。逆に「強いAI」に該当するとされるものは、見出せなかった。
３．２ 上記の進化分類と、伝統的な普及理論との間のなぞらえ上述のGoogleやOpenAIの考え方の前提は、（当然ではあるが）AGI/ASIは一瞬に全人類の英知を超えるわけではなく、人工知能進歩の過程で、一様ではない人類の熟練度（や知的水準）を、低位から少しずつ乗り越えていくものである。さらに汎用な「強いAI」と特化型の「弱いAI」のように、個々個人を乗り越える場面は多様に個々に訪れると考えられる。弱いAIによる乗り越えを経験するうちに、受容／反発の態度にも影響を与えていくと考えられる。個々の生身の人が自分の熟練度を乗り越えられた際に、AGI/ASIを受け入れるか、拒否するかは個々人の判断であるが、存在そのものの認知は浸透していく。
人工知能の進歩にあわせて上回られてしまった人類と、それでも熟練度で上回る人類の分布の推移は、伝統的なマーケティング、ロジャースの普及理論47的である（より一般的に言えば、１次関数的な単調増加ではなく、ロジスティック曲線やゴンペルツ曲線のような逓増・逓減局面を含む増加関数的な推移と分布）。
そこで、AI/AGI/ASIの社会の受け入れと反発に関して、２つの仮説が対立する。ひとつは、普及理論そのもののように、人工知能に上回られる過程で、便利さなどの人類にとっての効用を生むことにより、AIを受容していく人類が増えるという仮説である。もうひとつは、人工知能を上回る人類は、制御可能なゆえに、そのAIの進歩に対して、相対的に寛容な態度をとると考えられるが、一方、上回られた人類は、制御不能ゆえに、相対的に反発の態度が強くという側面である。結果、AI/AGI/ASIの進歩とともに、懸念、反発を抱く人類が増えるというものである。
この２つの対立仮説は、前節で述べた、Bostromの思想の変化（懸念と受容の２つの著作）のそれぞれとも一致する。
さらに普及理論では、普及に加速がつく前にみられる超えるべき障害として、深い溝、キャズム理論が言われる。キャズムが生じる主な理由は、初期（イノベータ、初期アダプター層）とマジョリティ層の間で見られる、それぞれの価値観の違いにあると考えられる。これを応用的に考えるならば、AIの受容と反発も、ステージごとに考える必要があることを示唆する。
３．３ AIに対する反発と受容の分断？ 和解？そうしたステージごとの態度の違いも含めて、量的な意味で、AIからASIへの発展段階にて、受容する者と反発するものが、どのくらいに分布していくか、極めて予測が難しい。思想面でも反発と受容の両面が語られ、実務においても反発しつつもAIの効用を取り込む動きが活発であることは、既に述べたとおりである。
上述のように、メディア・コンテンツ分野での反発は、著作権が主だったところであり、そこでは、著作物として人間関与を求める思想が強い。
いわゆる伝統芸能やクラシックとよばれる芸術領域を想起されたい。そうした世界では、一見、非合理な（でも深層では合理的な）“型”、“法則”、“文法”、“フォーマット”、“スタイル”、“様式美”が存在するし、また新参者にはその習得が求められる。そうした型等が積みあがればあがるほど、その分野の伝統性の奥ゆかしさのようなものが、観客に対して、単に目の前の公演そのものによる訴求のみならず、その公演に伴う文脈やストーリーとして訴求する。
古典では、ルース・ベネディクトの『文化の型』（Patterns of Culture、1934年）48のような定義である。文化（の型）を「学習された行動様式」と定義し、文化の一貫性と継続性を保つ役割を果たすと考えられる。行動様式は、場面によっては様式美（stylistic beauty functional beauty）として、積極的な意味でとらえられる場合もあるだろう。
４．１ ボーモルの費用病「ボーモルの費用病」は、一般化の過程で、技術革新に積極的な「発展部門」とそうでない「停滞部門」という形に抽象化された（Baumol(1967)）が、当初は舞台芸術を具体例に、議論された（Baumol & Bowen(1965)、Baumol & Bowen(1966)）ものである。
一般化されたBaumol(1967)では、４つの命題を提示している。
Yは生産量、C；平均費用, L:；労働力、部門１は停滞部門、部門２は発展部門として、それぞれの生産関数を以下のように置く。
【命題１】 停滞部門の生産に要する平均費用は際限なく上昇するのに対し、発展部門の平均費用は一定に留まり続ける。換言すれば、停滞部門の平均費用が、発展部門に対して、相対的に上昇。
両部門の平均費用Cを比較すると、
【命題２】 停滞部門は、その需要が相当非弾力的でない限り、減少の過程を経て消滅する傾向。
両部門の市場規模の比率を一定と仮定すると、
A は両部門の市場規模比率（= Y1・C1 / Y2・C2 )（固定）；パラメータ
停滞部門の生産量割合は低下する。
【命題３】 労働力の移転： この経済で、両部門の生産量の比を一定に維持しようとすると、時を経るにつれ労働力は次第に発展部門から停滞部門へと移転され、逆に発展部門における労働力の量はゼロに近づく。
前提；K は両部門の労働力の比率を表す指標 ；
したがって、tが無限大に近づくにつれて、停滞部門の労働量は、経済全体の労働力総量に近づき、逆に発展部門の労働力はゼロに近づく。
【命題４】 経済の停滞 ；命題３と同様に、両部門の生産比を一定に維持しようとすると、経済全体の生産性は漸次的にゼ口に近づく。
２部門の生産高の加重平均を用いて、経済全体の生産高の指標をIとする。
経済全体に占める生産性向上が占める割合は、ゼロに近づく。
命題１～４のいずれも停滞部門にとっては、悲劇的な結末である。停滞部門は、コスト競争力を失う（命題１）。そして経済全体での位置づけを低下させ続けるか（命題２）、労働力を吸収し続け（命題３）、最終的には経済全体の生産性の上昇を止めてしまうか（命題４）のいずれかである
もう一度、芸術分野への応用に戻せば、（Baumol & Bowen(1965)）が指摘したように、クラシック音楽のオーケストラの編成を、技術の進歩で効率化・合理化することは難しい。なぜなら、そこにはレガシー化の過程で、そのジャンルとしての型や守るべきスタイルが生まれており、一旦、それで人間関与のあるべき関与方法が固まってしまうと、下手な自動化は失笑を招き、その生産性は上がることはなく、労働集約的なままである。
４．２ 著作権における人間主義がもたらすレガシー化 費用病的な構図の発動ボーモルが示す、停滞部門の４つの命題、
は、もちろん条件を限定的にした上での演繹的な結論であり、現実的な発展部門の受容や拡大を全面的に阻止するわけではない。
その多寡はともかく、AIをコンテンツ制作に用いる正の効用を認めるセクターもまた存在するが、拙稿（2023）でも考察したように、それは、１)新参者がより早く中堅やベテランに追いつくための道具としての効用、２)ハイエンドのクリエータが退屈な仕事を効率化するための道具であり、その効率化で浮いた時間を真のクリエイティブの模索に充てるため、とした。
その真にクリエイティブなもののなかには、従来の伝統や“型”等に対して距離を置き、新しいコンテンツというよりも、新しいジャンルを形成する場合も起こりうる。それは、伝統や“型”に対する周囲のこだわりが強くなればなるほど（多ければ多いほど）、より強い反発の形で、新ジャンルを生む動機になることも考えられる。しかも新参者にとって、AIは新規参入を容易にする道具であることもまた、新ジャンル創出の後押しの力となりうる。
そこで問われるのは、３．２節，３．３節で考察したように、AI/AGI/ASIの進化に伴い、それに反発する群と受容する群の比率がどうなるかである。現時点（2024年夏）において、残念ながら、それを峻別する決め手となるデータは乏しい。さらにそれぞれの受容と反発の強度となると、なお、把握が難しい。
メディア・コンテンツ全般において著作権を根拠にした反発は既に述べたが、それ以外にもハルシネーションを根拠にした反発がある（もちろんその対立として、AIはキーワード検索よりも効率的な情報検索・入手方法という便益がある）。ハルシネーションはナラティブ領域よりもファクチュアル分野で顕著になることは自明である。その点で、ファクチュアル領域では、その点での反発と受容の分断は強くなると考えられる。
グーグルの分類でいうレベル２（熟練した成人の50パーセンタイル以上）、普及理論でいうマジョリティの半分までもAGIが凌駕し、マジョリティが「AIの便利さに慣らされた」（一種のバンドワゴン効果）と仮定した際に、受け入れ側の動きとして考えうるオプションは、次のものが挙げられる。
ナラティブ分野では、拙稿（2023）で考察したとおりで、トップエンドのクリエータが、AI活用で浮かせた時間を真に創作のために用いるか、あるいはAIをアイデアの壁打ちマシンとして用いることで、真にイノベーティブな市場が創出されるか、コスト＆時間高効率な制作のための道具としての汎用性が高まることにより、誰しもが参加できる、web３的世界、DAO、UGC、クリエイター・エコノミーの発展への寄与が考えられる。ただし上述のように、「人間関与」というメタには付加価値があるので、それが強く求められて人間関与が高いままに推移したり、型や様式美が求められだすと、上述のように、それはレガシー化へ進んでいくことになる。
ファクチュアル分野では、ますます情報の真正・真贋への疑念が高まることが予想される。人間では判定できる割合が減っていくからであり、一旦は受け入れるが、強い反発へ転じることも考えうる。Microsoft Copilotは、2024年時点で広く使われているAIのひとつとみられる49が、その生成文章には出典が付与される。出典明記は、取捨選択すべき情報かがわかりやすく、人間が情報の真正・真贋を判定する一助という意味においては、妥当なオプションにみえる。ブロックチェーンやC2PA等の履歴メタの発想も同様と解釈できる。
しかしそれが限界のようにも見える。我々、学術の世界も、論文執筆上、先人までの功績とその論文自体の貢献を区別するため、出典や引用には注意を払わなければならないが、神のごとく、真に100％の情報を網羅・閲覧して論文が執筆されるとは限らないし、それは物理的に不可能ではある。
また神が俯瞰してみているような真実は一つであっても、個々個人が抱く真理は主観の分だけ多様に存在する。真実ですら、アカデミズム、ジャーナリズムがつかめないことは多々ある。真理には多数決の要素があるかもしれないが、真実は決して多数決ではない。
４．４ 歴史 ラッダイト運動の前後歴史の上では、工業の発展は、原始的な形態である「家内制手工業」に始まり、問屋からの発注により各家庭で製品を生産する「問屋制家内工業」、工場に労働力を集結させ手作業で製品を生産する「工場制手工業（マニュファクチュア）」、工場において機械により製品を生産する「工場制機械工業」へと発展したことになっている。21世紀の我々は、「工場制機械工業」のもとで、大量生産・大量消費社会を生きている。一方の手工業的なものの一部は、例えば「伝統工芸」という形で、レガシー化して生き残っているが、その製作費用や価格は大量生産品に比べれば高いものであるし、量的な供給水準も低い。つまり、ボーモルの命題１ないしは命題２の形で落ち着いている。20世紀の後半、経営学のひとつの課題は、大量生産システムを前提とした上で、労働者の動機づけややる気を引き出すような、分業体制の仕組みや組織のデザインでもあった。手工業的な労働の楽しさややる気を、工場制機械工業制度のなかに導入を検討することも多々あった。それは、労働者の仕事へのこだわりよりも、市場成果、企業業績、さらには需要の力のほうが、社会の力としては優位であったがゆえに、そうした経営学の課題で補う必要があったからともいえる。その意味では、AIの恩恵を受けるユーザー、消費者側が、どのように判断するかは、規制ではなく自由体制を前提とする上では、重要である。
本稿において、AGI時代の変革を考えるにあたり、社会が受容するか、反発するか、その見極めが重要と考えるが、その手掛かりや着眼となることは少なくなく、見極めることは困難であった。ただその見極めの際に、
は留意する必要が高いと考える。
人間の能力を上回る機械が世に広まっていくことは、人間が「進化」や「便利さ」を捨てない限り、続くと考える。実際、産業革命以来、
と、人間が便利さを得る引き換えに、科学技術は進化してきた。なかなか人が自由や便利さを捨てることは容易ではなく、今後もAGI、ASIの受け入れ方を模索し続けると考える。適応するしかない。
拙稿（2023）、「道具としての AI とクリエイティブ産業の拡大」、『情報通信政策研究』（総務省情報通信政策研究所）、第７巻第１号、2023年11月20日。
1 青山学院大学 総合文化政策学部教授
2 例えば、総務省（2016）『平成28年度版 情報通信白書』、 第１部 特集 IoT・ビッグデータ・AI～ネットワークとデータが創造する新たな価値～、第２節 人工知能（AI）の現状と未来、（2）人工知能（AI）研究の歴史。https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/h28/html/nc142120.html
3 Gartner(2024),”Gartner Predicts 40% of Generative AI Solutions Will Be Multimodal By 2027,” GOLD COAST, Australia, September 9, 2024,
https://www.gartner.com/en/newsroom/press-releases/2024-09-09-gartner-predicts-40-percent-of-generative-ai-solutions-will-be-multimodal-by-2027
（日本版）https://www.gartner.co.jp/ja/newsroom/press-releases/pr-20240910-genai-hc
4 Bostrom, N.,(2014), Superintelligence: Paths, Dangers, Strategies, Oxford University Press, July 3, 2014
5 Schuett, J., Dreksler, N., Anderljung, M., McCaffary, D., Heim, L., Bluemke, E., & Garfinkel, B. (2023). Towards best practices in AGI safety and governance: A survey of expert opinion. ArXiv, abs/2305.07153.
6 Merchant,B.,(2023), Blood in the Machine: The Origins of the Rebellion Against Big Tech, Little, Brown and Company (2023/9/26)
7 Bostrom, N.,(2024), Deep Utopia: Life and Meaning in a Solved World, Ideapress Publishing (March 27, 2024)
8 Knight, W. (2024),” Nick Bostrom Made the World Fear AI. Now He Asks: What if It Fixes Everything?, “ WIRED, May 2, 2024 12:00 PM, https://www.wired.com/story/nick-bostrom-fear-ai-fix-everything/
9 Donahue,B.,(2023),“Universal Music Asks Streaming Services to Block AI Companies From Accessing Its Songs,” 04/12/2023, billboard, https://www.billboard.com/pro/universal-music-asks-spotify-apple-stop-ai-access-songs/
他、Music Ally, Financial times, Guardian,などでも同様の報道。
10 ロイター（2024）「音楽生成AI相手に初訴訟、ソニーなど大手３社 著作権侵害訴え」、ロイター編集部、2024年６月25日午前 5:41 GMT+9
https://jp.reuters.com/economy/industry/APXL7G7RN5K6HFTLLLXNWQPB6Q-2024-06-24/
11 Sony Music(20924),” Declaration of AI Training Opt Out,” May 16, 2024, https://www.sonymusic.com/sonymusic/declaration-of-ai-training-opt-out/
12 Sir Lucian Grainge (2023),”An artist-centric approach to AI innovation,” YouTube Offical Blog, Aug 21, 2023, https://blog.youtube/news-and-events/an-artist-centric-approach-to-ai-innovation/
13 Universal Music(2023),”YOUTUBE ANNOUNCES AI MUSIC PRINCIPLES AND LAUNCHES YOUTUBE MUSIC AI INCUBATOR WITH ARTISTS, SONGWRITERS AND PRODUCERS FROM UNIVERSAL MUSIC GROUP,” New York, August 21, 2023, https://www.universalmusic.com/youtube-announces-ai-music-principles-and-launches-youtube-music-ai-incubator-with-artists-songwriters-and-producers-from-universal-music-group/
14 YouTube(2024),「YouTube Music AI インキュベーターを、日本でも開始」、2024年３月21日木曜日、https://youtube-jp.googleblog.com/2024/03/japanmusicaiincubator.html
15 Mohan,N.,(2023),” Our principles for partnering with the music industry on AI technology、”YouTube Official Blog, Aug 21, 2023, https://blog.youtube/inside-youtube/partnering-with-the-music-industry-on-ai/
16 Warner Music(2023),”WARNER MUSIC PARTNERS WITH EDITH PIAF’S ESTATE ON GROUNDBREAKING AI TECHNOLOGY,” November 14, 2023, https://www.wmg.com/news/warner-music-partners-with-edith-piafs-estate-on-groundbreaking-ai-technology
17 Warner Music(2023),”BOOMY PARTNERS WITH ADA WORLDWIDE ON GLOBAL DISTRIBUTION DEAL,” November 29, 2023, https://www.wmg.com/news/boomy-partners-with-ada-worldwide-on-global-distribution-deal
18 Johan Moreno(2023),”A Chord Struck By Generative AI: Boomy/ADA Deal Heralds A New Era For Music,” Forbes, Nov 30, 2023,04:51pm EST, https://www.forbes.com/sites/johanmoreno/2023/11/30/a-chord-struck-by-generative-ai-boomyada-deal-heralds-a-new-era-for-music/
19 Microsoft(2023),”Turn your ideas into songs with Suno on Microsoft Copilot,” Dec 19, 2023, https://www.microsoft.com/en-us/microsoft-copilot/blog/2023/12/19/turn-your-ideas-into-songs-with-suno-on-microsoft-copilot/
20 World Association of News Publishers; https://wan-ifra.org/
21 WAN-IFRA(2023), “Gauging Generative AI’s impact on newsrooms,” May 25, 2023.
https://wan-ifra.org/mp-files/gauging-generative-ai-impact-on-newsrooms.pdf/
22 WAN-IFRA(2023), “New survey finds half of newsrooms use Generative AI tools; only 20% have guidelines in place,” May 25, 2023, https://wan-ifra.org/2023/05/new-genai-survey/
23 WAN-IFRA(2023),”Global Publishing and Journalism Organizations Unite to Release Comprehensive Global Principles for Artificial Intelligence,” WAN-IFRA, September 6, 2023, https://wan-ifra.org/2023/09/global-principles-for-artificial-intelligence-ai/
24 https://www.pressnet.or.jp/statement/broadcasting/231030_15193.html
25 https://www.pressnet.or.jp/statement/broadcasting/240717_15523.html
26 https://wan-ifra.org/2024/05/wan-ifra-and-openai-launch-global-ai-accelerator-for-newsrooms/
27 https://wan-ifra.org/2024/08/wan-ifras-newsroom-ai-catalyst-kicks-off-in-europe-in-september-2024/
28 SAG-AFTRA (2023),” SAG-AFTRA National Board Approves Tentative Agreement, Recommends Ratification of 2023 TV/Theatrical Contracts,” November 10, 2023
https://www.sagaftra.org/sag-aftra-national-board-approves-tentative-agreement-recommends-ratification-2023-tvtheatrical
SAG-AFTRA (2023),Regulating Artificial Intelligence, https://www.sagaftra.org/sites/default/files/sa_documents/AI%20TVTH.pdf
29 カリフォルニア州議会法案AB 1836. https://legiscan.com/CA/text/AB1836/id/2884620
30 SAG-AFTRA(2024),” Interactive Media (Video Game) Strike,” July 26, 2024, https://www.sagaftra.org/contracts-industry-resources/contracts/interactive-media-video-game-strike
31 SAG-AFTRA(2024),” SAG-AFTRA and Narrativ Announce New Agreement,” August 12, 2024, https://www.sagaftra.org/sag-aftra-and-narrativ-announce-new-agreement
32 AI研究者Steven Thalerが、Creativity Machineによって生成した絵画作品 ”A Recent Entrance to Paradise”に著作権を認めるよう求めた申請を、米国著作権局は却下。同局は、「AIが生成した画像には著作権によって保護されるのに必要な基準である『人間の著作権』の要素が含まれていない（lacks the human authorship）」とした（February 14, 2022）。 https://www.copyright.gov/rulings-filings/review-board/docs/a-recent-entrance-to-paradise.pdf
2022年9月、クリス・カシュタノバ（Kris Kashtanova）が、マンガ“Zarya of the Dawn”の著作権登録を申請、後にそれがMidjourneyでの制作が明らかとなり、当局が著作権登録を削除。作者側が訴えたところ、Midjourney作成部分については、著作権が取り消されたものの（the images in the Work that were generated by the Midjourney technology are not the product of human authorship）、テキストおよび本作品の文字・視覚的要素の選択、調整、配置（Work’s text as well as the selection, coordination, and arrangement of the Work’s written and visual elements）については、著作性が認められた（February 21, 2023）。https://www.copyright.gov/docs/zarya-of-the-dawn.pdf
33 Copyright Review Board(US), (2023), “Second Request for Reconsideration for Refusal to Register Théâtre D’opéraSpatial (SR # 1-11743923581; Correspondence ID: 1-5T5320R), September 5, 2023, https://www.copyright.gov/rulings-filings/review-board/docs/Theatre-Dopera-Spatial.pdf
34 https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf
35 https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html
36 https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2024/0528_ai.pdf
37 https://www.meti.go.jp/policy/mono_info_service/contents/aiguidebook.html
38 Ammanath,B. (2022), Trustworthy AI: A Business Guide for Navigating Trust and Ethics in AI, Wiley; 1st edition (March 22, 2022) （森正弥監訳（2023）『信頼できるAIへのアプローチ』共立出版）
39 European Commission (2019), ETHICS GUIDELINES FOR TRUSTWORTHY AI, 8 April 2019, https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
40 https://www.microsoft.com/ja-jp/ai/responsible-ai?activetab=pivot1:primaryr6
公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、アカウンタビリティ
41 https://www.nvidia.com/ja-jp/ai-data-science/trustworthy-ai/
プライバシー、安全性とセキュリティ、透明性、公平性
42 Morris, M.R., Sohl-Dickstein, J.N., Fiedel, N., Warkentin, T.B., Dafoe, A., Faust, A., Farabet, C., & Legg, S. (2023). Position: Levels of AGI for Operationalizing Progress on the Path to AGI. International Conference on Machine Learning, arXiv preprint arXiv:2311.02462.
43 前掲注42
44 https://openai.com/our-structure/
45 Mets､R.,(2024),”OpenAI Scale Ranks Progress Toward ‘Human-Level’ Problem Solving,” Bloomberg, 2024年７月12日, https://www.bloomberg.com/news/articles/2024-07-11/openai-sets-levels-to-track-progress-toward-superintelligent-ai
46 Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424. doi:10.1017/S0140525X00005756
47 Rogers, E.M. (1962) Diffusion of Innovations. Free Press, New York
48 ルース・ベネディクト『文化の型』米山俊直訳、講談社学術文庫、講談社、2008年。
49 First Page Sage (2024),” Top Generative AI Chatbots by Market Share – September 2024,” First Page Sage, August 26, 2024,
https://firstpagesage.com/reports/top-generative-ai-chatbots
