Opinion
Does Doraemon have a mind?: AI creation and "Trap of Optimization"
2017 Volume 60 Issue 6 Pages 436-439
Details
2017 Volume 60 Issue 6 Pages 436-439
本稿の著作権は著者が保持し，クリエイティブ・コモンズ 表示 - 改変禁止 3.0 非移植（CC BY-ND 3.0）ライセンスの下に提供する。
人工知能（AI）が自動生成するコンテンツの話をしよう。ここ数年，「AI創作と知的財産権」に関する講演の依頼などが確かに多い。といってもAIに小説，記事，曲，絵や各種デザインを作らせるといった事例は今や膨大で，紹介するだけで数千字の原稿なんてすぐ埋まる。そこで，さまざまな実例については「AI自動創作の現在を俯瞰（ふかん）する」というネットコラム注1）を書いた。公開されているのでよろしければご笑覧いただきたい。そこにも載せたざっくりした現状の俯瞰は表1である。どんどん増えていることは間違いないし，これですらほんの一部だ。
こうした話題の一つの方向性は「AIは人間の創造の深淵（しんえん）にどこまで迫れるか」で，つまりハイエンドな方の話である。少し性格は違うが，将棋でも囲碁でもやっぱり「頂上対決」が一番ニュースになりやすいことに通ずるだろう。確かに興味深い話題だ。ただ，自分の最近の関心は，むしろローエンドからミドルクラスにある。いわば「真の創造や革新か」はともかく，これまでクリエーターといわれる職種の人間がしていた仕事が，マーケット的にAIとロボティクスにどこまで代替されそうか，である。
この問いなら，少なくともある程度まではもう答えは出ていると思う。というか，すでにかなり代替されつつある。AIコンテンツという山の「頂き」が，過去人類が生み出してきた幾多の傑作の高みにいつ達するのか，いや果たしていつか達するのか。それは自分ごときの想像の及ぶところではないが，同じくらい重要な「コンテンツの裾野」だったら，すでにその色はかなりAI色に染まりつつあるようにみえる。そして完全なAI自動生成よりは，「AI+人間」といった趣のものがまずは強い。
BGM自動生成サイトが30秒で生み出す音源は，すでにYouTube動画のBGMとしては累計3,000万回以上再生されているし，自動翻訳はとっくに商用利用され，野球のマイナーリーグや企業の業績記事はすでに自動生成され大規模配信されている。そこそこの出来のロゴマークは数分で無料作成できるし，モノクロ写真や映像のAI自動着色も進む。AI作曲家，AI翻訳家，AI記者にAIデザイナー。いずれも，従来は人間の「著作者」の専権だった分野である。それが素人並みからハイアマ・新人プロのレベルに，その数百倍の生産スピードをもって急速に登りつつある。なにやら数年前の将棋に似ているではないか。
| 一次創作系 | 加工・二次創作系 | 対話系 | |
|---|---|---|---|
| 文章 |
星新一プロジェクト（きまぐれ人工知能プロジェクト 作家ですのよ）， 『コンピュータが小説を書く日』， 日経決算サマリー， AP通信の野球短報記事 |
自動翻訳， 自動字幕化， リライトツール |
女子高生ボット「りんな」， Siriなど対話型アプリ |
| 音楽 |
エミー， オルフェウス， Iamus， Jukedeck， Magenta， 「思い出曲創作」 |
オルフェウス， UJAM |
リヒテル・ボット |
| 画像・動画 |
ストリート・ビュー， レンブラント・プロジェクト（The Next Rembrandt）， DeepDream， Magenta |
Tailor Brands， DeepDream， マチス風スター・ウォーズ， 自動着色， 自動手話映像， 超解像拡大 |
では，AIコンテンツがこうして拡大を続けていくとき，それはわれわれの社会にいったいどんな影響を与えるか。
第一は言うまでもなく，「情報の大量化・低コスト化」にさらに拍車がかかることだ。1曲30秒，1記事数分であれば限界費用はせいぜい数円～数十円か。わずかな売値や広告収入程度で十分利益が出る。だからこそマイナースポーツ記事のように，読者層が極めて限られる分野にも営利企業が進出でき，読者はニッチなニーズに応じたコンテンツも楽しむことができる。デジタル化が社会にもたらした「情報の民主化」の福音は，AIネットワーク化で一層促進されるだろう。
他方，リスクシナリオは「プロ・クリエーターは生き残れるか」だろう。大量化は当然ながら価格破壊を生む。「無料だがベタベタ広告が付いた低レベルの記事」と「閲覧50円だが高レベルの記事」なら，後者を選ぶ読者も多いだろう。だが，「無料で広告も少なく多様な中レベルの記事」だったら？ それが大量かつ高速になっていけば，プロ・ライターの生活はどうなるかという話である。ましてプロといえども日常の仕事というものは，結構ルーティンな場合も多い。手際はよいが唯一無二ではない記事。素敵だがコツがわかれば撮れる写真。あるレベルに至れば創れる曲。つまり「裾野」だ。日常は（あるいはキャリアの中期までは）この部分で食いながら，時に表現の高みに上る。そんなクリエーターは多くないだろうか。ルーティンの部分がAIに代替されたとき，ほとんどのプロは生活できなくなり，本業のかたわら創作を行う「セミプロ・ハイアマ」に移っていく。こんな予想はそう難しいことではない。
それは，あるいは社会の必然的な変化かもしれない。しかし，われわれの社会は100年以上にわたって，「プロ・クリエーターの時代」にあった。複製技術の進展とともに大量の職業クリエーターが生まれ，それが文化・社会を大きく変革してきたことはご存じのとおりだ。プロが激減するとき，それはわれわれの社会にどんな影響を与えるだろうか。
これが第一の考えられるメリットとリスクだ。第二の影響はリスク面から書こう。端的に「パクリ」が多発しないか？ である。ご存じのとおり，AIは大量のデータを学習して，自らもコンテンツを生み出すようになる。たとえば，バッハの作風を大量に学んでバッハ風の曲を書く。これ自体は，著作権法に例外規定（47条の7）があって，こうした大量のデータを学習することは自由にできる。つまり，たとえばビートルズの曲を大量にAIに学習させること自体は著作権侵害ではない。ただし，そこに一つの条件がある。学習の結果，AIが生み出す「ビートルズ風の曲」は，個別のどのビートルズの曲にもあまり似ていてはいけない。あくまでビートルズ「風」までが許され，特定曲にそっくりだったりすれば，それは恐らく使えない。
ところが実際，AIを名乗りつつこれをやってしまった例はある。DeNAなど「キュレーションサイトの大量閉鎖問題」をご記憶だろう。既存のブログなどからの数万点規模のパクリが問題化したわけだが，その際「リライトツール」と名乗るソフトウェアの介在を指摘する論者もいた。単語を適当な同義語に自動で置き換えて，（たとえば）パクリを発覚しにくくするツールだ。1秒で3,000字置き換えをうたう代表的な商品などは，その名はずばり「AI」だった。
以上は稚拙でそもそもAIと名乗るレベルとも思えないが，しかしこれは確かにAIの得意な領域ではある。実は，裁判所による「侵害の判断基準」は，恐らく一般の方が考えるよりも結構厳格だ。つまり相当に酷似していないと，法的な侵害とはされていない。よって，本当に賢いAIが現れてこうした裁判所の基準に精通し，そして「特定作品にかなり似ているが侵害には達しないレベル」の新作を量産することは，恐らくそう難しいことではない。現状，著作権は公表される侵害判例の数が少ないのですぐにそこまでは行かず，判例・審決例の多い商標などで先行するかもしれないが，仮にそうなったらキュレーション問題どころの騒ぎではない。「適法なパクリビジネス」の誕生である。明らかに特定の記事に似ているが侵害ではない記事が今よりはるかに高速・大量に登場すれば，ジャーナリズムの命運は相当に厳しいだろうし，同じことは，他のどの表現ジャンルにもいえる。
もっとも，逆に「AIを使って侵害を発見したり，その責任を追及することも容易になる」ともいえそうだ。つまり，侵害を自動で発見し警告書を自動送付し削除確認と和解金の受領まで自動化された，「AI知財ポリス」である。これはAIコンテンツそのものではないが，（行き過ぎにならなければ）知財ビジネス全体に及ぶメリットともいえるかもしれない。この分野も，メリットとリスクはどちらも指摘できそうだ。
最後に，AIコンテンツのメリットとしては，言うまでもなく「新たな体験・感動・発見の創出」が挙げられるだろう。AIと人間が組むことで，誰でも作曲やデザインのようなこれまでにできなかった素晴らしい体験を味わえる。AIがわれわれ一人ひとりのためにテーラーメードで届けてくれる音楽や映画のエンディング，自分専用のAIキャラとの会話は，われわれに新たな満足を与えてくれるだろう。AlphaGoで異次元の囲碁の指し方が見つかったように，まったく異なる作品の創出や社会のイノベーションにすらつながるかもしれない。
だが，逆の予想もできる。「これは知の縮小再生産ではないか？」という疑問だ。過去にヒットした音楽を学んでその解析から新曲を作り，それをわれわれの過去の視聴履歴やその日の気分に応じて流してくれる人工知能DJ。そこに失敗や衝突や発見はあるのか。現実のクリエーターは，そんな商売っ気と同時に，より多様で不安定な衝動や感情を内側に抱えている。それがしばしばスベリまくった失敗作を生んだりスランプの原因になるのと同時に，まったくまれに，数年に1つという革新的な作品や手法を生み出してもきた。
失敗も衝突もない「最適化の連鎖」は，社会から革新の力を奪ってしまわないだろうか。この疑問はあるいは，AI全体に関わる「ドラえもんに心があるか」という問いかけにもつながるかもしれない。……神をも恐れぬ言葉である。われわれの知るドラえもんには，間違いなく素晴らしい心がある。でも実際のAIはどうか。それは自分自身の衝動をもたない（はずだ）。たとえばわれわれの満足度，「いいね」と言ったり，途中で視聴を止めなかったり，脳内物質がある域内だったりといったパラメーターによって判断される一定の満足度の指標が，最大化するように振る舞う（はずだ）。あるシチュエーションでは「も～のび太くんは」と困った顔をし，別なシチュエーションでは「えらいよ！」と涙を流すことで目標指標を最大化できるなら，そうするだろう。外見は完全に人間的に振る舞い，その心の中は，空っぽかもしれない。
それは特定のゴールに最速で到達する将棋や囲碁には抜群に向くだろうが，「自らゴールを変える」という，クリエーター／イノベイターが社会で果たしてきた役割を代替できるのか。固定された衝動しかもてないAIが作るコンテンツはこの世界に革新や進歩をもたらすのか？ あるいは停滞と縮小を？（そもそも生身の人間であるわれわれは，どれほど自立した衝動なるものをもてているのか，という問いも浮かぶ。）
AIを巡っては，それ自身やその生み出すコンテンツにどこまで知的財産権による独占を許し，どこから自由な利用を認めるべきか，筆者も加わって政府での議論が進む。それに限らずAIの開発と利活用を巡る法制度やガイドラインの議論には，こうしたさまざまな社会影響を計測し予測し，そのメリットを最大化しリスクを最小化する視点を欠かすことはできない。それはことの外難しく，われわれのちっぽけな頭脳にはまったく余る。もうその制度設計も，AIの手に委ねてしまおうか。
※福井氏の「視点」は，1月号に続きます。
弁護士（日本・ニューヨーク州）／日本大学藝術学部・神戸大学大学院 客員教授。1991年 東京大学法学部卒。米国コロンビア大学法学修士。現在，骨董通り法律事務所 代表パートナー。『著作権の世紀』『誰が「知」を独占するのか』（集英社），『「ネットの自由」vs.著作権』（光文社），『18歳の著作権入門』（筑摩書房）他。国会図書館審議会会長代理，内閣知財本部など委員を務める。http://www.kottolaw.com Twitter: @fukuikensaku
