記事
情報技術におけるELSIの可能性：歴史的背景を中心に
2016 年 58 巻 12 号 p. 875-886
詳細
2016 年 58 巻 12 号 p. 875-886
本稿は，近年急速な発展を遂げる情報技術が，社会の中で適切に発展していくための条件について，科学技術の社会史や生命科学の倫理問題の経緯を踏まえつつ，考察するものである。具体的には，科学技術観の歴史を簡単に確認したうえで，1970年頃に広がった「科学技術に対する懐疑」の思想について議論する。また，生命科学，とりわけ分子生物学において，倫理的な問題意識が登場した背景について検討する。さらに，このような動きの延長線上にあるものとして，「ヒトゲノム計画」に伴って提唱された「ELSI」という研究プログラムについて確認する。そのうえで，情報技術におけるELSIの現状と可能性を，EUと日本の事例を参照しつつ，考察する。
本稿は，情報技術（IT）が，社会の中で適切に発展していくための条件について，科学技術の社会史や生命科学の倫理問題の経緯を踏まえつつ，考察するものである。
まずは，これまでの科学技術に対する「社会的な眼差（まなざ）しの変化」を，歴史的に確認することから始めたい。そのうえで，生命科学分野において始まった「倫理的，法的，社会的含意（Ethical, Legal, and Social Implications (ELSI)」という仕組みと，その背景となる考え方を確認する。そして最後にそれらの議論を踏まえつつ，IT分野におけるELSI的検討の現状と今後の可能性について議論することとしたい。このような手順を踏むのは，とかく抽象的になりがちな倫理問題において，概念が上滑りすることを防ぐためである。
それではまず，20世紀の米国を中心に，科学技術観の社会的な変容を，駆け足で確認することにしよう。
1.1 科学と技術の結合現代を生きる人々には，科学と技術は不即不離の関係にあると思われているかもしれない。だが，科学革命期（15世紀末～17世紀末）に欧州で生まれた初期の科学は，中世以来の職人たちが担ってきた技術の伝統とは直接の交流をもっていなかった。たとえば18世紀英国に始まる産業革命も，近代科学のもたらした知識とは関係なく起こっている注1）。
科学が実質的な意味で技術と結び付いたのは，19世紀半ば頃からドイツで発展した「染料工業」が最初である。高等教育制度の充実や，産業研究の組織化に成功したドイツにおいて，科学は産業技術のために直接的な寄与をするようになったのである注2）。
この流れは世紀転換期より，新興国・米国において加速し，企業における基礎研究が拡大した。また2度の世界大戦は，科学技術が国家の存亡を決めるという認識を深めたといえる。とりわけ，マンハッタン計画を契機として米国において成立した，国家による科学技術振興の制度は，「冷戦期科学技術研究」と呼ぶべき独特の研究文化を作り出したといえる。これらの成果は莫大（ばくだい）な生産力に結び付き，20世紀における米国の繁栄の基礎となっていく注3）。
このようにして，科学技術に基づく産業の爆発的な発展は，米国や「西側」先進諸国はもちろんのこと，ソ連を中心とする東側諸国や，発展途上国にも影響を及ぼし，世界を言葉通り，大きく変えていった。
1.2 科学技術への「懐疑」第二次世界大戦後の米国は，戦争に勝利したのみならず，自国が戦場にならなかったこともあり，「黄金時代」と呼ばれる空前の繁栄を享受した。1957年の「スプートニク・ショック」注4）で冷水を浴びせられるというアクシデントはあったものの，科学技術に基づく産業の発展により，物質的な豊かさをどこまでも追究していくという米国の楽観的な姿勢は，戦後しばらく続いた。また世界中の人々も米国の繁栄を羨望（せんぼう）し，それを支えた科学技術に期待を寄せたのである。
これが，本格的な「曲がり角」を迎えるのは，おおむね1960年代半ばから1970年代前半にかけてである。その背景にはいくつか要因がある。最初に指摘すべきは，カーソン（Rachel Louise Carson, 1907-64）の『沈黙の春』（1962）に象徴される，環境主義の勃興である。時のケネディ（John Fitzgerald Kennedy, 1917-63）大統領は，この本で指摘された殺虫剤「DDT」の環境へのリスクを重くみて調査の指示を出したが，これは後の環境保護庁の設立と，DDTの使用禁止へとつながるものとなった。その背景には，産業発展に伴う環境破壊に対する社会的な不安があったことは間違いない。そこでは，目にみえる「自然保護」に限定されていた意識が，人類も含めたシステム全体を扱う「環境問題」へと，認識の次元が拡大されたのである注5）。
だが，それだけでは，科学技術自身が懐疑の眼差しでみられることはなかったかもしれない。そうなってしまった最大の要因は，泥沼化したベトナム戦争（1960-75）にあったと考えられる。
歴代3人の大統領が指揮し，圧倒的な物量，そして一時は50万人もの兵力を注ぎ込んだにもかかわらず，米国はこの戦争から手を引かざるをえなくなった。原因は，さまざまな点で政治的な正当性を維持できなかったことにあるが，いわゆる「枯れ葉剤（Agent Orange）」の使用に対する強い批判もその1つである。
枯れ葉剤は，ベトナムの自然を破壊しただけでなく，自国の兵士の健康問題も生じさせたことから，大きな政治問題を引き起こし，米国政府を弱体化させた。従来，環境保護思想と反戦運動は別ものだったが，これによって2つの流れは合流し，強い体制批判勢力となったのである。それは，いわゆる「ヒッピー・ムーブメント」などの対抗文化注6）に活力を与え，また若者たちを学生運動へと駆り立てた。
もう1点，この時代の思想潮流に大きな影響を与えたのは，ローマ・クラブの発表した『成長の限界』（1972）と，その直後に起こった「石油危機」である。両者に直接的な関係はないのだが，結果的に，資源・エネルギーの有限性，そして産業主義に限界が訪れる可能性を，人々に強く印象づけることになった。
1.3 新しい科学技術のスタイルの模索以上のように，19世紀半ばから，ある意味で直線的に発展をしてきた「科学技術に基づく産業主義」あるいは「産業主義に基づく科学技術」は，20世紀後半に入ると先進諸国を中心に，大きく疑われることになった。このことは，科学技術そのものや，近代主義，物質主義，さらにはそのような時代をつくり出したヨーロッパ的な「理性の伝統」すらも，懐疑の対象となったという点で，近代の大きなターニングポイントであったことは間違いない。
実際，その頃から，現代にもつながるさまざまなエコロジー思想や科学思想が発展していく。このような，いわば科学技術文明の総体が疑われた時代に，後述する「ELSI」の発想の源流ともいえる，生命倫理，環境倫理，科学技術社会論といった新たな思想や研究領域が萌芽（ほうが）するのである。
それはさまざまな内容を含むが，『スモール イズ ビューティフル』で知られる経済学者シューマッハ（Ernst Friedrich Schumacher, 1911-77）の思想，そして，テクノロジー・アセスメント（Technology Assessment）という考え方については，本稿の趣旨と関係が深いので，ここで確認しておきたい。
まずシューマッハは，「豊かさ」を測る指標が「モノの量」になってしまったことを批判し，大量生産・大量消費の問題を経済学的な議論の俎上（そじょう）に載せた。加えて，産業を支える科学技術のあり方にも疑問を呈した点が重要である。
一方，テクノロジー・アセスメントは，新しい技術が社会に送り出される前に，その社会的な影響，とりわけマイナスの影響をきちんと評価しておこう，という考え方である。1972年には，米国議会に技術評価局（Office of Technology Assessment: OTA）が設置され，さまざまな領域に関する調査レポートが出されていく。
そしてもう1つ指摘しておきたいのは，現代のITの中軸をなす，UNIX，グラフィカル・ユーザー・インターフェース，パケット通信といった重要なコンセプトも，この「懐疑の時代」に生まれ，発展したものだ。これらを担った若きエンジニアたちは米国西海岸に多かったが，実は，彼らがしばしば対抗文化の影響を受けていたことが知られている注7）。この点については，後ほど若干触れたい。
1.4 積み重なる「科学技術観」紙面の都合もあり，1980年代以降については簡単に述べていくことにするが，おおむね図1のような形で科学技術に対する眼差しは変容してきたととらえることが可能だろう。
1970年代に懐疑の眼差しを向けられた科学技術は，1980年代に入ると，半導体，新素材，バイオテクノロジーなどのいわゆる「ハイテク」の登場により，再び輝きを取り戻す。これは，レーガン大統領（Ronald Wilson Reagan, 1911-2004）の登場で政治的にも自信を取り戻した米国の姿とも重なるという点で，興味深い。また，上述の1970年代の異議申し立てに対して，いわゆる「重厚長大」から「軽薄短小」へとかじを切ることで問題を解決しようとする，産業側の1つの回答ともいえるだろう。
しかし一方で，史上最悪の被害を出したインド・ボパールの化学工場の事故（1984），チェルノブイリ原子力発電所の事故（1986），またスペースシャトル・チャレンジャー号の墜落（1986）など，巨大技術の脆弱（ぜいじゃく）さが露呈したのもこの時代である。これは，1990年代以降の科学技術への「弱い不信」を準備したといえるだろう。
また1990年代に入ると，世界的なアジェンダとしての「地球環境問題」などが前景化してくる。これは，1970年代にすでに認識されていた問題であったが，「冷戦終結」（1989）という政治的な環境変化が大きく作用して，前景化してきたものと考えられている1）。同様に，軍用技術に1つの起源をもつインターネットが民生用にスピンオフしたことに突き動かされて，本格的な情報化社会が到来したのも，やはり1990年代である。地球温暖化とインターネットは，優れて冷戦後的なアジェンダであったことは間違いない。全体として1990年代は，科学技術への見方が多様化した時代といえるかもしれない。
また1990年代後半は，英国の狂牛病（BSE）問題に関する失政によって，主として欧州では行政や専門家に対する信頼が大きく損なわれる結果となり，それに伴って遺伝子組み換え食品やクローニングなど，さまざまな生命操作技術に対する社会的な不信も拡大した2）。
1.5 社会のための科学以上のような不祥事に対する反省や，環境・資源・エネルギー問題への関心の高まりなどを反映し，2000年代に入ると，「社会のための／社会のなかの科学」という考え方が広まっていく。代表的な例は，国際連合教育科学文化機関（UNESCO）と国際科学会議（ICSU）が共同で開催した，「ブダペスト会議」であろう。この会議の最後に採択された通称「ブダペスト宣言」では，新しい時代の科学の責務として，以下の4つを挙げた。それは，「知識のための科学；進歩のための知識」「平和のための科学」「開発のための科学」，そして「社会における科学，社会のための科学」であった3）。
「科学に基づく技術」が社会のために存在するというのは，常識的見解だろう。しかし「科学そのもの」も同様の存在であると宣言したことに，大きな時代の変化が見て取れる。すなわち，もはや，純粋な科学というものは希有（けう）な存在であり，科学は最初から技術的応用が見込まれる知識の生産システムと見なされるようになったがゆえに，社会もその営みを全面的に支えるようになったのである。
このように，科学技術に対する人々の考え方は，おおむね10年の周期で，楽観と悲観の間を振り子のように往復してきたようにみえる。だが，かつての見方がすぐに排除されるわけではない。それは変容しつつも蓄積していくという点で，図1のようなモデルが考えられるだろう。
われわれは今，科学技術への盲信と懐疑を何度か繰り返した後の時代を生きており，単純な楽観も悲観も，退けることができるだけの「経験値」を備えているはずだ。それを換言するならば，科学技術をめぐって，推進と反対にくっきり立場が線引きされるというような状況ではなく，社会に生きるすべての人々にとって重要なこの営みを，社会のさまざまなメンバーの参加によって，共にガバナンスしていくべきだ，という考え方が，主流になっていく世界を意味する。
次章では，そのような時代の科学技術を，適切に発展させていくための仕組みの1つとして登場した，「ELSI」という制度と，その成立の背景について述べたいと思う。
冒頭で述べたようにELSIは，生命科学分野，とりわけ分子生物学の発展に伴って現れてきたものである。本節では，その経緯について簡単に確認するとともに，ELSIプログラムの具体的内容についても，若干触れておきたい。
2.1 アシロマ会議まず押さえておくべきこととして，20世紀後半に急速に発展してきた分子生物学においては，科学技術についての社会的責任という点で，当初，かなり慎重な考え方が広がったという事実がある。
これにはいくつかの理由が考えられる。まず，ナチス・ドイツにおける人体実験や，強制断種手術の実施といった「優生学的な悪夢」の記憶が，まだ人々の心に強く残存していたことが挙げられる。遺伝子操作に対する社会的な慎重論の根底には，ファシズムへの強い嫌悪感があったのだ。
また1972年に明らかになった「タスキギー梅毒事件」注8）など，米国では医学研究における倫理上の大きな不祥事が，いくつも起きていたことも無視できない。さらに，核物理学から分子生物学に転向した一部の科学者の存在も指摘できる。彼らは，核の軍事利用に加担したことを後悔し，新しい分野に移った者たちであった。再び世界を不安に陥れるような研究にかかわりたくないと考えたのも，無理はない。
そしてすでに述べたように，遺伝子組み換え技術が発展した時代の空気が，ちょうど「科学技術への懐疑」に彩られていたことも，大きな理由の1つであったと考えられる注9）。
このような状況の中，米国科学アカデミー（NAS）の主催で「アシロマ会議」というものが開かれた。その呼び掛け人には，DNA操作技術の開発で後にノーベル賞を受賞することになるバーグ（Paul Berg, 1926-）や，DNAの2重らせん構造の発見者の1人ワトソン（James Dewey Watson, 1928-）も含まれていた。彼らは1975年，カリフォルニアの小さな村「アシロマ」に，世界から150名あまりの科学者，医師，ジャーナリスト，法律家などを招き，遺伝子組み換え操作のあり方について議論を行ったのである。4日間にわたる熱心な議論の結果，扱う試料は，実験室の外では増えることができないような仕組みをあらかじめ埋め込んでおくことや，病原性が高いものについては禁止するといった，比較的厳しい結論が出された。
これは単なる「勧告」であったが，それに基づいて米・国立衛生研究所（NIH）がガイドラインを作り，この基準に適合しなければNIHからの研究費を受け取れないことが決まった。この流れは世界に広まり，日本でも文部省がこれに倣い，同様の指針を作った。
先進的にみえるこの取り組みも，新聞には「放火魔が消防団を組織」と書かれるなど，必ずしも最初から好意的に受け止められたわけではなかった。また，一部の実験の自粛を科学者自身が決めた背景には，参加した弁護士が指摘した，「事故が起きた場合の高額な賠償」に恐怖を感じたことが大きかったともいわれる注10）。
しかしそれでも，問題が起こる前に，専門家が自らの研究に規制をかけようとしたという点で，アシロマ会議は科学史上，非常に重要な「事件」であった。これはテクノロジー・アセスメントの1種とみることができるが，その精神は，本稿の主題である「ELSI」へと受け継がれていったと考えられる。
2.2 ヒトゲノム計画とELSIアシロマ会議から15年が経過した1990年，NIHは米国エネルギー省（DOE）と共同で，30億ドルという巨費を投じ，人間の全遺伝子の解読を目的とする「ヒトゲノム計画（Human Genome Project）」を開始した。分子生物学の発展により，アシロマ会議の時代に議論されたような，遺伝子組み換え操作の危険性は，心配されたほど大きくはないことが徐々にわかってきた。その一方で，別のさまざまな懸念が生じつつあった。
まず，ヒトゲノムの解析によって得られる莫大な遺伝情報の管理，とりわけ高度のプライバシーを含む個人情報の扱いをどうするのかが問題となった。また個人が遺伝子診断の結果によって就職などで不利益な扱いを受ける可能性も懸念された。さらには宝の山といわれるゲノム情報の特許は，どこまで許されるべきなのかも大いに関心を集めた。
このような，ゲノム研究に伴って現れるであろう諸問題の解決を見据え，ヒトゲノム計画の責任者であったワトソンは，1989年に議会で行われた公聴会において注目すべき証言を行った。彼は全研究予算の3％を，倫理的，法的，そして社会的な含意の研究に充当すべき，と述べたのである。これは，科学研究のプロジェクトの中に，ブレーキをかける可能性のある研究プログラムをあらかじめ埋め込むという点で，驚くべきものであった。また，生命倫理などの分野に対して，これほど大きな予算が投入されることも，かつてなかった注11）。
もっともワトソンは，本当の意味で研究にブレーキをかけることを望んでいたわけではなく，ある種の社会に対する「アリバイ」として，このようなプログラムを組み込むことを考えたにすぎなかったのだ，という指摘もある注12）。
それでも，ELSIという「実験」の意義は大きいというべきだろう。ヒトゲノム計画は，民間企業の参入による競争などもあり，予定された2005年よりも早く終了したが，ゲノム科学の発展に伴って予想される諸問題の検討のために，現在もELSIプログラムは続けられている。当初，全体の3％とされた予算枠は，現在は5％にまで引き上げられ，1990年に年間157万ドルであった予算も，2013年には1,800万ドルにまで拡充した。当初からの累積で3億ドルもの予算が投じられ，基礎的な研究の蓄積のみならず，関連する政策立案への寄与がなされている。
現在，ELSIプログラムは，NIHのヒトゲノム研究センターにおいて動いている。ディレクターの下，「ゲノム医学」「ゲノム科学」「ゲノミクスと社会」「内部研究」「政策・コミュニケーション・教育」の5つの部門が設置されており，前者の3つが外部に研究費を配るための組織となっている。
このプログラムでは，先ほど述べた，ゲノム研究に伴って生じる個人情報などの扱いや，健康の向上のためにいかなる研究がなされるべきかといった，直接的な課題に加え，ゲノミクスの発展が社会をどう変えるかや，新たな政策や規制の具体なども研究の対象となっている。
さらに，より基本的な問題，たとえば，「健康」や「病気」といった概念そのもの，また「個人の責任」といった基礎概念などについての研究も進められている。研究成果はすでに何千もの論文や書籍として出版され，ゲノミクスなどの生命科学はもちろんのこと，より幅広い社会問題に関する政策立案などにおいても，大きく寄与している4）。
以上，科学技術観の歴史的変容についてのごく大ざっぱな流れと，生命科学研究からELSIという制度が生まれた背景ならびにその概要について，簡単にみてきた。
本節ではITに関するELSIの現状を，EUならびに日本での動きを中心に，確認しよう。
3.1 「幸福な技術」としてのITまず指摘しておきたいのは，ITは若く，また今のところ非常に「幸福な技術」であるという点である。上述のように，生命科学は歴史的にさまざまな社会的・倫理的な課題を抱えてきたし，エネルギーや応用化学などの「重厚長大」の技術群は，公害病や環境破壊，巨大事故などをもたらしたことにより，多くの社会的な非難を浴びてきた。しかしITに関しては今のところ，このような大きな社会問題が顕在化したことはない。
その理由の1つには，そもそもこの技術の一部が，対抗文化の影響下で発展したことも関係していると考えられるのではないか。いわば古いタイプの科学技術に対する反省から，民主的なテクノロジーを創造しようと願った，1970年代の「ハッカー」たちの夢が，何らかの形で影響していると考えられる注13）。
とはいえ，同じ歴史的背景から，ITは「技術への過度な楽観」も含んでいる可能性がある。これは，テクノ・ユートピア論と呼ばれることもあるが，ITによって理想的な世界が到来するという強い信念が，いまだにITのエンジニアやアントレプレナーには共有されているようにみえることも多い注14）。
むろん，どんな仕事であっても，プライドと夢をもって取り組むのは大切なことである。ただし，そのことの社会的な含意について，産業のみならずそれを構成する技術そのものをも対象化し，距離を置いて評価する役割を，誰かが担わなければならないはずだ。
すでに，プライバシーの問題はもちろんのこと，サイバーテロや，ITが社会基盤となることの社会的リスクといった，セキュリティーの問題も，ありふれた話題になりつつある。また日常生活全体のIT化によるさまざまな健康問題や，精神そのものの消耗といった指摘もなされている。さらに今後，自動運転やロボットなど，ITが私たちの物質的な世界により深く入り込むと，応用化学や生命科学などが味わった苦難を，ITも背負う可能性は，否定できない。
3.2 EUにおけるRRIへの注目このような問題意識の高まりを背景に，ITに関するELSI的な検討も徐々に注目されつつある。その中で現在，最も体系的，かつ積極的に制度化を進めているのは，EUの研究助成プログラムであろう。
そもそも欧州には，EUが成立する以前から域内の研究開発支援制度があった。1984年に始まった「Framework Programme（FP）」は，数年ごとに見直しされながら，2013年に終了した第七次（FP7）までが実施され2014年からは後継の「Horizon 2020 （H2020）」が動き始めている5）。
これらのプログラムの中で近年，「Responsible Research Innovation（RRI：責任ある研究・イノベーション）」という考え方が強調されるようになってきた。これはいろいろな定義があるが，簡単にいえば，イノベーションを進めるにあたって，企業や行政はもちろんのこと，消費者やNPO，大学やメディアなど，社会の多様なアクターとのコミュニケーションを通じて，新しい技術に対する社会の期待，ニーズ，懸念等をあらかじめ可視化し，実際の技術開発や事業化また関連する法制度の制定などの場面において，それらを反映させようというものである。いわば，研究・イノベーションの「上流」に，あらかじめELSI的な問題を検討する仕組みを埋め込もうという姿勢である注15）。
具体的にRRIが最初にEUのファンディングに登場したのは「FP6」の「ナノテク」と「ライフサイエンス」であったが6），現在のH2020ではRRIの重要性はさらに強調されており，あらゆる研究イノベーションの分野においてRRIが中心的な考え方となることが切望されている。また，従来のELSIでは，人文社会科学（Social Sciences and Humanities: SSH）に対しては，研究活動を一般社会からの視点でモニターするといった役割への期待が主であったが，H2020ではそれに加えて，新しいイノベーションを作り出すための問題のとらえ直し（reframing）など，より研究イノベーションの中核的なところでSSHが積極的に寄与することが望まれている7）。
H2020では，当然IT/ICT分野の拡大・発展が期待されており，多くのプロジェクトが動いているが，いずれにおいてもRRI/SSHが重視されている。具体的には，持続可能性とソーシャル・イノベーションのためのICTの役割や，健康医療分野，ICTによる科学研究活動のグローバル化，さらにスマートな輸送やエネルギーのシステムなど，さまざまな領域での関与が求められている。
以上のように，EUにおけるRRIの方向性は，「懐疑の時代」に胚胎したELSIのコンセプトからは離れつつあるようにもみえる。もともとは「科学技術の暴走にブレーキをかける」という性格が強かったELSIだが，「イノベーションによる生き残り」が強調される時代になった結果，単なるブレーキではなく，科学技術と社会の共進化を促進する仕組みとして，ELSIの発展系ともいえるRRIが注目されるようになったと考えられるだろう。
3.3 日本における動きと今後の展望EUの最近の動きを確認したが，日本でも，以前からの倫理的な議論に加え，より広義の価値にかかわる問題，たとえばITが社会の枠組み自体を変えていくことの是非，といった問題についての議論が起こりつつある。紙面の関係からここでは2つだけ事例を紹介したい。
1つは，2014年に人工知能学会において立ち上がった，AIに関するELSI的な問題を検討するための研究会「人工知能学会倫理委員会」である。ここでは，いわゆるシンギュラリティの問題や，人間の職をAIが奪う可能性，またAIが「心」をもつかといった論点など，AIと社会の広範なかかわり方について議論されているという。AIの専門家のみならず，SF作家や科学技術社会論の研究者なども関与しているが，基本的にはIT専門家の立場からの発信であると考えられる8）。
もう1つは，JST/CRDS（JST研究開発戦略センター）において提唱されている「知のコンピューティング」という活動の一環として，2014年秋に開かれた「知のコンピューティングとELSI/SSH」というワークショップである。これは，ビッグデータや集合知の台頭により，人間と機械が共同して知識を作っていく社会におけるELSI的問題の射程を，IT研究者に加え，法学，情報倫理，科学技術社会論などのSSHの専門家も参加して共に探っていくという野心的な企画であった9）。筆者もこの会合に参加させていただいたが，異分野間のコミュニケーションはかなり骨が折れるものの，このような試みはこれまで例がなく，新鮮な刺激を受けた。
日本では，第5期科学技術基本計画においても「超スマート社会の実現」が掲げられたこともあり，さらに議論が盛んになっていくことが予想される。ITにおけるELSI的な議論は，学問領域を超えて，ホットなものになりつつあることは間違いないだろう。
以上，まずは科学技術観の歴史的な変容と，分子生物学の登場によりELSIプログラムが生まれた経緯について述べた。そのうえで，近年のイノベーション政策の前景化により，EUではELSIは「RRI」へと発展し，研究プログラムの全域に浸透しつつあることを確認した。また日本でも，IT分野でのELSI的検討が広がりつつあることにも触れた。
最後に議論のまとめとして，今後の展望を若干，述べておきたい。
どれほどITが社会の基盤になり，ブラックボックス化したとしても，技術の本質を考える知性が，社会のどこかできちんと機能していることは，科学技術が適切に発展していくための重要な条件であることは間違いないだろう。それは，歴史が示すところでもあるはずだ。
またITは非常に抜本的な技術であるため，今後も私たちの社会を大きく変容させる可能性が高い。すでに触れたように，他の科学技術分野のような大きな倫理問題は，今のところITでは起こっていないが，社会的な議論を重ねていくことは重要であろう。それはEUが，RRIというコンセプトを研究プログラムに埋め込んでいこうとしているところからも明らかだ。
一方で，RRIはイノベーションを前提とした活動であることも事実であり，SSHがそこに動員されようとしているという面もあるだろう。もしも，科学技術の発展に対して，SSHが完全に従属するようになり，いわば開発推進の「アリバイ」として使われるようになるならば，それは本来のELSIの精神とは無縁のものになってしまうだろう。そうなれば，社会的な信頼が失墜するのはもちろん，本来科学技術の側がSSHに期待していた，客観的な視点から社会問題を抽出するといった役割も果たせなくなり，また自然科学との知的な創発も消失するだろう。
「懐疑の時代」の科学観をいつまでも引っ張る必要はない。だが「科学の黄金時代」に戻ろうというのもまた時代錯誤だ。要するに，何事にも「ほどよい距離感」が大切だ。そしてそれを担保する制度的な配慮も重要だろう。そのために必要なのは，SSHの研究者が独立しつつも，科学者・技術者とより深くかかわっていく環境や仕組みを，さらに整備していくことだ注16）。
そこで，これまでの議論を踏まえ1つ，提案をしたい。今後のITのELSI的検討についての展開を考えるうえで参考になるのは，やはり本稿で述べた生命科学のケースであろう。たとえば，「ITについてのアシロマ会議」といった試みは，世界でもまだほとんど行われていない。IT専門家の側も社会の側も，そのような危機感をあまりもっていないことが理由だろうが，上述のとおり，ITの世界でも，そろそろ社会的な難問が顕在化しつつある。そのような，さまざまな立場の識者が一堂に集まり，何日も徹底的に議論を行うための会議を，場合によっては日本が主導で開いてみることも，決して荒唐無稽な考えではないだろう。
ひとつ懸念されるのは，現在のところ特に日本では，ITについてのELSI的な問題を扱うSSH分野の研究者が比較的少ないことだ。このような人材を育てることも含め，検討すべき課題は多い。そのためにもやはり，本稿のような「文系的」な議論にも関心を示していただける，IT分野の技術者・科学者の数が増えることを個人的には願っている。
3.1で触れたように現代のITは，技術の民主化という，かつての若者たちの夢を1つのルーツとする。今後もこの科学技術が，社会の中で健全に発展していけるよう，さまざまな分野の専門家が，協力して仕事を進めていくことを期待したい。
1967年生まれ。千葉大学教授，朝日新聞社客員論説委員。専攻は科学史・科学技術社会論。博士（工学）。東京大学工学部化学工学科卒。東京大学大学院総合文化研究科博士課程単位取得満期退学。科学技術庁，三菱化学生命科学研究所，東京大学大学院工学系研究科，大阪大学CSCDなどを経て現職。著書に『食品リスク－BSEとモダニティ』（弘文堂，2005），『文明探偵の冒険－今は時代の節目なのか』（講談社現代新書，2015）など。
