一般に偽・誤情報対策は、情報の真偽判定の実現を目指す取組として考えられやすい。しかしながら情報の真偽は必ずしも簡単に判断できるもののではなく、場合によっては哲学的な問題として定義さえも困難な常体に陥る。またSNSをはじめとしたプラットフォームの責任においてコンテンツモデレーションの強化が叫ばれるが、過剰な取組は表現の自由や関連する権利・利益侵害の論争を引き起こす。さらに生成AIの台頭はこうした検討を複雑化させ、社会からの期待とは裏腹に課題解決の難易度は増している。
今日における偽・誤情報対策は、単なる真偽判定ではなく、発信元、来歴、責任、流通、情報の発信や流通に関するガバナンスを含む総合的な信頼基盤の問題として論じられるべきである。そこで本稿は、まず偽・誤情報を、誤情報、偽情報、悪意ある情報に区分し、情報内容の真偽だけでなく、発信者の意図、社会的害、文脈、真正性を含めて捉える必要性を示す。次に、SNSによる高速かつ広域の拡散、生成AIによる偽情報作成の低コスト化、AI自身のハルシネーションやモデル品質劣化、さらにコンテンツモデレーションが表現の自由や透明性と衝突する問題を整理する。そのうえで、電子透かし、AI検知、検索拡張生成(RAG)、C2PAなど既存技術の意義と限界を検討し、いずれも単独では十分でないと指摘する。
また本稿はそれらの課題を踏まえた上で、情報内容を直接評価するのではなく、発信者の真正性、属性、ポリシー、非改ざん性について、最終利用者が検証できるようにする技術としてOriginator Profile技術を紹介し、関連する技術との相互補完によって課題解決を図ることを提案する。結論として、偽・誤情報を完全に消す技術ではなく、利用者が信頼を検証できる多層的なインフラがデジタル情報空間に求められていると提起する。
抄録全体を表示