富士通と産学組織が9者で共創し、世界初の偽情報対策プラットフォームの構築を開始

2024/10/17

Today's PICK UP

Contents

内閣府や経済産業省、その他の関係府省が連携し、経済安全保障の強化と推進を目指して創設した「経済安全保障重要技術育成プログラム」（通称“K Program”）（注1）のもと、国立研究開発法人新エネルギー・産業技術総合開発機構（以下、NEDO）が公募した「偽情報分析に係る技術の開発」（注2）（以下、本事業）に、2024年7月に採択された富士通株式会社（以下、富士通）は、プライム事業者として偽情報検知と評価における国内屈指のアカデミアや企業を再委託先として選定した。大学共同利用機関法人情報・システム研究機構国立情報学研究所（以下、NII）、日本電気株式会社（以下、NEC）、慶應義塾大学SFC研究所、国立大学法人東京科学大学（以下、東京科学大学。採択時、国立大学法人東京工業大学）、国立大学法人東京大学（以下、東京大学）、公立大学法人会津大学（以下、会津大学）、国立大学法人名古屋工業大学（以下、名古屋工業大学）、国立大学法人大阪大学（以下、大阪大学）の9者（注3）によるオールジャパン体制で、偽情報の検知から根拠収集、分析、評価までを統合的に行う点で世界初の偽情報対策プラットフォームを2025年度末までに構築することを目指し、2024年10月より共同研究開発を開始する。

■概要

インターネットにおける、生成AIや合成コンテンツによる偽情報の流通が大きな社会問題となる中、ディープフェイクを用いた意図的な偽情報（文章、画像、音声、動画）を検知する技術などが個別に検討されてきているものの、これらは偽情報の問題における一部の解決であり、偽情報に対する根本的な解決には至っていない。偽情報を的確に検知するためには、これら個々の技術による検知のみならず、関連する様々な周辺情報を集めて統合的に検証する仕組みが不可欠である。
富士通と産学組織の計９者は、偽情報に対する解決アプローチとして、真偽不明な情報に関連する様々な周辺情報を根拠としてインターネット上から収集し統合管理した上で、根拠としての整合性や矛盾を総合的に分析することで真偽判定を支援するとともに、社会への影響度を分析し評価することで偽情報の検知や対処を可能にする社会を目指す。これにより偽情報による社会への悪影響を解決し、信頼性の高いデジタル社会を実現する。
9者は、上記アプローチに基づき、偽情報の検知（技術1）、根拠収集・統合管理（技術2）、総合的な分析（技術3）、社会的な影響度評価（技術4）に関する各種技術の研究開発を開始するとともに、富士通がこれら技術を統合し、偽情報の検知から根拠収集、分析、評価までを統合的に行う世界初の偽情報対策プラットフォームの構築を進めていく。

富士通の役割

富士通は、本事業におけるプライム事業者として4つの技術の研究開発を推進および主導するとともに、これら技術の統合と体系化、ならびに偽情報対策プラットフォーム全体の構築を担当する。また、富士通は偽情報に関連する最新事例や技術動向に基づき、公的機関や民間企業によるユースケースを創出し、研究開発成果の社会実装につなげていく。

4つの研究開発技術と各者の役割

技術1：メディアデータごとの情報分析と偽情報検知（担当：NII、NEC）

• フェイクメディア検知の分野で実績を有するNIIは、真偽判定の対象となるSNS投稿などの情報を構成するメディアデータ（画像、映像、音声）に対し、昨今拡大するディープフェイクを用いた意図的な偽情報を検知する技術に加え、改ざん箇所や生成手法を、判定の確信度を含める形で推定し、これらを根拠情報として出力する技術を開発する。フェイクメディア検知結果を根拠情報の一部として活用した偽情報検知技術の開発は、先進的な試みである。
• NECは、画像、映像、音声を含む内容について、例えばどのような出来事が発生しているかなどをテキストとして抽出するメディア理解技術を開発し、SNS投稿文との一致分析や、根拠情報の収集に活用する。

技術2：根拠、エンドースメント管理（担当：慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科）

• トラストを念頭においたインターネットアーキテクチャの分野で実績を有する慶應義塾大学SFC研究所と富士通は、技術1から出力される分析結果に加えて、インターネット上から収集した様々な根拠情報の関係性を「エンドースメントグラフ」（注4）として統合し、構造化した上で蓄積、総合的な真偽判定支援や影響度評価において活用可能にする技術を開発する。
• IoTデータ解析の分野で実績を有する大阪大学大学院情報科学研究科は、根拠情報の一つとなるIoTセンサーデータの収集技術を開発する。真偽判定の対象エリアの情報を網羅的に取得できない場合に、近隣エリアの取得可能な情報群から、対象エリアの根拠情報を推定し、根拠情報として出力する技術を開発する。人が情報を集めて推定するように、システムが能動的に根拠情報を集める技術の開発は、先進的な試みである。

技術3：総合真偽判定支援（担当：富士通、名古屋工業大学）

• 富士通は、技術2のエンドースメントグラフから、大規模言語モデル（LLM）等の活用により、真偽判定の対象情報に紐づけられた根拠の整合性や矛盾を分析し、判定結果とともにユーザーに分かりやすく根拠を説明するといった総合的な真偽判定支援を行う技術を開発する。
• さらに富士通は、スーパーコンピュータ「富岳」を活用して日本語データを中心に一から学習したLLM「Fugaku-LLM」や、エンタープライズ向け日本語特化型LLM「Takane」の開発で培われた技術を活かし、偽情報対策に特化した日本語LLMを開発する。これは偽情報対策のためにニュースやSNSなどの多様なデータの理解能力を強化し、さらに論理的な推論能力を高めたLLMであり、真偽判定において高い精度を達成する高速な推論や、ハルシネーション（LLMの誤出力）の抑制を実現する。
• 富士通と名古屋工業大学は、ユーザーの心理的要因（誤情報持続効果など）を考慮した認知科学に基づくユーザーインターフェース、情報提供技術を開発する。これによりユーザーが正確に情報の真偽を判断し、不用意に情報を拡散しないようにするなど、適切な行動を促す。

技術4：偽情報影響度評価（担当：東京科学大学、東京大学、会津大学）

• ソーシャルメディアなどに関する計算社会科学の分野で実績を有する東京科学大学、東京大学、会津大学は、SNSデータからメッセージの情報源、情報内容、社会的文脈に着目し、LLMを拡張して偽情報評価用AIモデルを構築することにより、例えば、過去の偽情報との類似度や拡散速度などの偽情報の特徴を分析し、拡散規模や社会的な影響度などの指標を評価する技術を開発する。偽情報の社会的影響を可視化し、定量的に評価するための技術の開発は、先進的な試みである。

図2 本事業で構築する偽情報対策プラットフォーム

出典元：プレスリリース

■今後について

本事業を通じて、9者は担当する技術の研究開発を行うとともに、富士通がこれら技術を統合しシステム化することで、今後も一層の拡大が懸念される偽情報に対して、安定的で自律的な経済活動を維持するための偽情報対策の社会基盤を構築整備する。これにより9者はNEDOを通じて、本事業の成果を新産業創出および国際競争力強化につなげ、日本の重要性、優位性の向上に貢献する。
本事業を進めるにあたり、2024年度は民間企業・公的機関向けユースケースの分析と機能要件の抽出を行うとともに、各技術の研究開発を行っていく。2025年度末までに、4つの技術を統合した偽情報対策システムを構築する予定である。

■商標について

記載されている製品名などの固有名詞は、各社の商標または登録商標である。

■注釈

注1
経済安全保障重要技術育成プログラム（通称“K Program”）：
https://www8.cao.go.jp/cstp/anzen_anshin/kprogram.html
注2
「経済安全保障重要技術育成プログラム／偽情報分析に係る技術の開発」に係る公募について：
https://www.nedo.go.jp/koubo/CD2_100359.html
注3
9者：
富士通株式会社（本店神奈川県川崎市中原区、代表取締役社長時田隆仁）
大学共同利用機関法人情報・システム研究機構国立情報学研究所（所在地東京都千代田区、所長黒橋禎夫）
日本電気株式会社（本社東京都港区、取締役代表執行役社長兼 CEO 森田隆之）
慶應義塾大学SFC研究所（所在地神奈川県藤沢市、所長飯盛義徳）
国立大学法人東京科学大学（本部東京都目黒区、理事長大竹尚登）
国立大学法人東京大学（本部東京都文京区、総長藤井輝夫）
公立大学法人会津大学（本部福島県会津若松市、理事長兼学長束原恒夫）
国立大学法人名古屋工業大学（所在地愛知県名古屋市昭和区、学長小畑誠）
国立大学法人大阪大学（所在地大阪府吹田市、総長西尾章治郎）
注4
エンドースメントグラフ：
対象とする情報に付加される発信者（人や組織とその属性）、位置、日時などの真偽判定の根拠となる情報のことである。