フェイクニュース検知・認知戦モニタリングシステム
加工された画像、切り貼りされた動画、同時に現れる似通った投稿群が、複数のプラットフォームやメッセージアプリのグループの間で連鎖的に転送されることがあります。InfoMinerのフェイクニュース検知・認知戦モニタリングシステムは、プラットフォーム横断の公開コンテンツを継続的に収集し、ナラティブ、アカウントの行動、拡散の手がかりから疑わしいシグナルを示して、分析担当者が検証する際の参考を提供します。拡散の初期段階で発見できるかどうかは、データの取得範囲と分析の条件によります。
認知戦モニタリングシステムとは何ですか。
認知戦モニタリングシステムは、プラットフォームをまたいだ公開コンテンツを継続的に収集し、疑わしいナラティブ、協調的な拡散の疑い、不審アカウント群を識別して、拡散の手がかりを整理し、疑わしいシグナルを出力します。そのうえで、分析担当者が検証と分析・判断を行います。モニタリングツールの分析範囲はそれぞれ異なるため、内容、アカウントの行動、拡散の手がかりまでカバーする必要があるかを、ニーズに応じて評価できます。
システムが出力するのは、疑わしいシグナルと調査の手がかりです。内容の真偽、操作の帰属判断、その後の対応は、貴組織による人手の検証で決定します。
用語の定義は認知戦とは？フェイクニュース、情報操作、FIMIとの違い、検出技術はAIはどのようにフェイクニュースを検出するのか？5つの手法とその限界をご覧ください。本ページでは、システムの機能、制約、評価方法について説明します。
こんなチームに適しています
- 行政機関の広報、世論、報道連絡の部門：疑わしいナラティブの発信元と拡散状況を把握し、説明するかどうか、いつ説明するかを判断する参考にします
- 重要インフラの事業者：サービス停止、断水・停電、汚染に関する疑わしい情報に注目し、所管機関による検証と説明に役立てます
- 選挙管理機関と地方自治体：投開票の手続きや公共サービスに関する疑わしい情報に注目し、説明資料を準備する際の参考にします
よくある検討のきっかけ
- 報道機関からの問い合わせを受けて初めて疑わしい情報に気づいた場合、説明を準備できる時間が短くなることがあります
- ボリュームの上昇は見えても、それが自然な議論なのか、一群のアカウントが同じ時間帯に似た内容を投稿しているのかは区別できません
- 人による検証に必要な元の出典と時刻の情報が十分かどうかを確認したい
モニタリングのニーズを評価する3つの観点
現在、1件ずつ発見し、検証し、釈明するフローを採っている場合は、次の3つの観点から、ナラティブと拡散の分析を加える必要があるかを評価できます。
1. 拡散の速さ：対応の時間的余裕は、実際の拡散状況によって決まります
虚偽情報は複数のプラットフォームで急速に拡散することもあれば、狭い範囲で長く出回り続けることもあるため、対応のタイミングは実際の拡散状況に応じて判断します。拡散曲線がまだ緩やかな段階で疑わしい手がかりを把握できれば、担当者は静観・準備・対応の選択肢をより多く残せます。早期に発見できるかどうかは、データの取得状況と分析の条件によります。
二、プラットフォームをまたぐ連鎖：拡散の手がかりが複数のプラットフォームに分散していることがある
同じナラティブが、掲示板の投稿、画像カード、ショート動画など異なる形でプラットフォームをまたいで拡散することがあります。複数プラットフォームのデータは、観測可能なデータの中でより早く現れた位置など、単一のプラットフォームでは見えない拡散の手がかりを補える場合があります。ただし、時間の前後関係は因果関係を意味せず、ノード間に増幅の関係があるかどうかは別途検証する必要があります。
三、情報操作は虚偽の内容に頼るとは限らない
WardleとDerakhshanが2017年に欧州評議会（Council of Europe）のために執筆した報告書『Information Disorder』は、情報の混乱を誤情報、偽情報、悪意ある情報の3類型に分けています。悪意ある情報とは、真実の情報を害を与える目的で用いるものです。同報告書は、フェイクニュースという言葉ではこれらの現象を十分に説明できないとも指摘しています。選択的な増幅、文脈を切り取った引用、感情の動員は、真偽の確認だけでは対処できない場合があるため、モニタリングでは内容、アカウントの行動、拡散構造を併せて見る必要があります。
一般的な手法はそれぞれ異なる問いに答えるもので、併用することができます：
| 手法 | 答えるのに適した問い | 限界 |
|---|---|---|
| 個々のコンテンツのファクトチェック | ある主張が事実と合っているか | 内容の真偽が主な問いであり、拡散の文脈まで分析するかどうかはチェックの範囲によります |
| キーワードとボリュームのモニタリング | どのトピックの議論量が増えているか、感情がどう分布しているか | 言い換え、画像カード、隠語は見逃される場合があります。ボリュームの上昇は、誰かが操作していることを意味しません |
| ナラティブと拡散の分析 | 同じ主張がどのような形で、どのプラットフォームに現れ、観測可能なデータの中でいつ現れたか | 統合は確率的なため、誤って統合したり統合し漏れたりする場合があります。時間の前後関係は因果関係を意味しません |
| アカウントの行動分析 | 一群のアカウントが近い時間に似た内容を投稿しているか | ファンによる自発的な動員やメディアの同時配信も似た特徴を示すことがあります。プラットフォームの公開データには限りがあります |
上の表は各手法の適用範囲を示したもので、優劣はありません。組織が答えるべき問いと入手できるデータに応じて選べます。どの手法を使う場合でも、疑わしさの度合いは真偽の認定や行為者特定の結論ではありません。公に対応するかどうかは、問題の規模、拡散の傾向、公共の利益、対応の方法を併せて評価できます。
疑わしいナラティブを確認する際の進め方
モニタリングツールが提供するのは手がかりであり、判断するのは人です。以下は、疑わしいナラティブやアカウントを確認する際に参考にできる一般的な進め方です。
類似した主張をまとめつつ、元の出典を残す
同じ主張でも、見出しを変えたり、画像カードを作り直したり、書き出しを変えたりして出回ることがあります。意味の近い内容を一つのグループにまとめると重複した確認を減らせますが、統合は確率的なため、立場が反対の類似した主張が同じグループに入ることがあります。判読の際は、各コンテンツの元の出典に立ち返って確認してください。
内容だけでなく行動を見る
協調的な不正行為（CIB）は、Facebook社（後にMetaに社名変更）がポリシーの説明や報告書で使っている用語です。同社の2020年のCIB報告書は、これを戦略的な目的のために公共の議論を協調して操作する行為であり、偽アカウントがその運用の中核にあるものと定義し、こうしたネットワークを削除する根拠は投稿内容ではなく行為であると説明しています。判読の際は、ファンによる自発的な動員、メディアの同時配信、PR活動も、似た時間と内容のパターンを示しうることに注意してください。疑わしさの度合いは、操作の認定ではありません。定義と見分け方については、次の記事をご覧ください：協調的な不正行為（CIB）とは？「網軍」「水軍」・ボットアカウントをまとめて解説。
検証と対応は権限を持つ担当者が決める
検証は、元の出典との照合、業務部門への事実確認、ファクトチェック組織がすでに公表している結果の参照から始められます。対応するかどうか、どのように対応するかは、権限を持つ担当者が問題の規模と公共の利益に基づいて判断します。法的手続きが関わる場合は、必要な証拠保全と鑑識の方法を別途確認してください。
InfoMiner の対応機能
InfoMinerは公開データを継続的に収集し、リアルタイムのインテリジェンス判断を行って疑わしい手がかりを出力し、人による検証に委ねます。以下は機能の概要で、各項目には前提条件と制約があります。実際の範囲はプランとライセンスによって異なります。
| 機能 | 何をするか | 前提条件と制約 |
|---|---|---|
| プラットフォーム横断の公開データ収集 | ニュース、ソーシャルメディア、フォーラムで公開された内容をWebクローラーで収集し、PTT、Dcard、Facebook、YouTube、Threads、TikTok／抖音、LINEコミュニティ、X、Instagramをカバーします。全体で50万を超えるチャネルを監視しています | 実際の対象範囲はプランおよびライセンスによって異なります。プラットフォームの仕様変更やブロックにより、欠落が生じる場合があります。ダイレクトメッセージや非公開グループは対象外です |
| トピック・感情分析 | 繁体字中国語テキストのトピック整理と感情分析 | 皮肉や新しいネットスラングは誤判定される場合があり、人による確認が必要です |
| 異常ボリュームの手がかり | ボリュームの異常な変化に関する疑わしい手がかりを示し、人による確認に供します | 誤報が生じる場合があります。実際の機能範囲は別途確認します |
| 疑わしいナラティブと拡散の手がかり | 虚偽の内容が含まれる可能性のある疑わしいシグナルを示し、拡散の手がかりを整理します | 出力は疑わしいシグナルであり、真偽は人が検証します |
| 協調的な行動の疑いと不審アカウントの手がかり | 協調の兆候がみられる可能性のあるアカウント群を示し、人による検証に供します | プラットフォームの公開データに依存するため、確率的な分析・判断であり、人による検証が必要です |
| 画像・動画分析 | 画像内の文字抽出（OCR）と画像認識を行い、動画とディープフェイク（deepfake）について疑わしいシグナルを出力します | 出力は疑わしいシグナルであり、人による検証が必要です。画質や再エンコードの回数が判定に影響します |
| カスタマイズの要件 | 組織のニーズに応じてカスタマイズの範囲を評価できます | 範囲、スケジュール、実現可能性は別途評価が必要です |
導入スケジュールは、データの範囲、導入環境、カスタマイズの要件に応じて評価します。機能の全体については、次のページをご覧ください：InfoMiner SNS分析ツール。
機能の限界と契約上の注意点
調達にあたっては、真偽の認定や行為者の特定を、合意していない成果物として挙げることは避けてください。モニタリングでは、ある主張が広がりつつあること、およびどのプラットフォームに出ているかは示せますが、真偽を判定することはできません。協調的な行動の分析・判断はプラットフォーム上で公開されているデータに依存しており、ファンによる自発的な動員やメディアの同時配信も似た特徴を示すことがあります。動画とディープフェイクの判定は、再エンコード、圧縮、画面の撮り直しの影響を受ける場合があります。ダイレクトメッセージや非公開グループは対象外です。カスタマイズの要件、適用条件、実現可能性は別途評価が必要です。
契約には、本システムは真偽の最終認定を行わず、最終的な行為者特定の結論も提供しない旨を明記することをお勧めします。EEAS（欧州対外行動庁）は、2023年から公表しているFIMI脅威レポートで、外国による情報操作・干渉を、意図的かつ協調的な行動パターンとして説明しており、行為者は国家または非国家主体およびその代理人である場合があるとしています。行為者の特定には、証拠の強さと別の説明の可能性を別途評価する必要があります。
導入形態とデータガバナンス
偽情報のモニタリングでは、Webクローラーで収集した公開コンテンツと、組織内部の分析・判断の記録および検証の結論という、2種類のデータを扱います。どちらも個人データや機微な情報を含む可能性があるため、内容と用途に応じて、アクセス権限、保存期間、導入場所を別々に設定してください。
- データホストの所在地：InfoMinerのデータサーバーは台湾国内に設置されています。
- オンプレミス：分析・判断の記録、内部ナレッジ、レポート生成には、RAGiのオンプレミス導入を利用できます。外部への送信が発生するかどうかは、選択したモデルと連携構成に応じて確認する必要があります。
- 調達方法：InfoMinerは政府の共同調達契約を通じて調達でき、対象品目は当期の契約で確認します。カスタマイズ項目は、要件に応じて別途評価します。
監視の限界：言論の自由と個人データ
ナラティブと行動パターンの分析を目的とするモニタリングでも、個人を識別できるデータを扱う場合があります。公開されていることは、個人データを含まないことを意味しません。導入前に、法務部門と業務部門で、収集、処理、利用の根拠と必要な範囲、保存・削除の期限を確認し、結果を事前に明示した目的にのみ使用するようにできます。モニタリングが注目するのは情報と行動パターンであり、特定の立場の言論を評価するものではありません。
対応時に関わる可能性のある法規
検証の結論を送致または通報する場合、社会秩序維護法、災害防救法、公職人員選挙罷免法における、デマの流布に関する規定が関わる可能性があります。条文の整理は認知戦とは？フェイクニュース、情報操作、FIMIとの違いをご覧ください。これらの法律は、それぞれ構成要件が異なります。内容の真偽は検証担当者が証拠に基づいて判断し、違法かどうかは権限を持つ機関が法に基づいて認定します。虚偽と判断されても、違法とは限りません。
適用シーン
シナリオ1：行政機関の広報・世論部門
市民の権利、公共サービス、政策説明に関わる疑わしいナラティブに注目できます。疑わしい手がかりは人による検証の参考にでき、対応するかどうか、いつ対応するかは、権限を持つ担当者が問題の規模と公共の利益に基づいて判断します。釈明を発表した後は、公開の議論に変化があるかを観察できます。釈明が公式アカウント内でしか転送されず、元のナラティブが他のプラットフォームで増え続けている場合は、発信チャネルや説明の仕方の変更を検討できます。
シナリオ2：重要インフラの事業者
電力、水道、交通、通信の事業者は、サービス停止、品質、汚染に関する疑わしい主張に注目できます。こうした情報は実際の運用状況に関わるため、疑わしいサービス情報は権限を持つ担当者が事実を確認したうえで、説明するかどうかを判断します。危機コミュニケーションの一般的な進め方は、次の記事が参考になります：世論危機対応SOP：広報危機対応の7ステップガイド。
シナリオ3：選挙管理機関と地方自治体
選挙期間中は、投開票の手続き、選挙事務、候補者の言動を装った疑わしいコンテンツに注目できます。2026年の台湾統一地方選挙の投票日は11月28日です。モニタリングは政治的中立を保ち、選挙の手続きに影響する情報の種類のみに注目し、疑わしいコンテンツは人が事実を確認する必要があります。公開の議論全体の熱量を把握したい場合は、LargitDataでは別途2026 台湾選挙ラボもご提供しています。これは台湾全22県市を対象とした公開ボリュームのダッシュボードです。選挙前の作業チェックリストは、次の記事をご覧ください：選挙の偽情報監視はどう行うか？選挙前60日の作業チェックリスト。
評価と検収の方法
精度などの指標を比較する前に、データセット、ラベル付けの基準、サンプルの分布をそろえてください。評価では、すでに収束した公開の事案をいくつか選んでバックテストを行い、手法ごとの発見時期を比較し、早期に発見できなかったケースやデータを取得できなかったケースを記録したうえで、どの項目に調整が必要かを見分けられます。導入範囲、スケジュール、評価方法は別途確認が必要です。
ベンダーを評価する際に確認すべき10の質問
評価では、データの範囲、分析・判断のフロー、インターフェースの操作をあわせて確認してください。ベンダーには書面での回答を求めることをお勧めします。
- ソース一覧：どのプラットフォームを監視できますか。自社で収集しているものと、ライセンスで取得しているものはどれですか。
- 欠落の通知：プラットフォームの仕様が変わったとき、どの期間のデータが不完全かをどのように把握できますか。
- プラットフォーム横断の統合：同じナラティブが書き換えられて転載された場合、重複排除と統合はどのように行いますか。
- ナラティブ分類の評価：どのデータセットとラベル付けの基準で評価していますか。分類に誤りがある場合、分析担当者は分割や統合ができますか。
- 協調的行動の判断根拠：協調的な操作の疑いを示す際、どのフィールドに基づいていますか。分析担当者に表示できますか。
- 誤報への対処：通常の協調的な行動はどのように除外しますか。誤報をフィードバックして調整できますか。
- マルチモーダルの範囲：画像、動画、ディープフェイクの検出について、適用条件と制約は何ですか。
- 説明可能性：疑わしい手がかりのそれぞれについて、示された理由を説明できますか。
- 証拠の保存：元のリンクと取得時刻を保存できますか。元の投稿が削除された場合はどのように扱いますか。
- 行為者特定に対する姿勢：真偽の判定や行為者の認定ができると主張していますか。その根拠は何ですか。
10番目の質問は契約に盛り込むことをお勧めします。疑わしいシグナルを、そのまま検証や行為者特定の結論として表現することは避けるべきです。対外的な説明や法的な用途に使う場合は、その根拠を別途確認する必要があります。