最後更新:

假新聞偵測與認知作戰監測系統

一則改圖、一段剪接影片、一組同時出現的相似貼文,可能在不同平台與通訊軟體群組間接力轉傳。InfoMiner 假新聞偵測與認知作戰監測系統持續蒐集跨平台公開內容,從敘事、帳號行為與傳播線索標出可疑訊號,提供分析人員查證參考;能否在擴散初期發現,取決於資料取得範圍與分析條件。

假新聞偵測與認知作戰監測|資訊操弄的可疑訊號分析資訊圖表配圖,呈現產業解決方案的重點概念

什麼是認知作戰監測系統?

認知作戰監測系統持續蒐集跨平台公開內容,辨識可疑敘事、疑似協同散播與異常帳號集群,整理傳播線索並產出可疑訊號,再交由分析人員查證與研判。監測工具的分析範圍各異,可依需求評估是否需要涵蓋內容、帳號行為與傳播線索。

系統產出的是可疑訊號與調查線索;內容真偽、操弄歸因與後續處置,由貴單位的人工查證決定。

術語定義見什麼是認知作戰?與假新聞、資訊操弄、FIMI 的差別,偵測技術見AI 如何偵測假新聞?五種方法與它們做不到的事;本頁談系統能力、限制與評估方式。

適合誰使用

  • 政府機關的發言、輿情與新聞聯繫單位:需要了解可疑敘事的來源與擴散情形,作為是否說明、何時說明的參考
  • 關鍵基礎設施營運者:關注服務中斷、停水停電或污染相關的可疑訊息,供權責單位查證與說明
  • 選務機關與地方政府:關注投開票流程與公共服務相關的可疑訊息,作為準備說明資料的參考

常見的評估動機

  • 可疑訊息若在媒體詢問後才被注意到,可準備說明的時間可能較短
  • 看得到聲量升高,卻分不出是自然討論,還是一組帳號在同一時段推送相似內容
  • 想確認人工查證所需的原始出處與時間資訊是否充足

評估監測需求的三個面向

若單位目前採逐則發現、查證與澄清的流程,可從以下三個面向評估是否需要加入敘事與傳播分析。

一、擴散速度:回應時效依實際擴散情況而定

不實訊息可能跨平台快速轉傳,也可能長期在小範圍流傳,回應時效應依實際擴散情況判斷。若能在擴散曲線仍平緩時看到可疑線索,承辦人可保留較多觀察、準備與回應的選擇;能否及早發現,取決於資料取得與分析條件。

二、跨平台接力:傳播線索可能分散在不同平台

同一敘事可能以論壇貼文、圖卡、短影音等不同形式跨平台轉傳。跨平台資料可能補充單一平台看不到的傳播線索,例如在可觀測資料中較早出現的位置;但時間先後不等於因果,節點之間是否存在放大關係,仍須另行查證。

三、操弄不一定靠假內容

Wardle 與 Derakhshan 2017 年為歐洲理事會(Council of Europe)撰寫的《Information Disorder》報告,把資訊失序分成錯誤資訊、假訊息與惡意資訊三類,惡意資訊是把真實資訊用來造成傷害,並指出假新聞一詞不足以描述這些現象。選擇性放大、斷章取義與情緒動員,都不一定能用查核真偽處理,因此監測要同時看內容、帳號行為與擴散結構。

常見作法各自回答不同的問題,可以並用:

作法 適合回答的問題 限制
單則內容查核 某則說法是否與事實相符 以內容真偽為主要問題;是否分析傳播脈絡,依查核範圍而定
關鍵字與聲量監測 哪些議題的討論量正在上升、情緒如何分布 改寫、圖卡與隱語可能漏抓;聲量升高不代表有人操弄
敘事與傳播分析 同一說法以哪些形式出現在哪些平台,在可觀測資料中何時出現 歸併屬機率性,可能誤併或漏併;時間先後不等於因果
帳號行為分析 是否有一群帳號在相近時間推送相似內容 粉絲自發動員、媒體同步發稿也可能有類似特徵;平台公開資料有限

上表列的是各種作法的適用範圍,沒有優劣之分;選擇時可依單位要回答的問題與可取得的資料決定。無論採用哪一種,可疑程度都不等於真偽認定或歸因結論。是否公開回應,可一併評估議題規模、擴散趨勢、公共利益與回應方式。

檢視可疑敘事時可以怎麼做

監測工具提供的是線索,判斷仍在人。以下是檢視可疑敘事與帳號時,可參考的一般做法。

歸併相近說法,同時保留原始出處

同一則說法可能被換標題、改圖卡、換開頭。把語意相近的內容歸成一組,可以減少重複判讀;但歸併是機率性的,立場相反的相近說法可能被歸在一起,判讀時應回到每則內容的原始出處確認。

看行為,不只看內容

協同性不真實行為(CIB)是 Facebook 公司(後更名為 Meta)在政策說明與報告中使用的用語,其 2020 年的 CIB 報告將其定義為為了策略目標協同操弄公共討論、且假帳號是其運作核心的行為,並說明下架這類網絡的依據是行為,而不是貼文內容。判讀時要注意,粉絲自發動員、媒體同步發稿與公關活動,也可能呈現相近的時間與內容模式,可疑程度不等於操弄認定。定義與辨識方式見什麼是協同性不真實行為?網軍、水軍、機器人帳號一次看懂。

查證與回應由權責人員決定

查證可以從比對原始出處、向業務單位確認事實,以及參考事實查核組織已發布的結果著手。是否回應、如何回應,由權責人員依議題規模與公共利益判斷;涉及法律程序時,另確認所需的證據保存與鑑識方式。

InfoMiner 的對應能力

InfoMiner 持續蒐集公開資料,進行即時情資判斷並產出可疑線索,交由人工查證。以下為能力的概略說明,各項附前置條件與限制;實際範圍依方案與授權而定。

能力 做什麼 前置條件與限制
跨平台公開資料蒐集 以網路爬蟲蒐集新聞、社群與論壇公開發布的內容,可涵蓋 PTT、Dcard、Facebook、YouTube、Threads、TikTok/抖音、LINE 社群、X 與 Instagram;整體監測超過 50 萬個頻道 實際範圍依方案與授權而定;平台改版或封鎖時可能出現缺漏;私訊與非公開群組不在範圍內
議題與情緒分析 繁體中文文本的議題歸納與情緒分析 反諷與新興網路用語可能誤判,需人工檢視
異常聲量線索 提供聲量異常變化的可疑線索,供人工檢視 可能出現誤報;實際能力範圍另行確認
可疑敘事與傳播線索 標出可能涉及不實內容的可疑訊號,整理傳播線索 產出為可疑訊號,真偽由人工查證
疑似協同行為與異常帳號線索 標出可能有協同跡象的帳號集群,供人工查證 依平台公開資料而定,屬機率性研判,需人工驗證
圖片與影片分析 擷取圖片內文字(OCR)、影像辨識,並對影片與深度偽造(deepfake)產出可疑訊號 產出為可疑訊號,須人工查證;畫質與轉錄次數影響判讀
客製需求 可依單位需求評估客製範圍 範圍、時程與可行性需另行評估

導入時程依資料範圍、部署環境與客製需求評估。完整功能見InfoMiner 輿情分析平台。

能力限制與契約注意事項

採購時應避免把真偽認定或行為者歸因列為未約定的交付成果。監測能指出某個說法正在升溫、出現在哪些平台,不能判定真假;協同行為的研判依賴平台公開可見的資料,粉絲自發動員、媒體同步發稿也可能呈現相近特徵;影片與深度偽造的判讀,可能受轉錄、壓縮與翻拍影響;私訊與非公開群組不在範圍內。客製需求、適用條件與可行性需另行評估。

建議在契約中明寫:系統不做真偽的最終認定,也不提供最終歸因結論。EEAS(歐盟對外事務部)在 2023 年起發布的 FIMI 威脅報告中,把境外資訊操弄與干預描述為有意圖且協同的行為模式,行為者可以是國家或非國家行為者及其代理人;歸因需另行評估證據強度與替代解釋。

部署與資料治理

假訊息監測涉及兩類資料:以網路爬蟲蒐集的公開發布內容,以及單位內部的研判紀錄與查證結論。兩類都可能含個資或機敏資訊,應依內容與用途分別設定存取權限、保存期限與部署位置。

  • 資料主機位置:InfoMiner 資料主機設於台灣境內。
  • 地端部署:研判紀錄、內部知識與報告生成可採 RAGi 地端部署;是否涉及對外傳輸,須依所選模型與介接配置確認。
  • 採購途徑:InfoMiner 可透過政府共同供應契約採購,適用品項依當期契約確認;客製項目另依需求評估。

RAGi 企業AI檢索增強生成引擎

監測的界線:言論自由與個人資料

以敘事與行為模式為分析目的的監測,仍可能處理可識別個人的資料;公開可見不等於不涉及個資。導入前可由法制與業務單位確認蒐集、處理與利用的依據及必要範圍、保存與刪除期限,並把結果限用於事先明定的目的。監測關注的是訊息與行為模式,不是對特定立場的言論做評價。

處置時可能涉及的法規

查證結論若要移送或通報,可能涉及《社會秩序維護法》、《災害防救法》與《公職人員選舉罷免法》中與散布謠言相關的規定,條文整理見什麼是認知作戰?與假新聞、資訊操弄、FIMI 的差別。這些法律各有不同的構成要件:內容真偽由查核人員依證據判斷,是否違法由有權機關依法認定,被判為不實不等於違法。

應用情境

情境一:政府機關發言與輿情單位

可關注涉及民眾權益、公共服務與政策說明的可疑敘事。可疑線索可作為人工查證的參考;是否回應、何時回應,由權責人員依議題規模與公共利益判斷。發布澄清後,可觀察公開討論是否改變:若澄清內容只在官方帳號內轉傳,而原敘事仍在其他平台增加,可考慮調整發布管道或說明方式。

情境二:關鍵基礎設施營運者

供電、供水、交通與通訊營運者,可關注服務中斷、品質或污染相關的可疑說法。這類訊息與實際營運狀態有關,可疑服務資訊須由權責人員核實後,再決定是否說明。危機溝通的一般做法可參考輿情危機處理 SOP:7 步驟公關危機指南。

情境三:選務機關與地方政府

選舉期間可關注投開票流程、選務作業與冒用候選人言行的可疑內容。2026 年地方公職人員選舉投票日為 11 月 28 日。監測須政治中立,只關注影響選舉程序的訊息類型,可疑內容須經人工核實。若要掌握公開討論的整體熱度,LargitData 另提供2026 選情研究室,它是涵蓋全台 22 縣市的公開聲量看板。選前作業清單可參考選舉假訊息監測怎麼做?選前 60 天的作業清單。

評估與驗收方式

比較準確率等指標前,應先對齊資料集、標註準則與樣本分布。評估時可挑選幾件已結束的公開事件回測,比較不同方法的發現時間,並記錄未能提早發現或未取得資料的情況,再據此區分哪些項目需要調校。導入範圍、時程與評估方式需另行確認。

評估供應商時要問的 10 個問題

評估時應同時確認資料範圍、判讀流程與介面操作。建議請供應商書面回答:

  1. 來源清單:可監測哪些平台?哪些自建蒐集、哪些授權取得?
  2. 缺漏通報:平台改版時,如何得知哪段資料不完整?
  3. 跨平台歸併:同一敘事被改寫轉傳時如何去重與歸併?
  4. 敘事分群評測:用什麼資料集與標註準則評估?分群錯誤時,分析人員能否拆分或合併?
  5. 協同判讀依據:標示可疑協同時依據哪些欄位?能否呈現給分析人員?
  6. 誤報處置:正常的協同行為如何排除?誤報能否回饋調整?
  7. 多模態範圍:圖片、影片與深偽偵測的適用條件與限制為何?
  8. 可解釋性:每則可疑線索能否說明標示理由?
  9. 證據保存:原始連結與擷取時間能否保存?原文刪除後如何處理?
  10. 歸因立場:是否宣稱能判定真偽或認定行為者?依據為何?

第十題建議寫進契約:應避免把可疑訊號直接表述為查證或歸因結論;對外說明與法律用途,須另行確認依據。

常見問題

不能,也不應該。系統產出的是可疑訊號與調查線索:哪個敘事正在擴散、可觀測資料中較早出現的位置、是否有疑似協同的跡象。內容真偽需要比對原始出處、向業務單位確認事實,或參考事實查核組織的結果,最終由有權責的分析人員判定。
兩者的資料來源可能相近,關注的問題不同。關鍵字與聲量監測適合回答哪些議題正在升溫、情緒如何分布;認知作戰監測另外關注敘事如何跨平台流傳,以及帳號行為是否有疑似協同的跡象。工具的分析範圍各異,可依需求評估。
InfoMiner 以網路爬蟲蒐集新聞、社群與論壇公開發布的內容,可涵蓋 PTT、Dcard、Facebook、YouTube、Threads、TikTok/抖音、LINE 社群、X 與 Instagram,整體超過 50 萬個頻道。實際範圍依方案與授權而定,平台改版或封鎖時可能出現缺漏;私訊與非公開群組不在範圍內。
可以提供可疑訊號。系統能擷取圖片內文字(OCR)、進行影像辨識,並對影片與深度偽造(deepfake)產出可疑訊號。產出是可疑程度,不是鑑定結論;多次轉錄、壓縮與翻拍可能削弱判讀特徵,仍需人工查證,涉及法律程序時應另循鑑識管道確認。
可以。研判紀錄、查證結論與內部知識可採 RAGi 地端部署;是否涉及對外傳輸,須依所選模型與介接配置確認。地端環境的硬體與維運需求,可依資料量與使用情境評估。InfoMiner 資料主機設於台灣境內。
時程依監測範圍、部署環境與客製需求而定,範圍與評估方式需另行確認。評估時可挑選幾件已結束的公開事件回測,比較不同方法的發現時間,並記錄未能提早發現或未取得資料的情況。

預約假新聞偵測與認知作戰監測產品說明

說明產品能力、適用條件與限制;客製需求另行評估。

立即諮詢