Trace Id is missing

數位時代的政治宣傳:網路影響行動如何毀壞信任

藍紙和白紙的特寫

調查全球的網路影響行動,有些國家/地區散發威脅性資訊,毀壞民主蓬勃發展所需的信任資訊。

現今的國外影響行動利用新的方法和技術,讓毀壞信任的活動更加高效和有效。

越來越多國家/地區使用複雜的影響行動來散發宣傳,並影響國內和國際輿論。這些活動侵蝕了信任,加劇兩極分化並威脅了民主程序。

熟練的先進持續性操縱行為者正利用傳統媒體、網際網路和社交媒體,大大地增加其活動的範圍、規模和效率,以及他們對全球資訊生態系統的巨大影響。

由於工具的激增,合成媒體正變得越來越普遍,這些工具可以輕鬆建立和傳播高度逼真的人工影像、影片和音訊。認證媒體資產來源的數位來源技術有望用來打擊濫用。

需要一種整體的方法來保護解決方案免受網路影響行動的威脅。Microsoft 正在建置已經成熟的網路威脅情報基礎結構,以打擊網路影響行動。我們的策略是偵查、破壞、捍衛和阻止外國入侵者的宣傳活動。

自 2019 年以來,深度偽造的擴散同比增長了 900%1

隨著技術的快速發展,網路影響行動越來越複雜。我們看到傳統網路攻擊中使用的工具,重疊和擴大地應用於網路影響行動。此外,我們觀察到國家/地區之間的協調和放大程度有所增加。

全球各地專制政權正共同合作污染資訊生態系統,並使其互惠互利。關於相互放大方面,國家/地區媒體創造了生態系統,在這個生態系統中,官方媒體對民主國家進行負面報導,或對盟友的正面報導,再由其他生態系統中的國家媒體進行強化。

雪上加霜的是,私人部門的技術單位可能會在不知不覺中促成這些活動。啟用者註冊網際網路域名、託管網站、在社交媒體和搜尋網站上推廣宣傳資料和引導流量,並透過支付數位廣告來幫助這些行動的公司。

組織必須了解專制政權使用於網路影響行動的工具和方法,以便能夠發現並防止活動的蔓延。

我們也更需要協助消費者培養更複雜的能力來識別外國影響行動,並限制他們對敘事或內容的參與。

需要加強政府、私人部門和公民社會之間的協調和訊息共用,以提高透明度並揭露和破壞這些影響行動。

  • 外國網路影響行動在網際網路上的公共領域引入宣傳,有時含有虛假敘事,有時透過現實世界的事件或引發挑釁行為。在網際網路上被忽視的虛假敘事可能會讓隨後的引用看起來更可信。

    範例 1

    在疫情初期,隸屬於俄羅斯和伊朗官方媒體的邊緣陰謀網站發表了對一位法律教授的採訪,該教授認為 COVID-19 是美國製造的生物武器。

     

    範例 2

    3 月 7 日,俄羅斯向聯合國 (UN) 提交檔案,預先陳述烏克蘭馬里烏波爾的一家婦產醫院已被清空用來當作軍事基地。

  • 啟動協調活動,透過政府支持和影響的媒體和社交媒體頻道傳播敘事。

    範例 1
    2020 年 2 月,伊朗政府支持的媒體 PRESSTV 在採訪中發表了一篇英文報道,俄羅斯官方媒體和中國政府帳戶很快地就開始評論這篇文章。

     

    範例 2
    3 月 9 日,俄羅斯轟炸了醫院。當爆炸事件的消息傳出時,俄羅斯駐聯合國代表在 X 上推文表示,爆炸事件的報導是「假新聞」,並引用了俄羅斯稍早對於醫院涉嫌用作軍事基地的說法。
  • 最後,國家/地區控制的媒體和代理人放大了提供給目標受眾的敘事。通常,不知情的技術推動者擴大了敘事的涵蓋範圍。

    範例 1
    國有媒體《今日俄羅斯》(RT) 也發表至少一篇報導,宣傳伊朗官員的聲明,聲稱 COVID-19 可能是「美國針對伊朗和中國使用生物攻擊的產物」,並在社交媒體上發佈了許多帖文。

     

    範例 2
    在醫院遭受襲擊後的兩周內,俄羅斯在其控制的網站上廣泛傳播了相似的敘事。這些敍事在網路上的放大效果,使得俄羅斯有能力轉移責任到國際舞台並避免受到問責。

合成媒體

我們正在進入一個支援 AI 的媒體創作和操縱的黃金時代。Microsoft 分析師指出,這是由兩個關鍵趨勢推動的結果:人工建立高度逼真的合成影像、影片、音訊和文字所使用工具和服務的激增,以及快速傳播針對特定受眾最佳化內容的能力。

合成文字和媒體領域的發展正以令人難以置信的速度向前推進,而且我們己經很接近任何人都可以說到或做到建立合成影片的地步。

深度偽造:合成文字和媒體的技術

這些技術可用於勒索個人、公司或機構,將個人置於尷尬的位置或情況。如今,這種 AI 支援的先進技術尚未在網路影響行動中廣泛使用,但我們預計隨著工具變得更容易且廣泛地使用之後,問題會越來越嚴重。

  • 將影片中的一個臉部替換為另一個臉
  • 使用影片為靜止圖像或其他影片製作動畫
  • 用於生成逼真圖像的一系列技術
  • 根據文字描述建立豐富的影像

利用操作資訊造成傷害或擴大影響,並不是什麼新鮮事。然而,資訊傳播的速度和我們無法快速分辨事實與虛構,意味著偽造和其他合成生成的惡意媒介造成的影響和危害將可能要大得多。

我們考慮的危害分為幾類:市場操縱、支付欺詐、語音釣魚、模擬冒充、品牌損害、聲譽損害和殭屍網路。其中許多類別在現實世界已有廣泛報導的案例,這將會破壞我們分辨事實和虛構的能力。

一個更長期和陰險的威脅是該如何理解真實,如果我們不能再相信我們所看到和聽到的事物。正因為如此,任何公共或名人有損聲譽的圖像、音訊或影片都可以被視為假的,這種結果被稱為騙子的紅利。2

產業界、政府和學術界都在努力開發更好的方法來偵測和減輕合成媒體的危害,並還原應有的信任。有幾條有前途的前進道路,也有需要考慮的障礙。

Microsoft 的策略架構專用於協助跨部門利益相關者的偵測、破壞、防禦和阻止宣傳,特別是外國侵略者的活動。

偵測
與網路防禦一樣,對抗外國網路影響行動的第一步便是發展偵測的能力。任何公司或組織都不能指望單獨取得所需的進展。整個技術部門新的、更廣泛的共同作業將至關重要,分析和報告網路影響行動的進展在很大程度上取決於民間社會扮演的角色,包括學術機構和非營利組織。
防禦
第二個策略支柱是鞏固民主防禦,這是需要投資和創新的長期優先事項。它應該考慮到技術給民主社會帶來的挑戰,特別是對新聞業和地方新聞的破壞,以及這些技術為更有效地捍衛民主社會創造的機會。

這需要持續的投資和創新,必須反映不同國家/地區和大陸的當地需求。這些問題並不容易,它們需要多利益攸關方的處置方法,而 Microsoft 和其他科技公司正越來越多地支援這種方法

破壞
近年來,Microsoft 數位犯罪小組 (DCU) 改進策略並開發工具,用來破壞從勒索軟體到殭屍網路以及國家/地區攻擊的網路威脅。我們已經吸取了許多重要的教訓,首先是主動破壞在對抗各種網路攻擊中產生的作用。

當我們考慮對抗網路影響行動時,破壞可能會發揮更重要的作用,而破壞的最佳方法正越來越清晰地呈現出來。對付廣泛欺騙的最有效解藥是透明度。這就是為什麼 Microsoft 透過收購 Miburo Solutions 來提高其偵測和破壞國家/地區影響行動的能力,Miburo Solutions 是一家領先的網路威脅分析和研究公司,專門從事外國網路影響行動的偵測和回應。Microsoft 將這些分析師與 Microsoft 擁有威脅情報背景的分析師結合,成立了數位威脅分析中心 (DTAC)。DTAC 對於國家/地區威脅的分析和報告,包括網路攻擊和影響行動,結合地緣政治與資訊和威脅情報分析, 提供深入解析以及回應和保護的有效資訊。

阻止
最後,如果對違反國際規則的行為不追究責任,我們就無法指望各國改變行為。政府對執行這種問責制責無旁貸。然而,多利益攸關方的行動在加強和擴展國際規範方面發揮著日益重要的作用。

包括 Microsoft 在內的 30 多家在線平臺、廣告商和出版商簽署了最近更新的歐盟委員會《虛假信息行為準則》,同意加強承諾,以應對這一日益嚴峻的挑戰。如同最近的「巴黎呼籲」、「克賴斯特徹奇呼籲」和「互聯網未來宣言」一樣,多邊和多利益攸關方的行動可以使民主國家的政府和公眾團結一致。繼而,各國政府可以基於這些準則和法律,推進世界民主國家所需要和應得的問責制。

透過快速而徹底的透明度,借助歸因國家/地區攻擊的來源、告知公眾和建立對機構的信任,可以有效地削弱影響活動。

來源:2022 年 11 月 Microsoft 數位防禦報告

相關文章

特別報告:烏克蘭

Microsoft 分享了對針對烏克蘭的網路攻擊的見解,重點介紹了攻擊中的詳細資訊以及以俄羅斯為大本營的國家/地區攻擊者的範圍、規模和方法。

Cyber Signals:Issue 1

身分識別是最新的話題焦點 深入解析不斷演變的網路威脅,以及更妥善也保護組織應採取的步驟。

保衛烏克蘭:從網路戰爭中獲得的早期教訓

我們在俄烏戰爭中持續進行的威脅情報工作的最新發現,以及前四個月的一系列結論都強調了在科技、資料和合作夥伴關係方面進行持續和新的投資以支援政府、公司、非政府組織和大學的必要性。