久久99国产精品尤物-国产高清色播视频免费看-男生肌肌往女人桶爽视频-精品国产-91PORNY九色|www.jqdstudio.net

【論文】基于開源情報對網絡社交媒體中域外勢力操縱賬號的挖掘及管控對策研究

點擊：  作者：邵雷 石峰    來源：丁爸 情報分析師的工具箱 微信號  發布時間:2021-11-10 11:27:01

 

【摘要】：

[研究目的]網絡社交媒體被政治勢力用于發布虛假言論、煽動性言論、仇恨性言論,甚至是反政府言論,混淆公眾視聽,給國家安全帶來嚴重威脅。因此,針對此問題亟需開展對域外政治勢力操縱的社交媒體賬號進行挖掘分析和治理管控方面的研究工作。

 

[研究方法]在世界各國政治勢力利用網絡社交媒體開展特定政治意圖輿論宣傳的背景下,進一步分析我國境內存在的域外勢力實施的反政府輿論宣傳的惡劣行為,深入剖析域外勢力使用機器人操縱網絡社交媒體,造成他國亂局的手段和方法。 

 

[研究結論] 提出利用大數據建模和人工智能技術對域外勢力控制的可疑賬號進行管控的方法。建議我國政府在總體安全觀的指導下,對現有法律進行修訂和完善,出臺相關法律的實施細則,構建以政府為主導、多方共同參與的網絡社交媒體管控體系,以維護國家安全。

 

關鍵詞:網絡社交媒體;域外勢力;虛假宣傳;政治機器人;社交賬號

中圖分類號:G354

 

引言

在當今信息技術時代,技術的發展改變了獲取信息、表達觀點或相互交流的方式。社交媒體的廉價、易用和受歡迎的特性使其成為一種強大的工具,但是其也被政治勢力用來傳播錯誤信息或者進行虛假宣傳活動,通過使用算法、深度學習和人工智能等技術手段,擴大虛假信息在網絡中的傳播范圍,提升傳播速度,以實現政治戰略和目標,影響大眾思維,引導人們對事件的行為和觀點。

 

社 交 媒 體, 如 博 客、 微 信、Twitter、Facebook、GooglePlus、Instagram 等,都是豐富的信息來源,由于全球有數十億社交網絡用戶,通過提取與網絡社交媒體相關的元數據,對賬號注冊信息、發帖時間、發帖地點、發帖設備以及轉發、關注、點贊、回復、提及、超鏈接等社交網絡信息進行綜合分析,能夠挖掘出重點賬號以及幕后的操縱者。例如,近期在某些國家發生的游行示威,這些游行示威甚至逐漸最終發展為暴亂活動。仔細觀察分析此類事件能夠發現在多個國家和地區發生的示威場景都有著共同的特點:所有人員都有統一的服裝,免費的防護用品和飲水、食品等,還有統一的手勢和招牌動作。其實,這些都是復制的東歐、中亞顏色革命中的成熟經驗。利用開源情報工具分析后還發現:這些參與游行示威的人,表面上看起來似乎是無組織的自由組合,但都離不開網絡社交媒體和即時通訊工具,甚至是使用網絡加密通訊工具進行聯系與組織的,重點人員還參加了相關培訓。

 

1.全球政治勢力操縱網絡社交媒體開展輿論宣傳的現狀

 

心理學研究專家模擬利用網絡社交媒體開展虛假宣傳的實驗,實驗結束后告知被測試人員:剛才的事件是假的,以便幫被測試者從錯誤印象中擺脫出來。但事實卻顯示,這點極難完成。被測試者一旦確立了一個認知,哪怕稍晚些時候就被證偽了,其影響仍會繼續存在。這種現象是幾種認知過程共同作用的結果,人類的思維傾向于把新的信息放在既有印象的背景中去理解。因此,即使把真相告訴了人們,但依舊抹不去既有印象。一些政府和非政府組織正是利用了人類思維定勢的這個特點,使用人工智能技術操縱聊天機器人和聊天軟件,廣泛傳播對其有利的視頻、圖片和文章,從而達到特定政治目的。

 

波蘭內部安全機構人員 Krzysztof Tylutki 發表論文中就將網絡社交媒體稱為“另一種大規模殺傷性武器"。網絡社交媒體不僅成為傳播信息的有效路徑,也成為各國政府和社會組織爭相利用和爭奪的輿論宣傳陣地和思想意識戰場。美國加利福尼亞州“未來研究所"就曾發表文章聲稱其發現七個國家政府在利用網絡水軍開展輿論宣傳的證據和線索,報告稱:“這些網絡水軍的活動幾乎與現代互聯網的規模和發展速度同步"。華盛頓大學的通訊教授Katy Pearce 說,他研究了 Facebook 在阿塞拜疆的使用情況,“人們有時會擔心阿塞拜疆政府關閉 Facebook,但那是不會發生的,Facebook 恰恰是政府控制社會最有效的工具"。

 

Facebook 和 Twitter 等社交媒體似乎正在“努力"應對國家政府和其他組織對其平臺上重要資源的利用。數以百萬計的假帳戶利用算法操縱用戶可以看到的東西,而位置欺騙等技術可以使集中控制的帳戶看起來像是位于不同地區的真人形成的網絡輿論大軍。世界各國正在利用互聯網將信息技術作為權力整合和社會控制的手段,推動虛假信息操作,并且傳播和宣傳規模比以往更大。

 

為了應對 Twitter 和 Facebook 上發起的各類革命和社會運動,各國政府最初只能審查內容,阻止訪問社交媒體、并且使用監控技術審查其公民。但事實證明,通過大量的虛假信息和匿名威脅來淹沒平臺反而更加“有效“,研究人員稱之為“信息污染”戰略,這是由網絡社交媒體迅速傳播的特性所導致的。牛津大學牛津因特網研究所的計算宣傳項目研究了利用社交媒體操縱輿論的問題。分析了七個不同社交媒體平臺上的數千萬個帖子后發現計算宣傳中有幾個明顯的全球趨勢,比如:社交媒體是政治參與的重要平臺,也是傳播新聞內容的重要渠道;社交媒體平臺是年輕人發展其政治身份的主要媒體;社交媒體被積極地用作操縱公眾輿論的工具。

 

近年來,互聯網界面臨的問題常常被稱為信息武器化。“混合戰爭“和“公開和持續的跨界沖突”等短語經常使用,世界經濟論壇將錯誤信息列為社會面臨的主要威脅。由于通信公司已經建立了信息高速公路基礎設施,切斷了傳統的看門人(新聞媒體的編輯),不僅能傳播轟動性的錯誤信息,而且可以不成比例地用于認可政治行為體。用于在線執行特定任務的算法驅動的計算機程序已經侵入了全世界的政治對話。機器人占據了近 50% 的在線流量,并且在最流行的社交媒體平臺上占據了活躍用戶的很大一部分。例如,在Twitter 上,約有 3000 萬活躍賬戶由機器人驅動,它們模仿人類用戶并產生大量信息。

 

2. 域外政治勢力利用網絡社交媒體在中國境內進行反政府輿論宣傳的方法分析

 

2.1 政治勢力利用虛假公司注冊網絡社交媒體賬號在中國境內進行輿論宣傳

 

政治勢力除了使用域外twitter、facebook、telegram 等社交媒體在中國境內開展反政府宣傳以外,中國境內網絡社交媒體也被政治勢力廣泛利用,開展各種表面看是傳播社會負面新聞,或者支持某些弱勢群體,實則是搞亂人們思想、擾亂人們價值觀、培養民眾反政府情緒,最終達到反政府宣傳的目的。

 

在開源情報分析工作中發現,在國內影響力非常高的某社交媒體平臺也常常被政治勢力利用。雖然,網絡社交媒體公司利用人工智能技術對發帖內容開展了審核工作,一些明顯的反政府言論,甚至涉恐涉爆、違反法律法規的文章可以被機器算法屏蔽或刪除。但是,一些賬號采用了關鍵詞規避技術后仍然可以順利通過審核,這些賬號不斷地圍繞社會負面新聞熱點,深挖和放大負面新聞,持續地灌輸和煽動群眾反政府的潛意識和情緒。比如 2020 年 7 月,筆者發現某社交媒體群里曾有人大量轉發抨擊社會的負面視頻,以達到傳播反政府思想的政治意圖。經過分析后發現,這是一個在 2020 年 5 月 30 日新注冊的某網絡社交媒體賬號,其使用“某某百貨商行“工商信息注冊賬號“ ****”,該賬號內幾乎沒有原創文章,都是轉載的各類傳遞社會負面消息的視頻。通過企查查等開源情報工具查詢其工商注冊信息,可知“某某百貨商行”是 2020年 5 月 24 日新注冊的公司,注冊地址為“河南省某市某產業園 19 號”,除了有法人名字外,該公司登記注冊信息中無電話、無郵箱、無網址、無產品服務、無實繳資本、無社保等其他任何信息。用該地址進一步檢索發現,從 5 月 22 日到 26 日,短短 5 天時間,該地址上就注冊了十多家同類型的百貨商行,而且全部都是除了注冊地址和法人名字外,無其他任何登記信息。

 

類似利用購買“皮包公司”的注冊信息開設網絡社交媒體賬號的情況在境內社交媒體上比比皆是,比如筆者 2020 年 8 月發現一個網絡社交媒體賬號“某某趣事”使用的“皮包公司”注冊地址為某小商品物流城*號樓*室,在同一地址上一個月就登記了 392 家同類型的“皮包公司”。這種利用工商注冊信息開設網絡社交媒體賬號的手法,和電信網絡詐騙團伙利用購買工商注冊信息開設對公銀行賬戶用于實施詐騙完全相同。

 

2.2 政治勢力對我國開展輿論戰的方法分析

 

某些少數國家長期存在著“中國是與他們對立的極權、專制、獨裁、黑暗、邪惡的國度”的扭曲認知,對中國進行和平演變和“ 顏色革命”成為他們的終極目標。

 

某些國家除了按照傳統運作模式,以動搖中國民眾政治信念和制造不穩定因素為基本目標進行輿論宣傳以外,還日益重視在全球范圍內向其他國家及在國際組織層面大范圍傳播有關中國的負面報道,抵消中國在地區層級的正面影響,通過不斷削弱和打壓中國提升國際地位的努力,遏制中國實力的進一步壯大以及在國際社會中的影響力。

 

對上述兩個案例分析后可知,政治勢力操縱中國境內網絡社交媒體已經有很成熟的套路,沒有硝煙的輿論戰隨時隨地都在進行著。首先,為了規避國內網絡社交媒體賬號需要實名注冊的問題,域外政治勢力通過灰黑產市場大量購買工商注冊信息或者個人身份信息,再用買來的信息注冊大量的社交媒體賬號,有的是直接大量購買憑借他人信息注冊的社交媒體賬號,儲備待用。其次,在需要利用熱點新聞炒作某個事件時,政治勢力通過網絡水軍團隊或者政治機器人團隊,操控這些買來的以及新注冊的社交媒體賬號,大量集中轉發包含社會負面評價信息的文章、圖像、視頻。隨著計算機建模能力、仿真能力和推演能力的增強,人工智能技術進步也將涉及政治、經濟、社會、文化、軍事、外交等領域,未來基于全域戰、多域戰的智能輿論戰將會成為常態。輿論戰行動和輿論戰力量不僅將突破人類體力、腦力和智力的生理極限,克服人類容易疲勞、無法持久作戰的弱點,并可以針對特定群體隨時開展輿論博弈。

 

最后,域外政治勢力再利用其運營和掌控的非常有影響力的大號或者政治勢力所掌控的媒體和公知大V 轉發這些文章、圖像、視頻或者消息,從而達到快速傳播、擴大影響力,降低群眾對于政府的信任,增加群眾對政府和社會制度的不滿,進而煽動群體性事件發生,甚至演變成街頭暴力活動,造成社會動蕩,逐漸實現向顏色革命演變的目的。

 

3.政治機器人在網絡社交媒體虛假宣傳中的應用

 

政治勢力為了提高虛假信息的傳播速度,快速提升社交媒體賬號的影響力,利用人工智能技術研發政治機器人(團隊) 代替真人操作。政治機器人是一個自動賬戶,被編程為像用戶那樣交互,特別是在社交媒體上機器人的運營商借助算法注冊或者購買的形式掌控著大量社交媒體賬號,憑借虛假的個人身份向盡可能多的目標群體傳播具有特定目的的政治訴求,在短時間內引起廣泛的具有較大影響力的社會輿論。出于傳播虛假信息的目的,政治機器人可以用來推動某些政治事件的發展,傳播帶有放大或者誤導性的消息和扭曲的政治言論。而且存在政治機器人被反復使用,散布虛假信息干預選舉結果的情況,這表明存在可重復使用的政治機器人網絡黑市。由于人們對虛假信息機器人的影響日益擔憂,Twitter 在2018 年 5月至 6 月期間暫停了多達 7000 萬個賬戶,為了打擊虛假新聞,Facebook 在2018 年第一季度刪除了 5.83 億個虛假賬戶。專家預計,下一代機器人將使用自然語言處理,使其更難被識別為機器人。

 

3.1 網絡社交媒體中政治機器人的分類

 

政治機器人是社交機器人的一種類型。社交機器人是在社交網絡中扮演人的身份,擁有不同程度人格屬性且與人進行互動的虛擬 AI 形象。其中,被政治勢力操控并在社交媒體中廣泛參與政治討論的機器人程序,被稱為“政治機器人”。在利用網絡社交媒體的反政府宣傳運動中,機器人與人類行為者一同參與了宣傳工作,并且機器人在政治危機期間被作為強有力的宣傳工具。政治機器人可以分為核心機器人和外圍機器人兩大類,核心機器人又被細分為三個類別:短命機器人,長期存在機器人和文章生成機器人。每類機器人的工作任務又有所不同,短命機器人主要用來大量轉發其他賬戶的文章,卻很少發布自己賬戶的推文,工作時間較短,一般持續 5 周左右的時間;長期存在機器人與短命機器人的不同是由于使用了規避網絡監管的策略,賬號在線持續時間較長,一般在數十周以上,然后才被暫停了賬號;文章生成機器人主要用來生成并發送推文,但很少轉發其他賬號的文章。外圍機器人是指參與傳播過程的機器賬戶,他們的任務是轉發核心機器人生成的一條或多條推文。

 

3.2網絡社交媒體中政治機器人的行為策略 

 

政治機器人在社交媒體中參與討論現實政治話題,發表虛假信息和言論,影響社會網絡輿論環境。由于政治勢力的政治意圖不同,機器人的行為策略也不盡相同。因此,可以通過機器人的行為表現,分析其背后政治勢力的行動目的。政治機器人的行為策略主要有以下四種:

 

a. 制造虛假人氣。政治機器人冒充為政治領袖的支持者,營造粉絲數和點贊數飆升的假象,表面上制造政治人物在社交媒體上廣受歡迎的情景,這是政治機器人的一項基本行為策略。

b. 推送大量政治消息。在西方國家常被用于大選和化解政治危機,機器人向潛在選民推送政治新聞資訊,鼓勵用戶將支持候選人的信息轉發給好友并完成

投票。

c. 傳播虛假或垃圾政治信息。政治機器人擴散大量垃圾信息或虛假信息,對敏感的政治話題大肆夸張傳播,煽動線上網民和線下群眾參與其中。同時,也發布大量無關政治的垃圾信息以持續提升人氣,吸引更多的人群關注。

d. 制造煙霧,混淆視聽。魔術師在表演時會使用的一種技巧,讓觀眾在觀看表演魔術時看向別處。政治機器人也會在網絡社交媒體上使用類似的策略,發布無關新聞,但這些垃圾新聞信息是與特定的政治話題標簽綁定的,通過發布大量替代性的垃圾話題標簽來扼殺和掩蓋現實討論,從而模糊輿論空間,干擾政治討論。

 

4.域外勢力利用政治機器人開展反政府輿論宣傳的實施路徑分析

 

4.1 域外勢力利用政治機器人干擾國家政治生態環境 

 

從全球范圍來看,政治機器人主要被用在的在政治選舉、社會動員、政治干擾三種應用場景中。使用政治機器人可以將政治信息在短時間內大范圍進行廣泛傳播,對民眾的政治參與意愿也有一定的促進意義。同時,政治機器人對網絡輿論的干預也會影響公眾正常的輿論表達。域外政治勢力通過利用政治機器人模仿人類用戶以混淆輿論視聽,對公民信息進行自動化抓取和分析,操縱公共輿論,擾亂正常的組織信息交流。域外勢力通過將具有社交屬性、看似沒有宏大敘事、 “人畜無害”的符號或圖案作為自己的標簽,在社交媒體上利用話題標簽帶節奏,建立有利于政治勢力特定政治意圖傳播的標簽,污染別人的標簽、甚至改寫熱門標簽的成分,這其實跟當年的“郁金香”一樣,是發動顏色革命的新形態。

 

 

4.2 利用開源情報大數據挖掘技術對某政治勢力操縱政治機器人賬號行為進行識別與判斷 

 

近年來,在某些國家和地區的政治亂局中,某政治勢力利用網絡社交媒體平臺發布大量虛假信息,編造政治事件,抹黑、造謠以擾亂他國國內政局和鄰國間相互的政治交往關系,對他國國內民眾政治輿論造成誤導,制造國家間緊張態勢。通過查閱相關新聞、網站、百科等信息,利用開源情報收集整理了與該政治勢力有關的6個相關重點話題,并且對相關話題通過基于開源情報大數據挖掘技術的網絡社交媒體分析系統進行處理和關聯分析,深層次洞察和研判事件發展的時間脈絡,進而挖掘出在相關事件中處于關鍵傳播節點的數十個Twitter 賬號,再對這些賬號進行逐一細化和分析,最終分析出這些網絡媒體賬號之間的關系。通過對關鍵的 26 個個人推特賬號和 47 個組織推特賬號進行追蹤和梳理分析后,能夠得出以下結論:

 

a. 該政治勢力進行反政府輿論宣傳是提前經過周密策劃的。根據開源情報分析發現:某重點關注賬號是 2020 年 1 月注冊的,直到 4 月才發布第 1 條推文,即賬號注冊時間比啟動該賬號發布虛假信息推文的時間要早 3 個月,這一特征充分表明政治勢力是早有預謀和計劃的,在相關話題事件發酵前就已經提前注冊和話題密切相關的社交網絡賬號。進一步分析發現,轉發該賬號推文最多的是一些經常發布反政府言論的個人和非政府組織甚至是某些極端思想政治組織和人物的活躍賬號,可見各種政治勢力間是有著頻繁且密切的聯系,甚至還得到某些域外政府的支持。

 

b. 域外政治勢力統一操控網絡社交媒體賬號。根據開源情報分析還發現:某重點話題頁面于 2020 年 4月創建,其中包含大量反政府言論,負責管理此頁面的人員和評論者都與反政府組織有關。域外勢力統一操控網絡社交媒體賬號的步驟和方法是:首先,按照預謀計劃在關鍵時間節點由某一個網絡社交媒體賬號率先發帖,編造虛假信息,假借正義之名,號召成立政治運動同盟組織;然后,政治勢力中的另一個賬號表示積極響應,給予支持并且大量轉發推文來擴大宣傳;接下來,隨著同盟組織的影響力不斷提升,吸引更多不明真相的賬號加入并且大量轉發推文;最終,發展成為網絡社交媒體反政府同盟組織。通過對參加同盟組織的網絡社交媒體賬號注冊時間和發帖內容進行深度分析后,發現其網絡行為具有明顯的規律性和一致性,因此可以得出該同盟組織的網絡行為是有組織、有計劃的,背后是有域外組織統一操控的。

 

c. 域外勢力使用了大量政治機器人賬號用于虛假政治輿論宣傳。通過對推特上大量賬號和發帖進行機器自動掃描,發現如下與該域外政治勢力有關的重點賬號符合政治機器人特征:

 

重點賬號一:該賬號的推文原創的較少,僅有大量轉推和引用其他用戶的帖子,且無回復互動,判斷該賬號是機器人。

重點賬號二:該賬號于 2019 年 9 月注冊,注冊地址在孟加拉國,實際關注和轉發某國反政府虛假宣傳相關文章較多。并且發現與其關系密切的數個注冊時間相同,為了吸引粉絲而選擇轉發T 恤主題的賬號。這些賬號發帖時間過于均衡,發帖都是通過網頁客戶端發送,判斷為域外勢力操縱的政治機器人可能性較大。

重點賬號三:該賬號的推文全部是網頁端發送,點擊該帳戶的“ 推文和回復"欄并向下滾動最新的300條帖子,發現該賬號缺少互動,只是發帖,從來不與其他賬號互動,沒有任何內容回復,判斷是政治機器人操縱。

重點賬號四:該賬號僅白天發帖,其發帖時間均勻分布,主要是網頁發送推文且無回復,符合使用自動化程序控制發帖特征,判斷是政治機器人操縱。

重點賬號五:該賬號使用多個國家的多語種發布推文,其發帖時間非常固定,具有明顯的規律性時間特征,推文內容包含較高頻率的URL,并且無回復,判斷是政治機器人操縱。

重點賬號六:該賬號于 2008 年 5 月注冊,2020 年6 月 26 日后開始發推文,很明顯是新啟用的僵尸賬號。并且此賬號發推時間較集中,平均每天發帖數量過多,是政治機器人操縱可能性較大,且通過推文內容判斷與域外勢力關系密切。

重點賬號七:該賬號于 2014 年 1 月注冊,2020 年才開始啟用,且每天的發帖數量在1000 條以上,幾乎等于 24 小時不休息,每分鐘都在發帖,完全不符合人類行為特征。因此判斷該賬號為政治機器人操縱。

重點賬號八:該賬號于 2009 年 2 月注冊,僅 2016年 1-2 月和 2019 年 8 月以后發推文,存在與其他多個賬號集中同時發布相同或者相似推文內容的情況。因此,判斷該賬號是新啟用的僵尸賬號且為政治機器人操縱。

 

通過對與該域外勢力相關聯的其他賬號進行全面分析研究后發現:很多賬號都具有明顯的政治機器人操縱特征。比如,有的賬號轉推和點贊很有規律;有的賬號會用多種語言發送推文,甚至包含人類用戶通常不會發布的字符;有的賬號沒有頭像、冒用他人頭像或者使用卡通、風景、名人頭像,具有匿名化特征;還有的賬號使用的 ID(就是帶@ 的那個名字)是由算法生成的數字字母組合等等。

 

4.3域外勢力利用網絡社交媒體進行反政府宣傳的操控方法和路徑

 

通過對上述推特賬號,特別是八個重點賬號進行分析后,可以得出政治勢力利用網絡社交媒體進行反政府宣傳的操控方法和路徑。域外政治勢力通過網絡社交媒體平臺將各國“民主運動人員”組群,利用政治機器人等科技手段,采用團隊操控注冊新的網絡社交媒體賬號和啟用歷史僵尸賬號的方式,大量發送反政府內容的虛假造謠網帖,并通過其掌控的新聞媒體及有影響力的個人賬號進行大量轉發,從而在互聯網上快速傳播,達到特定政治目的。

 

域外政治勢力還妄圖利用互聯網和青年亞文化開展分裂民眾、顛覆政權的線上和線下活動,對青少年造成惡劣影響,進而危害我國的文化安全、意識形態安全,乃至國家安全。其實施反政府輿論宣傳的路徑主要體現在以下四個方面:

 

a. 域外勢力選取青少年普遍感興趣的飲食、漫畫等作為切入點,進行大量“二次元”式卡通漫畫風格的宣傳創作,惡意迎合青少年群體的趣味和喜好。

b. 域外勢力以符號化圖案在社交媒體中曬圖打卡,利用了當下眾多青少年文化圈層的基本心理,設計大量海報和插畫,以引誘大量不明真相的青少年關注并且參與到非法游行示威等政治活動中。

c. 域外勢力利用全職專業攝影師,日夜捕捉堪比好萊塢大片式構圖和光影的示威游行照片,美化暴力、破壞行為,進一步誤導青少年。

d. 域外勢力以跨媒介的方式,在動漫、游戲和網絡歌曲、網絡電臺等青少年聚集的媒介形態中進行擴散,并附帶支持同性戀等特殊圈層的青年亞文化議題,以障眼法的方式渾水摸魚的同時進一步綁架輿論。

 

5.對域外勢力利用網絡社交媒體開展反政府輿論宣傳的管控方法和對策

 

掌握了域外勢力利用網絡社交媒體進行反政府輿論宣傳的操控方法和路徑后,針對在我國境內存在的政治勢力實施的危害我國國家安全的惡劣行徑問題,提出管控方法和對策。我國政府要對政治勢力操控的社交媒體賬號加強管控,全面治理網絡社交媒體平臺中利用政治機器人傳播反政府虛假輿論宣傳的行為;利用大數據建模和人工智能等技術堅決遏制境內外各種政治勢力的反政府宣傳活動;構建政府主導、多方共同參與協作的多元共治的社交媒體治理新范式;通過立法強化對網絡違法信息言論的法律監管,尋求“網絡自由"和“法治監管"之間的動態平衡。

 

5.1 基于大數據建模技術建立關鍵信息數據庫對域外勢力操控的高危賬號進行管控 

 

對域外勢力操控高危賬號的治理和管控可以通過建立關鍵信息數據庫,應用數據碰撞、比對分析的方法,全面掌控政治勢力操控的社交賬號信息以及易被迷惑群體的社交賬號信息,有針對性地開展治理管控和教育宣傳工作。具體實施步驟是:

 

首先,要求國內網絡社交媒體和應用軟件建立平臺舉報功能,政府職能部門根據舉報線索收集與政治勢力反政府宣傳相關的賬號信息,并且對賬號注冊信息開展大數據建模分析,挖掘同類可疑賬號,建立可疑網絡社交媒體賬號數據庫。

其次,分析可疑網絡社交媒體賬號的人員注冊信息及工商注冊信息中的注冊時間、注冊地址、實繳注冊資金、聯系電話、網址、郵箱等重要內容,再利用大數據建模技術挖掘同類工商注冊信息,形成高危工商注冊數據庫。這種方法和打擊電信網絡詐騙案件中針對涉案對公賬戶的數據建模分析模式基本相同,并且已有較成功的案例。

再次,利用可疑網絡社交賬號數據庫和高危工商注冊數據庫開展數據交叉比對分析,形成高危網絡社交數據庫。同時,分析相關高危網絡社交賬號的資金流轉、注冊使用地址、關聯設備、關系人員和關聯社交賬號等信息,挖掘背后的操縱勢力,形成政治勢力操控高危網絡社交賬號數據庫。

最后,對關注和轉發高危網絡社交賬號信息的社交賬號進行分析比對,建立易被迷惑群體社交賬號數據庫。針對易被迷惑群體編輯和制作符合其思維和文化水平及其感興趣的視頻、圖像、文章,有針對性開展正面宣傳和思想教育宣傳。

 

5.2 利用人工智能技術對網絡社交媒體中的政治機器人進行治理

 

政治機器人是通過大量轉發推文、參與話題進行廣告發布或實現輿論影響的,主要體現形式是虛 假 信 息 的 傳 播。美 國 達 特 茅 斯 學 院 學 者Subrahmanian 認為,社交機器人賬戶特征通常具有共性,主要表現在文本語法、文本語義、時間行為、用戶資料和網絡等特征。例如,對于僵尸機器人按照共性特征可以將其推文內容細分為新聞、意見、垃圾郵件或者釣魚郵件、證詞、對話、突發新聞、動員抵抗或者支持、動員援助、征求信息、信息提供、流行文化等 12 類,再根據這些特征就可以對僵尸機器人賬號與人類賬號進行區分和識別。網絡社交媒體中對政治機器人的檢測識別和治理管控工作主要包括兩個方面:

 

一方面,運用人工智能和機器學習算法對共性特征集分析后,能夠精準地對政治機器人進行有效識別,然后將機器人賬號進行封禁或者從網絡社交媒體平臺中移除。同時,平臺提供封禁賬號的申訴功能,支持被移除賬號提交恢復賬號使用權的申請。基于社交圖的檢測法、人工眾包檢測法、基于活動特征的檢測法是三類主要利用計算機學對機器人進行檢測的方法,再結合網絡取證和社會網絡分析技術能夠對政治機器人進行更加準確的識別。其中,基于活動特征檢測法通過應用社交機器人探測分類器能夠發現機器人和人類在網絡社交媒體上發文內容以及行為上的差異,探測分類器主要由四個部分組成:熵組件用于檢測用戶推文的規律性和周期;機器學習組件用于檢測垃圾推文等機器人常用發文類型;賬戶屬性組件通過檢查推文中的外部 URL 比率或檢查發文設備(web、移動端或API)以幫助檢測和判斷機器人;決策生成器組件用來決定對被識別為機器人賬戶的管控行為。

 

另一方面,政府和社交媒體平臺共同建立服務于平臺治理的機器人管理員團隊。但要注意的是,需要將管理員團隊中的機器人賬號列為白名單,以免被人工智能檢測算法識別后誤移除網絡社交媒體平臺。該團隊定期向網絡社交媒體賬戶群發平臺管理規范和約束性措施具體實施辦法等規章制度和相關宣傳資料,保證媒體平臺監督部門與社交賬戶的強交互性以及媒體平臺發布信息及時有效的傳遞性;機器人管理員團隊通過神經網絡等機器自主學習方法,不斷迭代對政治機器人賬號的檢測識別算法,同時持續積累不同亞文化群體的語言形成語料知識庫,全面提高對虛假信息識別的準確度;機器人管理員團隊還能夠完成話題分類和內容驗證,對社交網絡平臺實時監督,在發現平臺中存在虛假信息傳播時,可以以相互關注、轉發、點贊和評論等群體性行為與政治勢力操控的政治機器人形成對抗;由于機器人管理員團隊具有群體性進化演變能力,因此可以培養團隊核心領袖機器人,吸引大量真人粉絲與其建立相互信任的關系,在處理突發性事件時第一時間利用領袖機器人的影響力傳遞正能量信息,從而實現揭穿虛假事件,還原事件真相,引導網民理性立場和站位,提升應對輿情事件的能力。

 

5.3在總體國家安全觀的指導下,構建政府、網絡社交媒體平臺和社會公眾多元共治的社交媒體治理新范式

 

面對域外勢力利用網絡社交媒體進行輿論導向操控、干涉政治生態、危害國家安全的嚴峻態勢,國家監管職能部門要在習總書記總體國家安全觀的指導下,積極構建政府、網絡媒體平臺和社會民眾共同參與、共同監督、共同治理網絡社交媒體的新范式,同心協力應對網絡社交媒體中各種威脅國家安全的問題。

 

政府相關監管職能部門要聯合開展網絡社交媒體領域的管控工作。在中共中央網絡安全和信息化委員會辦公室(簡稱:網信辦) 的全面統籌下,明確和優化網絡社交媒體政府各相關職能部門的工作職責,做到對網絡社交媒體平臺 24 小時全面監管,應用大數據可視化分析等科技手段對網絡媒體平臺上發布的信息進行持續性跟蹤和分析,對網絡舉報線索要及時核查,定期對不良違法信息開展匯總和分析,對網絡平臺整改工作進行全過程督導。通過分析高危工商注冊數據和高危網絡社交賬號數據,組織公安、工商、銀監會、工信部等部門聯合開展打擊買賣個人信息、工商信息、賬號信息的專項整治行動,鏟除相關黑灰產業鏈,開展源頭治理。政府各職能部門要組織相關企業共同研究注冊登記流程中易被違法犯罪和政治勢力利用的環節,改進和完善注冊登記流程,盡量減少被其利用的可能,增加其使用成本。

 

強化行業自律,對網絡社交媒體平臺進行有效監管和有序治理。要加大對網絡社交媒體平臺提供者的監管力度,將國內運營的域外網絡媒體社交平臺全部納入監管范疇,建立約束網絡平臺運營行為的統一行業規范和管理制度,明確劃分網絡平臺提供者的管理職責和范圍,建立行業自律制度。對于擁有用戶規模較大的社交網絡平臺必須自行承擔屏蔽、刪除、清理平臺上非法言論的法律責任,要定期公布平臺用戶舉報情況和處理結果,對于違反法律規定的網絡社交媒體平臺責任單位要給予高額罰款。政府監管部門應該要求網絡社交平臺向用戶提供 24 小時非法虛假內容的舉報服務,并且建立接受舉報后的處理制度,及時對舉報線索中的違法言論進行核查和回應;網絡社交平臺要制定專人處理用戶舉報信息,對于嚴重危害國家安全、違法的言論內容必須在接到舉報核查證實后立即刪除,對于被認定為非法內容的發帖在核實后要進行屏蔽、刪除和斷鏈接等處理;網絡社交平臺對舉報線索的內容、核查情況、處理時間、處理結果等工作情況要定期上報政府相關職能部門,形成政府監督和行業自治相結合的良性互動機制。

 

總體國家安全觀中指出要切實增強全民國家安全意識,把法治貫穿于維護國家安全的全過程各環節。這就要求社會公眾平時要多關注國家的方針政策,要積極學習科普知識,要有能力分辨網絡社交媒體中的虛假信息、反政府謠言和極端思想,要自覺提升抵御虛假信息和謠言的“自覺性”與“免疫力"。 社會公眾在網絡社交媒體中如果發現反政府言論、虛假信息等網絡違法線索,要及時向網絡平臺和政府監督部門舉報,充分發揮社會公眾對網絡社交媒體平臺監督的主體意識,增強全民維護國家安全的使命感,形成全民參與、多方互動、共同監督的良好氛圍。

 

5.4 我國要加強網絡社交媒體方面的立法和法律監管

 

2016 年網信辦相繼出臺了《互聯網信息搜索服務管理規定》、《移動互聯網應用程序信息服務管理規定》、《互聯網直播服務管理規定》 等一系列規范性文件,分別對互聯網信息搜索、互聯網應用程序信息服務、互聯網視頻直播服務進行了規范,但這些立法對于互聯網違法行為的規范,特別是對網絡社交媒體平臺中的危害國家安全、侵犯公民權益的后果和救濟方式以及懲罰措施的相關規定內容還不夠具體,迫切需要對其內容進行豐富和完善。《使用網絡社交媒體“ 九不準"》中雖然明確禁止九種不當網絡社交言論行為,但對于每種禁止行為的處罰標準和懲罰措施沒有提及,而且僅是在社交媒體使用者層面進行了行為約束,對媒體提供者沒有相關規定。

 

2017 年 6 月 1 日起施行的《中華人民共和國網絡安全法》 ( 簡稱《 網絡安全法》),旨在保障網絡安全,維護網絡空間主權和國家安全、社會公共利益,保護公民、法人和其他組織的合法權益,促進經濟社會信息化健康發展。《網絡安全法》雖然加強了互聯網方面的立法,但僅是框架式的法律規范,缺少具體的實施細則。

 

2019 年 12 月發布的《網絡信息內容生態治理規定》(簡稱《治理規定》)突出了網絡信息內容生態治理主體的多元化,明確多元參與協同共治的治理模式,《治理規定》中明確網絡信息內容生產者應當防范和抵制八類不良信息,不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。但是,《治理規定》的性質是部門規章,其適用受到諸多限制,使其更具倡導性、欠缺實踐性,對發布者、使用者、發布平臺和行業組織的約束力較弱。

 

因此,在新時代總體國家安全觀的指導思想下,我國應當對《網絡安全法》 等現有法律法規進行修訂和完善,比如今年 1 月,國家網信辦已經就《互聯網信息服務管理辦法(修訂草案征求意見稿)》 公開征求意見。我國需要以現有基本法為基礎,借鑒全球各國在互聯網治理方面的立法優點,制定管控網絡社交媒體平臺方面專門法律。

 

比如,德國在《社交媒體管理法》立法過程中實行社交媒體網絡信息的分類分級治理機制,再根據不同類型的危害程度規定了相應的處罰標準。德國將網絡平臺的信息主要劃分為三大類:第一類屬于誹謗、詆毀、新納粹和暴力煽動的言論;第二類是明顯的違反現行法律的言論;第三類是具有爭議的言論。對于第一類言論,社交網絡平臺必須在 7 天內刪除用戶舉報的非法內容;第二類言論,必須在舉報后24 小時內刪除或屏蔽;第三類言論,也必須在舉報后 7日內做出處理。我國還要進一步對網絡安全相關立法模式和法律規定的側重點進行明確和細化,既要規范社會公眾在網絡社交媒體平臺上的言行和法律責任,又要對平臺提供者的監管職責和相關責任進行明確;既要使網絡監管更加有效,又要保護合法言論。從而實現依法治網,以法律來約束網絡平臺的行為,切實維護網絡空間正常的交流秩序,維護國家安全。

 

由于與互聯網治理相關的行政機關結構框架錯綜復雜,很容易出現管理內容交叉的問題,導致各行政機關工作協調不夠順暢,規定的內容出現重復甚至沖突等現象。因此,需要通過立法的方式明確各相關行政機關的行政組織地位和法律地位。目前,我國對網絡社交媒體領域進行管制的主要政府部門是網信辦,雖然《網絡安全法》對網信辦的職能和職責有所規定,但是其行政組織法地位、管理事項及管轄范圍仍不十分明確,所以應當在相關法律和行政法規中更加清楚的闡釋網信辦的管理范圍以及和其他職能部門的關系,明確網絡社交媒體領域監管主體,準確劃分各監管部門的工作職責,調整政府監管框架,建立具有反饋機制和處理機制的統一行政組織監管體系,確保行政監管職能部門工作能夠更加高效順暢。

 

6 結語

 

網絡社交媒體被一些國家、政客和政治勢力所利用,通過操縱政治機器人,傳播誘導性虛假信息,實現在政治范疇對公眾意識形態的誤導宣傳,達到影響他國政治生態,擾亂甚至顛覆他國政局的險惡目的。境內網絡社交媒體平臺上也存在著大量用來傳播、攻擊或對抗中國政府的虛假信息,嚴重影響了我國的國家形象和國家安全。本文詳細分析了域外勢力利用網絡社交平臺和政治機器人進行反政府輿論宣傳的方法和路徑。為了應對我國國家安全方面存在的風險,從基于開源情報的大數據建模分析、人工智能技術、政府職能部門監督管理和出臺相關法律實施細則等方面給出了有針對性的管控方法和對策。

 

參考文獻(略）

 

文章來源：《情報雜志》網絡首發論文 

作者：邵雷，石峰 

網絡首發日期：  2021-11-05

引用格式：  邵雷，石峰．基于開源情報對網絡社交媒體中域外勢力操縱賬號的挖掘及管控對策研究[J/OL]．情報雜志.

https://kns.cnki.net/kcms/detail/61.1167.g3.20211105.1103.016.html 

 

來源：丁爸 情報分析師的工具箱微信號