人工智能與網絡辟謠：做真相的守護者
近日，在中央網信辦違法和不良信息舉報中心指導下，中國互聯網聯合辟謠平臺推出《澄清謬誤、傳遞真相》系列辟謠訪談，邀請健康、醫療、經濟、科技、傳媒等行業專家，對常見謠言進行分析，內容涵蓋多類社會民生熱點話題，幫助廣大網民朋友提升識謠辨謠能力、提高網絡媒介素養。
本系列第二期訪談——《人工智能與網絡辟謠：做真相的守護者》，針對人工智能科技在辟謠工作中的創新應用主要內容，邀請新華網AIGC-Safe平臺首席技術專家、中國科學院計算所數字內容合成與偽造檢測實驗室主任曹娟接受專訪，就AI生成信息鑒別、偽造檢測系統應用技術等問題，提供專業解答。
有人說“人工智能會威脅人類安全”，您怎么看？
需要多方合作，打出AI安全防護組合拳。
人工智能技術，特別是近期GPT-4等生成式人工智能的爆炸式發展，將帶領人類進入人工智能生成內容（AIGC）時代，未來AIGC數據將成為新增數據主流。但技術的快速發展也帶來了新的未知安全風險。這些AI安全問題目前尚無定論。我們需要在技術研發、產業應用、制度設計等各方面加強合作，打出AI安全防護的組合拳。
如何檢測和鑒別AI生成信息的真實性？
檢測和鑒別偽造內容，核心是要回歸技術。
當前數字合成內容很多已經超過了人眼的辨識能力，多數人無法靠肉眼判斷一段視頻、一張照片或一段語音是否來自真人。要檢測和鑒別這些偽造內容，核心是要回歸技術。我們構建了訓練數據自動生成平臺作為數據底座，能夠快速生成TB級的訓練數據，支撐檢測技術迭代，同時基于“生成—檢測—對抗”的模型自進化流程，構建了十億量級的多模態生成模型和檢測模型底座，在攻防演練中提升檢測水平。最后，針對具體應用，通過快速微調實現了多個行業場景高精度的偽造檢測服務。
人工智能技術在網絡辟謠工作中的應用場景和功能優勢有哪些？
能夠及時鎖定可疑線索，提高針對新型偽造信息的辟謠效率。
以AI生成文本為例，隨著ChatGPT類模型服務的普及，自媒體創作者開始使用AI生成文本大批量制作內容。其中，以博眼球、賺流量為目的，利用ChatGPT杜撰虛假新聞的情況越來越多。由于AI生成虛假新聞的文風非常貼近正規報道，因此既有審核能力很難及時發現并開展辟謠。AI生成文本檢測技術及時填補了這一缺陷，保障了對這種新型偽造內容的快速有效識別。
人工智能在網絡謠言發現、查證工作中的應用面臨著哪些風險和挑戰？
AI生成的虛假信息越來越多，對審核系統數據計算速度要求越來越高。
目前人工智能在網絡謠言發現、查證工作中面臨兩大挑戰。第一，新型偽造技術與傳統偽造技術差異較大，造成傳統檢測模型大范圍失效，例如傳統檢測模型多數無法識別出基于擴散模型生成的人物圖像；第二，AI生成技術的普及降低了信息偽造的門檻，需要審核的AIGC數據越來越多，計算速度瓶頸日漸顯現。面對這些挑戰，關鍵是要提高檢測模型的通用性，通過軟硬件協同優化，滿足高通量高并發需求。
AIGC技術未來在網絡辟謠工作中還有哪些突破點？
基于AIGC技術，未來有望提供更個性化、更易懂的自動化辟謠解釋。
辟謠是消除虛假信息中的重要一環，如果人不能理解“為什么假”，就很難消除因虛假信息造成的錯誤認識。基于AIGC技術，我們有望提供更個性化、更易懂的自動化辟謠解釋，這個解釋可能是一份造假痕跡的分析報告，也可能是一段符合目標受眾認知偏好的辟謠短文。AIGC-Safe將推動“識謠-辟謠”全鏈條智能化，用AIGC守護AIGC安全，用技術讓世界更可信。
責任編輯：龔逍遙
