近期，在西藏日喀則市定日縣地震及美國加利福尼亞州洛杉磯縣山火發生后，不少AIGC（編者注：AI-Generated Content，是一種利用AI技術自動生成內容的新型生產方式）生成的圖片及視頻被當作事實呈現，誤導民眾，引發人們對網絡空間AIGC虛假信息的擔憂。現階段，AIGC虛假信息尚可肉眼辨識，但隨著AI技術的進步，肉眼分辨的難度將越來越高。網絡空間AIGC虛假信息的治理亟待加強，需要從法治、自治、德治、技治、智治等多維度推進，強化法律法規、自律約束、倫理道德、技術手段、媒介素養等系統治理，提升治理的科學性、協同性、實效性。

進一步完善法律法規體系以強化依法治理

通過細化和完善針對網絡空間AIGC虛假信息的法律法規，明確虛假信息的界定標準、傳播責任、處罰措施等，提高違法成本，形成法律威懾。通過建立健全專門的監管機構或部門，加強對AIGC服務提供者的監管，定期對AIGC平臺進行檢查和評估，及時發現和處理虛假信息傳播問題，并加強協同合作，形成監管合力，共同打擊利用AIGC傳播虛假信息的違法犯罪行為。通過推動國際合作與立法協調，加強國家間的合作與交流，共同制定國際規則和標準，構建全球性的AIGC虛假信息治理體系。

進一步優化平臺自律約束以提升自治效力

督促新聞資訊和社交類平臺建立嚴格的內容審核制度，配備專業的審核團隊和先進的技術手段，實現機器初篩與人工復審相結合，提高審核效率和準確性，及時發現并刪除虛假信息。建立用戶信用體系，對平臺用戶進行信用評估和管理，給予相應的信用等級，對于頻繁發布虛假信息的用戶，可降低其信用等級，并采取限制發布權限、封禁賬號等措施；對于信用良好的用戶，給予激勵和獎勵。加強AIGC平臺自律與行業規范，優化行業標準體系，制定行業自律準則，加強行業內部的監督和管理，共同維護網絡空間信息的真實性。

進一步加強相關倫理建設以崇尚誠實守信

AIGC平臺和相關行業要制定嚴格的倫理規范和準則，將倫理規范融入AIGC技術全周期管理中，包括算法設計、數據采集與標注、模型訓練到內容生成與發布等各個環節。加強對AIGC從業者的職業道德教育和培訓，提高其道德素養和社會責任感，自覺遵守行業倫理規范，為網絡空間提供高質量的AIGC內容。在AIGC技術研發和應用機構中建立倫理審查委員會或倫理審查機制，對AIGC重大項目和創新應用進行倫理審查，通過評估確保技術發展符合社會倫理道德要求，防止虛假信息傳播等不良后果的產生。

進一步提升技術治理水平以促進技術向善

優化算法與模型，使生成的內容更加符合真實世界的規律，從源頭減少虛假信息的生成。同時，加強對模型訓練過程中的監控和調整，及時發現并糾正可能導致虛假信息產生的參數設置或訓練偏差。及時發現并處理虛假信息，利用自然語言處理、圖像識別、機器學習等技術，分析文本中的語義矛盾、邏輯漏洞，以及識別圖片和視頻中的合成破綻等，對疑似虛假信息進行標記和預警。優化數據標注與質量控制，建立嚴格的數據標注規范和質量控制體系，對數據進行細致的篩選、標注，剔除其中虛假、錯誤或有偏見的信息，優先選用權威、可信的數據源，從數據層面降低虛假信息生成的風險。

進一步提升公眾媒介素養以增強信息甄別能力

通過媒體普及、學校教育、社區宣傳等多種渠道，加強對公眾的媒介素養培育，培養公眾的信息甄別能力，提高公眾對網絡空間AIGC虛假信息的識別能力和防范意識，使公眾成為抵制虛假信息傳播的重要力量。健全監督舉報機制，鼓勵公眾積極參與對網絡空間AIGC虛假信息的監督和舉報，形成全社會共同參與治理的良好氛圍。廣泛開展科普宣傳教育，從“灌輸式”向“賦能式”轉變，彌合AIGC數字鴻溝，消除公眾對新技術的誤解和恐慌，展示虛假信息的危害和治理成果，增強大家對治理網絡空間AIGC虛假信息的信心和支持度。

鏈接地址：https://mp.weixin.qq.com/s/nwpKk7qDMh0ncBC2JCjXHQ