在互聯網與人工智能深度融合的背景下，多模態人工智能生成內容技術（AIGC）融合語言理解、圖像處理和語音識別等科技，通過算力對文本、圖像、音頻及視頻等不同類型數據特征進行提取、整合與建模，進而生成相應內容。一方面，這提高了內容生成的速度和豐富性，為多個領域帶來創新動力；另一方面，它也會引發虛假信息和侵權內容批量化生成，如“AI換臉擬聲”等。

在AIGC生成過程中，數據源與算法模型的復雜交織。信息在生成、傳遞與處理的各個環節頻繁地進行轉換以及跨平臺整合，大幅增加了追溯難度。同時，對原創性標準的界定模糊，也使版權風險上升，加劇了治理復雜性。新形勢下，有必要推進AIGC治理的科學性、協作性、實效性，以維護網絡空間清朗。

第一，預防為先，強化規則與技術保障。

一方面，厘清AIGC監管框架。可實施針對“AI換臉擬聲”的相關規則或制度，讓從模型構建、數據獲取、用戶交互到應用場景等各個方面都能“有法可依”。通過明確責任邊界與責任歸屬，提升政策與法律的科學性、前瞻性，規范當下問題，預防潛在風險，為內容治理奠定堅實基礎。

另一方面，善用AI技術治理AI。通過融合多種技術構建高效的多模態聯合檢測模型，利用深度學習技術精準識別虛假、侵權和不良信息，提前識別和應對潛在的威脅，最大限度遏制不良信息生成和傳播。技術與法律的結合，既賦予技術更強的治理能力，又確保技術在法律框架內有序發展，實現技術賦能、法律規制的良性互動。

第二，源頭治理，規范內容生成全流程。

源頭治理是內容治理的關鍵環節。網絡平臺應主動履行社會責任，從算法構思、數據收集和標注到模型訓練、內容創作和發布進行嚴格監管。可引入區塊鏈技術對AIGC的生成及傳播進行全程記錄，借助其不可篡改的特點確保內容來源和流通信息清晰可追溯；優化數據標注與質量控制體系，剔除虛假、錯誤或有偏見的數據；設置專門的“AI創作”標簽，以幫助用戶更容易識別出AI生成的內容；完善審核機制，配備審核團隊，結合機器初篩與人工復審，提高審核效率和準確性。

通過規范內容生成的全流程，不僅可以減少虛假信息的產生，還能提升內容的質量和可信度。平臺作為內容生成和傳播的重要載體，有義務在算法設計和數據管理上嚴格把關，確保生成內容符合法律法規和社會道德標準。全流程的管理不僅是一種責任，更是對平臺自身聲譽和可持續發展的保障。

第三，多元協作，完善協同治理新機制。

多元化合作是應對復雜治理問題的有效途徑。政府應建立人工智能生成內容企業的備案登記，以加強對企業資質、數據安全和算法透明度的監管。相關監管機構應構建跨部門協同監管機制，定期對AIGC平臺實施評估和檢查。同時，推動行業協會制定自律準則，引導企業自覺遵守，加強行業內部監督與管理。

政府、企業、行業協會等各方力量的協同合作，可以形成全方位、多層次的治理體系：政府監管統籌發展與安全，為行業的發展指明方向；企業的自我約束筑牢信息安全第一道屏障；行業團體所制定的自律準則以及國家間的協作，可以為有效治理提供更為廣闊的視野和更豐富的資源。

此外，有必要激勵公眾積極參與對AIGC的監督。通過各種途徑，增強公眾對AIGC的理解和認識，提升數字素養；關注“數字弱勢群體”，推動彌合“AI數字鴻溝”，增強公眾識別虛假信息、侵權內容及有害信息的能力，提升對個人隱私保護和著作權保護的關注。在此基礎上，還應為公眾提供便捷的投訴、舉報、反饋渠道與回應、救濟服務，增強公眾參與治理的獲得感和信任感。

（作者為上海師范大學黨委宣傳部副部長）

鏈接地址：https://www.shobserver.com/staticsg/res/html/journal/detail.html?code=jfrb&date=2025-03-18&id=423880&page=10

https://www.shobserver.com/journal/article/share?id=423880