
在互聯網與人工智能深度融合的背景下,多模態人工智能生成內容技術(AIGC)融合語言理解、圖像處理和語音識別等科技,通過算力對文本、圖像、音頻及視頻等不同類型數據特征進行提取、整合與建模,進而生成相應內容。一方面,這提高了內容生成的速度和豐富性,為多個領域帶來創新動力;另一方面,它也會引發虛假信息和侵權內容批量化生成,如“AI換臉擬聲”等。
在AIGC生成過程中,數據源與算法模型的復雜交織。信息在生成、傳遞與處理的各個環節頻繁地進行轉換以及跨平臺整合,大幅增加了追溯難度。同時,對原創性標準的界定模糊,也使版權風險上升,加劇了治理復雜性。新形勢下,有必要推進AIGC治理的科學性、協作性、實效性,以維護網絡空間清朗。
第一,預防為先,強化規則與技術保障。
一方面,厘清AIGC監管框架。可實施針對“AI換臉擬聲”的相關規則或制度,讓從模型構建、數據獲取、用戶交互到應用場景等各個方面都能“有法可依”。通過明確責任邊界與責任歸屬,提升政策與法律的科學性、前瞻性,規范當下問題,預防潛在風險,為內容治理奠定堅實基礎。
另一方面,善用AI技術治理AI。通過融合多種技術構建高效的多模態聯合檢測模型,利用深度學習技術精準識別虛假、侵權和不良信息,提前識別和應對潛在的威脅,最大限度遏制不良信息生成和傳播。技術與法律的結合,既賦予技術更強的治理能力,又確保技術在法律框架內有序發展,實現技術賦能、法律規制的良性互動。
第二,源頭治理,規范內容生成全流程。
源頭治理是內容治理的關鍵環節。網絡平臺應主動履行社會責任,從算法構思、數據收集和標注到模型訓練、內容創作和發布進行嚴格監管。可引入區塊鏈技術對AIGC的生成及傳播進行全程記錄,借助其不可篡改的特點確保內容來源和流通信息清晰可追溯;優化數據標注與質量控制體系,剔除虛假、錯誤或有偏見的數據;設置專門的“AI創作”標簽,以幫助用戶更容易識別出AI生成的內容;完善審核機制,配備審核團隊,結合機器初篩與人工復審,提高審核效率和準確性。
通過規范內容生成的全流程,不僅可以減少虛假信息的產生,還能提升內容的質量和可信度。平臺作為內容生成和傳播的重要載體,有義務在算法設計和數據管理上嚴格把關,確保生成內容符合法律法規和社會道德標準。全流程的管理不僅是一種責任,更是對平臺自身聲譽和可持續發展的保障。
第三,多元協作,完善協同治理新機制。
多元化合作是應對復雜治理問題的有效途徑。政府應建立人工智能生成內容企業的備案登記,以加強對企業資質、數據安全和算法透明度的監管。相關監管機構應構建跨部門協同監管機制,定期對AIGC平臺實施評估和檢查。同時,推動行業協會制定自律準則,引導企業自覺遵守,加強行業內部監督與管理。
政府、企業、行業協會等各方力量的協同合作,可以形成全方位、多層次的治理體系:政府監管統籌發展與安全,為行業的發展指明方向;企業的自我約束筑牢信息安全第一道屏障;行業團體所制定的自律準則以及國家間的協作,可以為有效治理提供更為廣闊的視野和更豐富的資源。
此外,有必要激勵公眾積極參與對AIGC的監督。通過各種途徑,增強公眾對AIGC的理解和認識,提升數字素養;關注“數字弱勢群體”,推動彌合“AI數字鴻溝”,增強公眾識別虛假信息、侵權內容及有害信息的能力,提升對個人隱私保護和著作權保護的關注。在此基礎上,還應為公眾提供便捷的投訴、舉報、反饋渠道與回應、救濟服務,增強公眾參與治理的獲得感和信任感。
(作者為上海師范大學黨委宣傳部副部長)
https://www.shobserver.com/journal/article/share?id=423880



