今年兩會期間，全國政協(xié)委員靳東和全國人大代表雷軍均關(guān)注到“AI換臉”問題。靳東指出該技術(shù)導(dǎo)致詐騙問題引發(fā)熱議；雷軍則在其議案中提到，“AI換臉擬聲”濫用已成為違法侵權(quán)的重災(zāi)區(qū)。在互聯(lián)網(wǎng)與人工智能深度融合的背景下，多模態(tài)AIGC（AI-Generated Content：一種利用AI技術(shù)自動生成內(nèi)容的新型生產(chǎn)方式）因其卓越的內(nèi)容創(chuàng)造能力，迅速擴展至傳媒、教育、娛樂和營銷等多個領(lǐng)域。多模態(tài)人工智能生成內(nèi)容技術(shù)融合語言理解、圖像處理和語音識別等多種科技，通過算力對文本、圖像、音頻及視頻等不同類型數(shù)據(jù)特征進行提取、整合與建模，模型能夠自動識別這些數(shù)據(jù)之間的關(guān)系和深層次含義，進而生成內(nèi)容。這種技術(shù)的應(yīng)用不僅顯著提高了內(nèi)容生成的速度和豐富性，也為各個領(lǐng)域帶來了源源不斷的創(chuàng)新動力。

然而，多模態(tài)人工智能生成內(nèi)容技術(shù)的廣泛應(yīng)用，也導(dǎo)致了虛假信息和侵權(quán)內(nèi)容批量化生成。特別是對“換臉”“擬聲”等違規(guī)侵權(quán)行為的濫用，擾亂網(wǎng)絡(luò)信息的傳播秩序，并對網(wǎng)絡(luò)環(huán)境與內(nèi)容生態(tài)產(chǎn)生負面影響。數(shù)字產(chǎn)品的基石在于信息真實可信，在AIGC生成的過程中，數(shù)據(jù)源與算法模型的復(fù)雜交織，信息在生成、傳遞與處理的各個環(huán)節(jié)頻繁地進行轉(zhuǎn)換和跨平臺整合，大幅增加信息真實性追溯的難度。同時，對原創(chuàng)性標準的界定模糊化也使版權(quán)風險上升，進一步加劇治理的復(fù)雜性。因此，有必要大力加強多模態(tài)AIGC治理的科學(xué)性、協(xié)作性與實效性，以共同維護網(wǎng)絡(luò)空間清朗。

一、預(yù)防為先，強化法律與技術(shù)保障

人工智能的健康發(fā)展需要技術(shù)與法律的協(xié)同發(fā)力。首先，應(yīng)厘清AIGC監(jiān)管的法律框架，制定專門針對多模態(tài)AIGC領(lǐng)域的法律制度，使從模型構(gòu)建、數(shù)據(jù)獲取、用戶交互到應(yīng)用場景等各個方面，都能實現(xiàn)法律的全面覆蓋。通過明確法律邊界與責任歸屬，提升立法的科學(xué)性和前瞻性，為內(nèi)容治理奠定堅實的法律基礎(chǔ)。完善法律體系不僅能夠規(guī)范當前的問題，更能預(yù)防未來潛在風險，減少虛假信息和侵權(quán)行為的滋生。其次，技術(shù)手段同樣發(fā)揮著重要的作用。應(yīng)善用AI技術(shù)治理AI，通過融合多種技術(shù)構(gòu)建高效的多模態(tài)聯(lián)合檢測模型，利用深度學(xué)習(xí)技術(shù)精準識別虛假、侵權(quán)和不良信息。借助技術(shù)手段，提前識別和應(yīng)對潛在的威脅，最大限度地遏制不良信息的生成和傳播。技術(shù)與法律的結(jié)合，既賦予技術(shù)更強的治理能力，又確保技術(shù)在法律框架內(nèi)有序發(fā)展，實現(xiàn)技術(shù)賦能、法律規(guī)制的良性互動。

二、源頭治理，規(guī)范內(nèi)容生成全流程

源頭治理是內(nèi)容治理的關(guān)鍵環(huán)節(jié)。網(wǎng)絡(luò)平臺需要主動履行社會責任，要對從算法構(gòu)思、數(shù)據(jù)收集和標注，到模型訓(xùn)練，直至內(nèi)容創(chuàng)作和發(fā)布的整個過程進行嚴格監(jiān)管。引入?yún)^(qū)塊鏈技術(shù)對多模態(tài)AIGC的生成及傳播過程進行全程記錄，借助其不可篡改的特點，確保內(nèi)容的來源和流通信息清晰可追溯。應(yīng)設(shè)置專門的“AI創(chuàng)作”標簽，以幫助用戶更容易地識別出AI生成的內(nèi)容。建立嚴格的審核機制，配備專業(yè)審核團隊，結(jié)合機器初篩與人工復(fù)審，提高審核效率和準確性。優(yōu)化數(shù)據(jù)標注與質(zhì)量控制體系，剔除虛假、錯誤或有偏見的數(shù)據(jù)，從源頭降低不良內(nèi)容生成的風險。通過規(guī)范內(nèi)容生成的全流程，不僅可以減少虛假信息的產(chǎn)生，還能提升內(nèi)容的質(zhì)量和可信度。平臺作為內(nèi)容生成和傳播的重要載體，必須在算法設(shè)計和數(shù)據(jù)管理上嚴格把關(guān)，確保生成內(nèi)容符合法律法規(guī)和社會道德標準。全流程的管理不僅是一種責任，更是對平臺自身聲譽和可持續(xù)發(fā)展的保障。

三、多元協(xié)作，完善協(xié)同治理新機制

多元化合作是應(yīng)對復(fù)雜治理問題的有效途徑。政府需要建立人工智能生成內(nèi)容企業(yè)的備案登記，以加強對企業(yè)資質(zhì)、數(shù)據(jù)安全和算法透明度的監(jiān)管。相關(guān)監(jiān)管機構(gòu)應(yīng)構(gòu)建跨部門協(xié)同監(jiān)管機制，以形成綜合性的監(jiān)管措施，并定期對多模態(tài)AIGC平臺實施評估和檢查。推動行業(yè)協(xié)會制定自律準則，引導(dǎo)企業(yè)自覺遵守，實現(xiàn)行業(yè)內(nèi)部監(jiān)督與管理。加強國際合作，共同制定國際規(guī)則和標準，構(gòu)建全球性的AIGC治理體系。政府、企業(yè)、行業(yè)協(xié)會、國際組織等各方力量的協(xié)同合作，可以形成全方位、多層次的治理體系。政府監(jiān)管統(tǒng)籌發(fā)展與安全，為行業(yè)的發(fā)展指明方向；企業(yè)的自我約束筑牢信息安全第一道屏障；行業(yè)團體所制定的自律準則以及國家間的協(xié)作，可以為有效治理提供更為廣闊的視野和更豐富的資源。

四、依靠群眾，構(gòu)建全社會參與格局

在治理多模態(tài)AIGC的過程中，公眾不僅僅扮演著內(nèi)容消費者的角色，更是治理體系中不可或缺的主體之一。應(yīng)當激勵廣大公眾積極參與對多模態(tài)AIGC的監(jiān)督，引導(dǎo)社會組織參與共治，實現(xiàn)共建共享。通過各種途徑，如媒體宣傳、學(xué)校教育及社區(qū)活動，增強社會公眾對多模態(tài)AIGC技術(shù)的理解和認識，提升公眾數(shù)字素養(yǎng)。關(guān)注數(shù)字弱勢群體，推動彌合AI數(shù)字鴻溝，增強公眾識別虛假信息、侵權(quán)內(nèi)容及有害信息的能力，提升對個人隱私保護和著作權(quán)保護的關(guān)注。為公眾提供便捷的反饋渠道，使公眾能夠及時反映問題、提出建議，增強公眾參與治理的獲得感和信任感，從而提升基層治理的效能。

隨著多模態(tài)AIGC技術(shù)在元宇宙、虛擬現(xiàn)實等新興領(lǐng)域的應(yīng)用不斷拓展，網(wǎng)絡(luò)空間內(nèi)容治理正迎來前所未有的機遇，同時也面臨著諸多新的挑戰(zhàn)。為此，我們必須持續(xù)推進治理技術(shù)創(chuàng)新，進一步完善法律法規(guī)，不斷強化行業(yè)自律，持續(xù)提升公眾素養(yǎng)，并著力構(gòu)建一個更加健全、完善的治理體系。

（作者為上海師范大學(xué)黨委宣傳部副部長（新聞中心主任））

鏈接地址：https://www.shobserver.com/staticsg/res/html/web/newsDetail.html?id=871551