《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》答記者問

　　一、問：請簡要介紹《規(guī)定》出臺的背景？

　　答：制定《規(guī)定》主要基于以下幾個方面的考慮。一是深入貫徹落實黨中央決策部署。《法治社會建設(shè)實施綱要(2020-2025年)》明確提出制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。出臺《規(guī)定》，能夠進一步加強對新技術(shù)新應(yīng)用新業(yè)態(tài)的管理，統(tǒng)籌發(fā)展與安全，推進深度合成技術(shù)依法合理有效利用。二是維護網(wǎng)絡(luò)空間良好生態(tài)。深度合成服務(wù)在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。出臺《規(guī)定》，能夠劃定深度合成服務(wù)的“底線”和“紅線”，維護網(wǎng)絡(luò)空間良好生態(tài)。三是促進深度合成服務(wù)規(guī)范發(fā)展。落實《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，對應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)制定系統(tǒng)性、專門性規(guī)定，能夠明確各類主體的信息安全義務(wù)，為促進深度合成服務(wù)規(guī)范發(fā)展提供有力法治保障。

　　二、問：《規(guī)定》中所稱深度合成技術(shù)是指什么？

　　答：《規(guī)定》中所稱深度合成技術(shù)，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，具體包括篇章生成、文本風格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)，文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)，音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)，圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)等。

　　三、問：《規(guī)定》中所稱的深度合成服務(wù)提供者和技術(shù)支持者是指什么？

　　答：《規(guī)定》中所稱的深度合成服務(wù)提供者，是指提供深度合成服務(wù)的組織、個人。深度合成服務(wù)技術(shù)支持者，是指為深度合成服務(wù)提供技術(shù)支持的組織、個人。

　　四、問：《規(guī)定》對深度合成服務(wù)提供者落實信息安全主體責任作出了哪些要求？

　　答：《規(guī)定》對深度合成服務(wù)提供者主體責任進行了明確規(guī)定。一是不得利用深度合成服務(wù)制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事法律、行政法規(guī)禁止的活動。二是建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度，具有安全可控的技術(shù)保障措施。三是制定和公開管理規(guī)則、平臺公約，完善服務(wù)協(xié)議，落實真實身份信息認證制度。四是加強深度合成內(nèi)容管理，采取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，建立健全用于識別違法和不良信息的特征庫，記錄并留存相關(guān)網(wǎng)絡(luò)日志。五是建立健全辟謠機制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復制、發(fā)布、傳播虛假信息的，應(yīng)當及時采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)主管部門報告。

　　五、問：《規(guī)定》明確了深度合成服務(wù)提供者和技術(shù)支持者的哪些數(shù)據(jù)和技術(shù)管理規(guī)范？

　　答：一是加強訓練數(shù)據(jù)管理。采取必要措施保障訓練數(shù)據(jù)安全；訓練數(shù)據(jù)包含個人信息的，應(yīng)當遵守個人信息保護的有關(guān)規(guī)定；提供人臉、人聲等生物識別信息顯著編輯功能的，應(yīng)當提示使用者依法告知被編輯的個人，并取得其單獨同意。二是加強技術(shù)管理。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應(yīng)當依法自行或者委托專業(yè)機構(gòu)開展安全評估。

　　六、問：《規(guī)定》明確了深度合成服務(wù)提供者的哪些標識要求？

　　答：一是深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當采取技術(shù)措施添加不影響用戶使用的標識，并依法依規(guī)保存日志信息。二是提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務(wù)的，應(yīng)當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標識。

　　七、問：《規(guī)定》明確了深度合成服務(wù)提供者和技術(shù)支持者的哪些備案義務(wù)？

　　答：《規(guī)定》明確，具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。深度合成服務(wù)技術(shù)支持者應(yīng)當參照服務(wù)提供者履行備案和變更、注銷備案手續(xù)。完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

　　八、問：《規(guī)定》對深度合成服務(wù)提供者履行安全評估和配合監(jiān)督檢查義務(wù)提出了哪些要求？

　　答：《規(guī)定》明確，深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當依法配合網(wǎng)信部門和有關(guān)主管部門開展的監(jiān)督檢查，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風險的，網(wǎng)信部門和有關(guān)主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務(wù)等措施。

　　轉(zhuǎn)自：“網(wǎng)信中國”微信公眾號

　　【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀