近日，國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網信息服務深度合成管理規(guī)定》(簡稱《規(guī)定》)，自2023年1月10日起施行。其中，《規(guī)定》明確了提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
何為深度合成技術？
深度合成技術，主要是指利用深度學習、內容合成、虛擬現(xiàn)實、人臉合成、語音合成等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術，包括但不僅限于文本風格轉換、問答對話、文本轉語音、語音轉換、場景聲編輯、人臉操控、人臉替換、人臉操控、圖像生成、數字仿真、編輯數字人物和虛擬場景等等。
換句話來說，對于從事元宇宙、人臉合成、虛擬場景等相關深度合成服務的創(chuàng)業(yè)公司來說影響較大，如深度合成服務提供者應當落實信息安全主體責任，建立算法機制機理審核、信息發(fā)布審核、數據安全、個人信息保護、反電信網絡詐騙等管理制度，具有安全可控的技術保障措施；深度合成服務提供者應當加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核等。
規(guī)定明確哪些內容？
《規(guī)定》總共有“五章二十五條”，主要明確在中華人民共和國境內應用深度合成技術提供互聯(lián)網信息服務(簡稱深度合成服務)，適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。提供深度合成服務，應當遵守法律法規(guī)，尊重社會公德和倫理道德，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務向上向善。
另外，深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成服務制作發(fā)布的新聞信息的，應當依法轉載互聯(lián)網新聞信息稿源單位發(fā)布的新聞信息。
在第三章數據和技術管理規(guī)范中，《規(guī)定》明確深度合成服務提供者和技術支持者提供人臉、人聲等
生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。與此同時，深度合成服務提供者和技術支持者還應當加強技術管理，定期審核、評估、驗證生成合成類算法機制機理。
深度合成服務提供者提供“五大”深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況，如智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；沉浸式擬真場景等生成或者編輯服務以及其他具有生成或者顯著改變信息內容功能的服務。
顯而易見，新規(guī)明顯提高了合規(guī)要求和合規(guī)成本，因此，對于提供深度合成服務的創(chuàng)業(yè)公司來說影響可能較大。有行業(yè)人士稱，《規(guī)定》雖然目前只做了相對寬泛的限制，但是至少未來有不法分子利用人工智能(AI)從事不法行為時可以有法可依、有據可依。
強化個人“隱私保護”
隨著人工智能(AI)技術的深入發(fā)展與融合應用，為人們帶來智能、便捷、新場景體驗的同時，也給一些不法分子提供了可乘之機。例如基于深度合成技術的“AI換臉”廣泛出現(xiàn)在應用軟件、短視頻平臺及社交媒體平臺。僅需上傳照片，就能在線體驗百變換裝、性別轉換，乃至預測和伴侶未來孩子的長相。如不加以合規(guī)使用，可能會侵害社會交往的基礎信任，損害公眾的名譽權、榮譽權等，進而影響到傳播秩序和社會秩序。
《規(guī)定》出臺之后，未經他人同意情況下，人工智能模型的訓練不能隨意使用未經同意的人臉、聲音等帶有生物特征的數據，使用他人照片進行AI換臉內容制作將是違規(guī)行為?！兑?guī)定》中對于人臉、聲音等生物特征信息的使用提出明確的前提條件，一定程度上可以解決這個問題。
