隨著生成式人工智能技術的迅猛發(fā)展，名人聲音、肖像被“克隆”冒用越來越真假難辨，消費者極易被誤導。在北京互聯網法院近日發(fā)布的一起案例中，被告未經權利人許可，使用AI合成的名人聲音用于帶貨，法院認定其構成侵權。

AI合成聲音或換臉行為的邊界在哪兒？可能涉及哪些法律責任？人民網采訪了北京互聯網法院綜合審判三庭（少年法庭）庭長顏君進行解答。

使用AI合成名人聲音帶貨 法院認定被告構成侵權

原告李某某在教育、育兒領域具有一定知名度和社會影響力。2024年，原告李某某發(fā)現被告某文化傳媒有限公司在其運營的某網絡平臺店鋪中，通過使用原告的公開演講、授課視頻，并配以與原告聲音高度近似的AI合成聲音，對其銷售多本的家庭教育類圖書進行宣傳推介。原告認為，被告未經許可使用原告的肖像和通過AI合成的聲音制作宣傳產品，侵犯了原告的肖像權和聲音權。被告作為圖書銷售者，與視頻發(fā)布者（某帶貨主播）之間為委托關系，共同完成銷售活動，被告對主播發(fā)布的視頻具有審查義務和能力，對涉案視頻的發(fā)布應當承擔賠禮道歉、賠償損失等侵權責任。

法院認為，涉案視頻使用了原告李某某的肖像以及AI合成聲音，該聲音與原告李某某本人的聲音在音色、語調、發(fā)音風格上具有高度一致性，結合原告李某某在教育、育兒領域的知名度，涉案視頻對家庭教育類書籍進行宣傳推介，更易使觀看涉案視頻的公眾將視頻中的相關內容與原告李某某之間建立聯系，可以認定一定范圍內的聽眾能夠將涉案AI合成聲音與原告本人建立一一對應的聯系。因此，涉案聲音落入李某某聲音權益的保護范圍。涉案推介視頻大幅使用原告肖像、合成模擬原告的聲音，未取得原告授權，故涉案視頻的發(fā)布行為構成對原告肖像權和聲音權益的侵犯。

法院認為，被告某文化傳媒有限公司與視頻發(fā)布者（某帶貨主播）依照平臺規(guī)則和服務相關約定達成委托推廣關系，共同為了推介被告書籍的目的發(fā)布涉案視頻、獲取相應收益，且被告基于平臺規(guī)則和管理權限，具備對涉案視頻進行審核管理的能力。在涉案視頻大幅使用原告肖像、合成模擬原告聲音的情況下，被告應對視頻可能引發(fā)的侵權風險具有一定的預見性，并就視頻是否獲得了原告授權盡到合理的審查義務，但在案證據表明被告未盡到其應有審查注意義務，故被告某文化傳媒有限公司應與視頻發(fā)布者就侵權視頻發(fā)布承擔連帶責任。

法院判決，被告某文化傳媒有限公司向原告李某某賠禮道歉、賠償經濟損失及維權合理支出，駁回原告李某某其他訴訟請求。宣判后，雙方均未提起上訴，該判決已生效。

如何判斷AI合成聲音等行為是否構成侵權？

《中華人民共和國民法典》第1019條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規(guī)定的除外。未經肖像權人同意，肖像作品權利人不得以發(fā)表、復制、發(fā)行、出租、展覽等方式使用或者公開肖像權人的肖像。第1023條第2款規(guī)定，對自然人聲音的保護，參照適用肖像權保護的有關規(guī)定。

顏君介紹，未經本人許可即通過AI換臉或AI合成他人聲音，屬于利用信息技術手段偽造等方式侵害他人的肖像權或聲音權，若未經肖像權人同意，制作、使用、公開前述肖像或聲音，亦可能構成侵權行為。

“判斷是否構成侵權的核心在于，利用AI技術合成的自然人肖像和聲音，只要能夠使一般社會公眾或相關領域公眾根據其五官、輪廓等外部形象或音色、語調、發(fā)音風格等聲音特征識別出特定自然人，即應納入該自然人人身權益的保護范圍?！鳖伨硎荆缟碳摇翱寺　泵诵は?、聲音帶貨，讓消費者誤以為是名人推薦商品，這就侵犯了名人的聲音權和肖像權；再如，有人通過“惡搞換臉”，把其他人的面部換到一些不雅視頻或圖片中并在網絡上傳播，這不僅侵犯了肖像權，還嚴重貶損了他人的名譽。

AI合成聲音等行為可能涉及哪些法律責任？

當前，使用AI合成聲音或換臉技術制作虛假信息、惡搞等行為在網絡上屢見不鮮。顏君表示，前述行為可能涉及的法律責任主要包括三個層面：

一是民事責任。根據《中華人民共和國民法典》的規(guī)定，權益受到損害的民事主體可以向法院提起民事訴訟，要求侵權人停止侵害、賠禮道歉、消除影響，并賠償經濟損失和精神損失。需要強調的是，并非只有視頻的制作者、發(fā)布者才要擔責，就視頻發(fā)布的委托方而言，如果未盡到合理的審核義務，也需要承擔連帶責任，這意味著委托推廣帶貨的商家等不能以“不知情”為借口來推卸責任。

二是行政責任。如果利用AI技術故意散布謠言、謊報險情等擾亂公共秩序的，公安機關可依據《中華人民共和國治安管理處罰法》等規(guī)定，對行為人處以行政拘留、罰款等行政處罰。

三是刑事責任。例如用AI換臉、AI合成聲音制作淫穢物品進行傳播牟利，可能構成傳播淫穢物品牟利罪；用于對他人實施誹謗或侮辱行為，情節(jié)嚴重者可構成誹謗罪、侮辱罪；若通過合成肖像或聲音偽造場景實施詐騙，則可能構成詐騙罪等，進而承擔刑事責任。

規(guī)范AI技術的應用，需多方協同共治。顏君建議，提供信息內容傳播服務的網絡平臺應當依據法律規(guī)定加強人工智能生成合成內容的審查，對于屬于或可能屬于人工智能生成合成內容的，應采取適當方式在發(fā)布內容周邊添加顯著的提示標識，明確提醒公眾該內容屬于生成合成內容，避免公眾混淆，并建立健全辟謠機制和投訴處理機制，及時處理利用深度合成技術制作、復制、發(fā)布、傳播的虛假信息。未來，針對AI合成聲音侵權等新型侵權行為，需要進一步明確平臺在內容審核、數據使用、算法推薦等方面的責任。

“此外，相關技術使用者和信息發(fā)布者也應當遵守法律規(guī)定和社會公德，防止使用AI技術實施侵犯他人合法權益的行為，共同推動人工智能與深度合成技術向上向善發(fā)展，維護良好的網絡生態(tài)?！鳖伨硎?。