[劉德華] 雷軍、劉德華成受害者,央視曝光 .....
央視新聞16日報道：從惡搞企業家雷軍到AI制作張文宏醫生音視頻為自己帶貨，甚至還有不法分子利用AI深度合成視頻，進行詐騙。過去壹年，AI深度合成音視頻侵權現象愈演愈烈。
此前就曾有網友利用AI制作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急發布聲明提醒網民，不要落入偽造劉德華聲音的AI語音合成技術騙局。近日記者調查發現，實現AI深度合成音視頻並不算難事，甚至在壹些購物平台，AI深度合成技術已經成為眾多網店牟利的工具，只需花費幾拾元，就可定制AI深度合成名人音視頻。
網絡主播直播教學，用開源工具AI深度合成
這些AI深度合成的聲音和換臉是如何制作出來的？記者調查發現，相應的深度合成軟件在網絡上下載並不算難，而且還有壹些網絡主播會開直播教網友如何使用。
記者在手機應用商城搜索換臉換聲，會出現眾多工具。不過記者發現換臉工具，設定了固定的場景，且從效果看逼真度不高。那麼網店制作的逼真度高的AI深度合成的聲音和換臉是如何做到的？
中國網絡空間安全協會人工智能安全治理專業委員會專家 薛智慧：當前咱們有很多開源的這些軟件和工具都可以實現這種換聲換臉的效果，可以供網民自由下載，在自己的電腦上進行安裝和使用。
專家表示此類軟件目前在網絡上有數拾種，不過不論換聲還是換臉軟件，不同的場景需要調整相應的參數，步驟較多，屬於半專業軟件，有壹定的技術門檻，所以不被網民熟知。但是記者發現目前在短視頻平台有眾多主播在教網民使用相關軟件。
未經授權，合成制作他人視頻聲音屬侵權
那麼，在網絡購物平台使用AI深度合成技術，制作出售名人的音視頻，是否觸犯相關法律呢？專家表示，相關法律法規明確規定，未經授權，不得深度合成制作發布他人信息。網店接單AI深度合成制作名人視頻，已經屬於侵權行為，並應該承擔相應的法律責任。
中國計算機學會計算機安全專業委員會委員 呂延輝：《中華人(专题)民共和國民法典》規定，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術偽造都是侵權行為。2023年國家網信辦、工信部、公安部聯合發布出台的《互聯網信息服務深度合成管理規定》要求，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息。2024年網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》也提出，對AI生成合成內容要進行標識，以便公眾識別和區分，防止誤導性信息傳播。
網店使用AI深度合成技術制作名人的視頻，應該承擔什麼樣的法律責任？
[物價飛漲的時候 這樣省錢購物很爽]
無評論不新聞，發表壹下您的意見吧
此前就曾有網友利用AI制作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急發布聲明提醒網民，不要落入偽造劉德華聲音的AI語音合成技術騙局。近日記者調查發現，實現AI深度合成音視頻並不算難事，甚至在壹些購物平台，AI深度合成技術已經成為眾多網店牟利的工具，只需花費幾拾元，就可定制AI深度合成名人音視頻。
網絡主播直播教學，用開源工具AI深度合成
這些AI深度合成的聲音和換臉是如何制作出來的？記者調查發現，相應的深度合成軟件在網絡上下載並不算難，而且還有壹些網絡主播會開直播教網友如何使用。
記者在手機應用商城搜索換臉換聲，會出現眾多工具。不過記者發現換臉工具，設定了固定的場景，且從效果看逼真度不高。那麼網店制作的逼真度高的AI深度合成的聲音和換臉是如何做到的？
中國網絡空間安全協會人工智能安全治理專業委員會專家 薛智慧：當前咱們有很多開源的這些軟件和工具都可以實現這種換聲換臉的效果，可以供網民自由下載，在自己的電腦上進行安裝和使用。
專家表示此類軟件目前在網絡上有數拾種，不過不論換聲還是換臉軟件，不同的場景需要調整相應的參數，步驟較多，屬於半專業軟件，有壹定的技術門檻，所以不被網民熟知。但是記者發現目前在短視頻平台有眾多主播在教網民使用相關軟件。
未經授權，合成制作他人視頻聲音屬侵權
那麼，在網絡購物平台使用AI深度合成技術，制作出售名人的音視頻，是否觸犯相關法律呢？專家表示，相關法律法規明確規定，未經授權，不得深度合成制作發布他人信息。網店接單AI深度合成制作名人視頻，已經屬於侵權行為，並應該承擔相應的法律責任。
中國計算機學會計算機安全專業委員會委員 呂延輝：《中華人(专题)民共和國民法典》規定，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術偽造都是侵權行為。2023年國家網信辦、工信部、公安部聯合發布出台的《互聯網信息服務深度合成管理規定》要求，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息。2024年網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》也提出，對AI生成合成內容要進行標識，以便公眾識別和區分，防止誤導性信息傳播。
網店使用AI深度合成技術制作名人的視頻，應該承擔什麼樣的法律責任？
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: