全紅嬋、孫穎莎、王楚欽成受害者！最新曝光
隨著AI技術的普及，「克隆」特定人物聲音已實現「一鍵式」操作，同時也帶來了民事侵權甚至涉嫌犯罪的法律問題。
在互聯網上，奧運冠軍的「聲音」突然開始推銷農產品，知名演員的「聲音」24小時不間斷在直播間與粉絲互動……這些以假亂真的AI克隆聲音正成為部分自媒體博主的「流量密碼」。
據悉，依託成熟的語音大模型技術，僅需十幾秒就能「克隆」任何人的聲音，當聲音能被輕易竊取和濫用，隨之而來的侵權亂象頻繁上演。
以假亂真 用奧運冠軍的AI克隆聲音帶貨
網傳AI仿冒全紅嬋帶貨畫面：大家好，我是你們的嬋寶，今天有事請大家幫忙。嬋妹就想著幫助媽媽，讓家裡的生活過得更好一點，同時把老家的土雞蛋分享給粉絲們嘗嘗……
記者在抖音平台發現，在這個網名為「我是小助理吖」的博主賬號中，已發布的17件作品，內容全部是利用AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋的視頻，其中一個視頻點贊量高達1.1萬。
評論區顯示，大量粉絲誤以為這就是全紅嬋本人，紛紛下單購買鏈接中的雞蛋，該商品鏈接顯示已售出4.7萬件。今年4月，全紅嬋家人曾向媒體證實，全紅嬋並未給相關農產品代言或授權。
除全紅嬋外，奧運冠軍孫穎莎和王楚欽也遭遇了同樣的仿冒。在這個網名為「小兔真可愛」的賬號中，兩位奧運冠軍的AI克隆聲音同樣在為土雞蛋帶貨。
網傳仿冒孫穎莎帶貨畫面：大家好，我是莎莎，我為嬋寶家農家土雞蛋代言。今天我就拿到了8單做福利，它是自家散養土雞，而且是吃糧食和草長大的，營養價值特別高。
網傳仿冒王楚欽帶貨畫面：大家好，我是王楚欽。昨天收到嬋妹私信，說他們家土雞蛋大豐收，這麼好的土雞蛋不發出去就可惜了。叫我拿給家人、粉絲們嘗嘗。
為獲關注 一些博主克隆名人聲音進行直播
以假亂真的聲音再加上對奧運冠軍的喜愛，該網路博主也收穫了大量粉絲的訂單。
而記者發現，AI仿冒名人的亂象遠不止帶貨，還有部分自媒體博主克隆名人的聲音後進行24小時語音直播，演員靳東是被仿冒最多的對象，在這看似匪夷所思的操作背後，卻隱藏著另一個灰色產業鏈。
據網路安全專家潘季明介紹，通過仿冒名人進行直播這種方式不僅可以誘騙粉絲打賞獲利，還可以將一個小白賬號迅速打造成上萬粉絲的賬號，從而再為後續牟利來鋪路。
AI克隆聲音最大隱患是被詐騙分子利用
據潘季明介紹，除了侵犯聲音權等合法權益，AI克隆聲音目前最大的隱患是被詐騙分子利用，一旦與AI換臉等技術結合，生成高度逼真的「數字人」實施詐騙，危害將非常嚴重。潘季明建議，目前相關的技術要從源頭進行相應限制。
網路安全專家 潘季明：在開源的過程當中，我們可能需要對這些開源代碼做一些使用層面上的限制，包括使用時長、應用場景上，也需要做一些具體的應用限制。
技術+監管 重拳整治AI技術濫用
針對目前網路上AI克隆聲音的相關內容被大量傳播，相關的平台是否也應承擔相應的責任呢？此類亂象該如何治理呢？
北京航空航天大學法學院副教授 趙精武：根據民法典1197條的相關規定，平台與平台用戶承擔連帶責任有一個前提，也就是平台知道或者應當知道用戶利用了它的網路信息服務，實施了侵害他人合法權益的行為，並且沒有採取必要措施。這裏知道或者應當知道的判斷標準，主要是考慮到平台對網路信息內容的管控能力，所提供的服務性質、方式，以及引發侵權可能性的大小，平台有沒有採取預防侵權措施的技術的可能，並且有沒有相應的合理的措施。
專家建議，針對濫用AI克隆聲音的亂象，平台層面要切實履行監管責任，建立健全對AI聲音的審核和侵權舉報機制，及時發現和攔截侵權、虛假、違法等不良內容。
今年3月，國家網信辦等四部門聯合發布的《人工智慧生成合成內容標識辦法》，將於2025年9月1日起施行，其中明確了服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識等。另外，中央網信辦近日在全國範圍內部署開展「清朗·整治AI技術濫用」專項行動，將強化AI技術源頭治理，清理整治違規AI應用程序，推動網站平台提升檢測鑒偽能力等。
*以上內容系網友Max說澳洲自行轉載自荊楚網，該文僅代表原作者觀點和態度。本站系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。