在抖音上看到了一個AI生成的虛構人物帶貨短視頻，還挺有意思，底下的評論也都在玩梗。大家默契地玩梗，都知道嫦娥本就是神話傳說人物，壓根不存在，帶貨的只是用AI生成的假象。
但假如有人用還在世的名人，特別是網上很有名、有不少粉絲的網紅，這些人的形象生成AI視頻帶貨，又該怎麼辦呢？
比起壓根就沒有留下形象的嫦娥，現在的網紅名人留下可供AI創作的素材特別多，面孔身材動作聲音都有，微表情都能用AI模仿到位，說話語音口氣現在也可以用聲音大模型模仿，做起來不僅毫無困難，還非常逼真。
我能想到的，肯定是網上都用爛的套路了，這種AI偽造名人視頻帶貨數量之多，被偽造的名人都不勝其煩了。
早在幾個月以前，短視頻平台就有AI合成奧運冠軍全紅嬋及其家人的帶貨視頻，從長相到聲音都和其本人非常相似，帶貨農產品貨值也較低。這類帶貨視頻多到讓全紅嬋家人心煩，與此同時消費者被騙也不好追究，鑽了個大空子，以至於人民日報官方微博都下場點名這種虛假利用AI欺騙消費者的行為。
虛假AI名人行騙，這種事情可不是只矇騙國內老實人，放在國外更厲害，最近國外有件事，簡直就是在關公面前耍了一套漂亮刀法還全身而退，令人拍案叫絕。
幾天前的英偉達GPU技術大會，黃仁勛的演講自然得到了科技圈內部的關注，在這場高峰時有十萬人觀看的直播中，黃仁勛竟然在台上聲稱「有個加密貨幣大規模普及活動，直接契合英偉達加速人類進步的使命」。
他還亮出了二維碼，鼓勵觀眾掃碼以發送加密貨幣。
直播看到這裏的眾人必然目瞪口呆，可能會有人覺得「黃仁勛這麼做一定有他的道理」，掏出手機掃了碼，但肯定有人自我懷疑，是自己喝大了還是受騙了。
覺得自己受騙了的，恭喜你答對了，因為這本來就是AI偽造的黃仁勛形象，和真正的黃仁勛演講同步放出，用來欺騙觀眾，騙他們投資數字貨幣的。
真正的黃仁勛直播沒提投資數字貨幣，但真正的黃仁勛直播只有2萬多人觀看，李逵的關注度竟然遠遠小於李鬼。
騙子用著黃仁勛的晶元，製作了黃仁勛的AI形象騙人，觀看量竟然比正牌黃仁勛多很多，真是個黑色幽默。
這事可真是大大助長騙子的囂張氣焰，在黃仁勛頭上動土都沒事，仿冒其他名人網紅去騙人就更大胆了。
目前來看這類AI偽造名人形象的事情，名人本身很忙而造假者太多，難以追究，但也不是完全不能追究。
畢竟AI偽造的網紅帶貨，最後掏錢的還是消費者，消費者可以向市場監管機構舉報虛假宣傳。
比如今年2月，消費者舉報了某視頻賬號推薦的「深海多烯魚油」 能夠治療多種疾病，涉嫌虛假宣傳。
點進直播間一看，好傢夥，88萬粉絲，直播間里的形象是央視主持人李梓萌，旁邊展板上標註著 「適合頭暈頭痛、手麻腳麻、記憶下降人群」 等醫療用語。
結果一查，所謂的「深海多烯魚油」 實際執行標準為糖果，倒是吃不死人，但根本不具備疾病治療功能。
至於直播間里的李梓萌形象，肯定不是真人，而是利用 AI 技術偽造生成的。北京市場監管部門就對該公司進行了行政處罰。
這是北京第一次處罰AI虛假宣傳，上個月公布，顯然互聯網不是法外之地。
但還有非常多AI假冒名人虛假宣傳沒有得到懲治。
以前靠PS就能造假，有圖也不一定有真相；現在AI技術成熟到隨意合成形象和聲音，就連視頻都沒法相信了，眼睜睜看到的視頻，也不一定是真相了。
「眼見為實」完全不存在了。
以後無論是熟悉的親人朋友，還是信任的明星網紅，說的話、做的事，哪怕有直播和視頻影像，都不能信了。
AI將註定反覆拷問人與人之間的信任。
*以上內容系網友Danny在澳洲自行轉載自非凡油條，該文僅代表原作者觀點和態度。本站系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。