AI造假，倫理崩塌
當你刷到這樣一條視頻：鏡頭裡和藹可親的老人告訴你說「自己活到108歲，試茶80多年了」，然後開始推廣一款茶葉產品。
是不是覺得特別權威，很心動想買？
圖源：抖音@新京報
如果再告訴你，這位茶界泰斗其實已經去世8年多，只是被AI「復活」了，所有的推薦話術都是AI生成的。
你還願意買嗎？
本來一位畢生推廣茶學的專家，就這樣被包裝成了給某品牌做產品代言的「銷售」。
此刻，你有什麼樣的感覺？
如果鏡頭裡被AI復活的，是你的偶像、你的親人呢？
AI正在挖墳整蠱全世界的名人
這就是前陣子，茶界泰斗張天福被「AI復活」的事件，在網上鬧得可謂是沸沸揚揚。
除了侵犯肖像權等法律層面的問題，在道德層面上，輿論基本是一邊倒的，網友們都覺得茶企此舉不妥，是對逝者的不尊重。
而被「復活」的張天福，只是冰山一角。因為這幾年，AI已經從炫技進化到了瘋癲的地步，被複活的名人正在互聯網上做一切事情。
一開始，這些AI內容看起來還像是玩笑：孔子成了某教培CEO，說賣課太卷了，打算考教師資格證、整個編製上岸；
圖源：抖音@Xuan醬，下同
唐僧搖身一變成了「美佛到家」的騎手，騎著白龍馬開始送外賣，怕超時在街道上疾馳；
伯樂不再找「千里馬」，獵頭工作被裁員后，成了跑網約車的司機；
魯迅從出版業一下子轉行成了脫口秀演員，說寫文章、當醫生都不賺錢，只能開始說脫口秀；
牛頓更是直言物理沒什麼搞頭了，轉頭就在直播間賣起了新疆阿克蘇蘋果，說這是當時砸在自己頭上的蘋果……
以上這些，看似是借名人諷刺當下的「內卷」、職業困境、時代錯位……荒誕里，還有點苦中作樂的意味。
但沒有底線的AI，正在讓名人一步步徹底失去尊嚴——
已故的英國女王伊麗莎白二世，被AI扔進了豬圈裡，躺在豬身上喘著氣，周圍散著一堆酒瓶；
圖源：sora 下同
科比也被AI換上粉色小豬的衣服，在豬圈的泥巴里蹭來蹭去，弄到渾身髒兮兮；
下一秒，科比又因為肚子疼坐在馬桶上，結果地板忽然湧出一大堆類似糞便的泥水，弄得他既尷尬又錯愕……
AI通過廁所、豬圈等骯髒的環境設定，讓這些名人做出違背身份的事情，不斷讓他們的大眾印象降格。
而羞辱已逝名人的手段，還在不斷升級。比如，強行給他們設定荒誕的戲碼——
伊麗莎白二世身穿運動服，參加類似《男生女生向前沖》的節目，結果一個跟頭翻進了水池裡；
坐在輪椅上的霍金，被AI強行塞進了飛機行李艙；
被設定成賽車手，駕駛輪椅開始飆車比賽；
被推進了泳池，和運動員一起比賽，卻只能在原地漂浮；
被扔在擂台上，周圍拳手一哄而上，場面一片混亂；
甚至還有拳手，對著霍金的臉瘋狂出拳，霍金卻沒有任何招架和還手的能力……
AI就這樣不斷放大他人的身體缺陷，把逝者當成可供娛樂和戲謔的素材。
很多人覺得這很好玩，沒什麼大不了的。所以，這些已逝的名人，被AI強行製造出了一個又一個更低俗的劇情——
科比在飛機上和飛行員吵架，甚至還懷了孕，捧著肚子和一旁的印度女性討論自己的孕期感受；
伊麗莎白二世在快餐店，和別人打架，
甚至還給了愛因斯坦一巴掌；
李小龍在超市，被警察帶上手銬押走，
因為他被拍到在快餐店偷吃漢堡，倉皇逃跑結果撞碎了櫥窗玻璃，
甚至和上世紀樂壇巨星貓王，來到一家人的門外，按完門鈴像頑皮的青少年一樣轉頭逃竄，被設計成遊手好閒的人；
貓王則被複活成了推銷員，端著一盤包子到處兜售；
邁克爾·傑克遜在電視節目里跟希特勒對罵，大晚上出現在別人家口要求對方開門，還搶劫別人桌上的快餐邊跑邊滑太空步；
甚至高中語文課本里《我有一個夢想》的演講作者、美國黑人民權運動領袖馬丁·路德·金，也出現了在飛機上和空姐吵架、在便利店拿了東西不付錢大喊著轉身就跑的荒謬低俗劇情……
這一刻，他們不再是歷史，不再是被愛戴的個體。他們窮盡一生建立的所有美德、努力和尊嚴，被毀滅殆盡，成了可以被路人隨便嘲笑的小丑。
AI已經瘋了，陰的沒邊了。
有人以此為樂，也有人開始擔心未來——
因為他們發現自己根本分不清虛構和真實。未來可能會被別人騙，更重要的是後代也許會逐漸忘記真實的歷史人物，不知道在這些名人身上發生的事，哪些是真的，哪些是假的。
圖源：X
以為是溫情，實則在挖坑
很多人可能會說，能不能做出相應的約束，讓AI不要做那麼誇張、惡俗的劇情，比如做點已逝明星問候大家的溫情視頻，不也挺好的嗎？
的確，有人這樣做了。或許這是出於緬懷與善意，但是，依然會傷害到一些人。
圖源：抖音@老人與海🐟
「我是coco李玟，我永遠都會陪伴著你們」；
「我是高以翔，我永遠愛你們，我一直在另一個世界陪伴著你們」；
「大家好，我是kimi喬任梁，其實我沒有真的離開」……
一個個被粉絲委託做出的AI視頻，讓一張張熟悉的面容重新回到大家面前。
圖源：抖音@21世紀經濟報道
很多人愣住了。
原本已經逐漸淡去的那些痛苦回憶，又一次湧上心頭。不只是這些被AI復活的明星，還有更多逝者被人們想起，渴望看到他們「活生生」地站在鏡頭面前。
或許，對有些人而言，看到AI復活的明星，和當初他們活著的時候隔著屏幕看他們的方式無異。他們沒有真正見過這些名人，代餐也好，真人也罷，以解相思足以。
可對於這些逝者的親人呢，他們看到這些視頻會作何感想？
李玟80多歲的母親，找來律師發出律師函；
喬任梁的父親，希望AI復活喬任梁的視頻能儘快下架，說自己不能接受且感到不適，是在揭自己和家人的傷疤；
江歌媽媽三個帶感嘆號的「不接受」，更是讓人看完后覺得心痛不已：「不接受！不接受！不接受！
如果能『復活』，也僅限於我親自來做這件事！
你們懂得我們（痛失摯愛的人）逝去的親人嗎？
你們懂得我們（我與逝去的親人）的感情是什麼樣子嗎？
你們不懂我們，又憑什麼為我們（我與女兒）做決定！」
字字句句里，都是痛。
更不用提，那些戲謔、娛樂逝者，甚至讓他們被AI復活開始打廣告的視頻，會讓家屬有什麼樣的感受了。
茶葉泰斗張天福的遺孀，已經公開表示會告那個企業。
從倫理道德上來看，尤其是在「死者為大」的東亞文化圈，人們通常很難接受將逝者娛樂化。
除非，是非常想念逝者的親人。比如音樂人包小柏，就通過AI將自己的女兒復活，讓她在生日的時候給媽媽唱歌，深愛與絕望並存。
但這個過程，無疑是艱難的。包小柏為此讀了相關專業的博士，還花了兩年時間找了相關的AI團隊，費時費力才將這一切變成現實。
甚至連自己的老婆一開始都不理解，覺得他太殘忍。
圖源：鳳凰新聞
所以，真的有那麼多人，會願意為愛發電、無私幫助陌生人嗎？
用AI復活了李玟、高以翔、喬任梁的博主，曾表示雖然這幾位已逝明星的視頻是自己義務做的，但如果做其他逝者的AI視頻是不免費的，一條要收588元。
多數打著紀念和治愈的旗號，讓已逝明星生成祝福視頻的人，實際上都是為了流量變現。
他們的幫助明碼標價：「定製明星視頻，30秒內98元；名人AI素材價格48元到298元不等，根據具體情況來定。」
除了銷售這些定製的祝福語素材等，他們還會「收徒」，基本目標人群是那些已逝明星的粉絲或者是失去親人陷入悲痛的人。
這些學習AI「復活逝者」的課程，價格通常都不菲。
「購買980元的門徒課程，會送一本《AI門徒復活手冊》，教會你如何使用AI復活工具，以及贈送價值2999的換臉課程。如果想要學習製作更為逼真的逝者視頻，並且配上相似度很高的語音，需要19800元。」
明星的粉絲、失去親人的普通人，就這樣成了有心之人計劃里「待宰的羔羊」。
AI很先進，但焦慮必上當
AI的技術越來越先進，套路也越來越多。來看看下面這些AI騙局，你能識破幾個？
套路一，是利用名人效應，讓「李鬼」賣貨。
在運動員全紅嬋全力訓練的時候，AI合成的全紅嬋也在各種視頻里開始帶貨了，賣起了土蜂蜜、土雞蛋：「大家好，我是你們的嬋寶，今天有事請大家幫忙，嬋妹就想著幫助媽媽，讓家裡的生活過得更好一點，同時把老家的土雞蛋分享給粉絲們嘗嘗。」
圖源：央視新聞 下同
而這個博主的同系列視頻里，還出現了孫穎莎和王楚欽幫著全紅嬋賣貨的視頻。
「大家好，我是莎莎，我為嬋寶家農家土雞蛋代言，今天我就拿到了8單做福利。」
「大家好，我是王楚欽，昨天收到嬋妹私信，說他們家土雞蛋大豐收，這麼好的土雞蛋不發出去就可惜了……」
熟悉這些運動員的人，可能會通過表述以及咬字習慣等，來判斷出這並非本人，是AI。
但可怕的點在於，你不信，但不無法保證你爸媽不信。
很多受騙的人下單后，才從發貨地發現了端倪，但為時已晚。
類似的事情，層出不窮。
央視主持人李梓萌，被AI仿冒帶貨某品牌的深海魚油。
「突破國內技術壁壘，研究出來這個小東西，可以解決頭暈頭痛、手麻腳麻、四肢乏力，幾十塊錢就可以讓40歲以上的中老年朋友吃上一整年……」
效果被誇得天花亂墜，目標人群也是有養生需求、更容易分不清是AI還是真人的中老年人群，可以說防不勝防。
圖源：央視網品質嚴選
除了對準中老年人群，AI更是牛到能做到換臉直播。
某天晚上，溫崢嶸忽然刷到了AI成自己模樣的直播間，發出了「你是溫崢嶸那我是誰」的疑問后，下一秒她就被這個直播間的「AI溫崢嶸」給拉黑了。
她這才發現，原來自己已經被AI做成了多種形象，在不同直播間同時在進行直播，銷售各種三無產品。
圖源：微博@抖音電商安全與信任中心
上當的網友不在少數，除了溫崢嶸他們還刷到過AI的劉濤、張柏芝、蔣欣、劉亦菲、舒淇、劉德華，並且覺得有明星代言質量不會差，就下了單。
直播，不等於真人。
無論年輕人還是中老年人，如果對AI的辨別力沒那麼強，真的很容易上當。
套路二，是讓AI生成比短劇還誇張的虛擬劇情，然後賣貨。
「俺可小的時候，俺爸因為車禍去世了，俺媽不到三個月也改嫁了，從此俺二舅就收留了我……」
一個小姑娘對著鏡頭，展開了自己人生經歷的闡述，收養自己的二舅、二舅媽對自己有多好，沒有因為有兒子就忽視她。
「俺二舅借了我5萬塊錢，一年之後他還了我10萬。」
小姑娘也很孝順，說自己攢錢帶著二舅和二舅媽出去旅遊。
然後話鋒一轉，就是「二舅唯一有一個毛病，就是晚上睡不著」，然後就是開始講述他們在旅遊團如何認識了一個香港90多歲的老爺爺，對方給了一個祖傳的好東西，讓二舅總算睡了個好覺。
沒錯，是一個纏綿悱惻、感人肺腑的長篇廣告，專門就是為了賣一款睡眠香膏。
類似的劇情，全由AI生成，一個比一個離譜，一個比一個誇張。
女兒懷孕7個月，即將離開人世，她公公以100萬的價格賣掉了婚房和所有首飾，身體差的女兒央求保大人但被拒絕，沒想到手術成功她活了下來，唯一的病根就是睡不著覺，直到用了某款睡眠香膏……
自己伺候媽媽17年，媽媽重男輕女只疼弟弟……一番吐槽后回歸正題，售賣能睡好覺的香膏。
就是這些看著比各種囤貨末世文、重生文，誇張到不知道多少倍的AI生成假劇情，評論區下卻是一條條真正走心了的老人。
套路三，是用AI生成大到離譜的農產品，來欺騙顧客。
下圖中在摘辣椒的農戶，手裡的辣椒長得都快齊腰高了。
不熟悉農作物種植環境的人，問「辣椒種出來這麼大嗎」，直播間的主播隨聲附和，「保真保真，所見即所得，是的哈。」
圖源：抖音@央視法治在線 下同
結果呢？
真正的樟樹港辣椒，植株非常矮小。AI生成的直播帶貨視頻里的辣椒，植株都快一人高了，大到非常誇張。
除此之外，這些視頻里農戶的手、腳和身體，一不小心就和辣椒融合在了一起。
但現在很多人因為生活在城市，是過去老話講的「四體不勤五穀不分」，對這種AI生成的有悖農業原理的AI視頻，非常難鑒別。
他們真以為農戶們辛辛苦苦在沒過小腿高的水裡，辛勤地種植辣椒，而了解辣椒種植的人會知道，過量的灌溉會直接導致辣椒減產甚至絕產。
新鮮的產品，加上一張辛苦的感情牌，讓一些善良卻無知的人，為了支持農戶也就下了單，上了當。
套路四，是很多人熟知的假靳東套路。通過利用老年人很難辨別AI，來騙取他們的信任，引導他們打賞等。
但現在，這種「假」套路，已經不局限於情感需求。
有老人接到AI「假孫子」打來的電話，說孫子在外地犯事了需要錢。
對方一張口就直接稱呼「爺爺奶奶」，一句「奶奶救我」直接擊潰了老人的心理防線，於是他們來不及不核實就將錢轉了過去，結果上了當。
有人看到這裏可能會說，像這些套路我只要轉發給爸媽，讓他們了解AI是什麼，加強防範，不就可以了？
確實，很多老人上當是因為連AI是什麼都不知道，稀里糊塗就掉進了騙局裡。但可怕的是，壞人反而抓住了老人們渴望了解和學習AI的心理，給他們又量身定製了一個騙局。
也就是套路五，通過免費培訓AI，來騙老人——
「AI免費培訓，利潤分成」，他們通過對老年人販賣對AI時代到來以及跟不上時代的焦慮，打著免費的旗號，讓老人們交1580元的入班保證金，承諾他們後續可以退還，且可以通過剪輯AI相關的視頻賺錢，每條至少能賺到20元，每天能賺200元，「學會月入萬元不是夢」。
一旦老人們交了錢，加入了所謂的微信群，就會發現收到的鏈接貨不對板。被割韭菜的老年人既學不到技術，按照那些模板剪出來的視頻，根本在短視頻平台賺不到錢……
一不小心，老人的養老金就成了騙子們的勝利果實。
難道我們就沒有任何辦法了嗎？
其實，每個新技術的誕生，都會存在這些被有心之人利用的風險。
圖源：X
說到底，他們利用的也是人們的善良、情感、貪慾。AI這種先進的技術沒有錯，它也給我們的生活帶來了很多好處，錯的其實是背後操縱AI做壞事的這些人。
擦亮雙眼，小心被騙。
同時，別忘了告訴家人小心這些層出不窮的AI騙局。或許，重視每一位家庭成員的身體和心理，讓他們遇事多和子女商量，也很重要。
如果下次跟家裡老人團聚，那麼，恐怕有一件事必須做一下：打開他們的手機，看看他們的購物車，看看他們在各平台的瀏覽記錄。
然後，或許你也會很遺憾地發現，科技的進步，帶來的並不只生活的便利，同時還有簡單事情的複雜化。
而互聯網也並沒有很好地連接世界，卻很好地連接了騙子和單純的人。
長此以往，人們恐怕只能懷疑一切、保持冷漠、獨善其身。
那麼，這個世界，會變得怎樣？
*以上內容系網友指點山河自行轉載自視覺志，該文僅代表原作者觀點和態度。本站系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。