在 AI盛行的年代，眼見為實不再是鐵律。
近日，演員吳越在網上發文稱： 「一覺醒來，誰在利用AI肆意抓人替自己作惡？這位「花姐」你騙了多少人的錢？請如數奉還！太惡劣！！！」
事情的起因是，吳越發現一個名叫「花姐美膚日記」的賬號在網路上利用AI技術，偽造她的形象與聲音，製作成帶貨短視頻，不少消費者已經受騙下單。
10月18日當天，微信團隊回應，涉事賬號已被永久封禁，相關內容清空。
10月20日，吳越在接受採訪時表示，「我不會選擇沉默。下次還出現這種情況，我覺得是完全有可能的。你如果犯規了，那就應該有一些相應的處罰。」
除了演員吳越，「花姐美膚日記」還碰瓷過前中國女子乒乓球運動員、奧運冠軍鄧亞萍，以及前中國女子跳水運動員、奧運會冠軍郭晶晶等。
AI帶貨泛濫
低成本騙局為何層出不窮？
這些年，隨著AI技術的逐漸成熟，越來越多人用AI生成的「高仿明星」來帶貨，原因就在於使用AI的門檻低。
一方面，現在不需要什麼學習，任何人都能夠利用AI偽造視頻，而且創建賬號的成本十分低，一旦賬號被平台封禁，騙子可以註冊新的賬號繼續哄騙消費者下單。
另一方面，只要準備好相同的話術，用AI軟體生成不同的明星去念廣告詞，平台演算法就能把這條視頻推送給愛看的人，而這類由AI製作的視頻中售賣的大多是低成本的劣質商品，利潤空間巨大，高額的收益會驅使不法分子鋌而走險。
很多人以為上當受騙的人是因為「貪便宜」，其實並不完全是，不少中老年人缺乏對AI技術的了解，在他們看來，視頻里看到的人就是本人，他們並不知道人臉、聲音都是可以被偽造的，對這些視頻完全沒有防備心理。
除了利用明星AI換臉，短視頻平台上還出現了一批「苦命男孩小海」。這些由AI生成的「小海」在視頻中對著鏡頭一口一個「姨姨媽媽」，哭訴著自己單親、窘迫的身世，利用不少中老年人的同情心，下單購買其商品，甚至有七旬老人獨自坐火車前去探望「苦命小海」。
AI帶貨亂象
重要的是源頭治理
說到底，明星換臉帶貨、博同情AI視頻泛濫的原因還是犯罪成本太低，平台雖然能夠自動檢測視頻是由AI生成，但治理速度往往趕不上賬號的繁殖速度，等到視頻被舉報下架，商家早就賺得盆滿缽滿。單靠明星發聲，只能曝光個案，很難遏制騙局持續出現，想要根治亂象，必須抓好源頭治理。
首先，監管部門要加大打擊力度，打擊非法AI視頻製作工具的售賣，提高違法成本，相關科技公司也要規範AI工具的使用，要求用戶實名，防止被隨意濫用。其次，短視頻平台也要升級技術識別能力，對AI合成的畫面加強管控，發現后及時關停賬號。
咱老鄉應該怎麼辦？
咱們老鄉網上購物的時候，千萬別單憑一張熟悉的面孔就放下戒備，線上選購農資、看直播買東西的時候一定要注意：仔細辨認主播的身份，如果聲音和口型對不上就很有可能是AI生成的「假人」。
在購買農資時要注意視頻中展示的除草效果或產量是不是有誇大成分，凡是說種子畝產超高、農藥啥病都能治的多半有貓膩。
下單前要看清農資證件，買種子要看品種審定編號，買農藥要看農藥登記證號，不買沒有廠家信息的 「三無農資」。
交易全過程中留存好付款憑證、聊天記錄等證據，一旦遭遇騙局，第一時間向平台提交材料投訴舉報。
合理使用AI能為我們的生活帶來便利，但在一小部分不法分子手中，AI技術生成的視頻成了欺騙消費者的工具，所以咱老鄉在線上購物時，務必擦亮雙眼，不要被「偽造的人臉」所欺騙。
*以上內容系網友走進澳大利亞自行轉載自農民日報，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。