AI詐騙愈發猖獗，澳洲監管機構發警告！年輕人首當其衝
近年來，澳洲民眾不斷遭遇更複雜的人工智慧詐騙。網路監管機構警告，如果不能及時遏制這項技術，澳洲可能重蹈過去的監管覆轍。
AI興起給金融業帶來多重風險，包括更複雜的詐騙。圖片：Lukas Coch/AAP PHOTOS
證券投資委員會（ASIC）執法與合規執行董事Chris Savundra表示，AI迅速發展正給金融業帶來重大風險。
他周二在聯邦議會針對AI的調查中比哦啊是，廣告、投訴處理和信用評分都可能出現問題，金融系統也面臨由AI帶來的網路威脅。
他還特別指出，AI正在提高消費者受騙的風險。
「我們確實看到AI的使用量有所增加，大規模造假增多，詐騙者也在用更複雜的方式佔澳洲消費者的便宜。」
「另一個風險是澳洲民眾，尤其是年輕人，越來越把AI當作獲取金融建議的渠道。」
Savundra主張，把聯邦政府新推出、針對訂閱陷阱等問題的不公平交易行為計劃，擴大至金融服務行業。
此前，調查也聽取了電子安全專員Julie Inman Grant的意見，她敦促政府不要在AI監管上重蹈過去面對網路發展時的覆轍，一直等到問題出現后才追趕。
她說：「我們以前已經做過一次這樣的實驗。多年來，監管往往要等社交媒體造成的傷害顯現出來后才跟上，包括對兒童心理健康、選舉誠信，以及民眾對信息生態系統信任造成的傷害。」
「AI發展得更快，造成的傷害可能災難性更大。」
「監管機構已經發現有人利用AI製作孌童和性虐待材料。2024年至2025年間，相關舉報增加了75%，其中學校相關舉報尤其明顯。」
作為回應，該委員會開始與國家家庭安全教育委員會合作。這個組織由27個部門和機構組成，協助推出校本舉報系統。
針對幾項所謂的「脫衣」服務採取執法行動后，使用最廣泛的8項程序已經停止向澳洲提供服務，或實施年齡限制和更嚴格的標準。
該委員會下架基於圖像的性虐待材料，成功率達到96%。
不過，Inman Grant承認，只有當相關材料含有性內容時，監管機構才能採取上述處置行動，這也形成了監管空白。
「我們看到有人篡改教師或校長的圖像，讓他們看起來做出或說出從未做過、說過的事情。這可能造成傷害、構成誹謗，也會損害他們的聲譽。」
「但如果沒有性化內容，我們就沒有權力移除這些內容。」
其他內容只有達到針對成年人的網路虐待這一嚴格標準，才可能被移除；委員會運用這項權力時，成功率只有6%。
在選舉背景下使用深度偽造內容的監管方面也存在空白。不過，Inman Grant指出，這一問題不屬於該委員會的職權範圍。
調查還聽取了CSIRO的意見。這個國家科學機構承認，把AI計算能力引入澳洲存在一些問題，包括需要消耗大量資源的數據中心。
但CSIRO表示，獲得這種計算能力將為其許多研究帶來巨大益處。
在擬議的數字照護義務法下，該委員會將研究如何擴大現有標準，以處理AI聊天機器人相關問題。
相關提案于周四提交議會，將責任交給平台而不是用戶，確保網路環境安全。
*以上內容系網友風平浪靜自行轉載自華人瞰世界，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。