AI诈骗愈发猖獗，澳洲监管机构发警告！年轻人首当其冲
近年来，澳洲民众不断遭遇更复杂的人工智能诈骗。网络监管机构警告，如果不能及时遏制这项技术，澳洲可能重蹈过去的监管覆辙。
AI兴起给金融业带来多重风险，包括更复杂的诈骗。图片：Lukas Coch/AAP PHOTOS
证券投资委员会（ASIC）执法与合规执行董事Chris Savundra表示，AI迅速发展正给金融业带来重大风险。
他周二在联邦议会针对AI的调查中比哦啊是，广告、投诉处理和信用评分都可能出现问题，金融系统也面临由AI带来的网络威胁。
他还特别指出，AI正在提高消费者受骗的风险。
“我们确实看到AI的使用量有所增加，大规模造假增多，诈骗者也在用更复杂的方式占澳洲消费者的便宜。”
“另一个风险是澳洲民众，尤其是年轻人，越来越把AI当作获取金融建议的渠道。”
Savundra主张，把联邦政府新推出、针对订阅陷阱等问题的不公平交易行为计划，扩大至金融服务行业。
此前，调查也听取了电子安全专员Julie Inman Grant的意见，她敦促政府不要在AI监管上重蹈过去面对网络发展时的覆辙，一直等到问题出现后才追赶。
她说：“我们以前已经做过一次这样的实验。多年来，监管往往要等社交媒体造成的伤害显现出来后才跟上，包括对儿童心理健康、选举诚信，以及民众对信息生态系统信任造成的伤害。”
“AI发展得更快，造成的伤害可能灾难性更大。”
“监管机构已经发现有人利用AI制作娈童和性虐待材料。2024年至2025年间，相关举报增加了75%，其中学校相关举报尤其明显。”
作为回应，该委员会开始与国家家庭安全教育委员会合作。这个组织由27个部门和机构组成，协助推出校本举报系统。
针对几项所谓的“脱衣”服务采取执法行动后，使用最广泛的8项程序已经停止向澳洲提供服务，或实施年龄限制和更严格的标准。
该委员会下架基于图像的性虐待材料，成功率达到96%。
不过，Inman Grant承认，只有当相关材料含有性内容时，监管机构才能采取上述处置行动，这也形成了监管空白。
“我们看到有人篡改教师或校长的图像，让他们看起来做出或说出从未做过、说过的事情。这可能造成伤害、构成诽谤，也会损害他们的声誉。”
“但如果没有性化内容，我们就没有权力移除这些内容。”
其他内容只有达到针对成年人的网络虐待这一严格标准，才可能被移除；委员会运用这项权力时，成功率只有6%。
在选举背景下使用深度伪造内容的监管方面也存在空白。不过，Inman Grant指出，这一问题不属于该委员会的职权范围。
调查还听取了CSIRO的意见。这个国家科学机构承认，把AI计算能力引入澳洲存在一些问题，包括需要消耗大量资源的数据中心。
但CSIRO表示，获得这种计算能力将为其许多研究带来巨大益处。
在拟议的数字照护义务法下，该委员会将研究如何扩大现有标准，以处理AI聊天机器人相关问题。
相关提案于周四提交议会，将责任交给平台而不是用户，确保网络环境安全。
*以上内容系网友风平浪静自行转载自华人瞰世界，该文仅代表原作者观点和态度。yeeyi号系信息发布平台，仅提供信息存储空间服务，不代表赞同其观点和对其真实性负责。如果对文章或图片/视频版权有异议，请邮件至我们反馈，平台将会及时处理。