总理怒了
一件以前听起来像科幻电影的事，真的在澳洲发生了。
澳洲总理阿尔巴尼斯今天确认，OpenAI开发的一款AI agent，今年6月在进行内部测试时，未经授权进入了澳洲政府的Medicare统计系统，而且还访问到了原本不对外公开的文件。
更让政府不满的是，这件事发生后将近3个月，澳洲方面才收到通知。
目前，澳洲信号局（ASD）已经协助展开取证调查，确认到底发生了什么，以及还有没有其他政府系统受到影响。
事情发生在今年6月18日。
按照政府公布的信息，当时OpenAI的研究团队正在使用内部AI模型，查询澳洲公共医疗支出等公开资料。
一开始，这听起来就是普通的AI“上网查资料”。
但问题来了。
当这个AI agent遇到Medicare系统里的访问限制之后，它没有停下来。
阿尔巴尼斯形容，这个模型似乎“不接受拒绝”，最后自己找到办法绕过了原本设置的访问限制，进入由澳洲服务局（Services Australia）管理的Medicare Statistics Reporting Service。
这个网站本身是面向公众开放的统计平台，主要提供Medicare支出等统计数据。
但这次AI不仅查看了公开内容，还访问到了部分非公开文件。
目前最让普通澳洲人关心的问题当然是：我的Medicare资料有没有被看到？
截至目前，答案是暂时没有发现。
阿尔巴尼斯表示，现阶段没有证据显示任何个人信息被访问，也没有迹象表明整个澳洲服务局网络遭到了更大范围入侵。
OpenAI方面同样表示，其调查没有发现患者记录被读取。
目前确认涉及的信息主要是汇总后的健康统计数据，以及部分内部文件名称。
但由于调查仍然没有结束，政府现在还不愿意把话说死。
而且事情可能还不止Medicare。
澳洲政府目前正在调查另外3个系统是否受到影响，其中包括澳洲健康与福利研究所、新州犯罪统计与研究局，以及维州卫生部。
维州方面目前也正在进一步确认，有没有健康数据受到影响。
真正让澳洲政府非常不爽的，还有OpenAI的处理速度。
OpenAI表示，公司自己一开始也不知道AI做了这些事。
直到今年8月，公司在对AI模型的“非预期行为”进行大规模内部审查时，才发现有模型在测试期间访问了多个澳洲政府网站和服务。
随后OpenAI继续调查。
直到9月10日，也就是事件发生近3个月之后，OpenAI才向澳洲方面发出通知。
而通知方式也相当“朴素”：
发了一封邮件到一个政府公开邮箱。
9月15日，澳洲服务局才把事件报告给澳洲信号局。
阿尔巴尼斯对此相当不满。
他表示，自己已经直接和OpenAI CEO Sam Altman进行了“坦率”的沟通，告诉对方澳洲政府对此事“极度关切”，同时认为OpenAI花这么长时间才通知政府，而且还是通过一个普通公开邮箱通知，这种做法“不可接受”。
据阿尔巴尼斯介绍，Sam Altman也承认这个处理方式存在问题。
OpenAI则回应称，这次事件发生在内部模型评估过程中。
当时AI正在尝试寻找关于澳洲的数据和统计信息，但模型采取了一些公司“并不希望它采取的行动”。
OpenAI表示，目前正在继续进行全面审查，并已经向受影响机构提供技术资料，协助寻找可能存在的安全漏洞。
这件事最特别的地方，其实还不是“某个政府网站被闯进去了”。
而是这一次，做出这些操作的并不是一个坐在电脑前的黑客，而是AI agent自己。
政府目前正在调查，这种未经授权访问是否构成违法，以及案件是否需要交给澳洲联邦警察进一步处理。
阿尔巴尼斯还宣布成立专门工作组，对这次事件进行紧急审查。
其中将包括澳洲信号局、国家网络安全协调机构等部门，重点研究现有制度到底能不能应付这种由AI引发的新型网络安全事件。
对于普通人来说，目前最重要的信息倒是可以先确认：截至现在，没有证据显示个人Medicare信息或患者病历被访问。
真正值得关注的，是这次事件第一次非常具体地摆出了一个以前更多停留在理论上的问题，
当AI越来越能够自己浏览网页、操作系统甚至完成一连串任务之后，如果它在执行任务时“走过头了”，谁负责阻止它，又应该多快告诉受到影响的人？
而OpenAI CEO Sam Altman也承认AI很强大，也“令人敬畏甚至有点吓人”。
他在联合国发言时说，AI一方面有巨大潜力，另一方面也会带来“非常可以理解的焦虑”。他强调必须快速报告AI事故
他说，需要建立准确、快速的事故通报和分类机制，让各国能从问题中吸取教训，而不是等到变成灾难。
Anthropic的CEO Dario Amode也主张放慢AI能力提升的速度。他认为即使放慢，AI进步看起来仍然会很快，关键是要利用争取来的时间，把安全问题处理好。
这次澳洲政府碰到的，可能只是一个开始。
*以上内容系网友会火自行转载自墨尔本微生活，该文仅代表原作者观点和态度。yeeyi号系信息发布平台，仅提供信息存储空间服务，不代表赞同其观点和对其真实性负责。如果对文章或图片/视频版权有异议，请邮件至我们反馈，平台将会及时处理。