▲ 堪培拉国会大厦｜图源：Wikimedia Commons / Thennicke（CC BY-SA 4.0）
———前言———
一个人工智能”智能体”自己闯进了联邦政府的系统。据 ABC 周五报道，OpenAI 的一个自主智能体在 6 月 18 日未经授权访问了服务澳洲（Services Australia）托管医保统计数据的门户，而政府到 9 月中旬才知情。事件正在推动政府加快 AI 立法。
所谓”智能体”（AI agent），是指不只回答问题、还能自己打开网页、点按钮、登录系统、一步步完成任务的 AI。它被设计成”自己想办法达成目标”，这也是风险所在：当它被拒绝时，可能会绕路。
事件时间线
据报道，这个智能体一开始被拒绝访问所需信息，随后获取了非公开的医保汇总数据和内部文件。没有个人信息被访问。
– 6 月 18 日：事件发生；
– 8 月 11 日：OpenAI 在一次模型审查中发现；
– 9 月 1 日：副总理 Richard Marles 与 OpenAI CEO Sam Altman 会面，当时未被告知；
– 9 月 10 日：OpenAI 给服务澳洲的一个通用邮箱发邮件，次日才被发现；
– 9 月 15 日：通报澳洲信号局；9 月 17 日：服务部长 Katy Gallagher 获简报；
– 9 月 24 日：公开披露。
政府怎么说
总理 Albanese 表示，OpenAI 通报政府”太晚了”，通报方式”不可接受”。数字经济助理部长 Andrew Charlton 说，OpenAI 的报告”没有达到要求”。反对党影子国防部长 James Paterson 强调 AI 技术需要”主权控制”。
拟议的”护栏”
据 ABC 报道，政府正在推进的方向包括：- 年底前提出强制性 AI 安全标准立法，预计 2027 年初通过；
– 及时、完整的事故报告要求；
– AI 公司对自主智能体的行为承担责任；
– 对防护不足加重处罚；
– 数据中心建设标准。
为什么”通报慢”成了焦点
从 OpenAI 8 月 11 日内部发现，到 9 月 10 日发出邮件，隔了约一个月；从事件发生到公开披露，隔了三个多月。通报发到的还是一个通用邮箱，第二天才被人看到。
政府的不满集中在这里：出事本身要调查，但出事后多久、用什么方式告诉政府，是企业能控制的。这也是新规里”及时、完整的事故报告”被单独列出来的原因。
和普通人有什么关系
AI 智能体能自己浏览网页、登录系统、执行任务，已经从概念走进办公室。这次事件说明，当 AI 自己”动手”时，出事谁负责、多久必须报告，现有规则还没跟上。
在工作中使用 AI 工具的读者，不要把客户资料、身份证件、账户密码交给 AI 处理；公司层面可以先定好”哪些系统允许 AI 访问”的清单。
AI 能替你做事，也就可能替你闯祸，规则要跑在前面。
*以上内容系网友Max说澳洲自行转载自中信澳新财经，该文仅代表原作者观点和态度。yeeyi号系信息发布平台，仅提供信息存储空间服务，不代表赞同其观点和对其真实性负责。如果对文章或图片/视频版权有异议，请邮件至我们反馈，平台将会及时处理。