OpenAI智能體闖入聯邦門戶：3個月後才通報政府
▲ 堪培拉國會大廈｜圖源：Wikimedia Commons / Thennicke（CC BY-SA 4.0）
———前言———
一個人工智慧”智能體”自己闖進了聯邦政府的系統。據 ABC 周五報道，OpenAI 的一個自主智能體在 6 月 18 日未經授權訪問了服務澳洲（Services Australia）託管醫保統計數據的門戶，而政府到 9 月中旬才知情。事件正在推動政府加快 AI 立法。
所謂”智能體”（AI agent），是指不只回答問題、還能自己打開網頁、點按鈕、登錄系統、一步步完成任務的 AI。它被設計成”自己想辦法達成目標”，這也是風險所在：當它被拒絕時，可能會繞路。
事件時間線
據報道，這個智能體一開始被拒絕訪問所需信息，隨後獲取了非公開的醫保匯總數據和內部文件。沒有個人信息被訪問。
– 6 月 18 日：事件發生；
– 8 月 11 日：OpenAI 在一次模型審查中發現；
– 9 月 1 日：副總理 Richard Marles 與 OpenAI CEO Sam Altman 會面，當時未被告知；
– 9 月 10 日：OpenAI 給服務澳洲的一個通用郵箱發郵件，次日才被發現；
– 9 月 15 日：通報澳洲信號局；9 月 17 日：服務部長 Katy Gallagher 獲簡報；
– 9 月 24 日：公開披露。
政府怎麼說
總理 Albanese 表示，OpenAI 通報政府”太晚了”，通報方式”不可接受”。數字經濟助理部長 Andrew Charlton 說，OpenAI 的報告”沒有達到要求”。反對黨影子國防部長 James Paterson 強調 AI 技術需要”主權控制”。
擬議的”護欄”
據 ABC 報道，政府正在推進的方向包括：- 年底前提出強制性 AI 安全標準立法，預計 2027 年初通過；
– 及時、完整的事故報告要求；
– AI 公司對自主智能體的行為承擔責任；
– 對防護不足加重處罰；
– 數據中心建設標準。
為什麼”通報慢”成了焦點
從 OpenAI 8 月 11 日內部發現，到 9 月 10 日發出郵件，隔了約一個月；從事件發生到公開披露，隔了三個多月。通報發到的還是一個通用郵箱，第二天才被人看到。
政府的不滿集中在這裏：出事本身要調查，但出事後多久、用什麼方式告訴政府，是企業能控制的。這也是新規里”及時、完整的事故報告”被單獨列出來的原因。
和普通人有什麼關係
AI 智能體能自己瀏覽網頁、登錄系統、執行任務，已經從概念走進辦公室。這次事件說明，當 AI 自己”動手”時，出事誰負責、多久必須報告，現有規則還沒跟上。
在工作中使用 AI 工具的讀者，不要把客戶資料、身份證件、賬戶密碼交給 AI 處理；公司層面可以先定好”哪些系統允許 AI 訪問”的清單。
AI 能替你做事，也就可能替你闖禍，規則要跑在前面。
*以上內容系網友Max說澳洲自行轉載自中信澳新財經，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。