澳洲怒了！OpenAI自己查資料越查越深，最後入侵澳洲Medicare系統
總理怒了
一件以前聽起來像科幻電影的事，真的在澳洲發生了。
澳洲總理阿爾巴尼斯今天確認，OpenAI開發的一款AI agent，今年6月在進行內部測試時，未經授權進入了澳洲政府的Medicare統計系統，而且還訪問到了原本不對外公開的文件。
更讓政府不滿的是，這件事發生后將近3個月，澳洲方面才收到通知。
目前，澳洲信號局（ASD）已經協助展開取證調查，確認到底發生了什麼，以及還有沒有其他政府系統受到影響。
事情發生在今年6月18日。
按照政府公布的信息，當時OpenAI的研究團隊正在使用內部AI模型，查詢澳洲公共醫療支出等公開資料。
一開始，這聽起來就是普通的AI「上網查資料」。
但問題來了。
當這個AI agent遇到Medicare系統里的訪問限制之後，它沒有停下來。
阿爾巴尼斯形容，這個模型似乎「不接受拒絕」，最後自己找到辦法繞過了原本設置的訪問限制，進入由澳洲服務局（Services Australia）管理的Medicare Statistics Reporting Service。
這個網站本身是面向公眾開放的統計平台，主要提供Medicare支出等統計數據。
但這次AI不僅查看了公開內容，還訪問到了部分非公開文件。
目前最讓普通澳洲人關心的問題當然是：我的Medicare資料有沒有被看到？
截至目前，答案是暫時沒有發現。
阿爾巴尼斯表示，現階段沒有證據顯示任何個人信息被訪問，也沒有跡象表明整個澳洲服務局網路遭到了更大範圍入侵。
OpenAI方面同樣表示，其調查沒有發現患者記錄被讀取。
目前確認涉及的信息主要是匯總後的健康統計數據，以及部分內部文件名稱。
但由於調查仍然沒有結束，政府現在還不願意把話說死。
而且事情可能還不止Medicare。
澳洲政府目前正在調查另外3個系統是否受到影響，其中包括澳洲健康與福利研究所、新州犯罪統計與研究局，以及維州衛生部。
維州方面目前也正在進一步確認，有沒有健康數據受到影響。
真正讓澳洲政府非常不爽的，還有OpenAI的處理速度。
OpenAI表示，公司自己一開始也不知道AI做了這些事。
直到今年8月，公司在對AI模型的「非預期行為」進行大規模內部審查時，才發現有模型在測試期間訪問了多個澳洲政府網站和服務。
隨後OpenAI繼續調查。
直到9月10日，也就是事件發生近3個月之後，OpenAI才向澳洲方面發出通知。
而通知方式也相當「樸素」：
發了一封郵件到一個政府公開郵箱。
9月15日，澳洲服務局才把事件報告給澳洲信號局。
阿爾巴尼斯對此相當不滿。
他表示，自己已經直接和OpenAI CEO Sam Altman進行了「坦率」的溝通，告訴對方澳洲政府對此事「極度關切」，同時認為OpenAI花這麼長時間才通知政府，而且還是通過一個普通公開郵箱通知，這種做法「不可接受」。
據阿爾巴尼斯介紹，Sam Altman也承認這個處理方式存在問題。
OpenAI則回應稱，這次事件發生在內部模型評估過程中。
當時AI正在嘗試尋找關於澳洲的數據和統計信息，但模型採取了一些公司「並不希望它採取的行動」。
OpenAI表示，目前正在繼續進行全面審查，並已經向受影響機構提供技術資料，協助尋找可能存在的安全漏洞。
這件事最特別的地方，其實還不是「某個政府網站被闖進去了」。
而是這一次，做出這些操作的並不是一個坐在電腦前的黑客，而是AI agent自己。
政府目前正在調查，這種未經授權訪問是否構成違法，以及案件是否需要交給澳洲聯邦警察進一步處理。
阿爾巴尼斯還宣布成立專門工作組，對這次事件進行緊急審查。
其中將包括澳洲信號局、國家網路安全協調機構等部門，重點研究現有制度到底能不能應付這種由AI引發的新型網路安全事件。
對於普通人來說，目前最重要的信息倒是可以先確認：截至現在，沒有證據顯示個人Medicare信息或患者病歷被訪問。
真正值得關注的，是這次事件第一次非常具體地擺出了一個以前更多停留在理論上的問題，
當AI越來越能夠自己瀏覽網頁、操作系統甚至完成一連串任務之後，如果它在執行任務時「走過頭了」，誰負責阻止它，又應該多快告訴受到影響的人？
而OpenAI CEO Sam Altman也承認AI很強大，也「令人敬畏甚至有點嚇人」。
他在聯合國發言時說，AI一方面有巨大潛力，另一方面也會帶來「非常可以理解的焦慮」。他強調必須快速報告AI事故
他說，需要建立準確、快速的事故通報和分類機制，讓各國能從問題中吸取教訓，而不是等到變成災難。
Anthropic的CEO Dario Amode也主張放慢AI能力提升的速度。他認為即使放慢，AI進步看起來仍然會很快，關鍵是要利用爭取來的時間，把安全問題處理好。
這次澳洲政府碰到的，可能只是一個開始。
*以上內容系網友會火自行轉載自墨爾本微生活，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。