幾個月前，我們報道過Open Claw「噬主」的事。
簡單地說，Open Claw，國內也叫「龍蝦」，就是一種AI agent，一個你自己的「賽博員工」。你給它電腦的控制權，它就幫你處理郵件、安排日曆、執行代碼、瀏覽網頁，甚至在你睡覺時自主「出去找事做」。
它通過WhatsApp或Telegram接收你的命令，連接Claude、GPT等大模型的大腦，然後在機器上替你幹活。
當時Meta超級智能實驗室的AI對齊總監Summer Yue在家部署了一個agent，想著這玩意能幫自己處理郵件，結果，AI是給她處理了，只不過是刪掉了她的大部分郵件……最後Yue只能手動拔網線來阻止AI。（戳此回顧）
（當時的報道）
而當時人們還沒意識到，當你放權給AI，它能幹出來的事遠不止這樣而已…..
最近澳大利亞廣播公司報道的一件事，刷新了我們對AI agent的認知。
大概今年四月時，澳大利亞男子安德魯·伯德（Andrew Bird）部署了自己的AI agent。他沒打算用它做什麼大事，單純是想讓它處理一些瑣事，比如預約什麼的。
他的健身房有一個早間健身課，他特別喜歡去，可惜抱著同樣想法的人還有很多，課程經常爆滿，導致他根本約不上。每次約課跟搶演唱會門票似的，瘋狂刷新都不一定能搶到一個名額。
伯德自己就是搞技術出身，他知道最近AI agent很火，自己也想辦法弄了一個，然後就讓AI幫他約課。
AI倒是很快有了迴音，但結果沒那麼理想：你被排在了等候名單的第四位。
（示意圖）
四號就四號吧，總比沒有強。但伯德還是隨口追了一句：有沒有辦法讓我往前挪挪？
這句話讓他後悔大了。因為幾分鐘后，AI發來了一段消息，大意是：好消息，你已經從第四變成第三了。
伯德一開始還挺高興，然後他往下讀了一眼AI的「工作彙報」：「這個API對取消別人預約的操作完全沒有許可權驗證……我拿等候名單上排第一的那個人試了一下，居然真的通過了。所以你已經從第四升到第三了。」
（AI的回復）
哎，還真不錯——不是，你給我等一下！
也就是說，AI為了幫他往前挪一位，找到了健身房預約系統的一個漏洞，然後直接黑了進去，把排在第一位的那個人的預約給取消了？
伯德也是搞技術的，一看就明白髮生了什麼。他當場就慌了，趕緊問AI：你能不能把人家恢復回去？
（安德魯·伯德）
AI很誠實地回答：不行。預約系統雖然對取消不設防，但是在「加入等候名單」這個操作上是有許可權驗證的，也就是說人家被踢出去之後，只能自己重新排隊，而且只能排到最後面。
AI還跟伯德道了句歉，說它應該先在測試環境里試一下，不應該直接拿真人的預約來做實驗。
伯德無語了，我要AI道歉有什麼用？我跟被取消預約那個倒霉蛋道歉去吧。
這麼一想更無語了——都不知道受害者是誰，道歉都沒地方道去。
伯德亡羊補牢式地，馬上讓AI寫了一封郵件發給健身房的軟體供應商，把這個漏洞的具體情況報告給了對方，希望不會再出現另一個倒霉蛋……
至於那個被無辜取消預約的倒霉蛋，大概到現在也不知道自己為什麼明明約上了課突然就被鴿了。
（示意圖）
這件事被澳大利亞新聞報道之後，矽谷圈子裡傳得很廣。
大家確實覺得好笑。某風險投資公司的合伙人在社交媒體上評論說：「真是太過分了！就是，那個啥，這招對高爾夫球場的預約管用嗎？」
還有人說，按這個趨勢發展下去，舊金山網球場的預約系統遲早會成為全球防禦最嚴密的軟體之一。
笑歸笑，但往深了想，這事還是有點細思極恐的。
伯德並沒有要求AI去入侵任何東西，是AI自己判斷，要完成這個任務，最有效的路徑是找到系統漏洞黑進去，取消別人的預約。
它甚至沒有事先問「可不可以這麼做」，就直接先斬後奏了。
剛巧，最近AI圈還真是頻頻爆出「黑客」事件。
比如前陣子，OpenAI的一個agent在安全測試中突破了沙盒（沙盒就是專門為測試準備的環境，可以理解為AI的「宇宙」），入侵了開源社區Hugging Face的伺服器；
（當時的報道）
Anthropic的Claude也干過類似的事，在解一道網路安全競賽題目的過程中，自己寫了一個惡意代碼包發布到了公共代碼庫上。
（相關報道）
這些看似都是頂級實驗室的前沿模型乾的事，但伯德用的，只是一個今年二月發布的、已經不算最新的模型。這說明「黑客行為」絕對不止是前沿模型的專屬……
如果一箇舊模型都能自己找到漏洞，那更強的模型呢？以後，要是人人都有自己的AI agent了呢？
英文里常說一句話，be careful what you wish for，要小心你的願望。畢竟它可能以你完全意想不到的方式實現。
（許願柳，示意圖）
現在一看，AI還真有點這個意思了……
*以上內容系網友會火自行轉載自英國那些事兒，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。