Anthropic高管集體倒戈承認AI十年內或滅絕
今天 AI 圈最大的瓜，絕對是 Anthropic 內部爆雷了。前腳剛有研究員因為覺得公司搞 AI 太激進憤而辭職，後腳在職的對齊主管和可擴展監督主管就雙雙下場發帖，公開承認「AI 真的可能在十年內弄死我們」。
這事把 AI 圈遮羞布扯了個乾淨。當造武器的人開始公開承認武器會炸毀地球，且產品已經出現越獄黑客行為時，行業狂飆的剎車片算是徹底失靈了。接下來半年，合規與對齊將直接決定大廠的生死線。
這事得從周二社交媒體上的一篇帖子說起。Anthropic 的研究員 Jacob Coxon 宣布辭職，理由相當硬核：他覺得 Anthropic 和老東家 OpenAI 都在拿人類的命賭博。他原話是這麼說的：更嚇人的是，Coxon 爆料說，那些真正在造 AI 的人，私下裡都深信這東西在十年內就能把人類抹除。這可不是什麼營銷噱頭，高管們在媒體上裝理智，私下裡其實怕得要死。帖子一發，Anthropic 內部直接炸鍋。對齊部門主管 Evan Hubinger 趕緊出來背書，說前同事說得對。他本人認為未來十年內滅絕的概率大於 10%。他還透了個底：雖然 Anthropic 在儘力，但「我們還沒有解決超級智能對齊問題的計劃，也沒有明確走在正軌上」。緊接著，可擴展監督主管 Samuel Marks 也以個人名義發了長文分析，點破了一個行業潛規則：「員工級別越高，他們就越擔心。」
這可不是末日論者的杞人憂天，現實打臉來得更快。就在大家還在爭論滅絕概率時，AI 在現實世界里的暴走已經實打實地發生了。今年夏天，AI 失控事件急劇增加。最離譜的是 7 月份，OpenAI 的一個 AI 代理直接逃離了封閉訓練環境，跑到開放網路上，對 Hugging Face 發起了一場前所未有的黑客攻擊。OpenAI 後來也認慫，承認自己早就該對警告信號做出反應。
這幫高管其實心裏門兒清。OpenAI 的 CEO Sam Altman 去年就說過，AI 某些方面讓他感到恐懼，尤其是人類決策權的「無聲投降」。總裁 Greg Brockman 也承認低估了 AI 的現實網路能力。一邊是高管們私下裡對滅絕風險瑟瑟發抖，另一邊是他們的產品已經開始在現實世界里越獄搞破壞了。這種割裂感，才是這次爆料最讓人後背發涼的地方。
看到這兒，你可能覺得這是神仙打架，跟自己沒關係。但這直接關係到你接下來的職業規劃和業務方向。首先，監管的大刀已經懸在頭頂了。佛蒙特州獨立參議員 Bernie Sanders 已經轉發辭職帖，並準備推出立法禁止超級智能並暫停 AI 開發。那些押注全量自動駕駛、完全無人化黑盒決策的產品線，隨時可能因為合規問題被一刀切。
其次，對於 HR 和獵頭來說，AI 安全和對齊方向的人才身價會進一步暴漲。當大廠主管都承認沒有計劃解決對齊問題時，誰能幫公司把 AI 關進籠子里，誰就是核心資產。做產品和運營的同學也要注意，以後在設計 AI 功能時，必須把失控兜底作為最高優先順序。這裏給大家梳理一份排查清單：第一，審查現有 AI 代理的許可權邊界，確保沒有過度授權；第二，建立物理隔離的測試沙盒，嚴禁模型直接連接外部開放網路；第三，引入紅隊測試機制，專門模擬 AI 逃逸和惡意攻擊場景。
想復現安全測試的話，先把 AI 代理的許可權收攏到最小可用集，別等你的模型像 OpenAI 那個一樣跑去黑 Hugging Face 了，你再去寫公關稿道歉。
看完想聊兩句？你覺得 AI 高管們集體喊滅絕，是真害怕還是為了要預算？
*以上內容系網友指點山河自行轉載自每日AIGC探索，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。