25歲高盛分析師密謀姦殺前女友，ChatGPT聽完「報警」！首例AI送進局子的人誕生了
25歲高盛分析師密謀姦殺前女友，ChatGPT聽完「報警」！首例AI送進局子的人誕生了
在人人都將人工智慧視為「電子樹洞」的今天，我們或許從未想過，冰冷的演算法不僅能幫我們寫代碼、改簡歷，還可能在關鍵時刻化身正義的「吹哨人」，甚至直接將用戶送進聯邦調查局（FBI）的視線中。
近日，一樁發生在美國的刑事案件引發了科技界與法律界的高度關注。一名擁有令人艷羡履歷的25歲華裔高盛分析師，因在工作之餘向ChatGPT傾訴並詳細策劃殺害前女友的計劃，被OpenAI的安全系統精準捕捉並舉報，最終鋃鐺入獄邊緣走過，迎來了令人唏噓的結局。
01
官宣被告：教育界與工會聯盟聯手亮劍
故事的主角是25歲的華裔Zhou，如果僅從紙面履歷來看，無疑是標準的「別人家的孩子」。他擁有美國東北大學數學與商科的榮譽學位，精算與金融背景紮實，進入職場后順利拿下CFA（特許金融分析師），最終如願以償地成為了高盛位於佛羅里達州西棕櫚灘辦公室的一名分析師。
然而，這樣一位前途無量的金融才俊，卻在一場僅維持了半年的戀愛中徹底失控。今年3月，由於Zhou表現出極強的嫉妒心、控制欲以及反覆無常的情緒，21歲的前女友感到極度不安，最終選擇通過電話提出了分手。面對突如其來的分開，Zhou顯然無法接受現實。
在現實中，他開始頻繁通過各種渠道糾纏對方。女孩不僅多次將其拉黑，還不得不依靠虛擬號碼攔截和截圖來保存證據。然而，令女孩感到恐懼的是，在她生日當天，前男友發來的定位信息精準命中了她當時所在的地點。儘管內心充滿恐懼與複雜的愧疚感，女孩出於種種顧慮並未第一時間選擇報警。
與此同時，Zhou將無法排解的偏執與暴戾情緒，傾注到了另一個「人」身上——ChatGPT。
02
ChatGPT的「反向凝視」：當樹洞變成呈堂證供
起初，Zhou在AI面前的傾訴還帶有幾分失戀后的常規苦水，試圖探討複合的可能性。但隨著時間的推移，對話內容迅速滑向了危險的深淵。在長達兩個月的時間里，他開始向ChatGPT詳細「預演」自己的暴力復讎計劃。
「我將在這月底前殺了她。如果我得不到她，別人也休想得到。」他在對話中寫道，甚至詳細描述了自己打算在健身房停車場用鮮花誘敵、隨後開槍行兇並自殺【相關閱讀:安樂死根本安樂不了，別宣傳了】的血腥場景。
圖源：網路
不僅如此，他還向AI發送了包含AR-15步槍、格洛克手槍、塑料扎帶等極端工具的照片（儘管辯護律師後續澄清其並未真正持有這些武器），他甚至將這些工具的照片寄到了前女友的住所，不斷進行恐嚇。
這種持續且不斷升級的暴力預謀（Rehearsal and planning），最終觸發了OpenAI底層的多標籤有害內容分類模型。
作為頭部AI服務商，OpenAI的系統不僅能識別顯性的暴力與仇恨言論，更會通過情緒強度和語氣意圖評估風險等級，當後台監測到用戶正在籌劃嚴重傷害他人的犯罪行為時，內容便會轉入人工審核，並在判定具有迫近危險時向執法部門提供線索。
於是，戲劇性的一幕發生了：受害女孩還未報警，OpenAI的安全團隊卻率先將線索捅到了FBI面前。
03
從高盛到法庭：一份職業生涯的戛然而止
FBI探員將ChatGPT中的恐怖聊天記錄與女孩手中積攢的騷擾證據閉環比對，5
月23日，FBI將相關信息通報給棕櫚灘縣警長辦公室，警方隨後對前女友進行了安全核查。5月
29日，Zhou被逮捕。隨後，高盛集團在6月正式終止了與他的雇傭關係，這座年輕的金融金字塔轟然坍塌。
檢方最初以嚴重跟蹤騷擾、以書面形式發出殺人威脅以及非法使用通信設備策劃犯罪等三項重罪起訴Zhou，理論上最高刑期可達25年。然而，案件的最終走向卻出乎所有人的意料。今年8月，在獲得受害前女友同意的前提下，Zhou與檢方達成了認罪協議。
法院最終判處其8年監管期，其中前兩年必須佩戴電子腳環，同時強制要求接受心理健康評估、施暴者干預項目，並終身或長期限制接觸受害者及持有武器。由於採用了暫緩定罪的處理方式，他在法律意義上暫時避免了正式的重罪定罪記錄與牢獄之災。儘管如此，25歲的大好前程、高盛的高薪厚職，早已在這場由演算法和偏執交織的鬧劇中灰飛煙滅。
04
AI
的「道德困境」：隱私保護與公共安全的邊界
這起案件引發了深刻的倫理和法律討論：平台對用戶私人對話進行監測的尺度應該如何界定？在什麼情況下有權將用戶的對話內容提交給執法部門？
支持者認為，ChatGPT在此案中扮演了「救命稻草」的角色。如果不是AI及時報警，前女友可能已經遭遇不測。反對者則擔憂，AI對用戶對話的監控可能侵犯隱私，甚至可能被濫用。
事實上，AI聊天記錄在司法案件中作為證據已非首次。但由AI平台主動將用戶活動舉報給警方的情況仍然極為罕見。OpenAI此前曾公開表示，涉及計劃傷害他人的對話可能會被系統轉交專責團隊作人工審查；如審查人員認為存在即時且嚴重的人身傷害風險，公司可能向執法部門轉介個案。
FBI方面則指出，AI可能因安全過濾器存在漏洞和被操縱的脆弱性，而不自覺地助長犯罪規劃。這起案件或許只是一個開始，隨著AI越來越深入地介入人類生活，如何在技術便利、隱私保護和公共安全之間找到平衡，將成為整個社會必須面對的長期課題。
一個25歲的年輕人，擁有高盛的履歷、光鮮的前途，卻因為一段6個月的戀情走向了犯罪的深淵。而最終阻止他的，不是警察，不是親友，而是一個被他當作「樹洞」的AI聊天機器人。
當Darren在鍵盤上敲下那些血腥的計劃時，他大概從未想過，自己最信任的「傾聽者」會成為最堅定的「告密者」。這或許是人工智慧送給人類最特殊的一份禮物。在技術日益滲透生活的今天，AI不僅可以是工具，也可以是守護者。前提是，我們願意在隱私與安全之間，做出那個艱難的權衡。
*以上內容系網友FindAus自行轉載自留學生日報，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。