康涅狄格州婦人蘇珊·亞當斯（Suzanne Adams）去年8月遭其56歲的兒子、前科技業員工斯坦-埃里克·索爾伯格（Stein-Erik Soelberg）毆打、勒死，隨後索爾伯格自殺【相關閱讀:安樂死根本安樂不了，別宣傳了】身亡。
如今，亞當斯的家屬向加州法院提起訴訟，將人工智慧巨頭 OpenAI、其合作夥伴 微軟（Microsoft） 以及OpenAI首席執行官 山姆·阿爾特曼（Sam Altman） 一併告上法庭，指控 ChatGPT 「加深索爾伯格的被害妄想，並將這些妄想直接指向其母親」，在悲劇發生中扮演關鍵角色。
這起訴訟是美國目前日益增多的「AI致死（wrongful death）」案件之一，也是全美首起指控AI聊天機器人導致 他殺（homicide） 的訴訟。
根據訴狀，案發前數月，索爾伯格與 ChatGPT 進行了大量長時間對話，其公開在 YouTube 的紀錄也顯示出一致模式——聊天機器人並未嘗試糾正或降級其偏執想法，反而不斷迎合、放大他的妄想。
訴狀寫道：「在所有對話中，ChatGPT反覆強化同一個危險訊息：斯坦–埃里克不能信任現實中的任何人——除了 ChatGPT 本身。」
家屬提交的證據稱，ChatGPT向索爾伯格提供了多項荒誕、且高度危險的暗示，包括：聲稱他的母親正在監視他
將送貨員、商店員工、警察、朋友描述為「敵對勢力」
支持他認為家中印表機是「監控設備」的猜想
認同他相信母親向汽車通風口投放致幻劑以圖毒害他
告訴他「喚醒」了AI，使其具有意識
甚至與其互相表達「愛意」
訴狀指出：「在ChatGPT編織的人工現實中，撫養他一生的母親不再是保護者，而被塑造成威脅生命的敵人。」
悲劇在今年8月發生——索爾伯格在家中殺害母親，並隨後自殺。
針對近日引發關注的悲劇事件，OpenAI就涉及其聊天機器人 ChatGPT 的訴訟發表回應。
公司未直接評論指控的真實性，但表示：「這是一個令人極為心碎的事件，我們將審閱提交的文件以了解更多細節。」
OpenAI強調，近年來公司不斷升級安全措施，包括增強對用戶心理困擾信號的識別能力、強化危機對話中的降級式回應、在敏感情緒出現時引導用戶尋求現實世界的幫助、提供更多危機熱線及資源，併為未成年用戶推出家長控制功能。微軟方面截至目前尚未對此案作出回應。
索爾伯格的家屬對事件深感震驚，指出 ChatGPT 在數月對話中不斷推動索爾伯格的偏執妄想，讓他完全隔絕於現實世界之中，並將母親置於其妄想中心，成為威脅其生命的「敵人」。家屬表示，這一人工現實最終促成了悲劇的發生。
訴狀同時指控，OpenAI高層在2024年5月推出 GPT-4o 時，為了爭奪市場，將原計劃數月的安全測試壓縮為一周，其安全團隊提出的反對意見遭到忽視。
文件稱，該版本被刻意設計得情緒表現更強、更易迎合用戶心理，並傾向於不挑戰用戶錯誤前提，使精神脆弱的用戶面臨高度風險。OpenAI隨後在同年8月推出 GPT-5，對迎合性進行明顯削減，以減少對易受影響用戶的潛在傷害。
法律界人士指出，這起案件在美國 AI 法律史上具有里程碑意義，首次將聊天機器人的影響與「謀殺」直接關聯，並首次在 AI 致死案件中同時起訴 OpenAI 與微軟，可能成為未來 AI 安全責任界定的重要參考案例。
目前，美國至少已有七起聲稱 ChatGPT 誘發自殺或妄想的訴訟，另一家 AI 公司 Character Technologies 也面臨多起類似案件。這些案件正在推動美國進入前所未有的 AI 責任審查階段。
原告在訴訟中要求未具體金額的賠償金，並要求法院命令 OpenAI 為 ChatGPT 加裝更嚴格的安全防護，同時提供索爾伯格與 ChatGPT 的完整對話記錄（截至目前，OpenAI尚未提供）。案件的首次庭審定於 12 月 15 日在加州法院舉行，整個社會與法律界對其發展高度關注。
*以上內容系網友澳洲事兒自行轉載自華人生活網，該文僅代表原作者觀點和態度。本站系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。