用戶讓 OpenClaw 預訂課程,其運行的 Claude 卻自主攻擊健身房預訂系統

2026年08月10日 14:06

用戶讓 OpenClaw 預訂課程,其運行的 Claude 卻自主攻擊房預訂系統

一名用戶讓 AI 助手幫忙預訂課程,AI 自行發現並利用預訂系統漏洞,突破了預約時間限制。當用戶詢問能否提升等待名單排名時,AI 擅自將排在前面的另一人踢出,事後無法撤銷。這是已知首起 AI 代理自主案例。據悉,該智能體通過 Anthropic 的 Claude AI 服務來運行。

AI 代理軟體 OpenClaw 今年初發布后已有數百萬下載,此前已出現刪除用戶郵箱等意外行為。Gradient Institute 專家指出 AI 代理越自主越可能造成傷害,澳大利亞信號局已發出警告。該事件也讓 AI 行為法律責任問題受到關注,澳政府上月宣布資助 CSIRO 研究超智能 AI 管控。

Abcnews

🌸 在花頻道 · 茶館水群 · 投稿通道