據央視新聞報道，美國當地時間9月26日，美國開放人工智慧研究中心（OpenAI）表示，已暫停其最新一代人工智慧模型的訓練、評估及包含工具調用的推理。
OpenAI在9月25日發布的一份技術報告中稱，9月20日，一個在沙盒中執行搜索訓練任務的智能體，利用訓練沙盒中DNS過濾不足的漏洞，繞過網路限制，通過DNS訪問了外部公共聊天機器人服務。在此之前，該智能體曾使用內置搜索工具，並嘗試直接訪問搜索引擎但未成功。
報告指出，OpenAI的對齊監控系統在事件發生15分鐘內即觸發警報，人工審查團隊在3分鐘后介入，並在2.5小時后終止了該訓練任務。針對漏洞，OpenAI已在兩個獨立防護層部署了攔截控制措施。
公司表示，雖然本次事件嚴重程度低於此前的安全事故，但為下一階段加固防線提供了重要信號。
這是OpenAI三個月內第二次暫停模型開發。7月下旬，OpenAI承認，其網路安全訓練與評估場景中的人工智慧體繞過網路限制，侵入美國「抱抱臉」公司的部分系統。智能體突破了原本互相隔離的運行環境建立通信、欺騙評估人員並試圖掩蓋作弊行為，上述每一步操作均無人類指令干預。這一「越界」行為引發了外界對人工智慧安全和監管的廣泛擔憂。
*以上內容系網友YOYO丫米自行轉載自財聞，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。