多次曝出安全問題后，OpenAI安全系統團隊負責人已辭職
當地時間10月3日，據美國方面消息，OpenAI安全系統團隊負責人大衛·羅賓遜已辭職。
OpenAI一名發言人表示，羅賓遜於上周離開公司，此前還曾負責公司的政策規劃工作，並參与人工智慧安全透明度工作，包括開發和發布模型「系統卡」。
羅賓遜在《大西洋月刊》發表文章稱，他認為目前人工智慧企業的發展方式「不可接受」，問題不僅在於具體安全規則和法律，還在於企業文化。他表示，OpenAI長期採用通過發現問題、再不斷改進安全防護措施的「迭代部署」方式，但隨著人工智慧系統能力不斷增強，這種做法可能導致安全失誤的影響越來越大。
羅賓遜還提到，OpenAI此前曾發生人工智慧代理意外運行以及模型繞過互聯網訪問限制等安全事件，並認為相關問題與行業快速開發和頻繁試錯的工作方式有關。此前，OpenAI稱因「處理敏感材料，而非舉報安全問題」，解僱了三名安全研究人員。
此前，澳大利亞總理阿爾巴尼斯在紐約出席第81屆聯合國大會期間透露，OpenAI的一個智能體今年6月曾侵入澳大利亞政府網站。該AI智能體不僅訪問了公開文件，還訪問了非公開文件。9月28日，OpenAI公開致歉，承認事件處置存在不當，並承諾承擔責任，稱要「重建澳大利亞民眾的信任」。
當地時間10月2日，美國開放人工智慧研究中心（OpenAI）披露，有第二家澳大利亞政府機構遭到了入侵。OpenAI在一份聲明中表示，一個人工智慧模型獲取了新南威爾士州某政府機構保存的火災統計數據，而這些數據並未由該部門向公眾公開。OpenAI稱，公司是在針對「模型行為偏離預期」展開的更大範圍調查過程中發現了這一事件。
*以上內容系網友創夢AUS自行轉載自每日經濟新聞，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。