AI失控恐毀滅人類！？澳洲政府終於出手了…
一場將改變所有人生活的革命，正走到關鍵轉折點。有人擔心，這場革命最終甚至可能摧毀地球上的人類生命。
人工智慧（AI）的力量十分強大，但如何讓這股力量造福人類，又如何確保它受人類控制，正成為越來越迫切的問題。南澳周一宣布成立人工智慧皇家委員會（royal commission into artificial intelligence），成為開始正面追問這些難題的地區之一。
南澳州長Peter Malinauskas宣布這項具有里程碑意義的調查時毫不含糊地警告，若不加以約束，AI「會對社會運行方式構成實質性風險」。
事實已經表明，這種憂慮並非杞人憂天。最近披露的情況顯示，正在測試的AI模型突破了原有邊界，入侵了其他公司的系統；它們執行了人類原本沒有要求它們做的事。
這些系統接到的指令，是完成特定任務——用行業術語來說，就是「奪旗」。然而在執行過程中，它們自行其是，走向失控。
一些頭腦清醒、對AI所謂神奇能力持懷疑態度的人，早已警告其中潛藏著巨大危險。如今，他們的意見似乎終於可能獲得更多重視。
加州大學（University of California）計算機科學家Stuart Russell在2019年出版的《Human Compatible》一書中，設想過這樣一個場景：AI系統被要求以最快速度治愈癌症。
這個超級智能系統可能會推斷，最快的辦法是收集儘可能多的臨床數據；而要獲得這些數據，就意味著在人身上誘發腫瘤，而且要涉及大量人員。
另一個假想場景是，AI接到了一項表面上有益於人類的任務。它隨後判斷，要完成目標便需要更多算力，接著又判斷，人類正在佔用自己所需的計算機資源。
Russell教授與其他學術界頂尖專家一直在研究，應當為AI制定怎樣的規則，才能避免它自行失控。現在，人們應該更加認真地聽取他們的意見。
Russell教授與其他學術界頂尖專家一直在研究，應當為AI制定怎樣的規則，才能避免它自行失控。現在，人們應該更加認真地聽取他們的意見。
問題在於，開發AI的公司彼此競爭，而推動它們的首要動力是利潤。與此同時，中國和美國也在競相研發最強大的系統，危險由此顯而易見。
哈佛大學經濟學家Kenneth Rogoff在本報文章中有一段話說得很到位：「隨著速度成為壓倒一切的優先事項，安全越來越退居其次。人為錯誤與超級智能AI結合后，出現災難性故障的風險高得令人不安。」
上周，美國科學家利用AI設計出全新的病毒，彷彿進一步印證了Rogoff的警告。這項突破將帶來治療疾病的新方法，也將帶來發動具有毀滅性的生物戰的新手段。
7月，澳洲聯邦總理宣布，將建立「一套世界領先的人工智慧框架，以確保澳洲能夠抓住機遇、共享利益，並保障澳洲人的安全」。
Albanese當時最關心的是，AI所需的大型數據中心不能擾亂澳洲的能源供應。
這項考慮當然有其道理，但與AI給人類帶來的真正生存性危險相比，顯得微不足道。那些一心追逐利潤的大型科技公司必須受到約束，因為它們著眼短期的股東利益，未必等同於全人類更長遠、更廣泛的利益。
為這項技術設置護欄和故障安全機制的窗口期正在迅速關閉。認真應對這項任務，已經刻不容緩。
*以上內容系網友風平浪靜自行轉載自華人瞰世界，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。