比爾·蓋茨又出來嚇人說：要死10億人
作者： 滬慢慢
比爾蓋茨若只是說，人工智慧可能把壞人的能力放大，因此政府必須認真防範，這沒有問題。可是加上「十億人」，便從風險分析忽然跳進災難文學。十億這個數字若沒有模型，沒有概率，沒有路徑，不過是一個很大的數字。三十年前，電腦病毒可以「摧毀世界」；二十年前，納米機器人可以把地球吃掉；今天輪到AI。科技每進步一次，人類總有人負責發明未來，也總有人負責發明世界末日。
比爾蓋茨最近又出來嚇人，說人工智慧已經強大到，足以引發十億人死亡的事件。
十億。
這個數字很好。不是九億，也不是十二億，偏偏十億。聽起來有科學感，有末日感，也有新聞標題感。
問題是，十億人怎麼死？
人工智慧畢竟不是原子彈。它不會從電腦屏幕里伸出一隻手來掐死人。要殺人，總得有一條物理路徑。
用核武？人類七八十年前已經會了。今天全世界的核武庫，本來就足以造成難以想象的災難。沒有人工智慧，人類照樣有能力把自己炸得七葷八素。
用常規武器？也一樣。全世界的槍炮、炸藥、導彈，加起來殺十億人，在物理上從來不是缺武器的問題。真正缺的是誰去下命令，誰去執行，誰能突破國家機器、軍隊、情報機構和其他人的反抗。
人工智慧能解決這些問題嗎？
如果答案是能，那麼請把鏈條講出來。
AI怎樣取得核武發射許可權？怎樣越過雙人認證？怎樣控制潛艇？怎樣命令軍隊？怎樣讓幾十個國家同時失去指揮系統？
如果是生物武器，也請繼續講。AI可以告訴壞人一些實驗知識，這是一回事；壞人能不能取得實驗室、設備、材料、人員，再製造一種既高傳播又高致死、還能繞過全球公共衛生體系的病原體，是另外一回事。
中間每一步，都不是打幾個字就會自動完成。
AI安全討論最容易出現一種魔術：先證明模型會寫代碼，會找漏洞，會回答生物實驗問題，然後鏡頭一轉，人類已經死了十億。
中間那九百九十九步，不見了。
這當然不等於AI沒有危險。一個越來越聰明的系統，如果被接上電網、武器、實驗室、金融系統，而且給予高度自主許可權，當然可能出事。真正該討論的也是這些事情：誰給它許可權？接了什麼系統？有沒有人類複核？出了問題能不能拔插頭？
這些問題都很具體。
偏偏「十億人」最不具體。
核武時代至少有一件事教過人類：擁有毀滅能力，不等於毀滅必然發生。真正降低風險的，是指揮鏈、授權制度、威懾、隔離、監督和人的判斷。
AI亦然。
比爾蓋茨若只是說，人工智慧可能把壞人的能力放大，因此政府必須認真防範，這沒有問題。可是加上「十億人」，便從風險分析忽然跳進災難文學。
十億這個數字若沒有模型，沒有概率，沒有路徑，不過是一個很大的數字。
三十年前，電腦病毒可以「摧毀世界」；二十年前，納米機器人可以把地球吃掉；今天輪到AI。
科技每進步一次，人類總有人負責發明未來，也總有人負責發明世界末日。
前者需要工程師。
後者有時只需要一個麥克風。
- 🔥澳洲禁聞安卓APP，其它網站沒有的澳洲禁聞
- 🔥免費PC翻牆、安卓VPN翻牆APP
- 🔥靈魂之謎|中華文化|治國大道
來源：來稿