奧特曼被丟燃燒彈，反AI走向暴力
奧特曼被丟燃燒彈，反AI走向暴力
奧特曼被丟燃燒彈，反AI走向暴力
48小時內，奧特曼的家2次凌晨遇襲。一次被丟燃燒彈，一次是驚聞門外槍響，所幸無人傷亡，犯罪嫌疑人也迅速被捕。
事件本身不大，但提供了一個關注「AI技術掌權者」和「AI反對者」博弈的絕佳窗口。在這裏，我們聚焦第一起丟彈事件，因為圍繞它的信息披露和利益相關方的回應更全面。
暴力在這裡是最不重要的事，因為暴力的不正當，是無需重申的共識。而丟彈事件暴露出來的另一個問題更值得拆解。
2024年1月16日，在美國舊金山拍攝的薩姆·奧爾特曼 / 圖源：新華社
事件發生后，在暴力反AI者、倡導非暴力的反AI組織、AI掌權者三方的宣言表態當中，我們可以看見他們對敘事的爭奪——即如何基於已經發生的暴力事實，解釋AI和它引發的衝突。
這些敘事或說法，構成我們理解AI的多元面向，卻也暴露出我們對AI進行約束，哪怕是具體如何監管的討論，在實質層面上的懸浮與滯后。
「如果你活了下來，我會認為是上天讓你去贖罪」
往奧特曼家丟燃燒彈的人叫莫雷諾·加馬，只有20歲。
4月10日凌晨，往奧特曼的家丟完燃燒彈，他就離開了現場。但一小時后，他出現在Open AI的總部，掄起一把藍色椅子，往玻璃大門上砸。
至少從監控上看，玻璃門沒有碎，在他拎著一桶煤油靠近大門，準備下一步行動時，安保走了出來。
莫雷諾·加馬很快被捕。據法院公開文件，警方繳獲了一份反AI文件，莫雷諾·加馬處在其中表達了對AI以及「多家AI公司高管」的反對觀點，並聲稱要殺死奧特曼（在原文件中稱「受害者-1」）。他還進一步列出了AI公司顯要的董事會成員、CEO以及投資者的名單和地址，顯然目標不止一人。
莫雷諾·加馬被捕
在這份文件里，他還專門以「關於我們即將滅絕的一些額外言論」為題，討論AI對人類構成的風險。還對奧特曼放言：如果你活了下來，我會認為是上天讓你去贖罪。
此外，在一個以莫雷諾·加馬為網址名的網頁上，有一篇長文，當中寫到：即使在人類歷史上，每當一個更先進的文明與一個不太先進的文明接觸時，後者往往都會遭遇征服和種族滅絕。那麼，我們究竟為什麼要明知故犯呢？……許多人對普通人的生命價值漠不關心……那麼下一個問題就是：我們是否應該袖手旁觀，任由事態發展？——之後，他提到了殺戮。
事後，反AI組織Pause AI迅速發聲明做切割。
聲明提供了一些信息，包括莫雷諾·加馬只是在2年間往他們的公共伺服器發了34條消息，其中一條信息被標記為含義模糊，審核員發出了警告，重申Pause AI組織的抗議、請願、政策倡導和公眾教育，是合法、非暴力的，暴力恰恰是他們走向組織所極力避免的。
反AI組織Pause AI迅速發出聲明
「倡導對強大技術進行安全監管和民主監督，是公共生活中合法且必要的組成部分。試圖將和平倡導與個別個人的行為聯繫起來，從而抹黑這種做法，是對公共討論以及世界亟需就人工智慧展開的嚴肅對話的損害。」聲明中說。
但更矚目的是，這一有驚無險的突襲，讓另一事主奧特曼罕見地不再低調。
奧特曼，「雙重受害人」？
事發第二天，奧特曼在博客上髮長文回應，並附上一張家人的照片，包括幼兒的正臉。「我分享這張照片，是希望它能阻止下一個朝我家扔燃燒彈的人，不管他們對我有什麼樣的看法。」
奧特曼在博客上發回應長文
他還提及一篇報道，並認為那是一篇「煽動性文章」。
那是發表在紐約客的一篇長文《奧特曼可能掌控我們的未來——但他值得信任嗎？》，作者之一Ronan Farrow得過普利策獎，報道採訪了一百多名親歷奧特曼商業運作的人，寫了外界對這位OpenAI掌門人持續存在的質疑，奧特曼被評價得最多的是「撒謊」和「權力欲」。
報道中有句總結：即便與奧特曼關係密切的人，也很難分清他的「人類希望」止於何處，個人野心始於何處。他最大的優勢始終是，能說服不同群體相信，他想要的與他們需要的是同一件事。
「昨天有人跟我說，他們覺得這篇文章發表在大家對人工智慧極度焦慮的時期，會讓我處境更加危險。我對此不以為意。」但事後，奧特曼認為這篇文章煽動了仇恨情緒，對此不滿：「現在我半夜醒來，怒火中燒，心想我真是低估了語言和敘事的力量。」
他把「暴力」重新歸因：把個人的極端攻擊，解讀為敘事的後果，而他是雙重受害者。
接著，他一如既往強調AI技術的正當性，稱「為所有人創造繁榮，賦予所有人力量，是我義不容辭的道德責任」「人工智慧將成為人類能力和潛能拓展史上最強大的工具，人們對它的需求幾乎是無限的」……
OpenAI / 圖源：新華社
後續原文很長，大意是：AI真的很好，我做的事是為大家好。我知道「事情並非一帆風順」，我也同意「人工智慧必須民主化，權力不能過於集中，共同決定我們的未來走向」，而且「我們沒想掌握全部權力」，為此，我能想到的「唯一解法是讓這項技術廣泛普及」；最後我們要「學習適應」，破除敵友對立，「努力減少家庭內部的衝突」。
一枚燃燒彈，炸出了三方聲明，四方立場，但又不止於此。
敘事的衝突
莫雷諾·加馬、Pause AI、奧特曼的聲明，在各自邏輯里都是自洽的，但彼此卻是衝突的。他們在爭奪解釋權：誰是受害者，誰是威脅，誰有資格決定AI的未來。
誰是受害者？莫雷諾·加馬認為，面對AI，人類是受害者，奧特曼是罪人，他是被迫走極端；而當他發起暴力，試圖剷除奧特曼，奧特曼可以認為自己才是受害者，而讓反對者失去道義上的正當性。
這裡有必要先了解那些反AI的人和組織，反的究竟是什麼？
莫雷諾·加馬的反對基於「AI滅絕人類」的陰謀論，但除他之外，還有不少抗議AI話題的組織和社會運動。他們並非鐵板一塊，除了非暴力的立場一致外，彼此的反對和主張有明顯區別和具體關注的議題。
反AI組織Pause AI的遊行示威活動
事件中的Pause AI是代表之一。它並非反對AI技術本身，也不認為目前乃至未來大多數的AI模型構成生存威脅，他們針對的是：暫停開發前沿模型，即「通用人工智慧AGI」，直到建立嚴格的安全監管和公眾監督。
Stop AI態度強硬：永久強制禁止AGI，禁止AI驅動的自主武器、大規模監視、AI訓練盜竊知識產權，反對徹底摧毀人類勞動、思想、技能的「人類替代」，以及將人類與機器融合、實現永生的「超人類主義」。
QuitGPT靶子更具體，抵制的就只是chatGPT。起因是2月27日，OpenAI同意與五角大樓交易，提供技術和無限制訪問許可權，而這很可能被用於製造武器和進行大規模監控，而其競爭對手Anthropic拒絕了同一交易。
文藝界發起「Stealing Isn』t Innovation」運動，抗議AI公司大規模竊取知識產權訓練AI模型；CREDO23反對使用任何生成式AI，以維護電影製作的藝術本質和觀眾信任。
「Stealing Isn』t Innovation」運動
Human First關心的是決策參与，反對少數未經選舉的科技精英的規則壟斷，認為普通民眾理應參与這項技術的發展決策——儘管奧特曼的解釋是另一套邏輯：他聲稱避免壟斷的辦法，就是普及AI，他在為「去中心化」、鼓勵民眾參与作另一種努力。
還有一些反對運動針對的是數據中心，反映了許多普通居民的立場。典型標語是：要水喝，不要AI；保護農田，不要數據中心。因為數據中心對水資源消耗巨大，AI搶電致居民電價上漲。
反AI已經不是單一議題，它囊括了就業民生、知識產權、生命倫理和民主監督等諸多非情緒化的現實議題。
但無奈的是，這些非暴力的聲音，並沒有得到奧特曼乃至AI公司的正面回應，反倒是丟出那一枚燃燒彈，相信「AI滅絕人類」陰謀論的莫雷諾·加馬，勾出了奧特曼的長篇大論。
監管的空白，暴力混入
他們的討論非常熱鬧：要安全、要民主、要監管、要防止權力集中，無論是奧特曼，還是像 PauseAI 這樣的組織，甚至《紐約客》，其實沒有原則上的分歧——至少言辭上沒有。
但這些共識幾乎停留在價值宣言，都迴避了「具體怎麼做」和宣言與現實的割裂。
奧特曼沒有就如何「為所有人創造繁榮，賦予所有人力量」給出「普及」之外的避險方案，他也沒有放棄AGI——因為他說：「一旦你看到了通用人工智慧（AGI），就無法視而不見。」
Anthropic拒絕為五角大樓的機密系統提供技術，失去了政府訂單，但幾個小時后，Open AI取代了Anthropic，成為座上賓……奧特曼說權力不能過於集中，但OpenAI的市場地位仍在擴張。
Anthropic
PauseAI等組織，除了舉標語抗議、做公眾倡導，也沒有更進一步的行動，真正參与到決策當中。於是，儘管有輿論壓力，但數據中心還在建，AI模型訓練依然無視版權問題，水費電價還是貴，不使用AI製作電影，也停留在個人藝術選擇。
當所有人都宣稱站在「安全監管」和「民主監督」這一邊，卻沒有人提供製度出口，共識就悄悄變成了一種免責工具——讓每一方都能聲稱自己立場正確，同時繼續做原來在做的事，無需更進一步。
商業領袖和社會公眾揚旗隔空喊話之間，制度性的監管缺席了。
幾乎沒人會說監管不重要，但監管者本身陷入一種結構性矛盾：政府本該當裁判，但現在他們也是受益者。
法國巴黎大皇宮拍攝的人工智慧行動峰會現場 / 圖源：新華社
另一個略顯尷尬又很現實的問題是：被認為風險極高的「通用人工智慧AGI」究竟是什麼，它的風險如何界定，要管的是什麼？禁止開發它的依據是什麼？這些問題會讓討論在「我們還沒到那一步」的反駁中被稀釋。
於是一切照舊。依然是少數公司在訓練模型，大量模型尚未開源，巨頭也沒有放緩競賽，監管的主體也對更先進的AI滿懷期待，從中製造一個AI狂飆突進的窗口期。
而制度監管持續滯后，填補真空的會是市場廝殺、巨頭自律，或者莫雷諾·加馬丟出的那枚燃燒彈。
*以上內容系網友AllaboutAUS自行轉載自南風窗，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。