關於AI未來，圖靈獎得主薩頓與人文學者項飆的一場激辯
關於AI未來，圖靈獎得主薩頓與人文學者項飆的一場激辯
6月22日-23日，2026方塘論壇在北京舉辦。在開幕單元的「方塘·終極之問」環節，論壇邀請了理查德·薩頓和項飆回答「人在AI時代如何安身立命」這一終極問題。
理查德·薩頓（Richard Sutton）是強化學習領域奠基性人物之一，2024年圖靈獎得主，現任加拿大阿爾伯塔大學計算機科學教授。項飆是德國馬普學會社會人類學研究所所長，長期關注人的處境、社會流動、勞動經驗與全球化時代的生活結構。
兩位學者基於不同的學術背景，從不同尺度解讀AI與人類的關係。薩頓從智能本身出發，認為人類作為催化劑、助產士和先驅者，正在推動宇宙進入設計時代；項飆則強調政治、經濟和個人體驗，關注AI嵌入現實世界和社會關係后帶來的影響。
兩人的分歧在多個話題上都十分鮮明。項飆指出AI發展的風險以及設定邊界的重要性；薩頓則拒絕AI被嚴格監管，表示目前圍繞AI的諸多恐懼是被部分群體有意放大的結果，而監管權力不應被交給少數機構。
項飆亦不同意薩頓關於宇宙進入設計時代的判斷。他將重點轉向人固有且微妙的體驗，以及有限性。「我們並不設計陽光、月亮、空氣，和水，也不設計此刻北京夏日里看起來如此美好的千萬片樹葉。」
正如清華大學文科資深教授、方塘研究院院長汪暉的主持總結，終極問題並不只是科學問題，同時牽連著宗教、宇宙論和本體論層面的追問。就像從勒內·笛卡爾（René Descartes）到拉·美特利（La Mettrie）以來的思想辯論，那些關於人、機器、身體、靈魂與心靈的問題，並沒有消失，只是在AI時代重新浮現出來。
在以下對話中，我們將能看到兩位學者圍繞這些本質問題開展的思想探索和交鋒。文字經過《知識分子》刪減和編輯。
01
理查德·薩頓：AI接替人類是必然
理查德·薩頓：人在AI時代到底如何安身立命，我可以把它拆解為三個問題，一個是「人類是什麼」，二是「人類在宇宙中的角色是什麼」，三是「我們如何看待自己的角色，是否可以選擇接受或拒絕」。
什麼是人？人當然是生物，會追求一些目標、創造一些事物；人在宇宙中的角色是什麼，在某種意義上我們的作用在於推動人工智慧系統的生成與演化，使其不斷變得更加智能，或創造出更高智能水平的系統，就像歷史上智能不斷增長一樣。
我們應該如何理解這一角色，以及是否有權拒絕它？這是更加微妙的問題，而答案也並非簡單的是與否。
我想大家已經從許多地方聽到過關於 AI 的恐懼。但我並不害怕 AI。相反，我認為它是一件偉大的事情。AI 並非某種異己的存在，而是人類最古老追求之一體現。數千年來，無論是哲學家還是普通人，都一直在努力理解他們的心智（mind）是如何運作的，以及讓這個心智更好地運作。
我喜歡雷·庫茲威爾的話，他說：「智能（intelligence）是宇宙中最偉大的現象。」當我們試圖理解智能，其實也是在試圖理解我們自身。也正是在這個意義上，我會說理解智能是科學與人文學科共同追尋的聖杯。這是一項偉大而光榮的事業，我們應該為追求它而感到自豪。
說了這麼多關於AI積極的方面，當然也有負面的擔憂。但或許我們可以先把感受放在一邊，先問會發生什麼，這會更明確。我想提出四個步驟，它們共同指向一個關於未來的結論。
第一，關於世界如何運行並不存在一種共識。沒有任何一個國家、哲學或宗教，能夠壓倒其他；第二，總有一天人們會理解智能，並有能力創造相關技術。這可能很快，也可能很慢，但在某個地方、某個時間，一定會有人把它做出來；第三，智能不會停留在當前人類的水平，很快會大幅超越；第四，隨著時間推移，權力和資源天然傾向於流向更高智能的一方。結合第一點，也就是並不存在統一共識，這種流動很難被真正阻止。
把這些放在一起看，它們指向的是這樣一幅圖景，從某種意義上說，人類被AI接續（succession）是不可避免的。
但這種看法仍然是非常以人類為中心的。從宇宙視角來看，把整個宇宙自誕生以來約140億年的歷史看作一個整體，可以把它分成四個偉大時代。現在，我們正處在從第三個時代邁向第四個時代的轉折點。（編者注：薩頓關於四個時代的具體闡釋可以參考他之前在UCLA IPAM的公開演講）[1]
生命形成了細胞，出現了有性繁殖。最終，動物、多細胞實體、人類、文化、語言、技術和書面語言相繼出現。這就是複製時代，因為所有這些東西能夠製造出更多自己的副本，但並不理解它最初是如何被創造出來的。
我們現在正在進入第四個偉大時代，即設計時代。在這個時代，世界上一些重要的東西，並不是通過複製產生的。比如禮堂、建築和道路、電腦和手機，都是設計之物。設計出來的東西意味著物體首先是被構思出來的，然後才被變為現實。
我們正在經歷一種變化：宇宙中最顯著、最有趣的事物，過去是複製體，也就是生命體；現在，最有趣的東西似乎變成了被設計出來的事物。被設計出來的東西也更容易、更迅速地得到改進。
我們可以說，許多非人類的複製體也會進行設計。比如，很多動物會築巢、挖洞，甚至製造工具。黑猩猩會把樹枝上的側枝剝掉，用它們來釣白蟻。人類會製造石斧和火，現在我們還會製造電腦、宇宙飛船、工廠、軟體和其它工具。比如鎚子就是一種用來製造傢具的工具，而傢具又是為我們的生活設計出來的東西。
所以人類是什麼？這並不是最終答案，但我對於「人類在宇宙中的角色是什麼」這個問題有自己的想法。人類是特別的，我們並不只是一種複製體，而是把設計帶到了高得多的層次。
推進設計到底意味著什麼？我認為，這意味著設計出那些本身也能夠進行設計的事物。也就是說，設計出擁有心智、能夠在心智中看見事物的東西。這正是AI，我們正在製造心智，製造設計者。
所以，對於人類在宇宙中的角色，我的結論是：人類是催化劑，是助產士，或者是先驅者。通過製造AI，人類完成了設計時代，也完成了宇宙的第四個偉大時代。
我們正處於設計時代的前沿，在這樣的框架下，看起來我們似乎沒什麼選擇，彷彿宇宙演變和AI的發展與我們做什麼無關。但我並不認為這是正確的思考方式。在很多意義上，我們處在中心位置。作為一個整體，我們處在宇宙發展中這一重大事件的中心，因為正是通過我們各自不同而多樣的決定，這件事才幾乎不可避免地發生。
當然，我們也仍處在我們自身宇宙、生活和選擇的中心，可以選擇做任何事。我們並不一定要去製造AI，而是可以去做小說家、哲學家，或者去做某個其他科學領域的工程師。
所以，這裡有兩種視角。一種視角是，我們如何決定自己的生活。另一種視角是，所有這些分散而獨立的選擇，如何匯聚出大的趨勢。其中，存在一種不可阻擋的趨勢，即走向設計，走向被設計出來的智能。
我們的角色究竟是由我們選擇的，還是已經被某種命運規定了？我的結論是，宇宙的方向和命運，只有在集體意義上才是由我們選擇的。這意味著，作為個體，我們幾乎沒有選擇。如果我們試圖去主宰這個結果，那很可能會適得其反。我不建議這樣做。我不認為我們應該試圖成為救世主，去改變世界。但在另一方面，我們每個人又確實擁有個人層面的完整控制和完整選擇。
02
項飆：需要為AI設定邊界
項飆：非常感謝理查德。您剛才的演講非常精彩、清晰，您談到了設計時代的概念，但我強烈反對。在提出我的論點之前，我想先說幾句話作為總體的介紹。
當討論如何在AI時代安身立命的時候，我想先看看我們身處的環境。
我們討論AI，並不只是因為這是一項有趣的技術。現在，AI相關公司的總市值已經超過了互聯網泡沫破裂時的市值。目前還沒有跡象顯示，金融市場會因為AI而崩潰，但正在流入AI領域的資金規模已經令人震驚。到2025年，美國前三大AI公司在AI上的支出，已經超過美國政府在教育、信息和社會福利方面的支出。
我們可能還會看到下一輪投資繼續到來。因為出於戰略或安全原因，歐洲也在思考是否必須擁有自己的數據中心。我們知道這會帶來多大的能源依賴。僅僅是一塊晶元，為了讓它運行，就可能消耗相當於一個家庭用電量的電力。因此，建造大型數據中心基本上像是在建造一座小城市，而且你還必須把它建在相對涼爽的地方。
第二，社會對AI的緊張情緒必須被認真對待。因為AI不是某種孤立在實驗室里的東西，不只是科學家、投資者或技術人員的事情，人們會受到它的影響。我們談論智能，而有一種智能非常重要。中文里有一個詞可以表達它，就是體感。
也許AI會變得和人類一樣聰明，能夠做人類能做的一切，也許它會帶來巨大的收益，有些人說它會讓全球經濟增長30%。但你轉過身去問那些20歲、25歲或者30歲的年輕人，問Z世代：你們怎麼看？你們現在是否覺得更想努力學習？你們覺得自己會更享受工作嗎？最重要的是，你們現在是否更願意要自己的孩子，把孩子帶到這個新的、美好的世界里來？我們都知道答案是什麼。
第三個非常重要的社會和政治因素，甚至涉及地緣政治。AI及其算力在全球範圍內的分佈極其不均衡。它們基本上集中在中美兩國，而這雙方正陷入激烈的角逐。
AI很容易與軍事聯繫在一起，也很容易與武器化聯繫在一起。開發一個照顧我健康的智能體相對來說並不難；但你可以想象，開發一個殺死我的智能體要容易得多。因為要改善我的健康，它必須監測非常多的變數，了解我的整個生活方式等等。但殺死一個人是一個單一任務、單一目標，所有演算法都可以被有效地衡量，並用來強化這種能力。
在未來幾年，我還沒有看見任何跡象表明AI的發展以及相關風險會放緩，不過也許會出現某種反思。我不認為AI取代人類這件事真的會發生，因為在那之前，社會張力和社會斷裂可能已經變得在政治上不可接受。因此，政府和其他相關方面將不得不介入。此外，地緣政治風險會變得非常高，以至於主要大國不得不認真對待，甚至後退一步。這有點類似於20世紀50年代關於核武器的情況。
人類也許必須為AI設定某些邊界，規定其只能被限制在特定領域之內。2028年之後，美國也許設立一個聯邦機構來監管AI，已有總統候選人開始討論這件事。我也希望中國方面應該有對應的組織，聯合國也應該設立一個機構來監管AI。
我們確實需要一種全球性的架構，來決定什麼樣的AI是重要的。AGI真的那麼重要嗎？我們知道它需要多少資源。把重點放在更具體任務導向的AI上，會不會更明智？比如只是提供某種服務，服務於某些製造業或服務部門。這樣訓練起來會容易得多，成本也更低，激勵機制也更容易建立。
現在回到設計時代。我的不同意見在於，AI並沒有把我們帶入一個設計時代。相反，我認為AI在很大程度上是複製時代的產物。
假設我們來到一個原始社會，為他們創造一個ChatGPT或大語言模型，我猜測這會比現在難得多。原因很明顯，因為那裡沒有書面語言，沒有文字可以收集起來餵給AI。
當沒有書面語言時，一切交流都是在人與人之間、在非常具體的情境中當場發生的。當然我們可以記錄下所有的聲音、顏色、動作等等，去複製他們的生活，但問題是這些信息是否能夠被轉化成代碼？是否能夠在某種程度上被標準化，並因此能夠被邏輯地操作，用來生成新的代碼？
我認為大語言模型之所以能夠如此快速地發展，恰恰是因為到了21世紀，我們造出了海量文字。並且，在大規模工業化和官僚化的過程中，一切都變得越來越系統化，語言也變得越來越少嵌入具體語境，而越來越抽象。
這裏的抽象有兩層意思。第一，它變得更加形式化，也就是意義變得抽象；另一個抽象是，它可以被抽離出來。語言在某種意義上變成了一種因果獨立的、自治的代碼系統。
有意思的是，大語言模型現在不僅使用AI來佔有、重組這些代碼，並由此創造出一個幾乎與現實平行的世界；在這個過程中，它還發展出了AI的神經網路，因此可以生成進一步的思考，而這也可能是世界模型的基礎，來製造實體AI。
我覺得這非常耐人尋味：我們思想和溝通的符號抽象，催生出一個世界的影像。然後這個影像反過來成為統治性的力量，變得比紮根本地的真實生活更真實、更有力量。
在AI時代，人類如何安身立命呢，我覺得應該珍惜我們的有限性。把AI設計成一種追求無限增長的東西，並從社會生活的肌理中脫離出來，沿著抽象、標準化的魔力推進，這就是危險所在。
有限性是非常重要的。比如今天我在這裏發言，我對這場會議只有非常有限、局部的視角，而我認真對待自己的這種局部視角。但與此同時，我知道你們每一個人也都有非常片面但獨特的視角。因此，我希望和你們一起拼出一幅圖景。
如果有一個AI智能體窮盡式地提供關於這場會議的所有信息，那我會感到自己完全沒有用，完全是多餘的，也會擔心這個公共空間將不再有生命。
理查德剛剛提到人類的本性是追求目標、創造事物。對此我不同意，但這也不完全是一個論證，而是一個討論的起點。
我們並不設計陽光、月亮、空氣，和水，也不設計此刻北京夏日里看起來如此美好的千萬片樹葉。它們看起來也許彼此相似，但我們知道，它們彼此並不相同，我們沒有設計這些東西。
我覺得，人的美與智慧並不來自於我想要設計和創造什麼，而是來自於我知道如何欣賞被給予之物，如何欣賞已經存在的東西，如何利用它，並且如何與之和諧共處。因此，也許這並不是設計時代，而是我們應該有意識地塑造一個共存的時代。
03
風險管控 VS 去中心化？
汪暉：感謝兩位。這場對話非常睿智、非常精彩。首先想要問問理查德·薩頓教授，能否對剛才項飆老師的論點進行一些回應？
理查德·薩頓：謝謝給我這樣的機會。我覺得他說得很對，我們現在正處於從複製到設計的過渡，還有很長的路要走。我們今天所說的AI不是真正的AI，它實際上更多的是一種自動化，關於AI最重大的變革還沒有真正發生，而且很難預測什麼時候會發生。
我們看到很多人呼籲要進行監管，我是拒絕的。我們作為知識分子的角色是什麼？是否就是找出正確的規則，成為有智慧的人，做出決定，然後把這些決定傳達給政府，再由政府去執行它們？這是我們的角色嗎？我並不覺得這種方式會運作得很好。
我不認為世界實際上是通過中心化力量而改變的。它更像是通過分散的力量來實現發展的，通過我們所有人作出的個體決定，這些決定共同推動了社會的發展，我們的經濟，以及令所有人驚嘆的多樣性以及專業化的發展。
真正發生作用的事情，是自下而上出現的，並不是通過政治家制定法律實施的，我覺得我們應該直接和公眾對話，直接與其他知識分子對話，努力幫助人們理解正在發生的事是什麼，並且引導人們應對，而不是試圖強加任何特定的解釋。
汪暉：現在有很多人在談論要超越以人為中心的世界觀，去思考自然、機器、數字世界等等。對於這種觀點，項飆老師會如何回應？
項飆：我們當然要超越這個視角。一些社會科學家和人文學者提到過，人工智慧本質上是一種環境智能或者連接智能，它只是眾多事物之間建立聯繫的一種方式，並不像標準的學習機器那樣可以思考。比如大語言模型彙集了很多歷史上形成的、現存並不斷積累的符號和文本，然後再將它們與人類的問題和關切聯繫起來，因此ChatGPT這樣的聊天對話才得以發生。
在這樣的圖景中，一個非常有意思的視角是，人類、機器、非人類生命，以及無生命的自然界，都成為了同一個網路的一部分。但這又引出了另一個問題，即這是否構成了一個值得討論的議題？
對於大多數人來說，每天早晨醒來后，都要面對許多現實而具體的問題，比如要不要辭職，這些焦慮的情緒。而這種焦慮首先需要在具體的社會情境中被理解和探究，不是由我們代替他們完成，而是需要他們自己去面對。
與此同時，我認為許多人也正在發展一種更廣闊的視野。這並不只是哲學家在做的事情。這種更廣闊的視野，也許能夠幫助我們獲得一種「超越人類」的視角。
理查德·薩頓：請問項飆教授，科學家有沒有可能理解人的心靈（will scientists ever understand the human mind）?
項飆：這是一個非常有意思的問題，這個問題可能永遠都回答不了，我們可以把這類問題保留為重要問題，但是沒有必要去解決。科學家了解人的大腦、神經系統，但是大腦和心靈不一樣。心靈會包含遺忘、半遺忘、碎片化的記憶、一些夢境，它以一種奇特的方式呈現出來。我不知道這個是否可以完全被理解，比如「紅色」，說到這個我馬上覺得它是一種危險，它是一種主觀感受，這也是心靈的一部分，但它是不是可以用科學去捕捉，我不知道。
理查德·薩頓：我們可以說人類的心靈是一種機器嗎（human mind is a machine）？
項飆：David Chalmers提出了意識方面的「簡單問題」和「困難問題」。[2] 簡單的問題就是理解機器和其運作機制，但是很難去解釋為什麼人類會產生主觀體驗。例如，你可以訓練一個大腦去識別什麼是紅色，通過各種測量和信息來解釋為什麼看到紅色。但是對於人類而言，看到紅色本身是另一回事。這就是所謂的「感質（qualia）」問題。
理查德·薩頓：好的，讓我來解釋一個基本前提。我認為幾乎每一個AI研究者都認同，人腦是機器。如果我們能夠儘可能深入理解它，那麼就能製造出性能更高的東西，在我們關心的各方面都表現更好。我們現在討論的是終極問題，從這個前提出發似乎是一個不錯的出發點。
人類的天賦讓我們能夠理解物理系統、複製它並不斷改進。而這正是我們所參与其中的最終命運（ultimate fate）的一部分。我們屬於生命的一部分，也屬於社會的一部分。這些事物實蘊含著極其豐富的知識與精神內涵。
我們不應該把注意力集中在當前的 ChatGPT 與人類有哪些差異上。因為人工智慧研究從一開始就在嘗試理解並複製人類智能。即便目前還沒有完全成功，這項事業的目標始終是創造出能夠達到人類水平、並最終超越人類能力的智能系統。
汪暉：讓我們來談一下恐懼。項飆教授也提到了他的一些擔憂，並不是對技術的恐懼，而是對社會關係以及涉及到經濟、政治、安全方面的擔憂。所以我想問薩頓教授關於設計時代的想法，你在這樣的時代能否發展出某種方式，來克服過去這樣的一些問題？
理查德·薩頓：這些確實是我們社會面臨的挑戰，如何和平地共同生活仍然是一個挑戰。你提到的那種恐懼，我覺得很多時候其實是有人在試圖讓你感到害怕，好讓你把控制權交給政府、機構或者大型公司。關於安全的許多討論，本質上就是通過煽動恐懼，來獲取控制權。
我們需要做的事情恰恰相反。我們應該保持去中心化（decentralized），不把權力集中到少數權威機構手中。因為最嚴重、最危險的控制恰恰可能來自那裡。如果出現某些集中的權威機構，它們掌控了所有智能系統，並將這些能力整合進軍事演算法之中，或者用於監控和控制自己的公民。這是我們希望避免的反烏托邦（dystopia）。
觀眾提問：謝謝理查德，您的觀點已經談了很多年。你試圖去描繪的願景是理想的，是有人情味的，是去中心化的，但是權力的問題沒有得到解決，尤其你是參与構建AI的人。我希望您能藉此機會向我們說明，未來是否會存在權力的失衡，我們這些沒有參与構建AI的人被告知AI即將到來的時候該何去何從呢？
理查德·薩頓：感謝您的問題。權力問題是非常棘手的，幾千年、甚至上萬年來，人類社會和文明一直在與這個問題打交道，對此我們應當始終保持警覺。我認為，個人以及較小規模的群體繼續參与其中、並成為分散化權力結構的一部分非常重要。
你提到，像我這樣的人或我所在的圈子，也許擁有更多權力，因為我們正在創造這些技術。我並不這麼認為。我不認為像我這樣的人才是真正值得擔心的問題。除非我們試圖保留控制權，以至於阻止你接觸這些技術。為此，我投入了很多工作，希望人工智慧研究能夠以儘可能開放的方式開展，並向所有人開放。
人們往往容易感到自己沒有力量（disempowered），沒有意識到自己實際上擁有怎樣的影響力。例如，我們今天看到的「炒作」（hype），本質上是企業在誇大當前系統的能力，誇大其重要性。他們希望把這些能力描述得比實際情況更強大，而恐懼也是這種誇大的組成部分。
今年不是決定性的一年，這個十年也未必是決定性的時候。真正重要的時刻，是當我們真正弄明白智能為何能夠運作，以及如何複製這些功能的時候。今天我們其實還做不到這一點，我們還並不知道應該如何做到。大公司彷彿在暗示我們已經掌握了答案，但事實上並非如此。
ChatGPT 之所以產生如此巨大的影響，就是因為普通人終於能夠親自使用它。人們第一次切身體會到 AI 可能是什麼樣子，以及它未來可能變成什麼樣子。我希望大家意識到，「第一次接觸（first contact）」的時刻非常重要，人們可能會感到害怕，但如果大家能夠更加了解情況，更加明智，也更加謙遜，那麼當真正的 AI 時代到來時，我們就有機會得到更好的結果。
你不必接受自己被邊緣化了這種觀點。你必須參与決策，你必須承擔起這樣的責任來，在思想上參与到這項議題中，你必須看清楚究竟發生了什麼，不影響相信那些炒作。
觀眾提問：我們都知道AI的智能會增加，但是人腦的智能是在下降的，這個很簡單，如果你不用肌肉就會失去肌肉。我們現在的能力、智力在下降，我們怎麼保持人性？
理查德·薩頓：我經常會告訴大家，你有選擇的權力，你有偷懶的權力，選擇走進那個「溫和的良夜（good night）」，把事情交給機器，把你的事務交給政府或者其他人處理。當然，你也可以選擇積極充分參与。
自動化（automation）並不是什麼新鮮事，機器承擔越來越多工作所帶來的困境也不是什麼新問題。假如你身邊有其他人願意為你工作，替你思考，那麼你是不是就再也不用動腦了？再進一步說，但果你變得富有，你會不會因為不用勞動自然停止思考，變得肥胖懶惰？或者，一旦你擁有更多資源時，反而會做更多事？
歸根結底，AI的出現其實是對我們社會的考驗，考驗著我們將如何應對。當恐懼來臨，我們的思維是否會變得遲鈍、軟弱？還是會反過來，認為這是一種新工具，能幫助我們更好地思考，使我們會變得更聰明、更強大？
項飆：我對這個問題感觸也很深。我的一位同事在廣州的大學從事教學工作，他驚訝地發現如今18到22歲的這些學生，已經無法聽講，不管老師如何備課，他們總在做其他的東西。當然，這種現象並不難理解。因為傾聽本身需要一種能力，需要你全身心投入。每一個詞都只是一個聲音，你必須耐心等待這些聲音逐漸匯聚在一起，然後意義才會浮現出來。然後繼續聽下去，才會逐漸感受到表達中的細微差別，並開始揣摩說話者真正想表達什麼，以及他的話語背後是否存在某種不確定性或張力。
這種變化當然不完全是由AI造成的，它更早就開始於社交媒體和快速傳播的信息環境。如今AI進一步提供了即時答案，人們越來越不需要等待和思考，學生們也正在失去堅持分析、批判和獨立判斷的肌肉。
我們確實需要認真討論人工智慧教育的問題，也需要討論AI對研究和就業所帶來的影響，以及它如何改變我們的環境。
如今許多年輕學者甚至不再與同事深入交流。為什麼呢？因為當你有一個想法時，你可以直接與人工智慧互動，而AI能夠幫助你比同事更快地生成文章。於是，整個學術文化都在發生變化。
*以上內容系網友走進澳大利亞自行轉載自知識分子，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。