為了阻止人類毀滅，人工智能教父選擇與全世界為敵。

大家都知道，上周差評君去WAIC上看機器人去了，但其實咱也順便看了看諾獎得主，AI教父辛頓的一個演講。

 話里話外的總結一下就是，老爺子又開始擔憂了。

現在AI太厲害了，已經有點控制不住了，各國得趕緊想辦法給它管管，可不能養虎為患。

當然很多差友估計也都知道，這也不是老爺子第一次這麼說，這兩年他一直覺得自己打開了潘多拉魔盒，跟葉文潔似的，點燃了火，卻控制不了它。

該說不說，AI這玩意兒到底安不安全，會不會突然長腦子，把咱人類給一波團滅了，其實一直是這行里最前沿的話題之一，谷歌的哈薩比斯前幾天也擔憂過。

 雖然每次大家一說AI要成精了，科學家們都會站出來闢謠，讓大家冷靜冷靜。但是你要較真，未來AI到底會不會有意識，毀滅人類？那他們可就不好說了，科學家裡也有信的有不信的。

這裡邊兒最核心，大家都公認的事其實就一個，AI現在確實太強了。不過咱今天想跟大家嘮的是，讓這些大佬感到恐懼的，究竟是什麼。

中國現代有個哲學家叫趙汀陽，這人說你要討論AI安全性這塊兒，那就得話分兩頭。一個叫意識的威脅，另一個叫能力的威脅，先別把這兩件事搞混。

咱就拿辛頓這次講話來說，首先第一個前提，他覺得這人腦，跟現在的大語言模型（LLM）其實差不多，都一個類型。

 其實這也好理解，深度學習、神經網絡啥的說白了，它本來就是帶點模仿生物的樣子做的嘛。咱編輯部不少有育兒經驗的同事也覺得，小孩剛開始學語言啥就跟訓練大模型很像很像。

所以你要這麼去推理，AI這玩意他很可能也就跟小孩一樣，能發展出來自我意識，那它就也有青春期，也會叛逆啊。看過動漫的都知道，中二小孩談個對象都得毀天滅地的，萬一這AI學歪了，那不就完蛋了。

所以像這種，這就叫意識的威脅。

舉個例子，22年穀歌有個事兒鬧挺大。說是有個谷歌工程師，跟谷歌的LaMDA模型聊天，聊着聊着發現這東西太像人了，什麼都懂，還說自己有意識，不想被關掉。於是這哥們兒就嚇到了，一封預警信交上去，結果谷歌反手把他給開了。當時就搞得一堆人說，谷歌這老小子有陰謀啊，搞智械危機啊。

然而在工程師眼中，這屬實是有點san值太低了。因為LaMDA其實跟別的模型沒啥區別，只是規模更大了，語言更流暢，所以剛開始接觸到的測試者就被嚇暈了。

 但在三年後的現在，各家的大模型其實都比LaMDA會說話，甚至像GPT-4o啥的，還專門要測一個情商分。

至於大家覺得像人，當時有認知科學家就分析，說這是因為人類天然有擬人化的偏見，會把有人類特徵的東西投射在非人實體上，這種事在視覺上其實更常見，比如這張圖。

那有朋友可能就要問了，你咋就能確定模型沒有自我意識呢，萬一這些模型其實都有意識，只不過裝的清純無害呢？

老實說，要這麼問，那這問題其實沒法回答。

 現代哲學上有一個叫哲學殭屍的概念，啥意思呢，就是假設你身邊有個偽人，跟活人一毛一樣，他也會說話，也會拉屎，下雨也知道往家走，你跟他講笑話他也跟着笑，你倆看恐怖片他也抖，但是以上這些所有動作都是它裝的，其實它沒有自我意識，內心毫無波瀾，只是個有這種逢場作戲的條件反射的軀殼。

那麼問題來了，你怎麼判斷你身邊這個朋友是活人還是偽人呢？

這個思想實驗就是說，對個體而言，你其實沒法判斷對面的人是不是真有自我意識，那就更不要說AI和機器人了。

 所以對於AI會不會產生意識的討論，說白了辯論雙方再怎麼討論也是雞同鴨講眼碌碌。

用連線雜誌主編，技術預言家凱文凱利的話來說，我們對意識本身幾乎一無所知，我們甚至不知道我們自己的意識是什麼，所以去討論它們“有沒有”意識其實非常困難。

所以，對意識的恐懼，其實目前更多還是在哲學的層面上，也確實不好討論。那既然不用討論，辛頓這些大佬是不是就擱這兒杞人憂天呢？恰恰相反。

這咱就得說到另一邊兒，能力的威脅。

還是拿辛頓來講，老頭呢這次的第二個觀點就說，這大模型啊，他學知識學的太快了，嚇銀。

 拿我們人類比，劉慈欣的小說鄉村教師里就寫，我們人類是靠聲帶在空氣里傳播振動來交換信息的物種，一秒的傳輸量才幾個比特，哪怕你從中專開始學說唱，完事兒你叭叭半天，信息量都趕不上百度網盤下載速度。

而且就算你講出來，聽的人能不能學會還兩碼事呢。不少信息都是左耳進右耳出，這咱上過學的都懂。

但是這AI它就不一樣。首先人家在電腦里，信息速度那首先海了去了，就不說在電線里跑，這次WAIC上連光通信的都有了，這你咋比。

再一個，人家學的也快。不光是人家能力進步快，一秒讀完好幾本書這種，關鍵AI這東西哪怕互相學習，它也快。

 比方你有一很牛的大模型，你怎麼讓小模型也學會呢？只需要蒸餾一遍，這小模型就能全掌握，變成大模型的樣子。

所以這辛頓就擔憂，那要照這麼發展下去，人類不就遲早玩成了AI的玩物了？這回演講中他就說，大家搞這個是養老虎，別看它現在小，以後長大了遲早要吃人。

該說不說，辛頓這話確實有道理，聽得有點後背發涼是不。

就拿現在用的最多的聊天AI來說，光這玩意負面新聞就也不少了，有宣傳納粹思想的，有教唆青少年自殺的，有讓小孩子加入邪教獻祭儀式的。

 再比如，《侏羅紀公園》的作者以前寫過一篇科幻小說，說是某天人類發明了一個醫用機器人，可以自己製造打印材料，製造新的機器人。但有一天出了個bug，機器人開始從環境裡掠食有機物來複製，於是就把地球上所有生命（包括你我）都團滅了。

所以哪怕這AI它就算沒有意識，但就這個成長速度，未來AI跟硬件互聯還能控制機器人，那出點兒什麼事，我是想都不敢想。

那看到這，可能有朋友得生氣了，聽你這麼一說，合着發展AI就是個錯唄，那大家乾脆學波爾布特行了。

 然而你瞅瞅外邊兒，這AI大趨勢奪麼火熱，就知道那肯定不是所有人都這麼想的。比方說馬克·安德里森，人就覺得AI就純粹是一工具，能“給人類帶來無限繁榮”的“有史以來最好的東西”，吹上天了這一塊。

不過在凱文·凱利（KK）看來，甭管是辛頓還是馬克·安德里森，其實都沒說到點子上。

在他十年前出版的《必然》一書中認為，烏托邦和反烏托邦其實都更像是基於對未來盲目，這種盲目或許只是現代社會難以逃避的苦惱，因為技術的發展實在是太快了。

而真正的未來，反而是當下就能看到的、正在“形成”這種進程的產物（protopia）。

所以他倒是覺得，AI更像一種工具，最終發展估計就像電一樣，會成為大家生活里的一個基礎設施。那家用電還能短路起火災呢，有本事你別用啊。

 照他的意思，它不是來取代人類的，是來增強人類的。AI下棋軟件的出現，並沒有讓國際象棋完蛋。反而是在這些超強軟件的幫助下，下棋的人數、比賽的數量、棋手的水平，全都達到了歷史最高，棋力碾壓古人。

這麼想，未來一定是人和AI融合的，就像我們離不開手機一樣。

圖源Bilibili: 野路子梗畫師

其實說白了，任何大有作為的新發明都會有反對者，而且作為越大，反對聲也越大。 現在大家對AI的恐慌，研究技術奇點帶來會毀滅還是狂歡，這場面倒特像50年前大家討論互聯網。

1994 年,《時代周刊》認為互聯網“並非為商業設計,也不能優雅地容忍新用戶”，所以永遠不會成為主流。。。

 1995年2月,《新聞周刊》在標題里更是直接開大，互聯網？我呸！(Internet ? Bah!)。這文章還認為在線購物和網絡社區有違常識，都是不切實際的幻想，覺得在線數據庫不會取代報紙。

你瞅瞅這臉打的。

不過雖然凱文·凱利認為AI的重要性不亞於火、印刷術和工業革命，然而他也說，100年後估計AI會真的有大眾理解的那種意識，而且會是與人類完全不同的模式，他稱之為異人意識(alien consciousness)。

 實際上，甚至在互聯網尚未起步的時代，科幻作家和哲學家們就已經開始擔憂機械智能毀滅人類了，比如戰錘40k里的鐵人叛亂。

用哲學家趙汀陽的話說，以前的技術革命，只是理性的技術升級，但人工智能和基因編輯不僅僅是技術革命，而且是存在論水平上的革命，技術的無限進步也許是一場不可信任的賭博。

不過要我說，無論是覺得有沒有意識，啥樣的意識，還是認為AI是養老虎或者新電力，我覺得咱還是得從務實的角度來看。

目前大多數人都同意一件事是，這玩意的力量確實超乎人類想象，那就絕不能放任自流，該管還得管。這就好比核能。核裂變可以發電，但核武器的威脅一天都沒離開過我們，上個月美國還為這事飛B2呢。

 大國之間既然可以通過協商，制訂條約來限制核武器，那在AI這塊兒其實也一樣。人類需要一起坐下來，給它訂一個防火牆，來防止那個可能發生在100年後的危機。

比方說馬斯克就老琢磨，AI這玩意兒以後估計要都集中在幾個巨頭手裡，那萬一哪家AI叛變了，剩下的也夠嗆打得過。所以他要去搞開源的OpenAI，覺得人人有槍那它就不亂，提出一些美國方案。

這方案好不好咱先不說，但這說明，大家已經開始認真思考如何建牆的問題了。

所以在我看來，AI這事兒，你要說它是天網降臨那有點過，要說天下太平也不至於。

就像KK說的，我們現在就像站在1984年，看着一堆剛剛註冊的.com域名一樣，一臉懵逼又滿心激動。本世紀前半葉最偉大的事物已經出現在我們面前，只不過那些奇蹟般的發明，都在等着人類用卓識遠見和智慧來採摘那些累累果實。

技術爆炸的未來註定是一場冒險，而我們，全人類，都是這未來的一份子。

圖片、資料來源：

《必然》，電子工業出版社

《獵物》，譯林出版社

《5000天后的世界》，中信出版社

《智能與智慧——人工智能遇見中國哲學家》，中信出版社

李建忠對話 KK 凱文·凱利《AI 的進化和顛覆》實錄

趙汀陽：技術的無限進步也許是一場不可信任的賭博

Marc Andreessen：Why AI Will Save the World

Lex Fridman：Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games

科學網，theRegister，鈦媒體等，部分圖源網絡