劉梁劍（右一）主持1小時(shí)的圓桌會(huì)談，五位嘉賓見解不盡相同，展開充分交流
(資料圖片僅供參考)
【導(dǎo)讀】 6月20日，163期文匯講堂“數(shù)字強(qiáng)國(guó)”系列啟動(dòng)，首期《AIGC驅(qū)動(dòng)生產(chǎn)力躍升與良好世界塑造》，在涌動(dòng)著畢業(yè)季青春氣息的華東師大櫻桃河畔成功舉辦。北京智源人工智能研究院副院長(zhǎng)兼總工程師林詠華應(yīng)邀作主講，華東師大學(xué)者楊國(guó)榮致辭，計(jì)算機(jī)學(xué)院賀樑、哲學(xué)系酈全民、付長(zhǎng)珍、潘斌、劉梁劍參與數(shù)字&人文圓桌對(duì)談，13位聽友現(xiàn)場(chǎng)互動(dòng)。校內(nèi)外7600余人觀看華東師大微信號(hào)直播。現(xiàn)場(chǎng)發(fā)放了50枚NFT數(shù)字徽章.
本次講座由文匯報(bào)社、上海樹圖區(qū)塊鏈研究院、華東師大中國(guó)現(xiàn)代思想與文化研究所、華東師大哲學(xué)系倫理與智慧研究中心聯(lián)合主辦。
現(xiàn)經(jīng)整理，刊發(fā)圓桌對(duì)談，以饗聽友與讀者。主講見文末鏈接。
劉梁劍（華東師大哲學(xué)系系主任、中國(guó)哲學(xué)教授）
劉梁劍：我先簡(jiǎn)要介紹臺(tái)上的各位與談嘉賓。計(jì)算機(jī)學(xué)院的賀樑副院長(zhǎng)不僅研究人工智能也與產(chǎn)業(yè)有對(duì)接；酈全民教授的關(guān)鍵詞是計(jì)算，對(duì)人工智能的哲學(xué)研究啟動(dòng)早也是強(qiáng)項(xiàng)；潘斌教授的關(guān)鍵詞是風(fēng)險(xiǎn)，關(guān)注人工智能的倫理風(fēng)險(xiǎn)；付長(zhǎng)珍教授關(guān)鍵詞是倫理與智慧。付老師正是哲學(xué)系倫理與智慧研究中心主任，近年來，付老師借助國(guó)家社科重大項(xiàng)目、華師大學(xué)報(bào)、上海市倫理學(xué)會(huì)等多平臺(tái)，致力于推動(dòng)科技與倫理的對(duì)話。我自己是中國(guó)哲學(xué)專業(yè)。
這幾年哲學(xué)系的發(fā)展遵循守正創(chuàng)新原則，守正是發(fā)揮華東師大哲學(xué)系的研究特色；創(chuàng)新是以對(duì)話方式推動(dòng)一些新的研究增長(zhǎng)點(diǎn)。包括哲學(xué)內(nèi)部不同學(xué)科之間的對(duì)話；對(duì)外與其他學(xué)科如教育、藝術(shù)、科技的對(duì)話；還有跟現(xiàn)實(shí)進(jìn)行對(duì)話，現(xiàn)實(shí)中有很多新問題出現(xiàn)。最近在建設(shè)應(yīng)用倫理專業(yè)的碩士點(diǎn)，讓倫理與其他學(xué)科之間的對(duì)話有制度可保障。今天與科技的對(duì)話就是跨界對(duì)話的嘗試。
賀樑老師，可否先談?wù)剬?duì)林工主旨演講的感想？
范式改變：成本升降帶來AI應(yīng)用的巨變
賀樑：劉老師點(diǎn)名了，而我又是幾位嘉賓中唯一和林總屬于“一伙”的，那就我來說說感想吧。雖然我也被邀做過不少關(guān)于chatGPT相關(guān)的講座，但林工的演講依然讓我耳目一新，學(xué)到很多，不僅系統(tǒng)還深入淺出。
*專業(yè)研究門檻降低，各行業(yè)都可參與低成本AI研發(fā)
兩點(diǎn)印象尤其深刻。第一，范式帶來的變化。范式一詞內(nèi)涵很多，其中之一涉及未來人工智能的研究方法。我們從另一個(gè)更通俗的“成本”角度來闡述，chatGPT等大模型出來后，使用計(jì)算機(jī)和人工智能技術(shù)來賦能行業(yè)的成本大幅降低，幾乎可以說被打到地板上去了，這可能砸了一些計(jì)算機(jī)從業(yè)者的“飯碗”，所以他們要趕緊尋找新的“飯碗”，把大模型端起來，很多行業(yè)也會(huì)隨之而變。可以說，成本是攪動(dòng)世界運(yùn)轉(zhuǎn)很重要的因素。一旦某一個(gè)地方變成成本洼地，很多事的遠(yuǎn)轉(zhuǎn)邏輯就會(huì)不一樣了，讓我們拭目以待。
賀樑（華東師大計(jì)算機(jī)學(xué)院副院長(zhǎng)、教授）
第二，林工把我們這個(gè)行業(yè)內(nèi)不太被人理解但又關(guān)鍵的環(huán)節(jié)——基礎(chǔ)模型、專業(yè)基礎(chǔ)模型和基礎(chǔ)模型的微調(diào)，用比喻方式說得很形象。最基礎(chǔ)的模型就如同一個(gè)人在世界上游蕩，即使沒有接受專業(yè)培訓(xùn)而知道的一些應(yīng)該要知道的世界知識(shí)，如同通識(shí)教育階段；第二個(gè)階段是專業(yè)階段，是在基礎(chǔ)模型情況下專業(yè)方面的增強(qiáng)，如同讀個(gè)研究生、博士生。而最后的微調(diào)階段就是上崗培訓(xùn)，一旦完成了這幾個(gè)環(huán)節(jié)，模型就可以為大家提供專業(yè)服務(wù)了。
隨著模型能力的不斷疊加，服務(wù)的成本會(huì)越來越低。大模型對(duì)我們生活將會(huì)有各種各樣的影響，甚至令人憂慮。但最核心的是，這一輪技術(shù)進(jìn)步后人工智能的能力真的變得可以被用了。各個(gè)行業(yè)都能用起來，我們的生活可能會(huì)產(chǎn)生大的變化。
*大模型訓(xùn)練成本投入：有效市場(chǎng)與有為政府結(jié)合
劉梁劍：使用成本降低，但是訓(xùn)練基礎(chǔ)模型的成本很高。成本由誰來承擔(dān)呢？就像國(guó)家的基礎(chǔ)設(shè)施一樣，是不是應(yīng)該由國(guó)家來做這個(gè)投入？第二是大模型時(shí)代，學(xué)習(xí)范式如何變？
林詠華：關(guān)于成本問題。智源一直呼吁要開源，一旦不開源或者開源之后不能商用，勢(shì)必導(dǎo)致每一個(gè)公司都只能自己去做大模型。除高成本外，另外重要的因素是，背后的基礎(chǔ)設(shè)施要靠能源推動(dòng)。大模型訓(xùn)練需要巨大的算力，背后也是巨大的電力消耗。
所以，第一，產(chǎn)業(yè)期待開源，以智源為開始，希望看到有更多的研發(fā)團(tuán)隊(duì)或公司可以加入開源隊(duì)伍。
第二，如果要做出高質(zhì)量的基礎(chǔ)大模型，除了前期投入，關(guān)鍵還在于未來要有持續(xù)迭代。智源對(duì)自己的要求，包括希望看到的產(chǎn)業(yè)實(shí)踐是，基礎(chǔ)大模型至少三個(gè)月或半年有一個(gè)新的版本，這樣才可以滿足更多新知識(shí)的融入、新技術(shù)的融入。這個(gè)錢誰來掏？在科研界、產(chǎn)業(yè)界，現(xiàn)在還沒有定論。“有組織的科研”這個(gè)詞今年屢屢被提及。
林詠華（北京智源人工智能研究院副院長(zhǎng)兼總工程師）
賀樑：我認(rèn)為，大模型的投入應(yīng)該是市場(chǎng)行為和政府行為相結(jié)合的，目前整個(gè)大模型領(lǐng)域還是美國(guó)優(yōu)于我國(guó)，這也是中美在未來科技競(jìng)爭(zhēng)中的制高點(diǎn)之爭(zhēng)。這一輪大模型的競(jìng)爭(zhēng)是因?yàn)镺pen Al、沒有開源，導(dǎo)致大家有一點(diǎn)恐慌。因?yàn)闆]有開源，未來市場(chǎng)就會(huì)被OpenAI的生態(tài)全部搶掉。而這個(gè)技術(shù)明顯將對(duì)行業(yè)產(chǎn)生大影響，因此很多企業(yè)紛紛為了自身的商業(yè)利益“揭竿而起”去參與研發(fā)。
這種情況下，中國(guó)還是需要有組織的科研、有組織的市場(chǎng)競(jìng)爭(zhēng)，我相信政府會(huì)做好引導(dǎo)，也會(huì)更多支持智源這樣的中立科研機(jī)構(gòu)。
*擁抱大模型積極提升學(xué)習(xí)和研究，不迷信其萬能性
林詠華：關(guān)于學(xué)習(xí)范式的改變，不同人有不同解讀，我自己的看法，首先確實(shí)存在科研方式、人才培養(yǎng)范式的改變。包括我自己的孩子，一些小作文都會(huì)去問ChatGPT。所以浪潮和趨勢(shì)就在那里。因此，
第一，既然輔助咱們?nèi)祟惖募夹g(shù)出現(xiàn)，就擁抱它，用它來提升學(xué)習(xí)效率。但這個(gè)過程中一定要火眼金睛地學(xué)會(huì)辨別，因?yàn)楝F(xiàn)在的ChatGPT、國(guó)內(nèi)大模型，真的還做不到提供完全的事實(shí)真實(shí)性。所以，大模型可以輔助你，但目前不要都信它。
第二，無論是人工智能內(nèi)容生成，還是未來的大模型遷移，可能改變很多領(lǐng)域的研發(fā)以及產(chǎn)品的形態(tài)，從研究和學(xué)習(xí)的角度都不妨積極考慮怎么樣利用好這樣的技術(shù)，改變一些不同領(lǐng)域的研究方法，甚至把有一些合適的技術(shù)交叉進(jìn)來。這是很值得去思考去實(shí)踐的。
工具還是朋友：人工智能與人類智能如何相處？
因?yàn)槭枪ぷ魅眨簧俾犛颜?qǐng)了休假不遠(yuǎn)50里前來參與
劉梁劍：主要是擁抱科技的態(tài)度。我想問一個(gè)“杞人憂天”的問題，人工智能的發(fā)展會(huì)不會(huì)取代和消滅人類智能？
*人類或許只是文化進(jìn)化鏈上的一個(gè)起點(diǎn)
酈全民：6月16日在巴黎舉行的科技創(chuàng)新展上，馬斯克說，人工智能技術(shù)可能是有史以來最具顛覆性的技術(shù)。我想了想，覺得可以找到一個(gè)角度，把“可能”兩個(gè)字去掉。這個(gè)角度就是“進(jìn)化”。
其實(shí)，人是兩種進(jìn)化的主體，首先是生物進(jìn)化。在遵循生物規(guī)律的同時(shí)，人在與環(huán)境作用的過程中，將心智生成的知識(shí)或者經(jīng)驗(yàn)外化，通過口語，后來又發(fā)明文字實(shí)現(xiàn)外化，使得人從動(dòng)物界提升出來。這個(gè)飛躍讓人成為文化世界或者更廣義地說信息世界的主體，從發(fā)明文字算起已有幾千年了，因此，人也是文化進(jìn)化的主體。400多年前，文化世界中出現(xiàn)了近代科學(xué)，后來又帶動(dòng)了技術(shù)的大發(fā)展。按照我自己的理解，到了20世紀(jì)中葉，發(fā)生了最具顛覆性的變化，標(biāo)志是電子計(jì)算機(jī)的問世，從此，人類開始把心智運(yùn)作的能力外化，而不僅僅是外化結(jié)果。近十幾年來，隨著機(jī)器學(xué)習(xí)的發(fā)展，這種外化能力的過程突然提速了，已經(jīng)有了AI科學(xué)家、AI工程師。
原來，我們?nèi)祟愂俏幕澜绲奈┮恢黧w，現(xiàn)在出現(xiàn)了人工的智能體，也能生成文化產(chǎn)品，比如文本、圖畫，為文化進(jìn)化作出貢獻(xiàn)。問題就來了，我們?cè)撊绾螢樗鼈兌ㄎ唬渴强醋餍轮黧w還是只看作工具？假如這些AI科學(xué)家、AI作者越來越聰明，甚至有自主的意識(shí)，又該怎么看？
人工智能的主要?jiǎng)?chuàng)始人明斯基有一個(gè)觀點(diǎn)：認(rèn)為一旦出現(xiàn)這樣的智能體，那它就是我們?nèi)祟愋碌暮蟠恰爸悄芎⒆印薄Ｆ鋵?shí)，如果承認(rèn)進(jìn)化論，承認(rèn)人也是進(jìn)化而來，很難說人類就是進(jìn)化鏈上的最后一環(huán)，很可能是智能進(jìn)化或者文化進(jìn)化的起點(diǎn)。那么，有朝一日，這類“智能孩子”會(huì)不會(huì)把人類關(guān)起來，就像我們將動(dòng)物關(guān)在動(dòng)物園里一樣？我說，這種擔(dān)憂是人類中心主義的表現(xiàn)。
到底怎么看待這個(gè)問題？請(qǐng)教后面兩位同行。
酈全民（華東師大哲學(xué)系科技哲學(xué)教授）
*如果AI打破“只是人類的工具和延伸”關(guān)系時(shí)
潘斌：人工智能和人類智能的關(guān)系是什么？人類常常持一種極為理想化的設(shè)想，即人工智能僅僅只是是人類智能的工具、延展、增強(qiáng)。隨著技術(shù)的迭代爆發(fā)式的增長(zhǎng)，這種想法可能只是一廂情愿的天真。設(shè)想未來出現(xiàn)強(qiáng)AI時(shí)代，即機(jī)器變得和人類一樣能夠理性地思考和行動(dòng)，人工智能和人類智能之間的關(guān)系可能是平起平坐、各負(fù)其責(zé)。但在未來時(shí)代不排除出現(xiàn)超級(jí)人工智能，他們無論在速度、數(shù)量或質(zhì)量方面，都具備對(duì)人類智能全方位降維打擊的能力。
著名未來學(xué)家尤瓦爾·赫拉利曾大膽預(yù)言，未來世代可能將出現(xiàn)后人類或新人類，傳統(tǒng)意義上的人類作為一個(gè)物種可能面臨逐漸滅絕的境地，這也是學(xué)界一些專家所預(yù)言或憂慮的是否真的會(huì)出現(xiàn)“碳基文明被硅基文明所超越、取代甚至消滅”的風(fēng)險(xiǎn)后果。
當(dāng)代學(xué)界對(duì)人工智能的倫理風(fēng)險(xiǎn)的審視與吁求，也正是基于這一具有極大不確定性、后果不可控性的風(fēng)險(xiǎn)的憂慮。
*AI也在塑造人類，人類對(duì)其依賴性窄化了智慧潛能
付長(zhǎng)珍（華東師大哲學(xué)系倫理與智慧研究中心主任、倫理學(xué)教授）
付長(zhǎng)珍：人和類人（AI）共生的時(shí)代，應(yīng)該怎樣理解和定位二者的關(guān)系？ChatGPT肯定也只是生成式AI的一個(gè)階段。人工智能為人類提供便利，造福人類的同時(shí)也在塑造人類，在我看來應(yīng)該是一個(gè)雙向賦智、共生共榮的關(guān)系。但令我憂慮的是，人類對(duì)技術(shù)越來越依賴，人類潛在的智慧不僅沒有更好地激發(fā)出來，反而會(huì)變得越來越脆弱，對(duì)技術(shù)的過分依賴使我們的生活越來越平面化，冗長(zhǎng)又乏味。
*大模型訓(xùn)練時(shí)會(huì)設(shè)有倫理框架，但注入愛與善良依然是挑戰(zhàn)
從倫理學(xué)角度看，這些年很多人都意識(shí)到——社會(huì)越發(fā)展，倫理越重要。科技要發(fā)展，倫理需先行。國(guó)家也多次出臺(tái)相關(guān)文件，倡導(dǎo)科技倫理要貫穿科技活動(dòng)全過程，各個(gè)環(huán)節(jié)都要有倫理在場(chǎng)。原有的倫理學(xué)是一種近距離倫理，主要側(cè)重后果評(píng)估。人工智能時(shí)代的倫理學(xué)，應(yīng)該闡發(fā)一種面向人類未來的新型責(zé)任倫理意識(shí)。。倫理應(yīng)該成為科技發(fā)展的方向盤，需要前瞻性地預(yù)測(cè)可能存在的倫理風(fēng)險(xiǎn)。倫理與技術(shù)同向而行，確保科技向善。。
特別想請(qǐng)教一下林總，大模型作為底座進(jìn)行研發(fā)和預(yù)訓(xùn)練時(shí)，對(duì)于價(jià)值觀、安全性、風(fēng)險(xiǎn)等，是否也有一些具體的考量和舉措？
劉梁劍：我想這里有一種矛盾，一方面用倫理規(guī)范技術(shù)，人是目的；另一方面又認(rèn)為人不可能永遠(yuǎn)是目的。
林詠華：這是個(gè)很好的問題。從偏理工的腦袋來想，這是必須要考慮的問題。我們至少在幾個(gè)環(huán)節(jié)去解決：第一，對(duì)大模型的預(yù)訓(xùn)練數(shù)據(jù)做安全過濾，包括去除倫理偏見等。目前未必所有的企業(yè)都這么做，但是智源作為開源基礎(chǔ)大模型的提供者，為了減少后續(xù)使用者的顧慮，我們需要從源頭上規(guī)范化；第二，微調(diào)訓(xùn)練的數(shù)據(jù)也要做這樣的處理；第三，今天沒展開講的強(qiáng)化學(xué)習(xí)，它速成跟人類的價(jià)值觀對(duì)齊。技術(shù)上就是這樣的流程化處理。
用偏人文的腦袋，我也經(jīng)常在思考，怎么把人類的真善美、人類的榜樣注入到大模型？俗語“三歲見老”，當(dāng)一個(gè)人是善良、有愛心的，沒有必要告訴他很多的條條框框，實(shí)際上哪怕會(huì)犯錯(cuò)，也不會(huì)犯大錯(cuò)。但是今天做大模型機(jī)器學(xué)習(xí)時(shí)，不得不給出很多的條條框框。坦白說，做安全對(duì)齊、倫理對(duì)齊時(shí)，維度也很多。所以這是一個(gè)開放的問題。是否有機(jī)會(huì)把善良與愛注入到這個(gè)機(jī)器呢？如果不能，或許這就是機(jī)器和人很重要的區(qū)別。
解放或焦慮：大模型帶來自由還是失業(yè)？
哲學(xué)系四位（靠右側(cè)）與談人覆蓋了科技哲學(xué)、倫理學(xué)、馬克思主義哲學(xué)和中國(guó)哲學(xué)
劉梁劍：即便不想有偏見，但是怎么能沒有偏見呢？類似這樣的難題就出來了。這里也涉及到倫理風(fēng)險(xiǎn)。馬克思有一句名言，談到一個(gè)最理想的自由社會(huì)里，可以早晨打獵，下午去釣魚，晚上談?wù)軐W(xué)，ChatGPT的出現(xiàn)有沒有可能把我們帶入這個(gè)理想的世界？
*依據(jù)慣性，人類未必都會(huì)善用自由時(shí)間成為自由人
潘斌：這一關(guān)于未來社會(huì)人的自由狀態(tài)的論述，馬克思曾在《德意志意識(shí)形態(tài)》中做出了經(jīng)典描述——在共產(chǎn)社會(huì)，人們上午打獵，下午捕魚，傍晚開始畜牧，晚飯之后從事哲學(xué)批判。之所以能出現(xiàn)這樣自由狀態(tài)有一個(gè)根本性的前提條件，即物質(zhì)產(chǎn)品的極大豐富。
通用人工智能（GAI）的出現(xiàn)會(huì)使人類得到更多的勞動(dòng)解放，擁有更多的自由時(shí)間，但我們也需要審慎地思考，人類真的就此進(jìn)入自由人的境界嗎？相反，在一個(gè)高度數(shù)字化、技術(shù)化的時(shí)代，借助于通用人工智能以及各類大模型，當(dāng)我們能從體力和腦力勞動(dòng)中解放出來后，未必就一定真正地進(jìn)入自由人的狀態(tài)。依據(jù)個(gè)體慣性以及數(shù)字技術(shù)的強(qiáng)大控制力，很多人可能還是沉溺于數(shù)字世界的娛樂與游戲之中，刷抖音、看視頻、以及流連忘返于各類APP或網(wǎng)站之上，在一定意義上技術(shù)的進(jìn)步不一定帶來我們所期望的自由人狀態(tài)。
相反，我們更需要去重視與思考的問題是，通用人工智能或大類大模型的出現(xiàn)，會(huì)不會(huì)導(dǎo)致很多人失業(yè)？有的人工智能專家曾預(yù)計(jì)大模型的實(shí)質(zhì)性成功與商業(yè)化落地，大約50%的工作崗位會(huì)被取消。那么，我們當(dāng)前特別需要思考的是：諸如ChatGPT等大模型的出現(xiàn)，技術(shù)進(jìn)步與就業(yè)機(jī)遇之間如何保持一種適當(dāng)而有機(jī)的協(xié)調(diào)？
潘斌（華東師大哲學(xué)系馬克思主義哲學(xué)教授）
*世界進(jìn)入老年社會(huì)，人類需要高效的機(jī)器人輔助
林詠華：短期可能會(huì)使得現(xiàn)有職業(yè)崗位的數(shù)量發(fā)生明顯變化，但未來將促進(jìn)職業(yè)種類的變化變遷。歷史上有太多類似的技術(shù)變化，例如汽車替代馬車，照相機(jī)的出現(xiàn)代替了油畫、寫真工作者。人類社會(huì)有很多文明的進(jìn)步、技術(shù)的進(jìn)步，帶來工作崗位性質(zhì)的改變，這是正常現(xiàn)象。人類總是很聰明地找到更多其他需要人類去做但未做的更好的事情。我們相信職業(yè)社會(huì)有很強(qiáng)的自適應(yīng)調(diào)整能力。
另外從人口結(jié)構(gòu)的變化來看，的確需要高效率的機(jī)器人來輔助。從全人類人口結(jié)構(gòu)來看，目前100個(gè)人需要奉養(yǎng)30個(gè)老年人，到了2045-2050年，100個(gè)人甚至要奉養(yǎng)50—60個(gè)老年人，此時(shí)我們需要有更高效率的工具來輔助我們更少的人完成更多的事情。
賀樑：我的觀點(diǎn)和林總不完全一致。我先假設(shè)，這一輪大模型帶來的技術(shù)迭代速度會(huì)比現(xiàn)在快很多，會(huì)替代一大部分現(xiàn)有的工作。如果給三五天時(shí)間讓我們想，多少技術(shù)是10年后的人工智能所做不到的？我想這類工作不會(huì)很多。所以我認(rèn)為，馬克思講的自由的生活可能真的會(huì)到來，我們可以一周工作四天、三天、兩天或一天，甚至你想得到傳統(tǒng)意義上的工作，都會(huì)需要努力去爭(zhēng)取。
酈全民：今天討論的是生產(chǎn)力的躍升。我們知道，生產(chǎn)力有三個(gè)要素：勞動(dòng)者、生產(chǎn)資料和生產(chǎn)對(duì)象，其中工具屬于生產(chǎn)資料。以往的技術(shù)，基本上是生產(chǎn)工具，人是惟一的勞動(dòng)者，但AI不一樣，它可以充當(dāng)勞動(dòng)者，所以，對(duì)生產(chǎn)力的躍升定將是革命性的。
失業(yè)問題上，我提供一個(gè)有趣的例子。上個(gè)世紀(jì)50年代初，人們認(rèn)為自動(dòng)化出現(xiàn)會(huì)讓很多人失業(yè)，有很多職業(yè)會(huì)消失。結(jié)果到了2016年再統(tǒng)計(jì)，發(fā)現(xiàn)與自動(dòng)化直接相關(guān)的消失職業(yè)只有一個(gè)，就是開電梯的電梯工。
酈全民（持話題發(fā)言者）以“同類好”打招呼，引發(fā)聽眾特別聆聽
*勞動(dòng)是階段性需求，“激發(fā)人的潛能成為人”是目標(biāo)
劉梁劍：酈老師所說呼應(yīng)了林工的想法，只是工種的變化。請(qǐng)教付老師，為什么失業(yè)是人類進(jìn)化的一個(gè)標(biāo)志？
付長(zhǎng)珍：當(dāng)我們被解放出來獲得更多自由時(shí)間的時(shí)候，我覺得問題不是擔(dān)心我們失業(yè)了，而是該思考如何來安排我們的閑暇？能否讓我們的閑暇沒有變成無聊？。
人工智能技術(shù)的涌現(xiàn)正是出于人的需要，為了人更好的存在。勞動(dòng)只是生產(chǎn)力不夠發(fā)達(dá)時(shí)的需要，因此應(yīng)該擴(kuò)展勞動(dòng)的定義更有價(jià)值的勞動(dòng)，在于激發(fā)出人的更大潛能，提升人的內(nèi)在本質(zhì)，塑造高尚人格和美好生活使人更好地成為人。
酈全民：最近，在英國(guó)一些地方正在進(jìn)行UBI（全民基本收入，Universal basic income）實(shí)驗(yàn)：從社區(qū)里隨機(jī)抽取實(shí)驗(yàn)者，每月可獲1600英鎊，隨你上班或不上班，不需要承擔(dān)任何義務(wù)，以此來觀察這些人會(huì)有怎樣的變化。我個(gè)人覺得這是人類發(fā)展的一個(gè)方向，我們會(huì)進(jìn)入一個(gè)體驗(yàn)的時(shí)代。
通用人工智能：何時(shí)會(huì)出現(xiàn)，會(huì)擁有自主意識(shí)嗎？
劉梁劍：形而上的討論總能腦洞大開，走得較遠(yuǎn)，這是哲學(xué)的特性。那么從技術(shù)的角度看，通用人工智能是否有可能出現(xiàn)？更進(jìn)一步，超強(qiáng)人工智能是否有可能出現(xiàn)？這里的關(guān)鍵是出現(xiàn)自主意識(shí)。
華東師大中國(guó)現(xiàn)代思想和文化研究所所長(zhǎng)楊國(guó)榮教授開場(chǎng)致辭
*“涌現(xiàn)”能力出現(xiàn)，或帶來了GAI出現(xiàn)的加速度
賀樑：這個(gè)問題挺難回答的。如果不是大模型出現(xiàn)，我還是持較懷疑態(tài)度。但現(xiàn)在來看，雖然大模型當(dāng)下依然處在初級(jí)階段，大部分能力還是由數(shù)據(jù)喂出來的，但“涌現(xiàn)”能力的出現(xiàn)讓人感到非常吃驚。
什么叫“涌現(xiàn)”？打個(gè)比方，中國(guó)人常說“熟讀唐詩三百首，不會(huì)做詩也會(huì)吟”。但是讀到250首或280首時(shí)突然就會(huì)寫詩了。這種“涌現(xiàn)”能力是一個(gè)復(fù)雜系統(tǒng)從量變到質(zhì)變的過程。原先，我認(rèn)為，量變到質(zhì)變只是在物理世界里存在，在數(shù)字世界什么都是可以掌控的。
這次大模型爆發(fā)出的“涌現(xiàn)”能力，改變了我的想法，它給了我們指出了新的一條人工智能進(jìn)階的道路—也就是復(fù)雜到一定程度，它會(huì)自然產(chǎn)生質(zhì)變。而且當(dāng)下人工智能迭代速度一定快于想象。人工智能的通用能力會(huì)越來越強(qiáng)，我們現(xiàn)在一直在談?wù)搮柡Φ腃hatGPT，但未來五年十年回頭看，現(xiàn)在的ChatGPT一定是個(gè)那時(shí)候認(rèn)為的“挺智障”的人工智能。
*“數(shù)字域的囚徒”：聰明腦袋等待手腳進(jìn)化來匹配
林詠華：現(xiàn)在ChatGPT還是一個(gè)困在數(shù)字域的囚徒。咱們希望的AI并不只是在數(shù)字域?qū)憣懳臋n，本來以為最早被替代的是藍(lán)領(lǐng)，實(shí)際最早被替代的是白領(lǐng)。AI+X，X的那些學(xué)科的發(fā)展并沒有像人工智能那么快，這也導(dǎo)致機(jī)器人有一個(gè)很聰明敏捷的腦袋，但是手腳四肢的準(zhǔn)確性、靈活性還沒有匹配上。比如，在分揀上的速度，機(jī)械臂滿足不了10毫秒以內(nèi)的靈活柔性抓取，而人可以在一堆雜亂無章的東西里面找到有瑕疵的東西。所以使得大家期望的老有所依、為我們做風(fēng)吹日曬下的事情還比較遠(yuǎn)。
主持人李念（左）與嘉賓賀樑、酈全民、林詠華、付長(zhǎng)珍、潘斌、劉梁劍合影
*三個(gè)層次看自主意識(shí)，自主去想人類未想最關(guān)鍵
賀樑：關(guān)于自主意識(shí)，首先是如何界定自主意識(shí)，我還是寧愿相信AGI不會(huì)有自主意識(shí)。如果真有，站在人類角度，我認(rèn)為還是盡快把它關(guān)到籠子里棄用，因?yàn)檫@對(duì)人類就是毀滅性的打擊，人類只是歷史長(zhǎng)河中一個(gè)階段的想法可能是真的，但我希望到來得越晚越好。
林詠華：是否會(huì)有自主意識(shí)？大家此前一直在討論，這次大模型引領(lǐng)的AI是不是到了一個(gè)“奇點(diǎn)”？我個(gè)人分成三層來看：第一也是最低的，AI可以自主去應(yīng)對(duì)人類的需求，調(diào)用有限掌握的幾個(gè)工具完成人類的任務(wù)；第二它是否有能力自主地去學(xué)習(xí)還沒有學(xué)過的東西；第三它是否能夠自主地去創(chuàng)新，去突破一些我們沒有讓它突破的難題。比如說怎么讓飛機(jī)凈重減少一半，或者會(huì)自主地去看到海洋里因?yàn)槲廴径鵀l臨滅絕的生物并去設(shè)想拯救方案。
現(xiàn)在看到，目前可以初步達(dá)到第一個(gè)層次，未來10年可以達(dá)到第二個(gè)層次，而第三個(gè)層次將會(huì)是很難達(dá)到的目標(biāo)。
整理：李念
文末鏈接
林詠華：AI邁入大模型時(shí)代，新十年如何潮漲不落？|163-1講堂1
作者：賀樑、酈全民、付長(zhǎng)珍、潘斌、林詠華、劉梁劍
照片：周文強(qiáng)拍攝 胡楊制作
編輯：李念
責(zé)任編輯：李念
*文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。
標(biāo)簽：
