《宇視》編者(zhe)按:科幻作家劉慈欣(xin)關于人工(gong)智能(neng)的文(wen)章,這也是他為《智能(neng)革命(ming)》所做序言(yan),標題為編者(zhe)所擬
![](/res/201708/11/20170811_1619207_42-1_799941_140493_0.jpg)
這是(shi)一本論述(shu)人(ren)工(gong)智(zhi)能(neng)的(de)書(shu),在這里首先(xian)討論一個(ge)書(shu)中可能(neng)不涉(she)及,但(dan)很基本的(de)問題:人(ren)工(gong)智(zhi)能(neng)的(de)定義。
目前廣為人知的(de)定義是圖靈測試,但(dan)這(zhe)只能被(bei)看作一種泛(fan)泛(fan)的(de)描(miao)述,并不(bu)是嚴格和精(jing)確(que)的(de)定義。比如(ru),參與(yu)測試的(de)人是什么樣的(de)人?向機器(qi)提出的(de)問題是什么?這(zhe)些問題都不(bu)明確(que)。
上(shang)溯(su)歷史(shi),我們發現人工智(zhi)能(neng)的概念(nian)與自動(dong)化有著密切的關系,可以(yi)說自動(dong)化是(shi)這個概念(nian)的起源。在過(guo)去相當(dang)長的一段時(shi)間里,在人們的心目中,自動(dong)化就是(shi)人工智(zhi)能(neng)。
其(qi)實,人類制造和使用自(zi)(zi)動化裝(zhuang)置(zhi)的(de)(de)時間(jian)比我(wo)們想(xiang)象得要早(zao)(zao),遠在(zai)電氣時代之前(qian),蒸汽機上就有(you)自(zi)(zi)動調節蒸汽流量的(de)(de)裝(zhuang)置(zhi),在(zai)更早(zao)(zao)的(de)(de)16 世(shi)紀,伊麗莎白女王(wang)的(de)(de)宮廷里(li)首(shou)次使用的(de)(de)抽水馬桶(tong)也是自(zi)(zi)動化裝(zhuang)置(zhi),如(ru)果(guo)向前(qian)追溯,肯定還有(you)更早(zao)(zao)的(de)(de)例子。
自動化(hua)大批量出現(xian)是在(zai)電(dian)(dian)氣時代,先是由(you)模擬電(dian)(dian)路實現(xian)自動化(hua),后來電(dian)(dian)子(zi)管(guan)被(bei)晶體管(guan)所代替,再(zai)后來出現(xian)了集成電(dian)(dian)路,由(you)日益復雜的軟件所驅動。今天(tian),我們在(zai)生活(huo)中要與無數的自動化(hua)系(xi)統(tong)(tong)打交道,比如電(dian)(dian)子(zi)商(shang)務(wu)系(xi)統(tong)(tong)、網上銀行系(xi)統(tong)(tong)和網上購票系(xi)統(tong)(tong)等。
毋庸置疑,自(zi)動(dong)化系統表(biao)現出了相(xiang)當(dang)多(duo)的智能特征,像網(wang)上銀行這類系統處理著相(xiang)當(dang)復雜的業務,其效率和精(jing)準(zhun)度已高(gao)于人類雇(gu)員。
即使(shi)是抽水(shui)(shui)馬桶這(zhe)樣(yang)最簡單的(de)系統,也表(biao)現出一定的(de)智能行為,它能夠感知水(shui)(shui)箱的(de)水(shui)(shui)位,適時(shi)開(kai)啟和關(guan)閉給水(shui)(shui)閥門,這(zhe)事它做得(de)與人類一樣(yang)好。但從抽水(shui)(shui)馬桶到網上(shang)銀行,我們都(dou)不把(ba)它們看作是人工智能。
筆者(zhe)曾經編寫過一個(ge)寫現代詩的(de)軟(ruan)(ruan)件,現在(zai)還在(zai)網(wang)上(shang)(shang)流行;而目(mu)前網(wang)上(shang)(shang)其他比(bi)較完美的(de)自動作(zuo)詩軟(ruan)(ruan)件,所寫出的(de)中國古典詩詞很難(nan)與人(ren)類所作(zuo)的(de)詩詞區分開來。另外,近年來已(yi)經有(you)不止一個(ge)系統在(zai)不同的(de)實(shi)驗室環境(jing)下通過了圖靈測試。但這一切,我(wo)們(men)都不把它們(men)看成心目(mu)中的(de)人(ren)工智能,為什么(me)?
筆者(zhe)在(zai)20 世紀80 年(nian)代最早參與(yu)開(kai)發(fa)的(de)工(gong)業監控系統是(shi)以Z80 處理器為核心的(de),用匯編語言編程(cheng)。這(zhe)個(ge)系統能(neng)(neng)夠監測(ce)上(shang)百(bai)個(ge)機(ji)組參數,并根據(ju)參數的(de)變化(hua)做出(chu)適當(dang)的(de)調節,其功能(neng)(neng)是(shi)人工(gong)無(wu)法實(shi)現的(de)。但在(zai)我們(men)的(de)眼中它也(ye)完全不是(shi)人工(gong)智能(neng)(neng)。
匯(hui)編語言的(de)(de)(de)(de)特點就是透明性,它要在硬件層次手把手地教機器做每一(yi)步操作,比(bi)如(ru)把數(shu)據從(cong)這個存儲器送往那(nei)個存儲器,中(zhong)斷(duan)的(de)(de)(de)(de)調用和返回(hui)等(deng)都一(yi)一(yi)寫明,所(suo)以當我從(cong)外部看到(dao)系統(tong)的(de)(de)(de)(de)動作時(shi),腦中(zhong)立刻(ke)有(you)一(yi)幅明晰的(de)(de)(de)(de)流程圖,立刻(ke)能知道(dao)哪幾條指令(ling)被執行了(le)。所(suo)以在我看來,這個監控系統(tong)與抽水(shui)馬桶(tong)沒有(you)本質的(de)(de)(de)(de)區(qu)別。
現在那些(xie)更復(fu)雜的(de)系統,如(ru)網上銀行和(he)電子商(shang)務,這些(xie)軟(ruan)件(jian)的(de)編制(zhi)者一定清(qing)楚(chu)所有的(de)內部(bu)操作流程,他們(men)知(zhi)(zhi)(zhi)道(dao)系統的(de)每一步操作在軟(ruan)件(jian)中是(shi)(shi)如(ru)何(he)進行的(de),這同(tong)樣(yang)也是(shi)(shi)抽(chou)水(shui)馬桶更復(fu)雜的(de)版本。至(zhi)于那些(xie)電子詩(shi)人和(he)通過(guo)圖靈(ling)測試的(de)系統也一樣(yang),程序(xu)員清(qing)楚(chu)地知(zhi)(zhi)(zhi)道(dao)它們(men)是(shi)(shi)如(ru)何(he)根(gen)據邏輯(ji)樹(shu)檢索數據庫(ku),然后組(zu)合出詩(shi)和(he)答案(an)的(de),所以至(zhi)少程序(xu)員知(zhi)(zhi)(zhi)道(dao)這不是(shi)(shi)智能(neng)。
當我們意識到房間中那(nei)些(xie)忙碌查(cha)找卡片(pian)的(de)人(ren)時,智(zhi)能的(de)感覺(jue)就蕩然無存了(le)。
現在我們(men)(men)認為擁有人工(gong)智(zhi)能的那些系(xi)統,比如,進化算(suan)法和(he)深度(du)學習等,都(dou)(dou)有一個共同特點(dian):它們(men)(men)都(dou)(dou)或多或少地表現出(chu)了黑箱的特點(dian),雖然(ran)從理論上(shang)它們(men)(men)內部的運算(suan)步(bu)驟(zou)仍然(ran)可以追蹤,但(dan)由于(yu)(yu)計算(suan)量的巨(ju)大(da),使這種(zhong)追蹤實際(ji)上(shang)很困難甚至不可能。于(yu)(yu)是,我們(men)(men)真的感(gan)覺(jue)它們(men)(men)有智(zhi)能了。
到這里(li),我(wo)們仍然(ran)無法得(de)出人工智(zhi)能(neng)(neng)的準(zhun)確定義,但能(neng)(neng)夠看到它的一(yi)個重(zhong)要特點:一(yi)個具有(you)智(zhi)能(neng)(neng)特性的人造系統,它產生(sheng)、輸出的內部的運算過程(cheng)是人類(lei)智(zhi)能(neng)(neng)所無法解析的。換句話(hua)說,只有(you)我(wo)們不知(zhi)道機器在想什么、怎么想時,才認(ren)為它有(you)智(zhi)能(neng)(neng)。
看(kan)到這一點(dian),每個人的心中(zhong)應(ying)該都生(sheng)出一股(gu)隱(yin)隱(yin)的寒意。是否人工(gong)智能的本質中(zhong),就隱(yin)含著它(ta)們最終失控的可(ke)能性(xing)?
這(zhe)正是(shi)目前人(ren)(ren)(ren)們(men)對人(ren)(ren)(ren)工智能(neng)(neng)關注的熱點,用馬斯(si)克(ke)的話來說,人(ren)(ren)(ren)工智能(neng)(neng)正變(bian)成比核彈更危險(xian)的東西。媒體輿論給人(ren)(ren)(ren)一(yi)個(ge)印(yin)象,似乎機器(qi)的征途已經開始,人(ren)(ren)(ren)工智能(neng)(neng)征服世界(jie)指日可待。本(ben)書最后(hou)一(yi)章也顯現了這(zhe)種擔(dan)憂。庫茲維爾(er)甚(shen)至在(zai)(zai)《奇點臨近(jin)》中給出了人(ren)(ren)(ren)工智能(neng)(neng)紀(ji)元到來的具體年份:2045 年。那(nei)時,現在(zai)(zai)讀這(zhe)本(ben)書的人(ren)(ren)(ren)有2/3 還活著。
但理智地考察(cha)目前人(ren)工智能(neng)領域(yu)的狀(zhuang)況,我們就能(neng)發現(xian)(xian)智力遠(yuan)超人(ren)類的“強人(ren)工智能(neng)”仍然屬于科(ke)幻(huan)(huan)的范疇。公(gong)眾(zhong)喜歡從科(ke)幻(huan)(huan)的角度(du)看問題,比(bi)起平常的現(xian)(xian)實,科(ke)幻(huan)(huan)確實能(neng)讓(rang)人(ren)興奮,任何從現(xian)(xian)實出發所進行(xing)的理智的預(yu)測(ce)都被(bei)斥為(wei)保(bao)守和沒有想象力。但筆者作(zuo)為(wei)科(ke)幻(huan)(huan)作(zuo)家卻只(zhi)能(neng)說(shuo),與大家通常的印象不(bu)同,科(ke)幻(huan)(huan)小(xiao)說(shuo)中的預(yu)言(yan)真正變為(wei)現(xian)(xian)實的是少數,大部分(fen)預(yu)言(yan)要變為(wei)現(xian)(xian)實仍然遙遙無期。
人們的(de)(de)潛意識(shi)中都(dou)認為(wei),只要在(zai)理論(lun)上有可能(neng)突(tu)破的(de)(de)技術障(zhang)礙(ai),在(zai)未來就一定能(neng)夠被突(tu)破,但事實并非如此。在(zai)人工智(zhi)能(neng)方面(mian),“強人工智(zhi)能(neng)”的(de)(de)實現(xian)面(mian)對(dui)著許多巨大的(de)(de)技術障(zhang)礙(ai),如非馮·諾(nuo)依曼體(ti)系的(de)(de)新結構計算機、對(dui)人類(lei)思維機制的(de)(de)深(shen)刻認識(shi)等,現(xian)在(zai)都(dou)無法確知最終能(neng)否取得突(tu)破。另(ling)外一些(xie)看似(si)有希望的(de)(de)技術,如量子(zi)計算等,距實用還相(xiang)去甚遠(yuan)。
所(suo)以,在對人(ren)工智能進(jin)行科學幻想的(de)同時,我(wo)們更需要關注(zhu)即(ji)將面對的(de)“近未來(lai)”,這也正(zheng)是本書重點討(tao)論的(de)話題。
人(ren)工智(zhi)(zhi)能近年來(lai)(lai)發展(zhan)的(de)(de)(de)(de)趨(qu)勢是(shi)開始走出實驗室,進入人(ren)類生(sheng)(sheng)活,用(yong)一位(wei)互聯網大佬的(de)(de)(de)(de)話來(lai)(lai)說(shuo),它們(men)變得能用(yong)了。這(zhe)樣我(wo)(wo)們(men)就(jiu)面對著一個即將到來(lai)(lai)的(de)(de)(de)(de)挑戰:人(ren)工智(zhi)(zhi)能不(bu)會奪(duo)走我(wo)(wo)們(men)的(de)(de)(de)(de)自由和(he)生(sheng)(sheng)命(ming),但會奪(duo)走我(wo)(wo)們(men)的(de)(de)(de)(de)飯碗,這(zhe)不(bu)需(xu)要(yao)人(ren)工智(zhi)(zhi)能的(de)(de)(de)(de)失控,它們(men)可以在資本家的(de)(de)(de)(de)完全控制(zhi)下做成這(zhe)件事。
有(you)學者認(ren)為不(bu)(bu)必為這件事(shi)擔憂,他們回顧(gu)工業(ye)化的(de)歷史,在20 世紀初,美國有(you)50% 的(de)農業(ye)人(ren)口,但(dan)隨(sui)著農業(ye)機械(xie)化,現在的(de)農業(ye)人(ren)口降到(dao)4%,而(er)城市化吸收了多余的(de)農民(min)。但(dan)眼前發生(sheng)的(de)事(shi)情是不(bu)(bu)同的(de),當人(ren)工智(zhi)能(neng)大規模進入社會(hui)后,人(ren)類(lei)能(neng)做的(de)工作它們大部分都可以做,城市不(bu)(bu)會(hui)再有(you)更多的(de)就業(ye)崗位留給人(ren)類(lei)。
通行的(de)(de)(de)美好說法是(shi),人(ren)們在常規工作中(zhong)被人(ren)工智(zhi)能取代(dai)后,可以(yi)去從(cong)事創(chuang)造(zao)(zao)性的(de)(de)(de)工作。問題是(shi)創(chuang)造(zao)(zao)性的(de)(de)(de)工作不(bu)是(shi)人(ren)人(ren)都可以(yi)從(cong)事的(de)(de)(de),也不(bu)需要那(nei)么多的(de)(de)(de)人(ren),如(ru)果社會(hui)(hui)分配制度不(bu)改變(bian),一個全部(bu)由科(ke)學家和(he)藝術(shu)家構成的(de)(de)(de)人(ren)類世界幾乎是(shi)一場噩夢,這上百億(yi)科(ke)學家和(he)藝術(shu)家中(zhong)的(de)(de)(de)絕大(da)部(bu)分注定一生(sheng)碌碌無為,對(dui)社會(hui)(hui)和(he)自己都毫無用處(chu),且淪入(ru)“創(chuang)造(zao)(zao)性”的(de)(de)(de)窮困潦倒(dao)中(zhong)。
但(dan)這種思(si)維方式總有些(xie)不(bu)對(dui)的(de)(de)地方。人類自(zi)古(gu)以來(lai)為生存而勞作(zuo),實在是(shi)迫不(bu)得已,工(gong)(gong)作(zuo)著(zhu)是(shi)美(mei)麗(li)(li)的(de)(de),但(dan)誰都知道,不(bu)需要工(gong)(gong)作(zuo)的(de)(de)生活更美(mei)麗(li)(li)。現(xian)在終于能(neng)夠制造出把自(zi)己從工(gong)(gong)作(zuo)重(zhong)負(fu)中解放出來(lai)的(de)(de)機器,這是(shi)人類文(wen)明(ming)最偉大(da)的(de)(de)成就,無論如何不(bu)應該被看作(zuo)一場(chang)災難,相反(fan),這可能(neng)是(shi)人類所(suo)(suo)面(mian)對(dui)的(de)(de)前(qian)所(suo)(suo)未有的(de)(de)偉大(da)機遇,只是(shi),我們需要改變(bian)。
如何(he)完成由現代社會向人工智能社會的過(guo)渡?有兩(liang)種可(ke)能。
一(yi)種可能(neng)十分黑暗(an):在(zai)(zai)現有的(de)(de)(de)社會、經濟和政治(zhi)(zhi)體(ti)制下(xia),人(ren)(ren)工(gong)(gong)智能(neng)帶來的(de)(de)(de)問題幾乎(hu)是無解的(de)(de)(de)。在(zai)(zai)人(ren)(ren)工(gong)(gong)智能(neng)迅速取(qu)代人(ren)(ren)類的(de)(de)(de)過程中,沒有及時建立起與(yu)之相(xiang)適應(ying)的(de)(de)(de)社會體(ti)制,在(zai)(zai)席卷全球(qiu)的(de)(de)(de)失(shi)業浪潮(chao)之下(xia),世界的(de)(de)(de)政治(zhi)(zhi)和經濟將陷(xian)入長(chang)久的(de)(de)(de)混亂之中,一(yi)切都籠罩在(zai)(zai)人(ren)(ren)工(gong)(gong)智能(neng)及其(qi)使用者與(yu)“新盧德(de)派”領導(dao)的(de)(de)(de)大眾的(de)(de)(de)無休止(zhi)的(de)(de)(de)沖突中。
另一種可能是,社會(hui)成(cheng)功地完(wan)成(cheng)轉型。這將(jiang)是有史以來(lai)人(ren)類生(sheng)活方(fang)式最(zui)大的(de)一次改變。
不(bu)勞動者(zhe)不(bu)得(de)食,這(zhe)個理(li)念是(shi)人類社會的(de)基(ji)石。文(wen)明誕生以來經(jing)歷過多次巨(ju)大變革,這(zhe)一基(ji)石從未(wei)改(gai)變,但人工(gong)智能可能會移除(chu)這(zhe)一基(ji)石,進而導(dao)致從所有制和分配制度,到(dao)基(ji)本(ben)的(de)經(jing)濟結(jie)構,再到(dao)政治體制,直(zhi)到(dao)文(wen)化,都發生根(gen)本(ben)的(de)變化。這(zhe)是(shi)真正的(de)人類解放(fang),是(shi)向著古老的(de)烏托邦(bang)理(li)想邁進的(de)一大步。
2016 年是《烏托邦(bang)》發表(biao)500 周年,但托馬斯·莫爾無論(lun)如(ru)何不會想(xiang)(xiang)到,他(ta)(ta)的(de)理想(xiang)(xiang)會借助于(yu)智能機(ji)器實現。我很有興趣(qu)地想(xiang)(xiang),如(ru)果卡爾·馬克思知(zhi)道(dao)人工智能這回(hui)事(shi),他(ta)(ta)關于(yu)資本主(zhu)義和共產主(zhu)義的(de)理論(lun)會是什么樣(yang)子?
想象人(ren)(ren)工(gong)智(zhi)能(neng)(neng)時(shi)代的社會和生活是困難的,即使在科幻(huan)小說中(zhong),我們(men)也(ye)只能(neng)(neng)把種(zhong)種(zhong)可(ke)能(neng)(neng)性(xing)排列出來,而(er)哪種(zhong)可(ke)能(neng)(neng)性(xing)最有可(ke)能(neng)(neng)成為(wei)現(xian)實,取(qu)決于我們(men)的努力和選擇。但不管怎么(me)說,那是一個誘人(ren)(ren)的時(shi)代,我們(men)正向它走(zou)去。