最近，網(wǎng)絡(luò)和微信上有一篇長(zhǎng)達(dá)3萬余字的譯文在流傳，文章的標(biāo)題是《為什么有很多名人讓人們警惕人工智能?》。篇首有這樣一段話：“人工智能很可能導(dǎo)致人類的永生或者滅絕，而這一切很可能在我們的有生之年發(fā)生。”上面這句話不是危言聳聽，請(qǐng)耐心地看完本文再發(fā)表意見。

文中稱，史蒂芬·霍金、比爾·蓋茨等著名人士都發(fā)出了警告：如果智能機(jī)器缺乏監(jiān)管，人類將迎來一個(gè)黑暗的未來。而美國(guó)特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克則說：人工智能可能是我們面臨的最大滅絕風(fēng)險(xiǎn)，創(chuàng)造人工智能猶如召喚一只惡魔。他預(yù)計(jì)“一些極為危險(xiǎn)的事情即將發(fā)生”，最快將在5年內(nèi)。

無機(jī)生命(機(jī)器)會(huì)發(fā)展出與有機(jī)體類似的生存和競(jìng)爭(zhēng)意志嗎?有朝一日當(dāng)機(jī)器智能超越人類并不受人類控制時(shí)，我們將會(huì)遇到什么危險(xiǎn)?類似這樣的話題或場(chǎng)景，我們常常在科幻小說和科幻電影中遇到。近年來，也有越來越多的圖書涉及。較早出現(xiàn)也較有影響的是《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》一書([英]凱文·渥維克著，內(nèi)蒙古人民出版社，1998)，作者系英國(guó)雷丁大學(xué)教授、控制論與機(jī)器人研究專家。全書著眼于描述機(jī)器已發(fā)展得比人類更聰明的未來時(shí)代，并展示了第一批能夠?qū)W習(xí)、互相交流和自我設(shè)計(jì)程序的機(jī)器人。作者感慨技術(shù)變革之快，恐怕將使得事物發(fā)展的結(jié)果非我們所愿意看到，甚至不能掌控。他斷言：“在2050年，我們?nèi)祟悶闄C(jī)器所驅(qū)使，必須做機(jī)器規(guī)定我們做的事情……”而隨后出現(xiàn)的《制腦者：創(chuàng)造堪與人腦匹敵的智能》一書([美]戴維·弗里德曼著，三聯(lián)書店，2001)，倒沒有什么悲觀的色調(diào)。全書梳理了人類不斷認(rèn)識(shí)自身智能的歷程和人工智能概念的源流，展示了人類創(chuàng)造人工智能所取得的一些里程碑式的成果。其中有：給機(jī)器上裝上“大腦”;讓機(jī)器人具有腦電波并具有不規(guī)則的思維活動(dòng);創(chuàng)造出一種新的電腦芯片，具有大腦細(xì)胞的功能……機(jī)器智能超越人類時(shí)的夢(mèng)魘，隨著《靈魂機(jī)器的時(shí)代：當(dāng)計(jì)算機(jī)超過人類智能時(shí)》([美]雷·庫(kù)茲韋爾著，上海譯文出版社，2002)一書的出版，又一次縈繞在人們心頭。該書出版于1999年，作者系美國(guó)著名的發(fā)明家和思想家，在書中他做出了驚人的預(yù)言：到21世紀(jì)初，地球上將出現(xiàn)一種足以與人類智能抗衡的新型智能，最終它將遠(yuǎn)遠(yuǎn)超過人類的智能。庫(kù)茲韋爾還想象，將來的類人智能體也能夠擁有像意識(shí)、情緒這樣的特質(zhì)。

2005年，《奇點(diǎn)臨近：2045年，當(dāng)計(jì)算機(jī)智能超越人類》([美]雷·庫(kù)茲韋爾著，機(jī)械工業(yè)出版社，2013)一書問世，并成為當(dāng)年美國(guó)最暢銷非小說類圖書和亞馬遜最佳科學(xué)圖書。此書更為系統(tǒng)、全面地表達(dá)了庫(kù)茲韋爾預(yù)測(cè)人工智能和科技未來的觀點(diǎn)。特別是對(duì)“奇點(diǎn)”的概念和涵義進(jìn)行了詳細(xì)的闡釋。他還預(yù)測(cè)了機(jī)器智能趕超人類智能之各個(gè)方面后發(fā)展的下一階段：人類與機(jī)器的聯(lián)合，即嵌入我們大腦的知識(shí)和技巧將與我們創(chuàng)造的容量更大、速度更快、知識(shí)分享能力更強(qiáng)的智能相結(jié)合。這種融合便是奇點(diǎn)的本質(zhì)。庫(kù)茲韋爾的預(yù)言和觀點(diǎn)在被廣為傳播的同時(shí)，也引起了極大的爭(zhēng)議，乃至強(qiáng)烈的質(zhì)疑。但庫(kù)茲韋爾堅(jiān)信自己的論斷言之成理，一種“深刻的變化”必然會(huì)發(fā)生。而他所構(gòu)想出的關(guān)于科技進(jìn)化的理論——“加速回歸理論”，能夠解釋為什么在宇宙的總體進(jìn)化中，技術(shù)和進(jìn)化將以指數(shù)的速度向前推移。這也貫穿著在過去的30年里他逐漸認(rèn)識(shí)到的“一個(gè)重要的基本思想”：改變世界的思想力量其本身也正在加速。換句話說，并不只是科技在飛速地發(fā)展，“發(fā)展”本身也在不斷地躍進(jìn)。

人工智能機(jī)器的潛在智能是真實(shí)且巨大的——將是人類的萬億個(gè)萬億倍?；蜻t或早，科學(xué)會(huì)產(chǎn)生一種和人類一樣運(yùn)作的人工生命形式。人工智能問題(或者說物種支配問題)將主宰新世紀(jì)的全球政治。果真如此的話，那將是人類歷史上最大的災(zāi)難，因?yàn)樵僖矝]有歷史了，再也沒有人類了。這是《智能簡(jiǎn)史——誰會(huì)替代人類成為主導(dǎo)物種》([美]雨果·德·加里斯著，清華大學(xué)出版社，2007)一書所表述的主要觀點(diǎn)，其作者是用這樣一句短語結(jié)束了本書：“我們是在制造上帝，還是在制造我們潛在的敵人?”德·加里斯坦言他所從事的工作幾乎讓他精神分裂，并且?guī)е艽蟮呢?fù)罪感，“因?yàn)槲艺J(rèn)為我的工作就是問題的一部分。”凱文·渥維克在為《智能簡(jiǎn)史》一書所寫的推薦序中則寫道：“幾十年后，如果德·加里斯關(guān)于‘物種主導(dǎo)問題將在本世紀(jì)主導(dǎo)全球政治’的言論被證實(shí)是正確的話，那么他將是21世紀(jì)最主要的思想家之一。”

自20世紀(jì)40年代計(jì)算機(jī)被發(fā)明出來之后，機(jī)器就一直被寄予厚望，人工智能的先驅(qū)者們大多數(shù)時(shí)候都不認(rèn)為他們的事業(yè)可能會(huì)存在風(fēng)險(xiǎn)。英國(guó)數(shù)學(xué)家歐文·約翰·古德大概是清晰闡述人工智能未來圖景的第一人，早在1965年他就指出：“我們把超智能機(jī)器定義為具備超越所有聰慧人類智能活動(dòng)的機(jī)器。一旦機(jī)器設(shè)計(jì)成為一項(xiàng)智能活動(dòng)，那么，超智能機(jī)器就能設(shè)計(jì)出更好的機(jī)器。毫無疑問，肯定會(huì)出現(xiàn)諸如‘智能爆發(fā)’這樣的局面，人類智能會(huì)被遠(yuǎn)遠(yuǎn)地甩在后面。因此，第一臺(tái)超智能機(jī)器將是人類制造的最后一臺(tái)機(jī)器。”目前人工智能方面存在的顯著風(fēng)險(xiǎn)，便與前述“智能爆發(fā)”相關(guān)，所以我們必須以最嚴(yán)肅的態(tài)度審視之——《超級(jí)智能：路線圖、危險(xiǎn)性與應(yīng)對(duì)策略》([英]尼克·波斯特洛姆著，中信出版社，2015)一書如是說。該書詮釋了可能出現(xiàn)的超級(jí)智能帶來的挑戰(zhàn)，以及我們應(yīng)該如何更好地應(yīng)對(duì)。作者認(rèn)為，這很可能是人類面對(duì)的最重要和最可怕的挑戰(zhàn);而且，不管我們成功與否，這大概都是我們將要面對(duì)的最后一個(gè)挑戰(zhàn)。

更重要的一點(diǎn)或許在于，我們?cè)俨荒芤钥创^去的視野，去理解必將超越它的事物了。

相關(guān)熱詞搜索：