譚鐵牛：人工智能，天使還是魔鬼？

作者：譚鐵牛

文章來源于科學(xué)大院公眾號（ID：kexuedayuan）

——

（本文由科學(xué)大院根據(jù)譚鐵牛院士在中科院第十九次院士大會(huì)上的報(bào)告整理而成，首發(fā)于科學(xué)大院）

尊敬的各位院士、各位同仁，會(huì)場的各位同學(xué)以及各位網(wǎng)友大家好！今天非常榮幸有機(jī)會(huì)跟大家匯報(bào)一下我本人關(guān)于人工智能的一些粗淺想法。我報(bào)告的題目是《人工智能：天使還是魔鬼？》。

我想既不是聳人聽聞也不是嘩眾取寵，因?yàn)槿斯ぶ悄茉谄毡楸豢春玫耐瑫r(shí)，確實(shí)富有爭議。對于人工智能提出爭議的都不是等閑之輩，都是重量級人物。近些年不斷上映的關(guān)于人工智能、機(jī)器智能的科幻大片，的確留給我們很多懸念和問題：人工智能到底是天使還是魔鬼？因?yàn)檫@些科幻大片里面，有些把人工智能塑造為暖男的大白，也有一些塑造成給我們帶來恐慌的機(jī)器人。

我覺得要回答這個(gè)問題，有必要搞清楚人工智能的基本概念、以及人工智能目前能夠做什么和不能做什么，還有未來發(fā)展走向。

人工智能的基本概念和發(fā)展歷程

人工智能的概念和這個(gè)詞Artificial Intelligence，是1956年在達(dá)特茅斯學(xué)院暑期研討班上，一個(gè)叫約翰.麥卡錫的年輕人提出的，當(dāng)時(shí)研討班的主題就是怎么用機(jī)器模擬人的智能。當(dāng)然人工智能相關(guān)研究并不是從1956年才開始，之前就有，只是人工智能的概念是那時(shí)候提出來的。

人工智能研究的主要目的就是探尋智能本質(zhì)，研究出具有類人智能的智能機(jī)器，比如讓機(jī)器或者計(jì)算機(jī)會(huì)聽、會(huì)看、會(huì)說、會(huì)想、會(huì)決策，跟人一樣。人工智能的概念提出到今天62年過去了，62年發(fā)展歷程風(fēng)風(fēng)雨雨、曲曲折折，從起步時(shí)大家的興奮、到后來提出了一些讓人期待但不可實(shí)現(xiàn)的目標(biāo)、接下來的反思，一直到互聯(lián)網(wǎng)出現(xiàn)以后大數(shù)據(jù)的涌現(xiàn)，使得人工智能走上一個(gè)新的高潮。

62年的發(fā)展歷程，我覺得留給我們很多的啟示。特別是在今天，人工智能如日中天，火遍全球的當(dāng)下，實(shí)事求是地設(shè)定科學(xué)目標(biāo)顯得尤為重要。1956年的研討會(huì)有十個(gè)年輕人參加，其中一個(gè)很樂觀，認(rèn)為到2000年，也就是上世紀(jì)末的時(shí)候，人工智能有可能達(dá)到人的智能，這顯然太樂觀了。62年確實(shí)是一個(gè)曲折的發(fā)展過程，但是進(jìn)步是有目共睹的，無論是在理論層面、關(guān)鍵技術(shù)還是具體應(yīng)用。

人工智能的發(fā)展現(xiàn)狀

專用人工智能取得突破性進(jìn)展

談到目前人工智能發(fā)展的現(xiàn)狀，我首先要說的是專用人工智能取得突破性進(jìn)展。專用人工智能就是讓人工智能系統(tǒng)專門做一件事兒，比如下圍棋，是面向特定領(lǐng)域或者單一任務(wù)的人工智能。它確實(shí)取得一些突破性進(jìn)展，而且比人做的更好。我可以舉很多這樣的例子。

下圍棋的AlphaGo大家很熟悉，Boston Dynamics的人形機(jī)器人可以跨過障礙物，還有四足機(jī)器人像狗一樣跑得非?？?，可以爬樓梯，一般老百姓看了這些確實(shí)會(huì)感到一種不安。

Boston Dynamics的人形機(jī)器人和狗形機(jī)器人

還有自動(dòng)化所譚民研究員他們做的機(jī)器魚，谷歌最新的語音人機(jī)對話，還有科大訊飛的語音識別把維語和普通話的互譯做的非常好。這幾年“刷臉”也就是各種人臉識別非常火爆，我們國家可以說也是走在世界前列。我并不是說人臉識別不好，但確實(shí)有局限，比如雙胞胎肯定不行。有的時(shí)候兒子跟老子也分不出來，比如非常相像的老布什和小布什。

過去二十年我一直在研究虹膜識別，這是人工智能的一個(gè)特定領(lǐng)域。瞳孔和眼白之間的中間區(qū)域叫做虹膜區(qū)域，1936年眼科醫(yī)生發(fā)現(xiàn)每個(gè)人虹膜上的花紋都不一樣，一歲半以后定形終身不變。目前我們國家很多煤礦的礦工考勤就在大量使用這個(gè)技術(shù)。黑龍江的一個(gè)煤礦，最早他們找到我說能不能用指紋識別，后來發(fā)現(xiàn)指紋會(huì)脫皮，如果刷臉，上班沒有問題，下班煤礦工人就不行了；而虹膜識別沒有問題?，F(xiàn)在國內(nèi)很多煤礦都在用這個(gè)技術(shù)。特別讓我高興的是，兩周以前中央電視臺(tái)報(bào)道，虹膜識別可以用于尋找丟失兒童。

這也是一個(gè)人工智能能解決的問題：確定你看到的互聯(lián)網(wǎng)照片有沒有被篡改或者被修改。下圖從左到右四組照片，相信各位無論是坐第一排還是后面都看不出來差別。我只告訴大家有一排是修改過的，相信大家用肉眼看不出來。這個(gè)特定問題人沒有辦法完成，而人工智能根據(jù)圖像內(nèi)容分析可以自動(dòng)實(shí)現(xiàn)篡改檢測。人工智能看到篡改部分是綠顏色的，那么第二排圖像是修改過的。

這有什么用途？講一個(gè)我?guī)啄昵暗挠H身經(jīng)歷。2015年有一天我收到一封信，里面有一張?jiān)愀獾恼掌?，把別的男人的頭換成我的頭，要我一周之內(nèi)給他寄二十萬。我想這個(gè)人顯然寄錯(cuò)人了，所以各位如果你們有一天也收到這樣照片，我可以馬上給你驗(yàn)證一下，如果假的我第一時(shí)間告訴你，真的我們好好商量怎么處理。特定領(lǐng)域人工智能的成功應(yīng)用可以舉很多例子，這只是掛一漏萬。

可以說，專用人工智能取得突破性進(jìn)展，很大程度（特別是這幾年）取決于統(tǒng)計(jì)學(xué)習(xí)或者機(jī)器學(xué)習(xí)的進(jìn)步。特別是人工智能領(lǐng)域現(xiàn)在火爆的深度學(xué)習(xí)，尤其是人工智能的深度神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí)其實(shí)一點(diǎn)都不神秘，只是借鑒了人的大腦在處理信息過程當(dāng)中的層次化過程。因?yàn)樯疃葘W(xué)習(xí)的涌現(xiàn)，大家可以從曲線看到，用于圖像分類的標(biāo)識人工智能或者深度學(xué)習(xí)識別力已經(jīng)低于人的錯(cuò)誤率，也就是說識別力高于人。包括跟環(huán)境的交互，找出最好策略，這就是所謂強(qiáng)化學(xué)習(xí)。以及我們經(jīng)常講魔高一尺道高一丈，在博弈中學(xué)習(xí)，使得學(xué)習(xí)能力不斷提高，這就是生成對抗學(xué)習(xí)。這是目前人工智能發(fā)展現(xiàn)狀，專用人工智能取得突破性進(jìn)展和人工智能特別火的重要原因就是深度學(xué)習(xí)、機(jī)器學(xué)習(xí)。

人工智能創(chuàng)新創(chuàng)業(yè)如火如荼

另外一個(gè)值得一提的現(xiàn)狀是，技術(shù)生態(tài)或者創(chuàng)新生態(tài)備受關(guān)注?？萍季揞^紛紛推出自己的開源系統(tǒng)、技術(shù)軟件平臺(tái)和硬件平臺(tái)，原因是什么？他們沒有忘記信息技術(shù)和信息產(chǎn)業(yè)發(fā)展的歷史帶給他們的啟示。所以從傳統(tǒng)的IT操作系統(tǒng)硬件，到現(xiàn)在移動(dòng)互聯(lián)網(wǎng)再到新時(shí)代的人工智能、IT，無論是谷歌也好、微軟也好、百度也好、IBM也好，都要全面轉(zhuǎn)向人工智能。人工智能創(chuàng)新創(chuàng)業(yè)如火如荼。

去年一年全球新成立的人工智能創(chuàng)業(yè)公司就有一千多家，人工智能領(lǐng)域獲得的投資達(dá)150多億美元，同比增長140%以上，確實(shí)是如火如荼。在應(yīng)用方面，可以說“智能+”已經(jīng)成為一種創(chuàng)新的范式，將各行各業(yè)滲透。當(dāng)然有的是炒作，把傳統(tǒng)的數(shù)據(jù)分析，貼上人工智能的標(biāo)簽。但是人工智能發(fā)展迅速是一個(gè)客觀現(xiàn)狀。

人工智能已經(jīng)加速成為國家戰(zhàn)略，我可以舉很多這樣的例子。過去幾年，最早被大家熟悉的“德國工業(yè)4.0”，核心就是人工智能；到2018年5月10日，美國白宮組織AI研討會(huì)，成立AI專門委員會(huì)，確保人工智能領(lǐng)域美國第一。

人工智能的社會(huì)影響

人工智能對社會(huì)的影響得到了廣泛關(guān)注。在美國，一些同仁一起簽署了有關(guān)人工智能發(fā)展的阿西洛馬23條原則，關(guān)注人工智能可能帶來的社會(huì)影響，以及怎么規(guī)范人工智能研究和應(yīng)用。但是我認(rèn)為目前人工智能發(fā)展的另外一個(gè)客觀現(xiàn)狀是，人工智能領(lǐng)域的誤解和炒作普遍存在，有的是有意的，有的是無意的。

比如時(shí)不時(shí)聽到有人講，人工智能系統(tǒng)將超越人的智能水平，我認(rèn)為這是炒作。還有人工智能達(dá)到幾歲小孩的水平，這也是炒作。某一個(gè)特定任務(wù)人工智能達(dá)到五歲小孩水平這可信，籠統(tǒng)講人工智能或者人工智能達(dá)到三歲或者五歲小孩我認(rèn)為是炒作。這些炒作有的是有意的，有的則是概念誤解混淆造成的。比如經(jīng)常有人把機(jī)器學(xué)習(xí)看成人工智能，但這只是人工智能其中一個(gè)研究方向；又把深度學(xué)習(xí)看成機(jī)器學(xué)習(xí)，但深度學(xué)習(xí)只是機(jī)器學(xué)習(xí)一種方法；或者把圖像識別看成人工智能，這只是人工智能一個(gè)方向；或者把大數(shù)據(jù)看成人工智能、專家系統(tǒng)看成人工智能、機(jī)器人看成人工智能……特別是把人工智能與人類智能或者機(jī)器人與人類看成零和博弈，你死我活，這些誤解我認(rèn)為是不存在，人和人工智能是可以互補(bǔ)的。

人工智能仍處于起步階段

我前面跟各位的匯報(bào)是很多專用人工智能領(lǐng)域取得的突破性進(jìn)展。經(jīng)常有人誤解，專用人工智能等于通用人工智能，如果有這樣的誤解很容易說現(xiàn)在人工智能不得了。什么是通用人工智能或者什么是通用智能系統(tǒng)？我們?nèi)说拇竽X就是一個(gè)通用智能系統(tǒng)。同樣一個(gè)大腦，我學(xué)習(xí)以后可以下圍棋也可以下象棋，能夠舉一反三、融會(huì)貫通、思考學(xué)習(xí)、規(guī)劃決策，可以說一腦百用。目前的人工智能還有很多不能做的事，而有的事對人來說非常簡單。

所以說人工智能總體發(fā)展水平仍然處于起步的階段，美國的DARPA對人工智能現(xiàn)狀也是這個(gè)觀念。2015年我曾經(jīng)用“四有四無”概括人工智能總體狀況，三年以后我覺得還可以這樣說?，F(xiàn)在人工智能是有智能沒有智慧，智慧是高級智能，有意識，有悟性，可以決策。人工智能有智商沒有情商，科幻電影中跟人類談情說愛的人工智能還差得很遠(yuǎn)。另外，人工智能會(huì)計(jì)算不會(huì)算計(jì)，一個(gè)詞倒一個(gè)順序，這個(gè)概念完全不一樣。人工智能有專才沒有通才，下圍棋的阿爾法狗不一定會(huì)下象棋。

我舉一個(gè)具體的例子，現(xiàn)在即使最先進(jìn)的圖象識別算法都無法識別出圖像里那只斑點(diǎn)狗。語音翻譯現(xiàn)在已經(jīng)很好了，但大家看這簡單的三句話：他吃食堂，他吃面條，他吃大碗。昨天晚上我特意上網(wǎng)用谷歌翻譯這幾句，翻譯不出來，機(jī)器翻譯把大碗、食堂“吃掉”了。我也試了一下，“那輛白車是黑車”和“能穿多少穿多少”，谷歌翻譯也翻譯不出來。

看到“歡迎新老師生前來就餐”的橫標(biāo)，相信人類理解起來沒有歧義，但是人工智能算法就會(huì)有。人類看到這個(gè)橫標(biāo)不僅知其然還知其所以然，知道可能是新學(xué)期開始或者新食堂開張，但人工智能還做不到。對這個(gè)特定問題，它“知其然”都做不到或者至少有歧義。這些局限是因?yàn)槿斯ぶ悄苓€有很多瓶頸。

深度學(xué)習(xí)很火，但是很大程度上它是黑箱狀況。我們還不能完全從數(shù)據(jù)上論證為什么那么有效，不能完全確保這個(gè)多層深層神經(jīng)網(wǎng)絡(luò)訓(xùn)練是收斂的，所以有數(shù)據(jù)瓶頸，深度學(xué)習(xí)要提供大量已經(jīng)標(biāo)注數(shù)據(jù)，還需要大量的人工；還有它不能舉一反三、不能解釋，“知其然不知其所以然”，與人類存在很大差距。正因?yàn)檫@些差距，人工智能未來發(fā)展還有巨大創(chuàng)新空間。

人工智能的春天剛剛開始

可以說人工智能春天剛剛開始，我提出這一個(gè)觀點(diǎn)是因?yàn)槿祟惿鐣?huì)經(jīng)歷機(jī)械化、電氣化、信息化的時(shí)代以后，正在向智能化社會(huì)邁進(jìn)。人類進(jìn)入智能化社會(huì)以后當(dāng)然需要智能技術(shù)、人工智能支撐和引領(lǐng)。人工智能有望引領(lǐng)新一輪科技革命。世界著名科學(xué)家格特納說人工智能是未來最具顛覆性的技術(shù)。具體講有八個(gè)宏觀發(fā)展趨勢我認(rèn)為值得關(guān)注：

第一個(gè)是專用走向通用，這是必然的發(fā)展趨勢。所以因此有人認(rèn)為，通用智能被認(rèn)為是人工智能皇冠上面的明珠，大家都很關(guān)心這個(gè)競爭焦點(diǎn)。

我注意到，美國軍方也開始規(guī)劃通用智能的研究。他們認(rèn)為通用人工智能和自主武器，是顯然優(yōu)于現(xiàn)有人工智能技術(shù)體系發(fā)展方向。它只是朝通用人工智能邁了一小步。

第二個(gè)，為什么不認(rèn)同機(jī)器人和人類或者人工智能與人類智能是零和博弈，因?yàn)槿斯ぶ悄芰硗庖粋€(gè)重要發(fā)展趨勢，是機(jī)器智能到人機(jī)混合智能。人類智能和人工智能各有所長，可以互補(bǔ)。所以人工智能一個(gè)非常重要的發(fā)展趨勢，是From AI (Artificial Intelligence) to AI （Augmented Intelligence），兩個(gè)AI含義不一樣。

第三個(gè)趨勢叫做從“人工+智能”到自主智能系統(tǒng)。為了讓深度學(xué)習(xí)提高性能，需要大量已經(jīng)標(biāo)注好的數(shù)據(jù)。比如給人工智能一幅圖像，告訴它圖像中哪一塊是人、哪一塊是草地、哪一塊是天空，都要人工標(biāo)注好，非常費(fèi)時(shí)費(fèi)力。有人說目前的人工智能有多少智能，取決于輻射多少人工，這話不太精確但大體有這個(gè)含義。下一步發(fā)展趨勢是怎樣以極少人工來獲得最大程度的智能，人類看書可以學(xué)習(xí)到知識，機(jī)器還做不到。人工采集和標(biāo)注大樣本訓(xùn)練數(shù)據(jù)，是這些年來深度學(xué)習(xí)取得成功的一個(gè)重要基礎(chǔ)或者重要人工基礎(chǔ)。所以有人開始試圖創(chuàng)建自動(dòng)機(jī)器學(xué)習(xí)算法，來降低AI的人工成本。

第四個(gè)是學(xué)科交叉將成為人工智能創(chuàng)新源泉。前面我提到深度學(xué)習(xí)現(xiàn)在很火爆，它只是借鑒了大腦的原理：信息分層，層次化處理。所以，跟腦科學(xué)交叉融合非常重要。實(shí)際上無論是《Nature》和《Science》都有這方面成果報(bào)道。比如《Nature》 發(fā)表了一個(gè)研究團(tuán)隊(duì)開發(fā)的一種能自主學(xué)習(xí)的人工突觸，它能提高人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度。但大腦到底怎么處理外部視覺信息或者聽覺信息的，很大程度還是一個(gè)黑箱，這就是腦科學(xué)面臨的挑戰(zhàn)。這兩個(gè)學(xué)科的交叉有巨大創(chuàng)新空間。

第五個(gè)是一個(gè)明顯的趨勢，人工智能產(chǎn)業(yè)將蓬勃發(fā)展，國際上一個(gè)比較有名的咨詢公司預(yù)測，2016到2025年人工智能的產(chǎn)業(yè)規(guī)模幾乎直線上升；我們國家發(fā)展規(guī)劃提出，2030年人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億，這個(gè)產(chǎn)業(yè)是蓬勃發(fā)展的，前景顯然是非常大的。

第六個(gè)大家很關(guān)注人工智能可能帶來的社會(huì)問題和相關(guān)倫理問題，因此人工智能的法律法規(guī)一定會(huì)更加健全。聯(lián)合國還專門成立了人工智能機(jī)器人中心這樣的監(jiān)察機(jī)構(gòu)。前不久，歐盟25個(gè)國家簽署人工智能合作宣言，共同面對人工智能在倫理法律方面挑戰(zhàn)。我們學(xué)部也列了這方面的一個(gè)題目。

歐洲25個(gè)國家簽署《人工智能合作宣言》，共同面對人工智能在倫理、法律等方面的挑戰(zhàn)

第七個(gè)，人工智能將成為更多國家的戰(zhàn)略選擇。一些國家已經(jīng)把人工智能上升為國家戰(zhàn)略，越來越多國家一定會(huì)做出同樣舉措。包括智利，加拿大，韓國等等。

最后一條就是人工智能的教育會(huì)全面普及。教育部專門發(fā)布了高校人工智能的行動(dòng)計(jì)劃。國務(wù)院新的人工智能發(fā)展規(guī)劃也指出，要支持開展形式多樣的人工智能科普活動(dòng)。美國科技委員會(huì)也有這樣的內(nèi)容。所以這是大家值得關(guān)注的另外一個(gè)方面。

對于人工智能的未來發(fā)展方向，我只是掛一漏萬，以我個(gè)人粗淺認(rèn)識覺得這八個(gè)方面值得關(guān)注。這里面既有科學(xué)研究層面，也有產(chǎn)業(yè)應(yīng)用層面，也有國家戰(zhàn)略和政策法規(guī)層面。所以在科學(xué)研究層面我覺得特別值得關(guān)注是：從專用到通用，從人工智能到人機(jī)融合、混合。然后是借鑒腦科學(xué)。

總結(jié)一下我今天的報(bào)告：

第一，人工智能經(jīng)過六十多年發(fā)展已經(jīng)取得重大進(jìn)展，但總體上還處于初級階段。

第二，人工智能既具有巨大理論與技術(shù)創(chuàng)新空間，也具有廣闊應(yīng)用前景。相信你們也許在琢磨我沒有明確回答題目中提出的問題，人工智能到底是天使還是魔鬼？

下面就是我的答案：高科技本身沒有天使和魔鬼之分，人工智能也是如此，這一把雙刃劍是天使還是魔鬼取決于人類自身。人工智能在天使手里是天使，在魔鬼手里就是魔鬼。因此我們有必要未雨綢繆形成合力，確保人工智能正面效應(yīng)，確保人工智能造福于人類。謝謝大家。

（本文小標(biāo)題為編輯所加，圖片均來自譚鐵牛院士報(bào)告PPT）