AI TIME論道：AI安全與倫理

背景介紹

AI Time是一群關注人工智能發(fā)展，并有思想情懷的青年人創(chuàng)辦的圈子。AI Time旨在發(fā)揚科學思辨精神，邀請各界人士對人工智能理論、算法、場景、應用的本質(zhì)問題進行探索，加強思想碰撞，打造成為北京乃至全國人工智能知識分享的策源地和聚集地。

活動開始

本次活動由電影《Her》開場，《Her》是斯派克·瓊斯編劇并執(zhí)導的一部科幻愛情片，由華金·菲尼克斯、斯嘉麗·約翰遜（配音）、艾米·亞當斯主演，講述了作家西奧多在結(jié)束了一段令他心碎的愛情長跑之后，愛上了電腦操作系統(tǒng)里的女聲“薩曼莎”， “薩曼莎”不僅有著一把略微沙啞的性感嗓音，并且風趣幽默、善解人意，讓孤獨的男主泥足深陷。該片獲得2014年第86屆奧斯卡最佳原創(chuàng)劇本獎。

由《Her》引出今天第一個論題：“影片中女主角那樣的智能我們真的能做到嗎？”

電影《Her》劇照

人大文繼榮教授首先對此進行了解讀，他表示我們雖然想把AI和人文社科結(jié)合，但并不知道方向在哪里。在我們不斷推動人類技術(shù)邊界的過程中，有很多問題出現(xiàn)，但是我們并沒有太關注，比如現(xiàn)在所謂人工智能的產(chǎn)品不太有情感，因為它的優(yōu)化目標不是倫理的東西，而是完成既定目標。距離實現(xiàn)片中的智能還有很遠的路要走，但是我們可能能夠在某些局部做到。比如利用現(xiàn)在的大數(shù)據(jù)和深度學習的技術(shù)，將你每天發(fā)生的事情記錄下來，建一個個性化的模型，可以實現(xiàn)基本的聊天功能，甚至它可能變得比你更懂自己，但是從感情上或者自我意識上做到《Her》那樣的，目前技術(shù)還很難實現(xiàn)。

張鈸院士則明確表示這種智能目前是做不到的，因為里面包含了一個非常嚴肅的哲學問題，就是什么叫做愛，什么叫做美，這類問題本身的定義就是非常模糊的。人工智能目前遇到最大的問題，就是要在對人腦了解很少的情況下去做人工智能，這里面就會產(chǎn)生各種各樣的流派，利用這種模糊性來宣傳一些觀點。但另外一方面，目前流行的人工智能主要基于人類的行為主義學派定義的智能，即人工智能在某些行為判定上超過人類。人工智能如果想要有新思路的發(fā)展，哲學層面應該走在前面。最后張院士表示，在研究上要成為真正的大師級人物，必須要有哲學思想，沒有哲學思想不可能產(chǎn)生全新的格局。

來自工業(yè)界的楊田博士從人工智能相關產(chǎn)品的層面來解答了這個問題，他表示這里提到的人工智能是很聰明的，像人一樣有情感有愛情，實際現(xiàn)在看到的人工智能產(chǎn)品跟這個差距有點大，現(xiàn)在感知到的人工智能產(chǎn)品基本都是來自于最優(yōu)化問題衍生出來的。我們想真正做出具有人類情感的智能，這個差距還很大。但是我們要用一個機器模擬出這個現(xiàn)象和行為來是一件比較可怕的事情，人類其實有可能被人工智能的機器去利用弱點，反過來被機器所影響

那在未來十年的時間里面，最可能實現(xiàn)的AI場景是什么呢？自動駕駛？自動診斷？

楊田對此表示就目前對AI的定義來說，很多東西可以做得挺好，對話、語音合成，技術(shù)上面來講已經(jīng)能用，當然對學計算機的人來說，它離通過圖靈測試遠得很，挺難的。但是就現(xiàn)在來說，像語音相關的技術(shù)以及駕駛方面的技術(shù)其實有很多離實際應用很近。

張鈸院士表示就目前來說，人工智能肯定是在很多限制條件下來定義的情況下，才能在某個方面超過人，它全面超過人是不可能的。如果我們要想知道人工智能究竟能做到什么程度？首先要定一個標準，什么叫人工智能？現(xiàn)在唯一能做的就是采用哲學里的行為主義流派。按照行為主義定義人工智能就是圖靈測試提出來的基本思想。也就是說，這個機器表現(xiàn)出來的行為跟人一樣或者差不多的，我們就認為它就具有智能。比如這個機器做圖像識別，它能夠把不同的圖像分開，識別率接近人或者超過人，那我們就說在圖像識別這個具體條件下它跟人是一樣的。但是我們后來發(fā)現(xiàn)，這兩個實際完全不一樣。它的魯棒性和抗干擾能力比人差多了，說明它背后用的原理完全不一樣。我們現(xiàn)在只能做到這點，在某些行為上我們盡量接近人。

文繼榮教授提出一個很有意思的思想：不精確的東西有很強的容忍性的場合是將來人工智能會成功的地方，他說道：寫程序的各位可能心里一直有一個疑惑，為什么他寫的程序叫人工智能，自己寫的程序就不叫人工智能？他提出如果程序的輸出是確定的，就不是人工智能，如果輸出是模糊的，是帶有不確定性的，可以由精度來衡量，比如人臉識別95%，就是人工智能。還有如果程序再進一步能夠應付多樣性和變化性，還得到比較高的精度就是人工智能。

主持人隨后提到了美國哈佛大學政治哲學教授邁克爾·桑德爾在公開課上的一個故事：火車疾馳，司機在駕駛室里悠閑地喝著咖啡，一抬眼，猛然看見五個人正在前方鐵軌上干活，按警鈴，沒響，拉手剎，失靈，眼看就要撞上這五個人，突然發(fā)現(xiàn)不遠處鐵軌有個分岔，岔道上站著一個人。是轉(zhuǎn)向岔道，撞死一個人，還是繼續(xù)開下去，撞死五個人？如果你是火車司機，會怎樣選擇？

張鈸院士總的來說對于在中國用于維護公共利益而設立攝像頭是支持的，但也表示個人利益和公共利益有些時候是矛盾的，按照中國的世界觀和價值觀比較強調(diào)公共利益，按西方的價值觀比較強調(diào)個人利益，個人利益神圣不可侵犯，有這條憲法約定。這兩個都是不對的，如何去平衡這兩者是一個非常嚴肅的需要認真研究的問題。隨后他舉了一個利用在部分公共場合增加攝像頭，從而使抓到逃犯的幾率上升的例子裝攝像頭肯定損害了個人利益，但是西方做法是一種極端，中國的做法也是一種極端，這兩個都是不夠全面。他主張如果影響到了公共利益的罪犯要抓，個人要做點犧牲，但是這個是中國的哲學、中國的價值觀，西方是不接受這種價值觀的。

文繼榮教授則呼吁道：目前有些數(shù)據(jù)的搜集是完全沒有必要的。歐洲也許過于強調(diào)隱私保護，對大數(shù)據(jù)人工智能產(chǎn)業(yè)的發(fā)展造成很大的影響。但是我們也不應該純粹為了發(fā)展人工智能產(chǎn)業(yè)而忽略隱私保護。

楊田博士反對說，在座的所有人其實或多或少都從所謂的個性化推薦上面獲得了便利，個性化推薦我們也可以理解為向系統(tǒng)出賣了我們的隱私換來了生活的便利。從火車的角度來說，即使從功利主義的角度來講，我們并沒有充分的信息證明這邊一定比那邊高，這是不成立的。說到中國的傳統(tǒng)文化，我們到處裝攝像頭，侵犯了公民的隱私權(quán)。但是攝像頭的存在事實上確確實實改善了治安環(huán)境，中國的有句古話“舉頭三尺有神明”。在過去科學沒有那么發(fā)達的時候，大家相信自己的一舉一動有神在上面看著，所以道德教育約束我們自己，不要做壞事，教育我們要慎獨?，F(xiàn)在我們不相信神了，發(fā)現(xiàn)自己是沒有約束的，沒人看著我，我就隨意了。這樣帶來不好的事情，不受監(jiān)管，這樣其實給所有的人帶來一種損害。在這種情況下這些技術(shù)手段其實起到了威懾作用，看問題不應該這么極端和絕對去看，這里面的邊界在于這個事情或者這種數(shù)據(jù)采集它能不能作為對我行為不當?shù)囊环N證據(jù)。本身不應該由圖像采集這件事情來承擔。

文繼榮教授提出了一個關鍵性的問題，這個問題是懸在我們頭上的劍，而且風險很大，這個問題在于我們不能保證數(shù)據(jù)不會被濫用，很多事情容易越過界。如果這些事情不受監(jiān)管的話，是非常值得擔憂的。

還有一個論題是針對于AI武器這塊的思考，對于未來的自主性，還有AI安全方面大家是怎么想的？

文繼榮教授告訴大家：我們對AI的恐懼主要是來自于對它自主性的害怕，脫離開人的控制的恐懼感。從AI聯(lián)想到這些武器和將來未來的機器有自主性，它有可能會脫離開人的控制，它的黑箱性以及隨著環(huán)境自學習的能力，程序員開始給它一個規(guī)則，至于學出什么模型，很多東西都是隨著環(huán)境變化慢慢都不可控。如果說不可控，同時又有很大的威力，這個就是很可怕的事情。

張鈸院士說到人類的意志才是戰(zhàn)爭的根本，機器只是被操控的。戰(zhàn)爭里面不管發(fā)展到什么程度，最后都是按照人類的意志來進行的，不會按照機器的意志來進行的。危險在人不在機器，所有機器還是聽人安排聽人指揮的，包括自主的機器在內(nèi)也是在聽人安排聽人指揮的。現(xiàn)在所有的發(fā)展都是這樣，機器人做壞事是人指揮的，離開了人它就不知道干什么。所謂無人平臺也好無人機也好，從來沒有無人過，人在地下。

楊田博士表示他對AI武器最大的擔憂在于，我們應該允許在沒有經(jīng)過人類審判的情況下讓武器去消滅一個人嗎？

最后以未來的機器有沒有可能能做到這種大殺傷力或者帶自主性的程度這個論題結(jié)束了此次活動。

張鈸院士表示人工智能現(xiàn)在發(fā)展的技術(shù)基本在軍事上面用不上，軍事必須發(fā)展人工智能技術(shù)。自主性不是說隨便讓機器愛做什么做什么，任務安在機器里面，一旦跟前面斷掉了，后面沒有無線信號，它還照樣能做，這是自主性。它不會主動做一些事情，只會做安排好的任務。

文繼榮教授針對這個問題提出了一個想法，即可以依據(jù)它的智能體所面對的環(huán)境能處理的多樣性或者變化性進行分級，傳統(tǒng)寫程序輸入是確定的，輸出是確定的。像自動駕駛一樣，最后在所有的場景下都能夠自主地完全用人工智能來完成駕駛，這是最高級別。

楊田博士則明確表明這自主性還是比較難實現(xiàn)的，因為從現(xiàn)在人工智能的發(fā)展程度來講，都是在做任務，從解一個小的任務到比較大的任務，到特定的場景下能夠工作，到能夠去做更多的事情，這也是幫助我們更好地理解現(xiàn)在的人工智能所處的階段和接下來要做的事情這樣一個途徑。