賈斯汀·卡塞爾教授卡耐基梅隆大學(xué)計算機(jī)學(xué)院副院長，世界經(jīng)濟(jì)論壇計算機(jī)全球未來理事會主席，世界經(jīng)濟(jì)論壇人工智能與機(jī)器人委員會前主席。主要研究領(lǐng)域為如何利用機(jī)器對話提高人類學(xué)習(xí)及溝通技巧，在業(yè)界因主創(chuàng)研發(fā)人機(jī)交互系統(tǒng)SARA而知名，被譽(yù)為“人工智能女王”。
日前，助推上海全球科創(chuàng)中心建設(shè)的品牌活動——2019第四季漕河涇科創(chuàng)嘉年華成功舉行。活動中最引人矚目的演講者來自卡耐基梅隆大學(xué)計算機(jī)學(xué)院副院長賈斯汀·卡塞爾教授，她對未來的暢想點燃了現(xiàn)場觀眾的情緒。
在演講結(jié)束后的獨家專訪中，面對人工智能安全性等一系列問題，被譽(yù)為“人工智能女王”的卡塞爾教授以對未來負(fù)責(zé)的態(tài)度，展現(xiàn)了前沿科學(xué)家的思考與擔(dān)當(dāng)。
■本報首席記者 顧學(xué)文
還沒有找到教會人工智能常識的方法
解放周末：很高興專訪您。為了采訪您，我事先在翻譯軟件的幫助下準(zhǔn)備了一份提綱，這就是人工智能技術(shù)給我們?nèi)祟悗淼谋憷弧６遥臀业氖褂皿w驗來說，翻譯軟件的翻譯質(zhì)量一直在提高。伴隨著5G的發(fā)展，包括自動翻譯等在內(nèi)的人工智能技術(shù)是否會迎來重大的突破？
賈斯汀·卡塞爾：如你所說，從翻譯軟件到城市交通管理、環(huán)境污染治理、政府工作效率提升等，人工智能正在方方面面改變著我們的生活。雖然人工智能技術(shù)發(fā)展之路并非坦途，但幸運的是，我們當(dāng)前所缺失的恰是5G所能提供給我們的，那就是網(wǎng)速和帶寬的大幅提升，這將大大提高業(yè)務(wù)效率和數(shù)據(jù)收集。5G為人工智能創(chuàng)造了快速發(fā)展的新環(huán)境，人工智能技術(shù)在很多領(lǐng)域的應(yīng)用將發(fā)生新的變化。
解放周末：會有哪些新變化？
賈斯汀·卡塞爾：比如機(jī)器學(xué)習(xí)，它是當(dāng)今人工智能領(lǐng)域應(yīng)用中最重要的工具。就像教孩子一樣，我們向機(jī)器展示一張貓的圖片，告訴它“這是一只貓”，然后再向它展示一張狗的圖片，告訴它“這不是一只貓”。上百萬遍的重復(fù)，機(jī)器就習(xí)得貓的共性并將其識別出。
學(xué)習(xí)效果好壞有賴于數(shù)據(jù)集，當(dāng)數(shù)據(jù)集太小或不好的時候，算法就會發(fā)生偏差。如果我們沒有輸入足夠多的貓的圖片，機(jī)器就無法正確識別貓。圖像識別相對簡單，處理一個自然語言，需要整整5天。量子計算可能會在某一天為機(jī)器學(xué)習(xí)帶來更快的速度，但這需要5G這樣的高速通信技術(shù)作基礎(chǔ)。
機(jī)器學(xué)習(xí)能力提高是內(nèi)在的，對人們來說，可期待、可見的變化是，5G時代，人工智能所能帶來的各項前景，工業(yè)機(jī)器人維修，包括制造、無人駕駛、教育等，都將比以往任何時候獲得更快的發(fā)展。未來可能出現(xiàn)這樣的生活場景：你在購物網(wǎng)站上剛下單，產(chǎn)品就在離你住處一公里處被3D打印機(jī)打印出來，迅速送到你手中；殘障人士可以與工程師、藝術(shù)家一起設(shè)計自己想要的假肢；教育可以更好地滿足不同學(xué)習(xí)能力的學(xué)生；越來越多的企業(yè)在不同城市或國家擁有員工，通過人工智能中樞來實現(xiàn)遠(yuǎn)程協(xié)作；快到幾乎沒有延遲的5G速度，有助于整座城市實現(xiàn)無人駕駛——當(dāng)然，前提是城市所有的交叉路口配有傳感器和自適應(yīng)的交通信號燈，智能基礎(chǔ)設(shè)施是發(fā)展無人駕駛技術(shù)的關(guān)鍵。
解放周末：是否可以說人工智能發(fā)展的障礙已被掃除？
賈斯汀·卡塞爾：遠(yuǎn)遠(yuǎn)沒到障礙被掃除的這一天，事實上正相反。人工智能雖然在一些領(lǐng)域比人類聰明很多，比如眾所周知的阿爾法狗，但在更多領(lǐng)域，人工智能的智商只相當(dāng)于兩三歲的孩子，我們還沒有找到教會人工智能常識的方法。比如此刻，如果我讓機(jī)器人把那邊裝著水的玻璃杯拿給我，它不是把水灑了，就是把杯子捏碎了。它非常有力，卻不懂得如何溫柔地用力。
不存在機(jī)器人統(tǒng)治地球的可能
解放周末：有力卻不懂得如何溫柔用力，這無法不讓人聯(lián)想起人工智能的安全問題。
賈斯汀·卡塞爾：很多人都在說機(jī)器人將統(tǒng)治地球，包括一些有影響力的人。但其中有些人可能只是喜歡因此而出現(xiàn)在新聞里；而另外有些人雖然在其他學(xué)術(shù)領(lǐng)域做出了超凡貢獻(xiàn)，但他本人并不是計算機(jī)科學(xué)家。計算機(jī)科學(xué)家們不認(rèn)為存在機(jī)器人統(tǒng)治地球的可能。
有個笑話說：如果有一天機(jī)器人造反，我們只需等待45分鐘，它們的電池就沒電了。
解放周末：但如果將來的機(jī)器人不裝電池，只需通過互聯(lián)網(wǎng)就能給自己充電了呢？
賈斯汀·卡塞爾：但它們不會知道自己沒電、需要充電了。哲學(xué)上有一個“缺陷意識”的概念，人無法知道自己不知道什么，機(jī)器人不知道自己需要充電，而電池是會沒電的。
在我看來，真正聰明的人工智能，不是下棋贏了人類冠軍，而是會在各種信息中建立起聯(lián)系，懂得推理，擁有常識。而目前的研究進(jìn)展離這一天還非常非常遠(yuǎn)。
解放周末：無論多遠(yuǎn)，我們依然需要弄清楚前行的方向，畢竟我們正身處一列高速前行的列車上。
賈斯汀·卡塞爾：我非常同意你的觀點，所以我在很多場合，包括今天的演講中也提到，5G帶來發(fā)展機(jī)遇的同時，安全問題依然隱藏其中。我曾經(jīng)說過，也會一直堅持說，我不會接受任何我不信任的研發(fā)資金，不會開發(fā)不與人類合作的人工智能。
解放周末：但您不能保證其他人也不這么做。事實上，包括美國在內(nèi)，已經(jīng)有一些國家或機(jī)構(gòu)在悄悄研發(fā)戰(zhàn)爭機(jī)器人。
賈斯汀·卡塞爾：（拿起眼前的筆）這是一支筆，我可以用它來書寫真理，也可以戳傷你。人們害怕人工智能，是因為它們可以變成武器。按此邏輯，我們身邊幾乎所有的東西都應(yīng)該被拿走，因為它們在壞人手里都可以變成武器。
重要的是教育。我們必須改善我們的教育體系，在孩子們還很小的時候就要教育他們成為善良的人。此外，在大學(xué)里，心理學(xué)專業(yè)教學(xué)生要尊重生命，哲學(xué)專業(yè)也教學(xué)生要尊重生命，可是，計算機(jī)專業(yè)不教。但是現(xiàn)在，我們已經(jīng)意識到了這點，計算機(jī)科學(xué)家和計算機(jī)專業(yè)的學(xué)生，都開始學(xué)習(xí)倫理學(xué)，KUKA機(jī)器人示教器維修，學(xué)習(xí)尊重生命。這一點非常重要，需要我們時刻銘記在心。
解放周末：您怎么評價這種教育的效果？