|
來(lái)源：中國(guó)人工智能學(xué)會(huì)
演講實(shí)錄丨中科大陳小平教授《從封閉性到非封閉性：2020到2035年智能機(jī)器的機(jī)遇和挑戰(zhàn)》
中國(guó)科學(xué)技術(shù)大學(xué)機(jī)器人實(shí)驗(yàn)室主任、教授非常高興有這個(gè)機(jī)會(huì)進(jìn)行中、新學(xué)術(shù)交流。本報(bào)告包括四方面內(nèi)容。第一，關(guān)于人工智能（簡(jiǎn)稱(chēng)AI）的兩種類(lèi)型，一種是Thinking machines；另一種是Intelligent machinery。它們之間有比較大的區(qū)別，智能機(jī)器人屬于后者。第二，用人工智能的觀點(diǎn)來(lái)看機(jī)器人領(lǐng)域，我們認(rèn)為核心挑戰(zhàn)是降射，英文是grounding，但是我對(duì)“降射”給出了不同于文獻(xiàn)中的其他定義。第三，在這樣一種挑戰(zhàn)下，現(xiàn)有人工智能技術(shù)有沒(méi)有可能大規(guī)模產(chǎn)業(yè)應(yīng)用？這是有爭(zhēng)論的。有人認(rèn)為是不能應(yīng)用的；我們的觀察是：在滿(mǎn)足封閉性條件的場(chǎng)景中，現(xiàn)有人工智能技術(shù)已經(jīng)可以大規(guī)模應(yīng)用了。第四，封閉性要求是比較強(qiáng)的，有些應(yīng)用很難滿(mǎn)足封閉性要求，所以存在另一個(gè)挑戰(zhàn)：如何超越封閉性？我會(huì)和大家分享中科大機(jī)器人團(tuán)隊(duì)在過(guò)去10 年中為超越封閉性所做過(guò)的一些嘗試，主要有開(kāi)放知識(shí)和融差性原理這兩方面的研究。
關(guān)于兩類(lèi)人工智能，這個(gè)觀點(diǎn)是圖靈提出來(lái)的。圖靈在1950年的文章中提出圖靈測(cè)試，這是非常重要的?？墒窃?948年圖靈還有一篇文章，我覺(jué)得更加重要，這篇論文始終沒(méi)有正式發(fā)表。這篇手稿的標(biāo)題就叫做Intelligent machinery（智能機(jī)器）。圖靈提出，智能機(jī)器就是“用機(jī)器替代人的每一個(gè)部分”，而且舉了具體的例子——無(wú)人駕駛汽車(chē)。所以無(wú)人駕駛汽車(chē)是圖靈設(shè)想過(guò)的。但是他分析后認(rèn)為，在當(dāng)時(shí)的技術(shù)條件下，是沒(méi)辦法研究Intelligent machinery 的，所以提議先研究沒(méi)有感知和行動(dòng)能力的thinking machines（ 思維機(jī)器）。圖靈測(cè)試就是針對(duì)Thinking machines 的，他還建議了一些具體的研究課題，包括圍棋、語(yǔ)言學(xué)習(xí)、機(jī)器翻譯等。所以，實(shí)際上圖靈考慮了兩類(lèi)人工智能——思維機(jī)器和智能機(jī)器。我把兩類(lèi)AI 的根本區(qū)別總結(jié)在圖1里。事實(shí)上，人工智能涉及三層空間——現(xiàn)實(shí)層、數(shù)據(jù)層和知識(shí)層。如果只考慮上面兩層，即數(shù)據(jù)層和知識(shí)層，這就是思維機(jī)器；如果同時(shí)考慮全部三層，就是智能機(jī)器。它們之間最重要的差別是：智能機(jī)器要涉及感知和行動(dòng)，而思維機(jī)器則不涉及感知和行動(dòng)，至少不涉及行動(dòng)。機(jī)器人自然屬于智能機(jī)器，要同時(shí)涉及三層空間。在過(guò)去的六七十年時(shí)間里，人工智能有三次浪潮。我們回顧一下，主流的研究有兩大類(lèi)，一類(lèi)是訓(xùn)練法，包括深度學(xué)習(xí)；還有一類(lèi)是強(qiáng)力法，包括推理和知識(shí)系統(tǒng)。強(qiáng)力法是第一、二次浪潮的主力，現(xiàn)在關(guān)注的人較少，但強(qiáng)力法并沒(méi)有消失，只不過(guò)換了一個(gè)賽道，我稱(chēng)之為“大知識(shí)”，國(guó)際上流行的術(shù)語(yǔ)是Knowledge technologies。2017年AlphaGo Zero 獲勝，我認(rèn)為這標(biāo)志著第三次浪潮的結(jié)束和第四次浪潮的開(kāi)始。我們是這樣看待當(dāng)前和未來(lái)人工智能發(fā)展態(tài)勢(shì)的。關(guān)于第四次浪潮，其他的學(xué)者也有類(lèi)似的看法，比如深度學(xué)習(xí)團(tuán)隊(duì)，從2017年開(kāi)始就在多次演講中提到他們的深度學(xué)習(xí)2.0計(jì)劃。在2020年8月29日中國(guó)人工智能大會(huì)的特邀報(bào)告中，Y.Bengio 教授給出了一個(gè)更加完整的DL2.0方案。值得注意的是，該方案中他們計(jì)劃研究的目標(biāo)功能，居然都屬于強(qiáng)力法！與強(qiáng)力法途徑不同的是，他們想用深度學(xué)習(xí)來(lái)實(shí)現(xiàn)這些功能。強(qiáng)力法有模型、推理機(jī)/ 搜索算法和優(yōu)化三個(gè)主要成分，其中模型是關(guān)鍵。對(duì)于思維機(jī)器來(lái)說(shuō)，模型就是知識(shí)庫(kù)，存儲(chǔ)的是抽象知識(shí)；對(duì)于智能機(jī)器來(lái)說(shuō)，模型包含知識(shí)庫(kù)和模型降射兩部分，其中模型降射是知識(shí)庫(kù)到現(xiàn)實(shí)世界的對(duì)應(yīng)。圖2中有一個(gè)推理機(jī)（推理程序），還有知識(shí)庫(kù)+ 降射。假設(shè)想讓機(jī)器人在就餐過(guò)程中幫助我們，就需要編寫(xiě)一個(gè)知識(shí)庫(kù)，描述就餐的相關(guān)知識(shí)，比如“餐具可以盛食物”“米飯是食物”等。寫(xiě)了這些知識(shí)之后，就可以向推理機(jī)提問(wèn)，比如：“碗能不能盛米飯”？這個(gè)問(wèn)題在知識(shí)庫(kù)里是沒(méi)有描述的，但經(jīng)過(guò)推理, 強(qiáng)力法AI 會(huì)回答yes。再問(wèn)“碗能不能盛湯？”推理機(jī)回答yes，問(wèn)“碗能盛什么？”回答“能盛米飯、湯……”。一般而言，凡是知識(shí)庫(kù)在邏輯上隱含的所有碗能盛的東西，推理機(jī)都能找出來(lái)，所以編寫(xiě)知識(shí)庫(kù)不需要寫(xiě)出全部知識(shí)；還可以向推理機(jī)提問(wèn)更復(fù)雜的問(wèn)題。上述這些都是思維機(jī)器研究的內(nèi)容，可以不涉及降射。對(duì)于智能機(jī)器人來(lái)說(shuō)，只有知識(shí)庫(kù)不夠，還必須考慮降射。知識(shí)庫(kù)里的每一個(gè)符號(hào)所代表的現(xiàn)實(shí)世界中的對(duì)象，都要通過(guò)降射對(duì)應(yīng)起來(lái)。比如，知識(shí)庫(kù)中的符號(hào)bowl 代表現(xiàn)實(shí)世界中的碗，這個(gè)對(duì)應(yīng)就要通過(guò)降射來(lái)實(shí)現(xiàn)，否則機(jī)器人只知道一個(gè)空洞的符號(hào)bowl，卻在現(xiàn)實(shí)世界中找不到碗，于是也就無(wú)法完成用戶(hù)交給它的相關(guān)任務(wù)（比如“盛飯”“盛湯”等）。表面上看，這件事情很簡(jiǎn)單，其實(shí)包含著很大的難題。比如有一個(gè)碗，看起來(lái)像盤(pán)子，但其實(shí)是宋代的汝窯碗，所以也是碗，也要在降射里把它和bowl 對(duì)應(yīng)起來(lái)，這樣機(jī)器人才能夠找到這只碗。更有挑戰(zhàn)性的是下面這個(gè)例子：破碗是不是碗？通常認(rèn)為，破碗也是碗，于是我們?cè)诮瞪渲邪哑仆胍埠蚥owl 對(duì)應(yīng)起來(lái)。這么做的結(jié)果是什么？剛才看到了，推理機(jī)推出的一個(gè)結(jié)論是：碗能盛湯，而且這個(gè)推理和降射無(wú)關(guān)，所以現(xiàn)在推理機(jī)仍然會(huì)推出“碗能盛湯”，但現(xiàn)在碗實(shí)際上是包含破碗的，所以機(jī)器人可以用破碗盛湯，這顯然是錯(cuò)誤的！由此可見(jiàn)，不適當(dāng)?shù)慕瞪淇蓪?dǎo)致知識(shí)庫(kù)出大問(wèn)題，因此破碗不能在降射中與bowl對(duì)應(yīng)，這樣破碗就變成一個(gè)未知變?cè)?。一般情況下，AI 設(shè)計(jì)者能不能預(yù)先想到所有未知變?cè)?？這就是著名的“知不知”（How to know unknown）問(wèn)題，是一個(gè)非常難的問(wèn)題。再看訓(xùn)練法。在一個(gè)圖像分類(lèi)比賽中，一個(gè)神經(jīng)網(wǎng)絡(luò)只要用帶標(biāo)注的數(shù)據(jù)訓(xùn)練好了，能以很高的準(zhǔn)確率識(shí)別1000類(lèi)對(duì)象，其中一類(lèi)是衛(wèi)生紙。下面我們問(wèn)：臟的衛(wèi)生紙是不是衛(wèi)生紙？如果衛(wèi)生紙是拿來(lái)用的，而不是僅僅要求分類(lèi)，那么臟的衛(wèi)生紙就要和衛(wèi)生紙區(qū)別開(kāi)，這就意味著：被分類(lèi)的對(duì)象不是預(yù)先設(shè)計(jì)好的1000類(lèi)，而是1001類(lèi)。這是降射問(wèn)題在訓(xùn)練法中一種表現(xiàn)，我們?cè)谟?xùn)練法中同樣遇到了“知不知”問(wèn)題：能不能提前想到所有未知變?cè)?？如果想不到，如何收集相關(guān)的數(shù)據(jù)，訓(xùn)練出合適的神經(jīng)網(wǎng)絡(luò)？所以，訓(xùn)練法（包括深度學(xué)習(xí)）并沒(méi)有給出降射問(wèn)題的解決方案，同樣面臨著降射挑戰(zhàn)。一般地說(shuō)，降射挑戰(zhàn)背后的原因是場(chǎng)景變異無(wú)盡性：人們通常只想到典型場(chǎng)景和一部分非典型場(chǎng)景，其他沒(méi)想到的可能場(chǎng)景到底有多少、有哪些，是不知道的。而這些無(wú)法提前想到的場(chǎng)景往往與想到的場(chǎng)景有所不同，即出現(xiàn)某種“變異”，而變異場(chǎng)景往往包含著未知變?cè)ㄈ缙仆牖蚺K衛(wèi)生紙），它們的出現(xiàn)可導(dǎo)致已經(jīng)建好的AI 模型（知識(shí)庫(kù)和神經(jīng)網(wǎng)絡(luò)）失靈。由此我們得到一個(gè)一般性的觀察：在正常情況下，任何AI model，無(wú)論是強(qiáng)力法還是訓(xùn)練法的模型，都會(huì)丟失一些變?cè)?。由于目前?qiáng)力法和訓(xùn)練法都不能有效處理未知變?cè)騺G失變?cè)?，所以都無(wú)法勝任存在場(chǎng)景變異無(wú)盡性的應(yīng)用。這是目前人工智能遇到的一個(gè)根本性挑戰(zhàn)。面對(duì)這個(gè)挑戰(zhàn)，現(xiàn)有人工智能技術(shù)是不是就無(wú)能為力了？也不是，有一個(gè)簡(jiǎn)單的辦法——封閉性準(zhǔn)則：把典型場(chǎng)景和一部分非典型場(chǎng)景選出來(lái)，把它們封閉化，而其他場(chǎng)景都被排除，可以不考慮。這里的“不考慮”不是簡(jiǎn)單的忽略，而是通過(guò)采取具體措施，保證不考慮的場(chǎng)景即使出現(xiàn)了，也不會(huì)產(chǎn)生致命的后果，不會(huì)影響應(yīng)用。這套方案叫做封閉性準(zhǔn)則。我發(fā)現(xiàn)，阿爾法狗也是符合封閉性準(zhǔn)則的。我把第四代阿爾法狗的工作原理總結(jié)成一張圖，說(shuō)明它在圍棋博弈樹(shù)上下棋的原理。圍棋棋盤(pán)有361個(gè)落子，另外還有一個(gè)特殊的落子pass，所以黑棋的第一步棋總共有362 個(gè)落子，第四代阿爾法狗直接選其中勝率估計(jì)最大的那個(gè)落子。白棋的第一步棋也是類(lèi)似的，但是少一個(gè)選項(xiàng)，只有361個(gè)落子可選。如果是第四代阿爾法狗走棋，它也是選擇勝率估計(jì)最高的那個(gè)落子走。之后黑棋和白棋的決策原理是一樣的，總是選擇當(dāng)前可選落子中勝率估計(jì)最高的那個(gè)落子走。由于圍棋博弈樹(shù)上總共有大約10300種不同的棋，太多了，落子的勝率估計(jì)沒(méi)辦法實(shí)際計(jì)算出來(lái)。第四代阿爾法狗用蒙特卡洛樹(shù)搜索，自己和自己下了2900萬(wàn)局棋（自博），從這些自博數(shù)據(jù)中反推出了所有落子的勝率估計(jì)，保存在一個(gè)深層殘差網(wǎng)絡(luò)中。之后，它下棋就是按勝率估計(jì)的進(jìn)行決策，根本不考慮不同的對(duì)手的下棋策略有什么不同。實(shí)驗(yàn)結(jié)果是，四代以100比0戰(zhàn)勝了三代，而三代戰(zhàn)勝了所有人類(lèi)圍棋高手。阿法狗四代沒(méi)有和人下過(guò)，因?yàn)樗牟┺乃竭h(yuǎn)遠(yuǎn)超過(guò)了人類(lèi)。阿爾法狗第四代有哪些核心技術(shù)？他們2017年的論文里說(shuō)得非常清楚，只有四項(xiàng)核心技術(shù)，其中前兩項(xiàng)是強(qiáng)力法，后兩項(xiàng)是訓(xùn)練法，而且有一個(gè)重大創(chuàng)新，就是簡(jiǎn)化的決策論規(guī)劃模型。為什么簡(jiǎn)化模型可以成為重大創(chuàng)新？論文里沒(méi)有說(shuō)，我?guī)退f(shuō)清楚了，這個(gè)重大創(chuàng)新就是遵守了我提出的封閉性準(zhǔn)則。封閉性準(zhǔn)則對(duì)強(qiáng)力法有三個(gè)條件，對(duì)訓(xùn)練法也有三個(gè)條件，我發(fā)現(xiàn)阿爾法狗四代都是符合的。封閉性的具體描述，以及阿法狗符合封閉性的詳細(xì)情況見(jiàn)圖3。阿法狗的成功及它之前的相關(guān)研究表明：雖然強(qiáng)力法、訓(xùn)練法和它們的結(jié)合都解決不了圍棋問(wèn)題，但是把圍棋問(wèn)題封閉化之后，用強(qiáng)力法和訓(xùn)練法的結(jié)合就可以戰(zhàn)勝人類(lèi)，并遠(yuǎn)超人類(lèi)。這是人工智能第三次浪潮取得的重大突破，是人工智能發(fā)展史上的一個(gè)新的里程碑。在《智能系統(tǒng)學(xué)報(bào)》2020年1期的文章中，我提出現(xiàn)有人工智能技術(shù)的一個(gè)可行應(yīng)用模式：將應(yīng)用場(chǎng)景封閉化，根據(jù)需要應(yīng)用強(qiáng)力法、訓(xùn)練法以及它們的結(jié)合。這個(gè)模式是我從過(guò)去5 年的產(chǎn)業(yè)調(diào)研中發(fā)現(xiàn)的，適用于這個(gè)模式的場(chǎng)景非常多。這個(gè)模式中的封閉化包含完全封閉化、半封閉化和柔性化，需要企業(yè)研發(fā)人員根據(jù)應(yīng)用的實(shí)際情況展開(kāi)，所以他們是未來(lái)15年人工智能產(chǎn)業(yè)落地的主力軍。最后簡(jiǎn)單提一下超越封閉性的問(wèn)題，過(guò)去10年里，中科大機(jī)器人團(tuán)隊(duì)做過(guò)一些嘗試。這張圖里是我們的“可佳機(jī)器人”，它的預(yù)期目標(biāo)是在家庭環(huán)境中當(dāng)機(jī)器人保姆。我們使用了強(qiáng)力法和訓(xùn)練法，但仍然有一些問(wèn)題不能解決，所以提出了“開(kāi)放知識(shí)”和“融差性”原理。應(yīng)用這兩種辦法，可以讓可佳機(jī)器人在非封閉性場(chǎng)景中更好工作，比如完全自主地操作微波爐加熱食品。最初版本在2010年就實(shí)現(xiàn)了基本功能，但環(huán)境一旦發(fā)生改變，機(jī)器人可能就無(wú)法正常完成任務(wù)。去年我們得到一個(gè)改進(jìn)版，人可以給機(jī)器人搗亂，破壞機(jī)器人工作的條件，這是體現(xiàn)環(huán)境變化的一種方式，在實(shí)際應(yīng)用中也經(jīng)常發(fā)生。在這種情況下，可佳機(jī)器人依然可以正常完成任務(wù)。我們還研制了一種柔性手爪，它不需要獲得準(zhǔn)確的信息，就能抓很多不同形狀、大小和硬度的東西，比如能“一視同仁”地抓木塊和豆腐。其中的主要原理就是融差性。還有情感交互機(jī)器人“佳佳”，也是在非封閉性條件下工作的?，F(xiàn)在的一項(xiàng)主要研究是要識(shí)別非關(guān)鍵詞意圖，這種用戶(hù)意圖是用關(guān)鍵詞無(wú)法表達(dá)的。最后對(duì)未來(lái)15年做一個(gè)展望。首先是大規(guī)模產(chǎn)業(yè)應(yīng)用，根據(jù)封閉性準(zhǔn)則，只要對(duì)應(yīng)用場(chǎng)景做封閉化，現(xiàn)有人工智能技術(shù)就能成功應(yīng)用。所以，大批企業(yè)無(wú)需等待更強(qiáng)大的人工智能技術(shù)的出現(xiàn)，就能實(shí)現(xiàn)很多行業(yè)和產(chǎn)業(yè)部門(mén)的轉(zhuǎn)型升級(jí)。第二點(diǎn)展望。在未來(lái)15年中，人工智能的發(fā)展模式會(huì)發(fā)生一個(gè)重要的轉(zhuǎn)變，過(guò)去完全是基礎(chǔ)研究驅(qū)動(dòng)的，而未來(lái)15年中大規(guī)模產(chǎn)業(yè)應(yīng)用將成為主要驅(qū)動(dòng)力，而且中低端產(chǎn)業(yè)是驅(qū)動(dòng)力的主要來(lái)源，因?yàn)橹械投水a(chǎn)業(yè)是和用戶(hù)的需求直接掛鉤的，是最能反映用戶(hù)需求的改變。同時(shí)，基礎(chǔ)研究將在AI 的更深層次展開(kāi)探索，從而為2035年之后的產(chǎn)業(yè)應(yīng)用奠定基礎(chǔ)。第三點(diǎn)展望是關(guān)于人工智能倫理的，這也是當(dāng)前的一個(gè)重大課題，同時(shí)也是未來(lái)戰(zhàn)略競(jìng)爭(zhēng)的一個(gè)新維度。過(guò)去的競(jìng)爭(zhēng)是產(chǎn)業(yè)競(jìng)爭(zhēng)，后來(lái)變成產(chǎn)業(yè)+ 科技，現(xiàn)在正變成產(chǎn)業(yè)+ 科技+ 倫理。
|
