智能時(shí)代 加速進(jìn)化
去年11月在世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)發(fā)布的《中國互聯(lián)網(wǎng)發(fā)展報(bào)告2020》顯示,中國人工智能專利申請(qǐng)數(shù)量高達(dá)11萬項(xiàng),首次超越美國,成為世界第一。 這當(dāng)然是一個(gè)了不起的成就,實(shí)際上我們每個(gè)人早就已經(jīng)感同身受了:智慧交通,讓我們的出行更加暢通快捷;智能制造,讓中國制造從做大走向做強(qiáng)…… 更不用說網(wǎng)約車、電商購物、外賣等應(yīng)用,紛紛將人工智能融入到場景當(dāng)中,為人們帶來前所未有的巨大便利。那么,是不是我們就可以認(rèn)為更多的傳統(tǒng)行業(yè)用戶,也同樣能夠輕松寫意地邁入AI時(shí)代呢? 很可惜的是,至少在當(dāng)前我們還無法給出肯定的答案。 智能時(shí)代 加速進(jìn)化 自從上世紀(jì)五十年代被提出以來,在很長的一段時(shí)間里,人工智能的發(fā)展一直比較緩慢。究其原因,在很大程度上是由于算力的不足和短缺。 熟悉計(jì)算產(chǎn)業(yè)的人,不會(huì)不知道關(guān)乎到處理器的摩爾定律。簡而言之,就是每過十八個(gè)月,處理器就可以做到性能的翻倍。與其他很多行業(yè)相比,這簡直是在開掛飆車。 然而,當(dāng)數(shù)據(jù)從云上、從邊緣,從一切可能的地方奔涌而來時(shí),即便坐擁摩爾定律的加持,我們的數(shù)據(jù)處理能力仍然是相形見絀,讓產(chǎn)業(yè)的智能化步履沉重。 我們知道,要真正做到AI的全面落地,勢(shì)必要花費(fèi)大量資源進(jìn)行模型的訓(xùn)練。與此同時(shí),模型的開發(fā)難度太大,以及后期向正式商用的遷移效率低下等問題,均是橫亙?cè)谥悄軙r(shí)代的巨大阻礙。 為了解決以上各種問題,打通客戶邁向智能時(shí)代的“任意門”,華為專門設(shè)計(jì)了異構(gòu)計(jì)算架構(gòu)昇騰CANN。從2018年首次發(fā)布至今,CANN基本保持了一年一個(gè)版本的升級(jí)節(jié)奏,目前最新的版本是CANN 3.0。 與此前相比,CANN 3.0已經(jīng)統(tǒng)一了編程架構(gòu),能夠做到端邊云全場景協(xié)同。在看到“端邊云”時(shí),我最早是有幾分疑惑的:現(xiàn)在很多廠商都在談“端邊云管”, 為什么CANN 3.0偏偏少了一個(gè)“管”呢? 其實(shí),問題的關(guān)鍵在于AI本身就體現(xiàn)在“端邊云”,與“管”無涉。華為的技術(shù)專家告訴胖頭陀,至少在當(dāng)前,開發(fā)者并沒有在“管”上做應(yīng)用開發(fā)的需求。 在統(tǒng)一的APP編程語言之外,華為CANN 3.0還包含了統(tǒng)一網(wǎng)絡(luò)構(gòu)圖接口、高性能計(jì)算引擎和算子庫,以及包括驅(qū)動(dòng)、虛擬化、媒體、集合通信等能力在內(nèi)的基礎(chǔ)服務(wù)。 也就是說,華為CANN 3.0為企業(yè)的智能進(jìn)化,提供了一套貫穿業(yè)務(wù)生命周期的完整工具包,客戶不再需要購買其他任何不必要的產(chǎn)品,就能完成從模型開發(fā)、算法訓(xùn)練、商用遷移等工作,同時(shí)減少人為干預(yù)、降低開發(fā)成本,企業(yè)可以從此盡享AI之美。 軟件硬件 極致配合 如果你喜歡看綜藝節(jié)目,一定會(huì)注意到,現(xiàn)在這類節(jié)目的機(jī)位多到“令人發(fā)指”,每位嘉賓的一顰一笑都會(huì)被拍下來,從而讓錄制的節(jié)目更具現(xiàn)場感和鏡頭感,吸引盡可能多的觀眾。 不過,假若沒有后臺(tái)強(qiáng)大的視頻處理能力,再多的機(jī)位也只是擺設(shè)而已。 在視頻應(yīng)用場景中,CANN 3.0能夠充分釋放AI硬件的性能。以搭載了CANN 3.0的華為Atlas 300I為例,它可以同時(shí)處理 80 路1080p、25FPS的高清視頻,是業(yè)界當(dāng)前水準(zhǔn)的2倍。 當(dāng)然,我們只是用視頻來舉例,實(shí)際上在高效開發(fā)之外,極致性能是CANN 3.0的又一大價(jià)值。 目前,CANN 3.0高性能算子庫已擁有1000+經(jīng)過深度優(yōu)化的硬件親和算子,同時(shí)通過深度圖優(yōu)化、自動(dòng)圖拆分與融合、數(shù)據(jù)Pipeline智能優(yōu)化等技術(shù),CANN 3.0支撐極致性能的發(fā)揮,讓用戶投資在硬件上的每一分錢,都能發(fā)揮出最大的價(jià)值。 AI開發(fā)的效果,在很大程度上取決于軟硬件的協(xié)調(diào)。就像是我們熟悉的木桶理論,如果軟硬件不能做到匹配,系統(tǒng)的水準(zhǔn)就只能勉強(qiáng)夠到最短的那一根。 在目前的各種主流異構(gòu)計(jì)算架構(gòu)中,絕大多數(shù)都是在自家處理器上表現(xiàn)優(yōu)秀,換到別家就有可能拉胯。其實(shí),從商業(yè)回報(bào)上來看,這也無可厚非。 華為CANN 3.0則不然。由于代碼是普適的,CANN 3.0可以毫無障礙地適配各種第三方廠商的機(jī)器學(xué)習(xí)系統(tǒng),譬如谷歌的TensorFlow,最大程度地發(fā)揮軟硬件的效率和性能。 與此同時(shí),CANN 3.0對(duì)全場景下訓(xùn)練和推理的硬件也沒有強(qiáng)行限定,因此用戶只需開發(fā)一套代碼,就能在各種不同的操作系統(tǒng)和智能終端上復(fù)用,而這無疑能夠極大地降低用戶的開發(fā)成本,便于他們將已有的成功應(yīng)用,復(fù)制和遷移到更多的場景中。 據(jù)介紹,從1.0升級(jí)到3.0,CANN在帶來更好性能的同時(shí),也在不斷適配更多的第三方計(jì)算框架。在CANN 3.0架構(gòu)下,企業(yè)無需關(guān)心自己究竟在用哪個(gè)計(jì)算框架,因?yàn)槿A為已經(jīng)從底層做到了軟件與硬件的極致配合。 全面開放 靈活開發(fā) 我們的話題,最終還是要落在開發(fā)上,這也是千行百業(yè)面對(duì)智能時(shí)代時(shí)必須要跨越的一道坎兒,開發(fā)已經(jīng)成為企業(yè)構(gòu)建AI核心競爭力的關(guān)鍵因素。 面向不同水平的AI開發(fā)者,CANN 3.0沒有采取一刀切的模式,而是提供了普通(TBE-DSL)和專業(yè)(TBE-TIK)兩種算子開發(fā)模式,支持企業(yè)快速構(gòu)建基于昇騰平臺(tái)的AI應(yīng)用和業(yè)務(wù)。 其中,TBE-DSL的入門難度比較低,它可以自動(dòng)實(shí)現(xiàn)數(shù)據(jù)的切分和調(diào)度,開發(fā)者也無需了解昇騰AI處理器的相關(guān)知識(shí),直接調(diào)用已有的算子,節(jié)省70%的算子開發(fā)時(shí)間。 TBE-TIK相對(duì)就難一些,不像TBE-DSL只是在高層抽象編程,而是要深入到指令層,靈活地調(diào)用計(jì)算資源,進(jìn)一步挖掘硬件的計(jì)算潛力,實(shí)現(xiàn)更加高效和復(fù)雜的應(yīng)用。 當(dāng)然,經(jīng)過不斷的學(xué)習(xí)和實(shí)踐,開發(fā)者完全可以從“普通”走向“專業(yè)”, TBE-DSL和TBE-TIK之間并非難以跨越的天塹。 需要指出的是,CANN 3.0在頂層提供了昇騰芯片面向應(yīng)用的調(diào)用接口AscendCL,它的作用是讓代碼在未來的CANN 4.0,或是更高的版本下,依舊可以使用,而且能夠做到運(yùn)行效率不縮水。 該模式下,居中調(diào)停的AscendCL提供了Device、Context、Stream、內(nèi)存、模型和算子等統(tǒng)一調(diào)用接口(API),開發(fā)者可以用任何的框架,譬如Tensorflow、Caffe、Mindspore等,方便快捷地調(diào)用這些API,而無需關(guān)心計(jì)算資源優(yōu)化等問題。 此外,用戶還可以使用AscendCL封裝實(shí)現(xiàn)第三方lib庫,以便提供昇騰AI處理器的運(yùn)行管理、資源管理能力。 目前,華為在昇騰社區(qū)里為CANN 3.0開設(shè)了專區(qū),這里也可以下載到社區(qū)版和商用版,前者是快速提供新特性的體驗(yàn)版,后者則是滿足商用標(biāo)準(zhǔn)的穩(wěn)定版本。 在專區(qū)里,開發(fā)者可以和華為的研究人員實(shí)現(xiàn)高效的互動(dòng),及時(shí)反饋在體驗(yàn)版里遇到的問題,然后華為會(huì)進(jìn)行快速的版本迭代。同時(shí),社區(qū)為也開發(fā)者提供了交流分享的平臺(tái)。 作為引領(lǐng)科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力,AI正在深刻改變我們的學(xué)習(xí)、工作和生活。毫不夸張地講,擁有CANN 3.0,企業(yè)就擁有了開啟智能未來的金鑰匙。 你的未來,準(zhǔn)備好了沒有? 欲看更多文章 |
|