生成式AI（又稱AIGC）狂潮席卷，聊天機(jī)器人ChatGPT上線2月用戶就突破1億，成為消費(fèi)級(jí)應(yīng)用市場(chǎng)上冉冉升起的新星，海內(nèi)外科技巨頭紛紛開始爭(zhēng)奪這場(chǎng)生成式AI盛宴的入場(chǎng)券。

資本市場(chǎng)聞風(fēng)而動(dòng)，國內(nèi)服務(wù)器龍頭玩家浪潮信息、“計(jì)算機(jī)視覺四小龍”之一云從科技、為算法模型開發(fā)提供專業(yè)數(shù)據(jù)集的AI訓(xùn)練數(shù)據(jù)服務(wù)商海天瑞聲等眾多ChatGPT概念股暴漲。

其中，算力層玩家已經(jīng)悄然處于生成式AI產(chǎn)業(yè)發(fā)展的漩渦中心，AI訓(xùn)練芯片“一哥”英偉達(dá)股價(jià)開年至今上漲超60%。算力作為生成式AI產(chǎn)業(yè)的基礎(chǔ)設(shè)施，一直在牽動(dòng)全球科技企業(yè)的神經(jīng)。

算力缺口問題一直存在，但隨著生成式AI產(chǎn)業(yè)在消費(fèi)級(jí)市場(chǎng)鋪開，上億級(jí)別的用戶規(guī)模使得這一問題逐漸被放大。結(jié)合ChatGPT在訓(xùn)練和推理過程中對(duì)算力、網(wǎng)絡(luò)等硬件的需求，市研機(jī)構(gòu)中金研究院量化測(cè)算出在中性情景下，該應(yīng)用有望推動(dòng)約65億美元（折合約446.51億人民幣）的增量市場(chǎng)空間。

在此背景下，國內(nèi)AI芯片創(chuàng)企已經(jīng)為大模型應(yīng)用落地下激增的算力需求提出新解法，那就是以人腦為靈感的稀疏計(jì)算。

值此生成式AI爆發(fā)的關(guān)鍵節(jié)點(diǎn)，主攻稀疏計(jì)算的墨芯核心競(jìng)爭(zhēng)力在哪里？巨頭林立下，墨芯又將如何殺出重圍搶奪市場(chǎng)蛋糕？這一波生成式AI浪潮對(duì)于以墨芯為代表的AI芯片創(chuàng)企又意味著什么？

帶著這些問題，芯東西與墨芯創(chuàng)始人兼CEO王維進(jìn)行了深入交流，從生成式AI產(chǎn)業(yè)帶來的算力需求出發(fā)，探討算力層玩家在其中的角色。

▲墨芯創(chuàng)始人兼CEO王維

01.

算力激增

新Bing搜索基礎(chǔ)設(shè)施砸40億美元？

作為史上用戶規(guī)模增長(zhǎng)最快的消費(fèi)級(jí)應(yīng)用，ChatGPT的影響是爆炸性、裂變式的，其展示出來的生成式AI的交互能力已經(jīng)大大超越了之前的小模型，智能性也產(chǎn)生了質(zhì)的突破，隨之而來的是對(duì)大算力的需求日益緊迫。

▲ChatGPT界面

因此這也一度讓英偉達(dá)賺的盆滿缽滿。

產(chǎn)品面世之前，OpenAI可能就已經(jīng)向算力層玩家狂砸千萬、數(shù)十億美元。據(jù)外媒報(bào)道，分析師稱ChatGPT Beta版本使用了10000個(gè)英偉達(dá)GPU訓(xùn)練模型，新一代GPT-5大模型正在25000個(gè)英偉達(dá)GPU上訓(xùn)練。這背后就是數(shù)十億的基礎(chǔ)設(shè)施購買費(fèi)用以及一次1200萬美元的模型訓(xùn)練成本。

ChatGPT上線后，算力開銷則只增不減。并且半導(dǎo)體產(chǎn)業(yè)分析機(jī)構(gòu)SemiAnalysis的分析師稱，當(dāng)模型進(jìn)入大規(guī)模部署階段，將產(chǎn)生更高的算力成本。

摩根士丹利分析師稱，ChatGPT的一次回復(fù)成本可能在2美分。國盛證券估算，假設(shè)以這樣的穩(wěn)定狀態(tài)，且忽略集群配置的請(qǐng)求量冗余和服務(wù)質(zhì)量冗余，那么，ChatGPT需要至少30382片英偉達(dá)A100 GPU芯片同時(shí)計(jì)算，才能支撐當(dāng)前ChatGPT的訪問量，對(duì)應(yīng)初始投入成本約為7.59億美元（折合約52億人民幣）。

集成到新Bing中的ChatGPT，則使得這一成本再次翻番。

研究機(jī)構(gòu)New Street Research發(fā)現(xiàn)，集成ChatGPT的新Bing搜索引擎，可能需要8個(gè)GPU才能在不到一秒的時(shí)間內(nèi)響應(yīng)問題。按照這個(gè)速度，微軟將需要超過20000臺(tái)8-GPU服務(wù)器才能將Bing中的模型部署給每個(gè)人，這表明微軟可能需要40億美元的基礎(chǔ)設(shè)施支出。

高昂的算力成本讓“燒錢”成為了生成式AI產(chǎn)業(yè)應(yīng)用落地的代名詞。

如今，大模型規(guī)模持續(xù)增長(zhǎng)已經(jīng)是必然趨勢(shì)，算力的需求仍然會(huì)不斷激增，其結(jié)局只能是無止盡的砸錢嗎？“并不是！”墨芯給了我們十分明確的答案。

就算不論成本，訓(xùn)練模型增大、計(jì)算量增加背后，被犧牲的訓(xùn)練時(shí)間和推理速度對(duì)消費(fèi)級(jí)產(chǎn)品的擴(kuò)展和規(guī)模落地影響都很大。因此，降本增效才是當(dāng)前的關(guān)鍵。

02.

單卡跑通GPT-3，企業(yè)成本降低3~5倍

這個(gè)答案的底氣要先從墨芯布局的技術(shù)路線說起。

先來看一組數(shù)據(jù)，GPT-3模型是擁有1700多億參數(shù)的大模型代表，如果放在GPU上去做推理的話，需要內(nèi)存量是要幾百G，也就是需要很多張80G的GPU，且會(huì)有明顯時(shí)延；但通過稀疏化路徑，用一張墨芯S30計(jì)算卡，就可以跑通GPT-3，并且計(jì)算速度還變快了很多。

稀疏計(jì)算的靈感就來自于人腦。我們?cè)谔幚聿煌蝿?wù)時(shí)，會(huì)激活大腦皮層的相應(yīng)區(qū)域，無需調(diào)用整個(gè)神經(jīng)網(wǎng)絡(luò)。類比到芯片上，就是在不同的任務(wù)上進(jìn)行稀疏激活。

隨著通用人工智能時(shí)代的到來，稀疏計(jì)算與大模型的天然適配優(yōu)勢(shì)越來越明顯。弱人工智能向通用人工智能的演進(jìn)過程中，大算力爆炸時(shí)代稀疏特性越來越清晰、明顯，相比于GPGPU的稠密計(jì)算，稀疏計(jì)算在算力能效比上有1~2個(gè)數(shù)量級(jí)的提升，并且墨芯的稀疏計(jì)算解決方案可以讓企業(yè)成本降低3~5倍，王維談道。

此外，墨芯S30加速卡通過軟硬協(xié)同加速平臺(tái)對(duì)大模型進(jìn)行稀疏化，可單卡支持T5大模型推理，實(shí)現(xiàn)“1卡頂8卡”的算力效果。

從更宏觀的角度來看，稀疏計(jì)算的發(fā)展也符合事物發(fā)展的第一性原理。他舉了一個(gè)例子，相比于燃油車40%的熱轉(zhuǎn)換效率，電車的電能轉(zhuǎn)化效率能達(dá)到90%，這也意味著燃油車時(shí)代向電車時(shí)代發(fā)展的必然性。

縱觀當(dāng)下生成式AI產(chǎn)業(yè)的發(fā)展，AI繪畫工具、類ChatGPT產(chǎn)品等都正在將基于大模型的AI商業(yè)化應(yīng)用落地推向高潮。

主打稀疏計(jì)算的墨芯正在突出重圍，并彰顯出無限的發(fā)展?jié)摿Α?/span>

成立4年墨芯首顆芯片Antoum一次流片成功、基于Antoum的AI計(jì)算卡S4僅5個(gè)月就實(shí)現(xiàn)量產(chǎn)，S30在全球權(quán)威AI測(cè)試MLPerf推理測(cè)試v2.1中的數(shù)據(jù)中心主流模型Resnet-50和Bert分獲冠亞軍，S4、S30快速拿到商業(yè)化訂單……都在持續(xù)印證稀疏計(jì)算在AI發(fā)展歷程中存在的合理性以及墨芯堅(jiān)實(shí)的技術(shù)積累。

墨芯實(shí)測(cè)顯示，運(yùn)行在墨芯S30加速卡上的GPT開源模型，生成答案的速度能夠較原來提升10倍。

此外，互聯(lián)網(wǎng)、金融、運(yùn)營商、制造、醫(yī)療等行業(yè)的頭部用戶也正在與墨芯接觸，其產(chǎn)品已經(jīng)可以應(yīng)用于上述行業(yè)。這些計(jì)算密集型產(chǎn)業(yè)的應(yīng)用已經(jīng)讓墨芯的產(chǎn)品得到市場(chǎng)驗(yàn)證。

王維說，生成式AI變革的當(dāng)下對(duì)于墨芯和稀疏計(jì)算而言，是一個(gè)完美的時(shí)期?！皟扇陜?nèi)，稀疏化計(jì)算應(yīng)該會(huì)在大模型推理和訓(xùn)練中擁有一定的市占率?！?/span>

從短期來看，墨芯的戰(zhàn)略布局將沿著稀疏化推理到稀疏化訓(xùn)練，再到訓(xùn)推一體。不過，一家企業(yè)的戰(zhàn)略布局與方向必然不能著眼于當(dāng)下，他補(bǔ)充道，墨芯的長(zhǎng)期戰(zhàn)略目標(biāo)是搭載一個(gè)更先進(jìn)的下一代計(jì)算平臺(tái)，包含訓(xùn)練、推理的AI 2.0計(jì)算平臺(tái)。

03.

創(chuàng)新路徑、頂尖人才、計(jì)算生態(tài)

成AI芯片黑馬護(hù)城河

AI產(chǎn)業(yè)的爆炸性事件，讓算力層玩家在技術(shù)發(fā)展和應(yīng)用落地上宛如搭上了快車。王維說：“過去十年，GPU一直承載著AI產(chǎn)業(yè)的發(fā)展，現(xiàn)在是新的顛覆性技術(shù)最容易切入和最快速被市場(chǎng)接受和認(rèn)可的節(jié)點(diǎn)?！?/span>

不過，外部環(huán)境雖然重要，打鐵仍需自身硬。技術(shù)積累深厚、人才團(tuán)隊(duì)強(qiáng)大的“黑馬”芯片企業(yè)的優(yōu)勢(shì)尤為顯著。

1、底層“創(chuàng)新基因”，與大廠一較高下

王維多次談到了“創(chuàng)新”，他認(rèn)為這是生成式AI未來快速商業(yè)化的底層基因，也是墨芯的企業(yè)文化。

作為國內(nèi)AI芯片創(chuàng)企的代表玩家，在AI爆炸性事件出現(xiàn)時(shí)，除了擁有技術(shù)積累去支撐其算力外，還應(yīng)該肩負(fù)起更大的責(zé)任感和使命感。

大算力爆炸時(shí)代，從科技巨頭到AI創(chuàng)企都在尋找解決算力難題，但現(xiàn)實(shí)是，依靠先進(jìn)制程獲得突破的道路對(duì)于國內(nèi)芯片玩家而言過于艱難，而找到一條創(chuàng)新路徑去支撐大模型的發(fā)展就尤為重要。

“這也是那些不缺資源、不缺人才的頭部科技公司最看懂的東西?！蓖蹙S說。

2、頂尖算法人才團(tuán)隊(duì)，量產(chǎn)、落地、創(chuàng)新一脈相承

人才濟(jì)濟(jì)的核心骨干成員是“創(chuàng)新基因”的載體。

創(chuàng)始人王維曾任美國高通和英特爾架構(gòu)師，英特爾5-10代CPU處理器的核心成員，參與開發(fā)量產(chǎn)超50億片芯片，擁有硅谷芯片公司創(chuàng)業(yè)經(jīng)歷；首席科學(xué)家嚴(yán)恩勖擁有40多篇AI頂會(huì)成果；工程VP蘆勇曾任SK Hynix芯片設(shè)計(jì)總監(jiān)和Marvell資深芯片設(shè)計(jì)經(jīng)理；首席架構(gòu)師肖志斌曾任達(dá)摩院核心架構(gòu)師等等……

兼顧算法、架構(gòu)、芯片設(shè)計(jì)的頂尖人才，使得后續(xù)墨芯在芯片量產(chǎn)、技術(shù)創(chuàng)新、應(yīng)用落地上一脈相承，并迅速“迎接”大算力爆炸時(shí)代對(duì)于AI芯片創(chuàng)企更為嚴(yán)苛的考驗(yàn)。

3、拓展稀疏計(jì)算生態(tài)，加入主流生態(tài)龍蜥

不論是AI芯片產(chǎn)業(yè)化還是大模型應(yīng)用落地，都需要完備的軟硬一體生態(tài)才能讓稀疏計(jì)算真正跑起來。

因此墨芯一直在布局稀疏計(jì)算生態(tài)拓展，目前該公司已經(jīng)完成百度飛槳等AI框架、浪潮、新華三等主流服務(wù)器的適配，并加入龍蜥等國內(nèi)主流生態(tài)。

王維談到，生成式AI產(chǎn)業(yè)發(fā)展對(duì)于現(xiàn)有的生態(tài)而言是一個(gè)巨大的挑戰(zhàn)，需要更聰明的方式去訓(xùn)練更大更稀疏的模型。未來，隨著應(yīng)用場(chǎng)景、應(yīng)用數(shù)量的不斷豐富與激增，生態(tài)構(gòu)建將逐漸完備。

總的來看，生成式AI產(chǎn)業(yè)最終會(huì)落地到具體的應(yīng)用場(chǎng)景中，而墨芯在其中扮演的角色更像是一個(gè)“裝備庫”，支撐著大模型背后龐大的算力需求，這也正是對(duì)AI芯片創(chuàng)企背后技術(shù)積累的突擊檢查。

04.

結(jié)語：“狂飆”的ChatGPT背后

“創(chuàng)新基因”成AI芯片創(chuàng)企致勝關(guān)鍵

多年來，AI領(lǐng)域已經(jīng)鮮少有像今天ChatGPT引發(fā)的熱潮這樣，讓全球的人才、資本焦點(diǎn)都集中于此，也讓多個(gè)產(chǎn)業(yè)站到了聚光燈下，AI芯片創(chuàng)企就是這樣的存在。

雖然熱潮爆發(fā)往往有一定的預(yù)兆，但想要快速切入風(fēng)口、抓住機(jī)遇需要更快速的反應(yīng)和行動(dòng)力。在這樣的巨大變革下，擁有強(qiáng)大技術(shù)團(tuán)隊(duì)和對(duì)技術(shù)路線有獨(dú)到判斷的墨芯更有底氣。

盡管相比于科技巨頭，AI芯片創(chuàng)企的體量、人才、資源都無法比擬，但正如王維所言，尋找創(chuàng)新路徑是支撐未來大模型發(fā)展的關(guān)鍵。而這并不被大公司所獨(dú)有。因此，大規(guī)模算力不斷攀升的當(dāng)下，也進(jìn)一步加速了AI芯片創(chuàng)企的規(guī)?；涞夭季?。