中國(guó)福建網(wǎng)

當(dāng)前位置:中國(guó)福建網(wǎng) > 國(guó)內(nèi) > 正文

寒武紀(jì)通用型智能芯片產(chǎn)品完整支持商用大模型部署

作者: 編輯 來(lái)源:互聯(lián)網(wǎng) 發(fā)布時(shí)間:2023-08-31

┊文章閱讀:

數(shù)字經(jīng)濟(jì)時(shí)代,算力是核心生產(chǎn)力,算法是重要生產(chǎn)工具,數(shù)據(jù)是關(guān)鍵生產(chǎn)資料。算力決定了數(shù)據(jù)處理能力的強(qiáng)弱。算力芯片是算力的具體載體。而AIGC大模型是在智能算力驅(qū)動(dòng)下最為典型的重大創(chuàng)新。

AIGC全稱為 AI-Generated Content人工智能生成內(nèi)容,指基于生成對(duì)抗網(wǎng)絡(luò) GAN、大型 預(yù)訓(xùn)練模型等人工智能技術(shù),通過(guò)已有數(shù)據(jù)尋找規(guī)律,并通過(guò)適當(dāng)?shù)姆夯芰ι上嚓P(guān)內(nèi)容的技術(shù)。AIGC 能夠以優(yōu)于人類的制造能力和知識(shí)水平承擔(dān)信息挖掘、素材調(diào)用、復(fù)刻編輯等基礎(chǔ)性機(jī)械勞動(dòng),從而大幅降低內(nèi)容生成的邊際成本,目前已經(jīng)在文字、語(yǔ)音、代碼、圖像、視頻、機(jī)器人動(dòng)作等多模態(tài)場(chǎng)景上有了范例。它被認(rèn)為是繼 PGC、UGC 之后的新型內(nèi)容創(chuàng)作方式,2022 年 AIGC 發(fā)展迅猛。

AIGC 的技術(shù)底座是“大型語(yǔ)言模型Large Language Models,簡(jiǎn)稱為“大模型””。隨著大模型的迭代,所需的參數(shù)呈指數(shù)級(jí)增長(zhǎng)。各模態(tài)智能數(shù)據(jù)的訓(xùn)練到推理均需要算力的加持,隨著模型逐漸復(fù)雜化,所對(duì)應(yīng)的算力需求也水漲船高,智能芯片市場(chǎng)有望迎來(lái)增量需求的支撐。

提及智能芯片,國(guó)內(nèi)不少企業(yè)正在崛起,寒武紀(jì)便是其中之一。

自成立以來(lái),寒武紀(jì)一直專注于人工智能芯片產(chǎn)品的研發(fā)與技術(shù)創(chuàng)新,致力于打造人工智能領(lǐng)域的核心處理器芯片,讓機(jī)器更好地理解和服務(wù)人類。寒武紀(jì)的主營(yíng)業(yè)務(wù)是應(yīng)用于各類云服務(wù)器、邊緣計(jì)算設(shè)備、終端設(shè)備中人工智能核心芯片的研發(fā)、設(shè)計(jì)和銷(xiāo)售,以及為客戶提供豐富的芯片產(chǎn)品。目前,寒武紀(jì)的主要產(chǎn)品線包括云端產(chǎn)品線、邊緣產(chǎn)品線、IP 授權(quán)及軟件。

縱觀過(guò)去幾年,寒武紀(jì)快速實(shí)現(xiàn)了技術(shù)的產(chǎn)業(yè)化輸出,先后推出了用于終端場(chǎng)景的寒武紀(jì) 1A、寒武紀(jì) 1H、寒武紀(jì) 1M 系列智能處理器;基于思元 100、思元 270、思元 290 芯片和思元 370 的云端智能加速卡系列產(chǎn)品;基于思元 220 芯片的邊緣智能加速卡。其中,寒武紀(jì)智能處理器 IP 產(chǎn)品已集成于超過(guò) 1 億臺(tái)智能手機(jī)及其他智能終端設(shè)備中,思元系列產(chǎn)品也已應(yīng)用于浪潮、 聯(lián)想等多家服務(wù)器廠商的產(chǎn)品中。此外,思元 270 芯片、思元 290 芯片還分別獲得第六屆世界互聯(lián)網(wǎng)大會(huì)、世界人工智能大會(huì)頒布的獎(jiǎng)項(xiàng)。思元 220 自發(fā)布以來(lái),累計(jì)銷(xiāo)量突破百萬(wàn)片。

2022年寒武紀(jì)持續(xù)加大產(chǎn)品研發(fā)力度。硬件方面,寒武紀(jì)基于思元 370 云端智能芯片,推出了新款智能加速卡 MLU370-X8/M8、訓(xùn)練整機(jī)玄思 1001 智能加速器MLU-X1001。

MLU370-X8/M8兩款加速卡均支持寒武紀(jì) MLU-Link 芯片間互聯(lián),可滿足多樣化人工智能模型的訓(xùn)練和推理需求。而寒武紀(jì)玄思 1001 智能加速器,在 2U 機(jī)箱內(nèi)集成 4 張 MLU370-M8 智能加速卡,MLU-Link 互聯(lián)接口,實(shí)現(xiàn)智能算力在數(shù)據(jù)中心縱向擴(kuò)展;可廣泛支持 FP16、FP32 等不同數(shù)據(jù)精度的智能算力,提供大容量?jī)?nèi)存,支撐智能模型的分布式訓(xùn)練需求,是智能算力的高集成度平臺(tái),已在生物信息、醫(yī)療影像、語(yǔ)言模型等行業(yè)及科研場(chǎng)景廣泛應(yīng)用。

據(jù)寒武紀(jì)2022年度報(bào)告顯示,在互聯(lián)網(wǎng)行業(yè),寒武紀(jì)的思元 370 芯片及加速卡與數(shù)家頭部互聯(lián)網(wǎng)企業(yè)在視覺(jué)、語(yǔ)音、圖文識(shí)別、自然語(yǔ)言處理等場(chǎng)景下完成適配工作后,已經(jīng)進(jìn)入了批量銷(xiāo)售環(huán)節(jié)。此外,寒武紀(jì)與某互聯(lián)網(wǎng)企業(yè)進(jìn)行了大模型訓(xùn)練的初步合作,目前仍處于技術(shù)探索和測(cè)試階段。

2022年寒武紀(jì)也在持續(xù)推進(jìn)通用性訓(xùn)練軟件棧的研發(fā)和改進(jìn)工作。功能上,支撐了寒武紀(jì)新的硬件平臺(tái)以及 FP19 數(shù)據(jù)精度,支撐了新的 PyTorch 版本,算子覆蓋度達(dá)到 80,TensorFlow 的算子數(shù)量及交付網(wǎng)絡(luò)模型均有所增加。性能上,PyTorch 框架層通過(guò) IO 類算子融合等優(yōu)化方式,顯著提升了帶寬密集類模型的性能;TensorFlow 通過(guò)支持 XLA,對(duì) Bert 模型實(shí)現(xiàn)了近兩倍的性能提升。在大語(yǔ)言模型領(lǐng)域,提升了單機(jī)多卡、多機(jī)多卡的混合分布式訓(xùn)練效率,完整支持了商用大模型部署,達(dá)到業(yè)界領(lǐng)先水平。

值得注意的是,寒武紀(jì)所研發(fā)的通用型智能芯片產(chǎn)品,具備靈活的指令集和精巧的處理器架構(gòu),技術(shù)壁壘高但應(yīng)用面廣,可覆蓋人工智能領(lǐng)域高度多樣化的應(yīng)用場(chǎng)景如視覺(jué)、語(yǔ)音、自然語(yǔ)言理解、傳統(tǒng)機(jī)器學(xué)習(xí)、生成式人工智能等。與 CPU、GPU 等芯片相比,通用型智能芯片能夠更好地匹配和支持人工智能算法中的關(guān)鍵運(yùn)算操作,在性能和功耗上存在顯著優(yōu)勢(shì)。

  • 軟文發(fā)布平臺(tái)
  • 帆布水池
  • 運(yùn)維開(kāi)發(fā)網(wǎng)
  • IT新聞
  • 淘寶erp
  • 植物提取物網(wǎng)
  • 站長(zhǎng)網(wǎng)
  • 青島月子會(huì)所
  • 辦公家具
  • 呱呱贊小程序
  • 盈江新財(cái)網(wǎng)
  • 工程拍照軟件
  • 包裝新聞
  • 甘州文化網(wǎng)
  • 客服寶
  • andon系統(tǒng)
  • 系統(tǒng)
  • 奢侈品回收
  • 中國(guó)市場(chǎng)經(jīng)濟(jì)網(wǎng)
  • 黑客視野新聞