墨芯人工智能科技有限公司(以下簡稱墨芯)近日獲得1億元Pre-A輪投資,由將門創(chuàng)投領(lǐng)投,真格基金、深圳前海母基金共同投資,老股東凱旋創(chuàng)投、創(chuàng)享投資本輪繼續(xù)加持,星漢資本擔(dān)任本輪FA。
墨芯是AI芯片設(shè)計初創(chuàng),公司提供終端和云端AI芯片加速方案,致力于提升AI芯片的算力。這是公司在一年內(nèi)宣布完成的第三輪融資。2020年3月,墨芯曾完成凱旋創(chuàng)投領(lǐng)投的近千萬美元的天使輪投資。2021年1月,墨芯再次宣布完成由浪潮領(lǐng)投的戰(zhàn)略融資。
在云計算與人工智能時代,AI離不開大型、多層的深度神經(jīng)網(wǎng)絡(luò)模型,而訓(xùn)練和運行這些巨大的模型需要數(shù)以萬億的計算量。因此,為了讓AI解決更復(fù)雜的問題,人工智能(深度學(xué)習(xí))模型對系統(tǒng)的性能提出了更高的要求,市場需要更高算力、更低功耗的AI芯片。
作為AI芯片的新興玩家,墨芯從近年來熱門的AI算法稀疏化切入,以實現(xiàn)AI芯片高算力、低功耗這兩大需求。稀疏化算法的優(yōu)勢在于可以讓神經(jīng)網(wǎng)絡(luò)模型消減冗余和重復(fù)的內(nèi)容,減少運算壓力,提升有效性能。
墨芯致力于動態(tài)稀疏化、靜態(tài)稀疏化AI算法技術(shù)的研發(fā),從軟件算法入手,以稀疏化硬件架構(gòu)為核心,通過軟硬件協(xié)同設(shè)計提升AI推理的計算效率,減輕AI計算對內(nèi)存帶寬和存儲的需求,在提升芯片性能的同時也降低了芯片成本。
墨芯的稀疏化硬件架構(gòu)可以通過對已有模型的激活來提高吞吐量,或者在同等吞吐量下降低功耗;也可以訓(xùn)練更大的稀疏模型,在同等模型參數(shù)量以及計算量的情況下,提高可部署模型的精度,從而實現(xiàn)更高算力、更低功耗的效果。
在整個產(chǎn)業(yè)界,2020年5月英偉達(dá)(Nvidia)發(fā)布了首款支持稀疏化技術(shù)的芯片A100,此款產(chǎn)品僅支持2倍的靜態(tài)結(jié)構(gòu)化稀疏。
墨芯將在2021年中旬推出新產(chǎn)品Antom。據(jù)墨芯公司創(chuàng)始人和CEO王維向36氪的介紹,Antom產(chǎn)品將芯片算力相較于現(xiàn)有行業(yè)水平,提高至少1個數(shù)量級。
王維表示,Antom在體積、算力、能耗三方面都有優(yōu)勢:Antom產(chǎn)品體積小,能適用多種類型服務(wù)器,將節(jié)省所占物理空間;產(chǎn)品在算力上擁有較大提升,能將單位算力擁有總成本(TCO)降低10倍以上;產(chǎn)品同等運算量的耗電量降至十分之一,將大大降低能耗成本。
凱旋創(chuàng)投創(chuàng)始合伙人周志雄認(rèn)為,在服務(wù)器端廣泛的AI推理場景中,想要在性能追上并趕超Nvidia,真正有可能突破的是在算法層面。墨芯團隊的動態(tài)稀疏化技術(shù)展示了在AI計算上如何有效地提升單位功耗算力使其超過競品1到2個數(shù)量級。“這是一個超出了國產(chǎn)替代‘me too’ 場景,實現(xiàn) ‘me better’ 直線超車的真實案例?!?/p>
Antom產(chǎn)品的目標(biāo)客戶包括公有云/私有云、互聯(lián)網(wǎng)視頻網(wǎng)站、電商網(wǎng)站等云服務(wù)商及企業(yè)用戶。公司將從頭部客戶入手,在業(yè)界逐步擴大產(chǎn)品影響力。
在現(xiàn)有計算平臺面臨極大的挑戰(zhàn)的背景下,目前AI芯片業(yè)界主要的解決方法除了稀疏化技術(shù)還包括:設(shè)計芯片間互聯(lián)做分布式推理和訓(xùn)練、采用大帶寬的存儲器件(HBM/GDDR)、采用大量的片上存儲(On-chip SRAM) 等。這些方式都將帶來芯片設(shè)計復(fù)雜度和硬件成本的提升。比較來看,采用稀疏化架構(gòu)的芯片能在提升性能的同時減輕存儲需求,降低芯片成本,是一舉多得的選擇。
根據(jù)IDC 2020HI《全球人工智能市場半年度追蹤報告》的最新數(shù)據(jù),目前全球半年度人工智能服務(wù)器市場規(guī)模達(dá)55.9億美元(約326.6億人民幣),并處在高速發(fā)展階段,預(yù)計在2024年全球市場規(guī)模將達(dá)到251億美元。
在這一市場背景下,突破原有技術(shù)瓶頸,重點打造稀疏化的技術(shù)優(yōu)勢至關(guān)重要。
IDC報告同時顯示,墨芯此前的戰(zhàn)略投資方浪潮以16.4%的市占率位居全球第一,成為全球AI服務(wù)器頭號玩家。該戰(zhàn)略融資也可看作是浪潮對AI單芯片供應(yīng)商的一次布局。
墨芯公司總部位于中國深圳。創(chuàng)始團隊包括來自于人工智能領(lǐng)域的科學(xué)家和芯片行業(yè)的資深芯片架構(gòu)師和設(shè)計工程師。