據(jù)了解,該芯片采用中星微自研的通用多核異構(gòu)GP-XPU架構(gòu),比CPU+GPU架構(gòu)在運(yùn)行效率、實(shí)時(shí)性、性?xún)r(jià)比和安全性等方面大幅提升。
據(jù)介紹,該芯片基于國(guó)產(chǎn)工藝制程,完全自主可控?;?ldquo;星光智能五號(hào)”,可構(gòu)建具有“萬(wàn)物識(shí)別”能力和自然語(yǔ)言處理能力的“本地化智能體”,為千行百業(yè)的智能化升級(jí)提供更優(yōu)解決方案,可廣泛應(yīng)用于國(guó)家戰(zhàn)略重要領(lǐng)域以及城市感知、智能制造、智慧農(nóng)業(yè)、智能交通等行業(yè),更好服務(wù)于數(shù)字中國(guó)建設(shè)和新質(zhì)生產(chǎn)力發(fā)展。
首款運(yùn)行通用大模型單芯片,突破邊緣算力極限
據(jù)介紹,“星光智能五號(hào)”通過(guò)采用GP-XPU架構(gòu),集成高性能的RISC-V CPU、GP-GPU、NPU,以及面向智能感知領(lǐng)域的圖像信號(hào)處理器(ISP)、視頻編解碼器(VPU)、加解密處理器(ECU)等多核心模塊,通過(guò)專(zhuān)用的HCP(異構(gòu)計(jì)算池)任務(wù)調(diào)度單元和安全內(nèi)存管理系統(tǒng),實(shí)現(xiàn)多異構(gòu)內(nèi)核之間的算力與存儲(chǔ)資源的實(shí)時(shí)調(diào)度與動(dòng)態(tài)共享,大幅提升了算力利用效率和數(shù)據(jù)吞吐率,從而首次實(shí)現(xiàn)了在單芯片上部署運(yùn)行DeepSeek 1.5B、7B、8B、16B等通用大模型及視覺(jué)大模型的能力。
在僅約一張名片大小的處理板中,單顆“星光智能五號(hào)”既滿(mǎn)足復(fù)雜場(chǎng)景下的視頻實(shí)時(shí)檢測(cè)、識(shí)別與跟蹤需求,又能實(shí)現(xiàn)自然語(yǔ)言處理、任務(wù)規(guī)劃、知識(shí)管理、自動(dòng)控制等智能體功能;通過(guò)8顆芯片聯(lián)合部署,能夠支持“滿(mǎn)血版”671B參數(shù)DeepSeek大模型和視覺(jué)大模型運(yùn)行,徹底打破邊緣端算力瓶頸。
“六邊形戰(zhàn)士”全能領(lǐng)跑AI芯片賽道
作為AI芯片領(lǐng)域的全能型選手,“星光智能五號(hào)”以六大核心優(yōu)勢(shì)樹(shù)立行業(yè)標(biāo)桿:
高效率:通過(guò)算子級(jí)MoE架構(gòu)與HCP實(shí)時(shí)調(diào)度機(jī)制,算力利用效率提升約40%,數(shù)據(jù)吞吐率提升約50%;
低能耗:通過(guò)異構(gòu)計(jì)算資源按需分配,該芯片能耗降低至少30%;
低成本:通過(guò)“端-邊閉環(huán)架構(gòu)”減少云端資源依賴(lài),綜合部署成本約為服務(wù)器架構(gòu)同性能部署的1/3;
體積?。呵度朐撔酒奶幚戆遄钚H需要約一張名片大小,可滿(mǎn)足多種小型化智能設(shè)備的空間需求;
強(qiáng)安全性:采用存儲(chǔ)器分區(qū)安全隔離技術(shù),支持高性能?chē)?guó)密算法計(jì)算,實(shí)現(xiàn)信源級(jí)密碼保護(hù),具備原生數(shù)據(jù)安全特性;
高適應(yīng)性:支持開(kāi)放生態(tài)與主流AI框架,無(wú)縫對(duì)接千行百業(yè)的各種應(yīng)用場(chǎng)景;在工作環(huán)境適應(yīng)性方面,“星光智能五號(hào)”擺脫了云端大算力設(shè)備對(duì)機(jī)房恒溫恒濕環(huán)境的依賴(lài),可以在各種生產(chǎn)生活現(xiàn)實(shí)環(huán)境中完成高性能智能化工作。
賦能“本地化智能體”,重構(gòu)AI部署范式
中星微技術(shù)CEO張韻東介紹,“星光智能五號(hào)”將推動(dòng)端側(cè)、邊緣側(cè)智能化升級(jí),大幅減少對(duì)云端算力資源的依賴(lài),節(jié)省系統(tǒng)建設(shè)成本,探索了一條符合中國(guó)國(guó)情的人工智能技術(shù)路線(xiàn)。
據(jù)了解,傳統(tǒng)依賴(lài)云端的AI推理流程常面臨響應(yīng)延遲大、成本高、受制于網(wǎng)絡(luò)環(huán)境等問(wèn)題,而該芯片通過(guò)本地化算力與內(nèi)生安全機(jī)制,使大模型推理可直接在邊端側(cè)內(nèi)完成閉環(huán),既節(jié)省了云端傳輸與存儲(chǔ)成本,同時(shí)極大提升了響應(yīng)速度,可實(shí)現(xiàn)毫秒級(jí)響應(yīng),同時(shí)以信源級(jí)密碼機(jī)制保障數(shù)據(jù)全生命周期安全。
這一技術(shù)突破為城市感知、智能制造、智慧交通等場(chǎng)景提供了效率、能耗、成本、體積、安全性、適應(yīng)性綜合優(yōu)化的實(shí)踐路徑,真正賦能千行百業(yè)打造自主可控的智能終端。
張韻東表示:“中星微面向我國(guó)傳統(tǒng)行業(yè)數(shù)字化轉(zhuǎn)型的實(shí)際需求,發(fā)展端、邊、云分布式人工智能計(jì)算技術(shù),在不依賴(lài)于最先進(jìn)的半導(dǎo)體工藝制程的情況下,堅(jiān)持原始創(chuàng)新和自主可控,探索了一條符合中國(guó)國(guó)情的人工智能技術(shù)路線(xiàn)。”
“星光中國(guó)芯工程”總指揮、中國(guó)工程院院士鄧中翰(前排右4),工程副總指揮、中星微技術(shù)CEO張韻東博士(前排左4)及研發(fā)團(tuán)隊(duì)?wèi)c祝“星光智能五號(hào)”單芯片運(yùn)行DeepSeek大模型成功。
訪(fǎng)談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡(jiǎn)稱(chēng)“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿(mǎn)足行業(yè)客戶(hù)的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來(lái)自市場(chǎng) “不確定性”因素的沖擊,市場(chǎng)…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶(hù)服務(wù)之舟,在市場(chǎng)變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國(guó)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…