應(yīng)對(duì)算力需求井噴!上海打造上海市智能算力資源統(tǒng)籌調(diào)度服務(wù)平臺(tái) 支撐大模型與行業(yè)應(yīng)用發(fā)展
原創(chuàng)
2025-03-06 15:33 星期四
科創(chuàng)板日?qǐng)?bào)記者 黃心怡
①上海調(diào)度平臺(tái)將進(jìn)一步降低創(chuàng)新成本,更精準(zhǔn)地把供需雙方進(jìn)行匹配,融合調(diào)度多方的算力資源,來支撐整個(gè)大模型生態(tài)。
②上海儀電已經(jīng)投產(chǎn)了多個(gè)“大規(guī)模、高等級(jí)”萬卡智算集群,后續(xù)將進(jìn)一步擴(kuò)大算力規(guī)模。

《科創(chuàng)板日?qǐng)?bào)》3月5日訊(記者 黃心怡)為降低人工智能中小企業(yè)創(chuàng)新成本,在上海市經(jīng)濟(jì)信息化委指導(dǎo)下,上海儀電將牽頭建設(shè)上海市智能算力資源統(tǒng)籌調(diào)度服務(wù)平臺(tái)(以下簡稱“上海調(diào)度平臺(tái)”),平臺(tái)旨在通過精準(zhǔn)匹配多方供需,融合調(diào)度各方資源,支撐和繁榮上海大模型創(chuàng)新生態(tài)。

上海調(diào)度平臺(tái)將包含算力超市、算力納管、算力融合等主要功能板塊算力超市核心定位為“構(gòu)建算力交易生態(tài),促成供需多邊交易”,包括算力產(chǎn)品商城、算力招標(biāo)市場等兩部分。算力納管核心定位為“匯總監(jiān)測、計(jì)費(fèi)、資源統(tǒng)計(jì)等數(shù)據(jù),實(shí)現(xiàn)算力的統(tǒng)籌調(diào)度”,包括交易直連、監(jiān)控計(jì)費(fèi)數(shù)據(jù)上報(bào)、可視化數(shù)據(jù)分析等三部分。算力融合核心定位為異構(gòu)異域算力資源管理和調(diào)度,包括算力調(diào)度、任務(wù)調(diào)度、算力補(bǔ)貼閉環(huán)管理三部分。

近日,在由上海儀電主辦,上海儀電旗下上海智能算力科技有限公司(以下簡稱“智算科技”)與云賽智聯(lián)股份有限公司聯(lián)合承辦的“智算擎產(chǎn)業(yè)·垂類啟新章”專場活動(dòng)上,上海市智能算力資源統(tǒng)籌調(diào)度服務(wù)平臺(tái)生態(tài)合作伙伴與算力合作伙伴共建簽約儀式順利舉行。智算科技攜手云賽智聯(lián)、無問芯穹、基流科技、庫帕思、硅基流動(dòng)、清程極智、奇岱松、松應(yīng)科技、智能汽車創(chuàng)新發(fā)展平臺(tái)等9家創(chuàng)新企業(yè),進(jìn)行了平臺(tái)生態(tài)合作聯(lián)盟共建簽約。智算科技還攜手上海電信、上海移動(dòng)、上海聯(lián)通、阿里云、商湯科技、碳和科技、上海算豐、世紀(jì)利通等8家算力合作伙伴,進(jìn)行了算力合作伙伴共建簽約。

智算科技總經(jīng)理孫躍對(duì)記者表示,DeepSeek的成功充分體現(xiàn)了創(chuàng)新生態(tài)對(duì)產(chǎn)業(yè)發(fā)展的重要作用。作為國資功能性平臺(tái)企業(yè),智算科技既要支撐好基礎(chǔ)大模型的發(fā)展,也要服務(wù)好中小微企業(yè)和垂類應(yīng)用。統(tǒng)籌全社會(huì)閑散算力資源,以低成本、普惠化算力厚植生態(tài)創(chuàng)新沃土、繁榮大模型創(chuàng)新生態(tài),支撐中小企業(yè)、開源社區(qū)乃至個(gè)人開發(fā)者的研究探索,是上海調(diào)度平臺(tái)的定位?!拔覀?cè)谑薪?jīng)信委等相關(guān)政府職能部門的指導(dǎo)和支持下,進(jìn)一步把算力資源在相對(duì)統(tǒng)一的平臺(tái)上進(jìn)行調(diào)度和資源統(tǒng)籌,進(jìn)一步解決供需匹配問題,提高算力使用的效率、降低企業(yè)創(chuàng)新成本?!?/p>

通用或行業(yè)大模型的研發(fā)訓(xùn)練和部署都離不開大量的算力支撐,但對(duì)于中小企業(yè)和初創(chuàng)企業(yè)來說,這是一筆不小的負(fù)擔(dān)。

“如果能降低企業(yè)算力成本,創(chuàng)新就會(huì)更加活躍。我們希望通過上海調(diào)度平臺(tái)來進(jìn)一步降低創(chuàng)新成本,更精準(zhǔn)地把供需雙方進(jìn)行匹配,融合調(diào)度多方的算力資源,來支撐整個(gè)大模型生態(tài)。這既涉及到算力供給企業(yè),也涉及到參與整個(gè)調(diào)度平臺(tái)的相關(guān)技術(shù)開發(fā)的企業(yè)?!睂O躍稱。

談及大模型所引發(fā)的算力需求風(fēng)暴,孫躍表示,自百模大戰(zhàn)以來,在2023年至2024年,訓(xùn)練算力占據(jù)了算力需求的很大部分。如今,隨著大模型往不同的垂類行業(yè)滲透,推理需求也在快速增長。“這是一個(gè)非常明顯且重要趨勢,像DeepSeek采用自我博弈和多輪強(qiáng)化學(xué)習(xí)實(shí)現(xiàn)自我優(yōu)化,訓(xùn)練過程中間也會(huì)采用很多生成的數(shù)據(jù),導(dǎo)致其在訓(xùn)練過程中也會(huì)用到大量推理算力?!?

春節(jié)期間,DeepSeek在全球范圍內(nèi)迅速爆火出圈,孫躍的一大感受是各個(gè)行業(yè)都在積極接入DeepSeek平臺(tái),進(jìn)一步帶動(dòng)對(duì)推理算力的需求。

“需要指出的是,算力需求本質(zhì)上仍是訓(xùn)推相結(jié)合的市場,而不是簡單地劃分為訓(xùn)練算力和推理算力。訓(xùn)練算力依然有需求。而且從目前的趨勢來看,算力依然是符合scaling law規(guī)則,符合規(guī)模效應(yīng),依然繼續(xù)在增長。但因?yàn)樾袠I(yè)應(yīng)用打開了,會(huì)帶來推理需求的快速增長。”孫躍強(qiáng)調(diào)。

而 Deepseek大模型的成功對(duì)算力并非利空,反而有諸多促進(jìn)算力需求增長的因素。

“DeepSeek擁有非常強(qiáng)的工程能力,確實(shí)提高了算力使用的效率。但前提條件還是必須得有足夠的算力,這樣提升算力效率才有意義。并非DeepSeek大模型出現(xiàn)后,算力就不那么重要了。因此,對(duì)智算中心來說,需要更好地提升整體資源統(tǒng)籌調(diào)度和服務(wù)能力。目前正在做的上海調(diào)度平臺(tái),就是希望把運(yùn)營商、云廠商、其他廠商的算力資源可以運(yùn)用起來,進(jìn)一步提高使用效率,讓供需雙方更好地實(shí)現(xiàn)資源調(diào)配?!睂O躍認(rèn)為。

據(jù)悉,上海儀電已經(jīng)投產(chǎn)了多個(gè)“大規(guī)模、高等級(jí)”萬卡智算集群。談及后續(xù)規(guī)劃,孫躍稱會(huì)進(jìn)一步擴(kuò)大算力規(guī)模?!澳康氖菫榱朔犀F(xiàn)在產(chǎn)業(yè)發(fā)展的趨勢,更好地支撐上海乃至長三角的創(chuàng)新生態(tài),服務(wù)企業(yè)、科研機(jī)構(gòu)的算力需求?!?/p>

image

集群建設(shè)方面,儀電智算云率先實(shí)現(xiàn)了對(duì)國產(chǎn)智算芯片的異構(gòu)納管,全面支持沐曦、壁仞、天數(shù)、華為等智算芯片的軟硬件適配。算力效率方面,支持容器化調(diào)度和大模型自動(dòng)續(xù)訓(xùn),有效訓(xùn)練時(shí)間占比達(dá)99%以上。應(yīng)用部署方面,支撐了階躍星辰Step、書生浦語、商湯日日新、MiniMax ABAB、DeepSeek、Llama3、通義千問等大模型的高效部署和加速,并內(nèi)置“一站式”模型研發(fā)平臺(tái)。

“國產(chǎn)芯片和英偉達(dá)的區(qū)別主要在軟件生態(tài)上。這不光是芯片企業(yè)要努力的,我們也希望發(fā)揮平臺(tái)作用,把上下游軟件和硬件都能夠整合起來,打造一個(gè)全棧的國產(chǎn)生態(tài),更好地服務(wù)大模型行業(yè)?!睂O躍表示。

收藏
68.02W
我要評(píng)論
歡迎您發(fā)表有價(jià)值的評(píng)論,發(fā)布廣告和不和諧的評(píng)論都將會(huì)被刪除,您的賬號(hào)將禁止評(píng)論。
發(fā)表評(píng)論
要聞
股市
關(guān)聯(lián)話題
4.98W 人關(guān)注
1.28W 人關(guān)注
2.09W 人關(guān)注
9783 人關(guān)注