您現在的位置:首頁(yè) > 經(jīng)濟 > 正文

國內前列!移動(dòng)云智算管控平臺上線(xiàn)

時(shí)間:2024-06-04 10:18:49    來(lái)源:今日熱點(diǎn)網(wǎng)    

5月31日,全新智算管控平臺在中國移動(dòng)智算中心(呼和浩特)上線(xiàn)。移動(dòng)云智算管控平臺專(zhuān)注提升智算中心AI業(yè)務(wù)穩定性和運行效率,打造了智算集群端網(wǎng)一體化性能監控與調優(yōu)工具鏈能力,實(shí)現了對AI訓練任務(wù)全面可視、可管的監控管理,能夠做到訓前集群健康狀態(tài)一站式檢查、訓中任務(wù)粒度的實(shí)時(shí)監控、訓后故障快速定位恢復。

隨著(zhù)大模型參數從千億增至萬(wàn)億,并從單模態(tài)擴展至多模態(tài),所需的算力集群規模也從千卡躍升至萬(wàn)卡級別,隨之而來(lái)的模型訓練穩定性降低和成本增加的問(wèn)題日益凸顯。

移動(dòng)云智算管控平臺通過(guò)健康巡檢一鍵化、訓練任務(wù)可視化、故障診斷專(zhuān)家化等核心優(yōu)勢,有效提升訓練穩定性、降低訓練成本,為大模型訓練保駕護航。

IMG_257

大幅提升穩定性

全生命周期守護大模型訓練

千卡/萬(wàn)卡級別的算力集群匯聚了數百萬(wàn)個(gè)器件,其訓練過(guò)程中任何單一器件故障都極易造成整個(gè)模型訓練的中斷。據統計,由于故障頻發(fā),大模型的實(shí)際有效訓練時(shí)間僅達到30%至50%。

移動(dòng)云智算管控平臺可大幅提升訓練任務(wù)穩定性,在中國移動(dòng)內部大模型訓練中成功保障千卡集群穩定運行20天以上,處于國內前列。

移動(dòng)云智算管控平臺具備健康巡檢一鍵化、訓練任務(wù)可視化的核心優(yōu)勢,全程護航大模型穩定訓練。

健康巡檢一鍵化:

平臺共計提供100+健康檢查項,覆蓋端網(wǎng)一體的一鍵健康檢查,涵蓋全量及單模塊監測,支持訓前、訓中、訓后的全生命周期健康檢查和性能分析。實(shí)現故障節點(diǎn)的快速感知優(yōu)化,提升訓練任務(wù)成功率。

IMG_258

訓練任務(wù)可視化:

平臺打造了AI訓練任務(wù)的監管視圖,能夠可視化展示任務(wù)訓練進(jìn)度、訓練關(guān)鍵指標,具備秒級時(shí)延的異常感知和上報能力,觸發(fā)任務(wù)訓練平臺的斷點(diǎn)續訓。

IMG_259

有效降低成本

構建豐富的智算調優(yōu)知識儲備

基礎大模型的訓練周期往往長(cháng)達數月,而業(yè)界大模型穩定訓練平均時(shí)長(cháng)僅達到天級。由于故障模式復雜多樣,難以迅速定位與界定,每次故障修復耗時(shí)可能長(cháng)達1至30天;且算力資源較為昂貴,一個(gè)萬(wàn)卡集群的閑置損失將超過(guò)300萬(wàn)元/天。

移動(dòng)云智算管控平臺不僅能夠提升大模型訓練穩定性、降低故障頻次,還具備故障診斷專(zhuān)家化的突出優(yōu)勢。

故障診斷專(zhuān)家化

平臺精心構建專(zhuān)家知識庫,深度整合了數百位訓練調優(yōu)專(zhuān)家的實(shí)戰經(jīng)驗,打通英偉達、昇騰等廠(chǎng)商開(kāi)源生態(tài)的知識數據,通過(guò)實(shí)現故障的高效定位,達到 90%的故障快速恢復,將訓練成本降低三分之一。

IMG_260

一直以來(lái),移動(dòng)云持續攻堅智算領(lǐng)域關(guān)鍵核心技術(shù)、為我國人工智能產(chǎn)業(yè)發(fā)展構筑強大數字底座。移動(dòng)云以大算力賦能大模型,規劃“N+X”大規模智算基礎設施體系,全網(wǎng)智算規模達到17EFLOPS(FP16)。其中,在呼和浩特投產(chǎn)的全球運營(yíng)商最大單體液冷智算中心,曾入選2023年度央企十大超級工程。同時(shí),打造涵蓋IaaS/PaaS/MaaS/SaaS的全棧智算產(chǎn)品體系,為不同行業(yè)提供便捷高效的一體化算網(wǎng)服務(wù)。

未來(lái),移動(dòng)云將繼續強化智算布局,深化技術(shù)研發(fā)與應用創(chuàng )新,為新質(zhì)生產(chǎn)力發(fā)展貢獻力量。


關(guān)鍵詞:

凡本網(wǎng)注明“XXX(非中國微山網(wǎng))提供”的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和其真實(shí)性負責。

特別關(guān)注