<rp id="pafsa"><tbody id="pafsa"><sup id="pafsa"></sup></tbody></rp>
  • <b id="pafsa"></b>
  • <video id="pafsa"></video>
      <video id="pafsa"><mark id="pafsa"></mark></video>

        <rp id="pafsa"></rp>
              <source id="pafsa"></source>
                <u id="pafsa"></u>
                <tt id="pafsa"></tt>
                  文章正文
                  算力在AI浪潮中的硬核力量,中國智算中心的瓶頸與突破

                  發布時間:2024-10-12

                  中國在用算力中心機架總規模超過830萬標準機架,算力總規模達246Eflops2460萬億次浮點運算,位居世界前列,工業、教育、醫療、能源等多個領域算力應用項目超過1.3萬個。

                  算力規模.png

                  中國信息通信研究院發布的《中國綜合算力指數報告(2024)》顯示,美國和中國算力基礎設施增長居全球前列。我國58.3%的算力中心已連接到國家骨干網,為數據的高效傳輸提供了有力支撐。算力網絡互聯互通水平大幅提升,國家算力樞紐節點已全面實現20毫秒時延保障能力,全國65%的省市可以在5毫秒內接入一個算力數據集群。從省級行政區來看,綜合算力指數排名前10位的依次是河北、廣東、上海、江蘇、北京、浙江、山東、山西、內蒙古和寧夏。其中,北京、上海、廣東和江蘇連續3年躋身前5位。

                  算力進展.jpg

                  算力指數.jpg

                  回顧整個2023年,中國GenAI進入發展元年,模型參數量持續擴大,訓練任務所需單集群規模正從128集群向256集群演進。同時,隨著頭部GenAI產品的落地,智能算力需求爆發式增長。相比于2022年,2023年智算服務市場增長81.6億元人民幣。其中GenAI IaaS市場貢獻59%,智算集成服務市場貢獻38%,Non-GenAI IaaS僅貢獻3%的增量。由于需求的快速變動以及所需基礎設施的投資運營門檻較高,頭部的科技企業更偏愛采用GenAI IaaS服務。

                  Iaas服務商.jpg

                  阿里云

                  無論是訓練還是推理,大模型都離不開云。阿里巴巴集團CEO、阿里云智能集團董事長兼CEO吳泳銘提到,在新增算力市場上,超過50%的新需求由AI驅動產生,AI算力需求已經占據主流地位,這一趨勢還會持續擴大。CPU主導的計算體系正在加速向GPU主導的計算體系轉移,AI計算正在加速滲透千行百業。當前,行業前沿模型訓練計算量每年增長4~5倍,中國AI算力規模2022~2027年復合增長率高達33.9%;模型參數以10倍速增長,模型數據集以50倍速增長,對存力也提出了更高需求。

                   

                  自宣布“AI驅動、公共云優先”以來,阿里云大刀闊斧地進行投入AI基礎設施建設,單網絡集群已拓展至十萬卡級別,正在從芯片、服務器、網絡、存儲到散熱、供電、數據中心等方方面面,重新打造面向未來的AI先進基礎設施。

                   

                  阿里云新上線的磐久AI服務器,支持單機16卡、顯存1.5T,并提供AI算法預測GPU故障,準確率達92%;阿里云ACS首次推出GPU容器算力,通過拓撲感知調度,實現計算親和度和性能的提升;為AI設計的高性能網絡架構HPN7.0,可穩定連接超過10萬個GPU ,模型端到端訓練性能提升10%以上;阿里云CPFS文件存儲,數據吞吐20TB/s,為AI智算提供指數級擴展存儲能力;人工智能平臺PAI,已實現萬卡級別的訓練推理一體化彈性調度,AI算力有效利用率超90%。

                  阿里云.jpg

                  (APSARA云棲大會)


                  商湯

                  全國首個5A級智算中心誕生,在上海自貿區臨港新片區,商湯智算中心通過理論算力、有效算力、算力能效、業務模型場景支持能力、加分項等5個維度的技術評測,獲得5A級智算中心算力性能認證,成為國內智算中心建設的“樣板間”。這個項目一期投資56億元,主要建設園區智算大樓與科研行政大樓,用于AI智算中心平臺硬件搭建、平臺軟件、平臺管理系統和大模型應用等多領域研發。算力為14000 PFLOPS,遠遠超出立項規劃的3740 PFLOPS算力總量。經過持續擴容,算力可支撐超過20個千億參數超大模型同時訓練,并支持萬億參數大模型的全生命周期生成。

                   

                  在硬件技術上,智算中心實現了萬卡的超大集群互聯,并保持90%的加速效率。在訓練穩定性上,具備超30天不間斷訓練AI大模型的能力;出現訓練間斷時,診斷恢復時長已縮短至半小時。

                   

                  在軟件技術上,商湯大裝置與“日日新”大模型體系的集合,重構了算法的供給模式。通過提供“日日新”基礎模型,各行各業的用戶只需在此基礎上進行微調或增量訓練,就可以高效率地開發出符合自身需求的行業模型。這種服務實現了算法的基礎設施化,與算力基礎設施的服務配套,讓國內各種行業大模型的開發更為高效、便捷。

                  商湯臨港智算中心的服務器.jpg

                  (商湯臨港智算中心服務器)

                  不過,國際數據公司(IDC)中國分析師杜昀龍表示“算力需求是很大,只不過現有類型無法滿足用戶需求。無論是適配方面還是性價比角度,都達不到客戶的預期。”

                   

                  ● 如何解決智算中心成本過高的問題?

                  當前,AI大模型服務器算力需求提升,使得智算中心單機柜功率密度大幅度增長。在智算中心的運營上,電費占運營支出的60%以上,有企業測算,馬斯克最近落成的10萬卡AI集群“孟菲斯”一天的耗電,相當于北京東城區一天的電量。電費很大部分來自制冷產生的費用,優化制冷系統,已成為數據中心提高能源效率、降低成本的重要環節。

                   

                  近日,京東云液冷服務器在2024中國算力大會上榮獲“DC Tech 創新先鋒”優秀成果獎,服務器采用EVAC 散熱器及液冷技術,可使散熱效能提升 50%;基于多元供電方案,在單機柜 20KW 的條件下,單機柜功耗 1 年可節省 8500 度電。

                   

                  為應對GPU服務器高功耗、傳統風冷機房改造升級等難題,京東云液冷服務器采用冷板式設計,能夠支持多個平臺的GPU共計 750W的功耗;整機部件采用模塊化設計,靈活支持前置I/O或后置I/O,免工具維護,能夠直接替換標準散熱器,同時支持整機柜部署和傳統機柜部署。液冷服務器已經成為智算中心內名副其實的節能降耗利器。

                  京東云.png

                  ● 智算中心如何由“量”轉“質”

                  高質量算力不能只關注芯片,還應從系統角度綜合考慮滿足實際應用。國家信息中心信息化和產業發展部主任單志廣就提醒稱,在一體化構建算力體系過程中,要避免重建設、輕需求,應以應用為導向,提高整個算力中心的利用度。

                   

                  中國信息通信研究院云計算與大數據研究所總工程師郭亮稱,“建設智算中心需要‘適度超前’,結合當地實際需求做整體的分析和預判。”

                   

                  北電數智戰略與市場負責人楊震表示,“長遠來看,‘以終為始’地打造一個健康良性的智算中心商業閉環,或是更為關鍵和有效的方式。”如何以終為始打造智算中心的商業閉環,本質上還是發掘人工智能的應用場景,實現當地產業或企業智能化轉型升級。比如,地方政府最初可把自身一些數據、場景釋放出來,形成一些人工智能標桿,再進一步與當地產業、頭部企業結合,將雪球越滾越大。

                   

                  綜上所述,中國算力產業在基礎設施、技術創新以及產業應用上取得了長足的進步,但也面臨著運營成本高、資源利用率不均衡等挑戰。未來,智算中心的建設不僅要追求算力規模的擴展,還應注重系統性優化和應用導向。只有這樣,算力基礎設施才能在支持各行各業數字化轉型中發揮更大作用,助力中國在全球科技創新競爭中取得更為顯著的領先地位。

                   

                  AI美圖

                  AI圖2.png



                  • 觀眾報名
                  • 申請展位
                  展會資訊更多 >>

                  2025,與世界智聯網創新聯盟(WAIA)一起邁向全球化!

                  喜報!!IOTE物聯網展入選-國內“粵貿全國”系列展會!

                  短距+廣域雙引擎,引爆通信萬億市場!

                  定檔深圳8月,IoT+AI+商顯三展聯動,激發巨量生態活力!

                  IOTE 2025年度主題: 生態智能,物聯全球!

                  展商資訊更多 >>

                  并行科技邀您共聚2024AGIC深圳(國際)通用人工智能產業博覽會

                  領馭科技將亮相AGIC深圳(國際)通用人工智能產業博覽會,“瀚鵬AI”打造企業新質生產力

                  【IOTE】專注大中功率RFID讀寫器的推廣—上海舜識將亮相IOTE國際物聯網展

                  【IOTE】RFID智能硬件識別解決方案商—瑞弗艾迪將亮相IOTE國際物聯網展

                  【IOTE】國內定制化物聯設備與特種電子標簽先驅品牌——鼎界物聯將亮相IOTE國際物聯網展

                  【IOTE】物聯網應用專家—羅維尼科技將亮相IOTE國際物聯網展

                  【IOTE】平頭哥邀你相聚2024IOTE國際物聯網展·深圳站

                  【IOTE】以位置服務為中心的物聯網芯片及解決方案供應商—芯與物將亮相IOTE國際物聯網展

                  【IOTE】專業天線服務廠商,一站式RFID方案解決商-東振技術將亮相IOTE國際物聯網展

                  【IOTE】致力于有機半導體材料和器件的研發與商業化—追光科技將亮相IOTE國際物聯網展

                  行業資訊更多 >>

                  四千萬RFID車牌訂單被兩個上市公司瓜分,海康威視落選!

                  移遠、廣和通帶頭沖鋒!6家蜂窩模組廠出海情況一覽

                  華為小米聯手投資!這家芯片企業再闖IPO

                  AI藝術家年入千萬,打工人流下羨慕的淚水

                  你的隊友可能不是人!網易攜手百度用AI對旗下游戲進行實驗

                  將投入千萬補貼與百億基金,深圳AI產業政策重磅落地!附《深圳市打造人工智能先鋒城市的若干措施》

                  深圳政策:超常規力度支持AI產業!

                  支付寶「碰一下」大補貼時代,NFC、Cat.1或成為受益方!

                  機器狗國產化來襲,出現移遠、鼎橋身影!

                  如何在現有市場進行拓展,這家企業推動電子紙成為最佳顯示器!

                  粵ICP備05006090號-11 版權所有?IOTE 物聯網展始于2009 | 深圳市物聯傳媒有限公司
                  首頁 觀眾報名
                  關于展會
                  聯系我們

                  微信掃碼
                  注冊展會VIP觀眾

                  服務熱線

                  18676385933

                  在線咨詢

                  回到頂部

                  <rp id="pafsa"><tbody id="pafsa"><sup id="pafsa"></sup></tbody></rp>
                1. <b id="pafsa"></b>
                2. <video id="pafsa"></video>
                    <video id="pafsa"><mark id="pafsa"></mark></video>

                      <rp id="pafsa"></rp>
                            <source id="pafsa"></source>
                              <u id="pafsa"></u>
                              <tt id="pafsa"></tt>
                                天堂社区