原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502180.shtm
數智時代,我國算力產業規模有多大?按工業和信息化部最新統計,截至2022年底,我國算力總規模達到180EFlops(百億億次浮點運算/秒),僅次于美國,排名全球第二。
然而,坐擁全球第二大規模的算力,我國計算產業依然面臨著巨大挑戰。特別是當 ChatGPT引爆了人工智能應用對算力新的需求之后。
“當前算力的發展不能滿足神經網絡模型增長(對計算)的需求。”日前,在天津舉行的中國計算產業生態發展高峰論壇上,中國科學院軟件研究所所長趙琛表示,智能物聯時代,算力的實際發展與時代對算力的巨大需求之間存在著巨大差距。尤其在“后摩爾定律時代”,如何補足算力需求,是當前亟需應對的重大命題。
?
算力焦慮,時代挑戰
最近,人工智能明星公司OpenAI根據近年來的實際數據進行擬合,發現最先進AI模型的計算量每3.4個月翻一番,約合每年增長10倍——這一數據比“每2年增長一倍”的摩爾定律快得多。
OpenAI稱,按照摩爾定律,從2012年至今,芯片算力只增長了7倍;而在這7年間,人工智能應用對算力的需求增長了30萬倍。
不僅如此,趙琛說,算力的內涵不僅僅指運算,還包括存儲、帶寬、軟件等。他指出,大語言模型GPT從1.0版本到4.0版本,系統對存儲量的需求是指數級的,約合每兩年增長240倍,而實際存儲產品的增速遠不及此;網絡帶寬經過近20年的發展,也只有約30倍的增長。
該如何解決或緩解算力焦慮?
“我們一個觀點是,在后摩爾定律時代,要把算力從軟件、硬件結合起來考慮,提供整個的計算系統性能。”他說:“這需要許多學科的參與,基本上,所有軟件學科都能夠為算力性能提升作出貢獻。”
對此,曙光信息產業股份有限公司總裁歷軍表示,面對日益復雜的應用場景、海量的數據處理和隨之而來安全問題,如何以市場需求為導向進行軟硬協同與技術突破、模式創新與資源整合,正成為產業鏈上下游共同面臨的課題。
打破壟斷,以迎拐點
作為推開數智化大門的支撐力量,算力的基礎地位不容置疑。然而,面對日益嚴峻的外部環境,中國算力的發展,未來恐怕要更多向自己要答案。
“目前整個計算產業,無論算力端還是存力端,這些年來國外廠商幾乎形成壟斷,行業集中度非常高。”中國科學院微電子研究所副所長曹立強在論壇上表示,國內市場需要國內的計算芯片企業、存儲技術廠商發力,大家一道通過新型舉國體制建設產業生態、完善系統布局,從而打破國外壟斷的局面,迎來國內計算產業拐點。
但這件事情并不那么容易。中國科學院計算技術研究所研究員譚光明談道,國際先進芯片不僅是“市場霸主”,更是“生態霸主”——例如英偉達依靠并行計算架構 CUDA 打造了GPU從部署到應用的護城河,依靠軟硬結合壟斷了應用和用戶。
“國內的芯片生態還處于‘諸侯爭霸’的階段,有點各自為政,沒有考慮太多生態層面的問題,比如軟件、編程框架、模型編輯器等等怎么協同發展。”譚光明認為,國產芯片雖然已有長時期的發展,但還是要認識到,我們在性能上和生態上的巨大的差距和瓶頸——尤其當下硬件行業呈碎片化發展,各類芯片各自為政,若沒有生態支撐,“編程墻”(或稱“程序表達墻”)和“性能墻”的問題將難以逾越。
“怎么樣解決這個問題?能不能大家形成利益共同體解決這個問題?我想這是要考慮的兩個挑戰。”譚光明說。
值得一提的是,高峰論壇上到場芯片企業均表示,愿意參與建立軟硬協同的技術共享平臺,以期“一起打造國內的算力、存儲、網絡等的IT底座,做出更適應中國市場需求的產品”。
開放通用,合作共贏
“開放協作”,是此次高峰論壇上專家學者提及最多的詞匯。
譚光明把國產芯片面臨的問題歸結為“編程墻”和“性能墻”,認為這兩大難題的真正原因,就在于國內沒有統一的生態標準,導致無法以通用的框架和技術解決軟硬件協同優化的問題。
“采用中立可控的開放生態,可以解決‘編程墻’的問題;而要解決‘性能墻’層面的重要工作,是要開發通用的優化技術,把原來需要一對一的定制化優化,變成可以智能化的行為。”譚光明說,現階段,國產芯片無論設計、生產制造,與國外先進水平相比都處于追趕狀態,但在突破這些之前,“唯一的解決方案就是采用軟硬件協同設計的思路去解決問題”。
譚光明舉例說,比如,以深度學習為框架的算力統一接口,就需要一個聯盟——包括處理器廠商、終端設備、用戶在一起討論,怎么定義這樣的接口。
趙琛則以開源芯片指令集RISC-V為例談到,此前軟硬件的協同發展,實際上是軟件跟著硬件的技術路線走;未來隨著應用場景的變化,這一趨勢可能會倒過來。“大的趨勢叫作計算定制——計算體系結構的定制、開源軟件供應鏈針對不同場景的定制等等。”
開放指令集標準一直是缺失的,直到RISC-V的出現。“RISC-V可以一體考慮人工智能的智能計算需求和物聯網算力的需求,并在統一架構上用擴展指令集的方式解決算力不足的問題。”趙琛說,解決算力不足,軟硬協同是非常重要的事情,且軟硬生態的深度融合也會反哺國內芯片產業。
山西大學智能信息處理研究所團隊在圖神經網絡研究方面取得重要進展,相關成果5月23日發表于人工智能領域國際期刊《IEEE模式分析與機器智能學報》(IEEETransactionsonPatternAna......
原文地址:http://news.sciencenet.cn/htmlnews/2024/10/531421.shtm10月11日,科幻電影《749局》科影融合特別場在京舉行。電影主創團隊與科技領域相......
10月11日,甘肅省迎來了職業教育領域的一個重要里程碑——甘肅林業職業技術大學正式揭牌成立。這一歷史性時刻標志著歷經六十八載發展的甘肅省唯一一所林業類高等院校,正式邁入了本科教育的新階段,開啟了新的征......
”標志性科考活動獲系列重大突破 “第二次青藏科考標志性科考活動守護水塔‘一原兩湖三江’科考主體任務已經基本完成,這次科考從天到地、從冰到水取得了全方位的進展。”第二次青藏科考隊隊長、中國科學......
關于確定2024年國家環境健康管理試點名單的通知北京市、河北省、內蒙古自治區、遼寧省、黑龍江省、江蘇省、浙江省、江西省、山東省、湖北省、湖南省、廣東省、重慶市、四川省、貴州省、陜西省、青海省生態環境廳......
10月8日,華中農業大學果蔬園藝作物種質創新與利用全國重點實驗室、藥用植物資源可持續利用團隊梅之南教授和楊慶勇教授課題組,發布了首個專門面向菊科植物的多組學數據庫平臺——AsteraceaeMulti......
實驗桌上堆放著精密儀器和焊接工具,電腦上是正在運行的電路圖,一頁頁寫滿了數據、畫滿了圖樣的紙張在桌面鋪開,各式或大或小的電子元件前,南京郵電大學工程實驗教學部創新中心副主任郝學元正在埋首研制電工電子實......
近日,記者從中國計量大學獲悉,該校生命科學學院蜜蜂與蜂產品學研究團隊主持的兩項推薦性國家標準《GB/T44349-2024 蜂花粉總多酚的檢測福林酚試劑比色法》和《GB/T44350-202......
10月10日,由廣東省機械行業協會組織并主持召開的“面向軟性物料的多級賦碼追溯柔性包裝生產線研制與應用”項目科技成果鑒定會議在廣東佛山舉行。經專家鑒定,該項目成果總體技術水平達到國際先進水平。記者獲悉......
近日,中國熱帶農業科學院橡膠研究所組培與轉基因團隊在全球率先獲得了橡膠樹CRISPR/Cas9純合基因編輯橡膠苗。相關研究成果在線發表于《經濟作物和產品》(IndustrialCropsandProd......