中國(guó)大模型要用Infra“降本增效”
今年7月世界人工智能大會(huì)（WAIC）召開(kāi)前一天，上海浦東的一家酒店里一場(chǎng)關(guān)于AI算力芯片的企業(yè)會(huì)議上，有兩家同樣做AI Infra技術(shù)的公司高管亮相，引發(fā)關(guān)注。
盡管他們彼此是競(jìng)爭(zhēng)對(duì)手，但此次共同目標(biāo)，是爭(zhēng)奪這家 AI 芯片企業(yè)的合作訂單。據(jù)鈦媒體App了解到，其中一家AI Infra公司的CEO在得知對(duì)手將出席此次會(huì)議后，立即與主辦方溝通，希望增加一個(gè)演講名額，并特意從北京海淀飛赴上海，在數(shù)百位媒體和合作伙伴面前進(jìn)行該公司成立半年多來(lái)的首次公開(kāi)演講。
最終，這位CEO的努力得到了回報(bào)，他不僅成功贏得與該客戶(hù)的合作，還在短短三天后WAIC一場(chǎng)AI算力發(fā)布會(huì)上，順利拿下了與另一家AI算力企業(yè)的合作許可，成果豐碩。
這是國(guó)內(nèi)AI Infra行業(yè)激烈競(jìng)爭(zhēng)的一個(gè)縮影。
所謂AI Infra，定位于算力與應(yīng)用之間的“橋梁”角色的基礎(chǔ)軟件設(shè)施層，主要利用AI/GPU芯片的算力中心和算力云等的推理、訓(xùn)練形式，為AI大模型應(yīng)用提供軟件系統(tǒng)、數(shù)據(jù)存儲(chǔ)和處理、網(wǎng)絡(luò)設(shè)施等技術(shù)，解決美國(guó)對(duì)華高端 AI 算力限制下模型斷訓(xùn)、英偉達(dá)與國(guó)產(chǎn)算力之間解耦等計(jì)算、存儲(chǔ)和通訊網(wǎng)絡(luò)難題。
當(dāng)前AI算力緊缺、美國(guó)英偉達(dá)GPU對(duì)華限制、模型成本“降本增效”等因素下，興起不足一年的AI Infra行業(yè)已經(jīng)成為中國(guó) AI 大模型產(chǎn)業(yè)不可缺少的關(guān)鍵一環(huán)，也是與美國(guó) AI 市場(chǎng)之間“別樹(shù)一幟”的特色，因?yàn)楣韫群苌儆谐賰|估值規(guī)模的純AI Infra公司。
中金公司指出，目前AI Infra產(chǎn)業(yè)處于高速增長(zhǎng)的發(fā)展早期，未來(lái)3-5年內(nèi)各細(xì)分賽道有望保持超過(guò)30%的高速增長(zhǎng)。而基金管理機(jī)構(gòu)KKR&Co.數(shù)據(jù)顯示，隨著AI算力需求增長(zhǎng)，全球數(shù)據(jù)中心投資有望達(dá)到每年2500億美元（約合人民幣1.9萬(wàn)億元）。
另?yè)?jù)紅杉資本、貝恩等機(jī)構(gòu)統(tǒng)計(jì)，預(yù)計(jì)到2027年，全球AI市場(chǎng)規(guī)模將飆升至近1萬(wàn)億美元，AI硬件和服務(wù)市場(chǎng)年增長(zhǎng)率達(dá)40%-55%。在這其中，全球會(huì)有超過(guò)4萬(wàn)億元人民幣（6000億美金）投資到 AI 基礎(chǔ)設(shè)施層，生成式 AI 計(jì)算規(guī)模增長(zhǎng)至109.9億美元，模型訓(xùn)練成本每年增長(zhǎng)240%（2.4倍）以上。
過(guò)去12個(gè)月內(nèi)，AI Infra已成為熱門(mén)賽道。阿里、百度百舸、字節(jié)火山引擎等公司都在發(fā)力AI Infra技術(shù)產(chǎn)品；7月，AI Infra公司硅基流動(dòng)（SiliconFlow）完成總金額近億元人民幣的天使+輪融資，智譜AI、360、水木清華校友基金、耀途資本等機(jī)構(gòu)參與；9月，無(wú)問(wèn)芯穹完成近5億元A輪融資，成立16個(gè)月內(nèi)累計(jì)已完成近10億元融資，投資方名單相當(dāng)豪華——社保基金中關(guān)村自主創(chuàng)新專(zhuān)項(xiàng)基金、啟明創(chuàng)投、聯(lián)想創(chuàng)投等超過(guò)46家機(jī)構(gòu)和實(shí)體。
無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人、CEO夏立雪此前對(duì)鈦媒體App表示，在一個(gè)互聯(lián)網(wǎng)客戶(hù)大模型推理的業(yè)務(wù)場(chǎng)景中，無(wú)問(wèn)芯穹將整體算力使用效率提升了90%，有效地解決了客戶(hù)大模型業(yè)務(wù)中算力成本的問(wèn)題，幫助業(yè)務(wù)伙伴實(shí)現(xiàn)算力成本的大幅下降。他指出，“我們認(rèn)為（公司未來(lái)）3-5年內(nèi)肯定能夠規(guī)模化地實(shí)現(xiàn)利潤(rùn)”。
超40億美金算力做ChatGPT，算力爭(zhēng)奪戰(zhàn)一觸即發(fā)
經(jīng)過(guò)60多年的發(fā)展，AI 技術(shù)改變了設(shè)計(jì)、教學(xué)、駕駛、醫(yī)療，甚至是GPU顯卡的價(jià)格。
隨著新一輪 AI 熱潮下，作為AI三要素之一，算力已經(jīng)成為國(guó)家間競(jìng)爭(zhēng)力，具有重大戰(zhàn)略性意義。而算力需要與芯片、基礎(chǔ)設(shè)施、數(shù)據(jù)三大要素緊密結(jié)合：芯片是算力的決定性因素，中央處理器(CPU)、圖形處理器(GPU)、存儲(chǔ)半導(dǎo)體等芯片尤為重要，決定了計(jì)算能力的強(qiáng)弱；5G網(wǎng)絡(luò)、數(shù)據(jù)中心、云計(jì)算集群、超級(jí)計(jì)算機(jī)等基礎(chǔ)設(shè)施是推動(dòng)算力發(fā)展因素；數(shù)據(jù)價(jià)值則是算力存在與發(fā)展的終極意義。
在Scaling Laws（縮放定律）指引下，投入模型的計(jì)算資源和數(shù)據(jù)量越大，模型的能力就越強(qiáng)。過(guò)去十多年中，計(jì)算資源和數(shù)據(jù)的規(guī)模呈現(xiàn)出指數(shù)級(jí)增長(zhǎng)，這也是AI重新進(jìn)入公眾視野的原因。下面列出的幾組數(shù)據(jù)，很明顯說(shuō)明 AI 大模型規(guī)模與算力基礎(chǔ)設(shè)施成本之間的鴻溝：
1、美國(guó)OpenAI公司開(kāi)發(fā)的GPT 1.0版本參數(shù)量1.7億，而GPT-4版參數(shù)量可能已經(jīng)超過(guò)1萬(wàn)億，增長(zhǎng)速度驚人；
2、而GPT-3.5在微軟云Azure AI超算基礎(chǔ)設(shè)施上進(jìn)行訓(xùn)練，總算力消耗約3640PFlops-days(即按每秒一千萬(wàn)億次計(jì)算，需運(yùn)行3640天)；
3、算力成本當(dāng)中，一顆臺(tái)積電量產(chǎn)的3nm芯片成本超過(guò)2萬(wàn)美金；
4、一個(gè)8卡的英偉達(dá)A100價(jià)格已超過(guò)25億美金；
5、2023年1月，ChatGPT使用近3萬(wàn)顆英偉達(dá)高端GPU來(lái)處理數(shù)億個(gè)日常用戶(hù)請(qǐng)求，此類(lèi)GPU的單個(gè)售價(jià)就已高達(dá)數(shù)萬(wàn)美元，微軟旗下由GPT模型支持的新Bing AI聊天機(jī)器人，僅在算力基礎(chǔ)設(shè)施搭建環(huán)節(jié)就花費(fèi)至少40億美元，這一數(shù)額甚至超過(guò)了南蘇丹一國(guó)的GDP（國(guó)內(nèi)生產(chǎn)總值）。如今GPT-5預(yù)計(jì)要用超過(guò)10萬(wàn)卡集群設(shè)施。
由此可見(jiàn)，隨著AI大模型數(shù)據(jù)量規(guī)模增加，算力需求日益旺盛，但 AI 芯片成本高居不下。4萬(wàn)億美金AI算力規(guī)模投入的背后，算力發(fā)展分化與鴻溝問(wèn)題不斷顯現(xiàn)。
據(jù)字節(jié)跳動(dòng)公開(kāi)的萬(wàn)卡集群大模型訓(xùn)練架構(gòu)MegaScale的數(shù)據(jù)，訓(xùn)練擁有1750億參數(shù)的大模型需要在千卡集群上訓(xùn)練接近20天或者萬(wàn)卡集群上訓(xùn)練近2天，按照GPU使用機(jī)時(shí)計(jì)算，單次訓(xùn)練費(fèi)用超過(guò)200萬(wàn)元，其算力利用率僅約為50%-60%。
模型大、算力利用率低、投入成本卻高達(dá)百萬(wàn)至千萬(wàn)元以上，這成為當(dāng)下 AI 算力現(xiàn)狀。
正如百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖所說(shuō)，隨著 AI 應(yīng)用爆發(fā)式的增長(zhǎng)，模型訓(xùn)練和推理的需求也在大幅提升，算力成本和使用效率這兩個(gè)指標(biāo)就變得至關(guān)重要，直接影響模型能力升級(jí)和 AI 應(yīng)用大規(guī)模落地的速度。
中國(guó)的 AI 算力不僅獲取成本高昂，而且“東數(shù)西算”導(dǎo)致算力訓(xùn)練慢、且部分GPU芯片長(zhǎng)期處于限制狀態(tài)，因此，提升算力利用率成為了有效提升大模型性能和降低成本的關(guān)鍵，這也是AI Infra存在的根本意義——面向上下游，AI infra把各類(lèi)模型同各種芯片解耦適配，一方面減少算力資源閑置現(xiàn)象，另一方面則實(shí)現(xiàn)模型發(fā)展的“提速降本”。
“對(duì)于AI Infra，作用就是解決其應(yīng)用開(kāi)發(fā)的上手門(mén)檻，以及大規(guī)模部署時(shí)的使用成本。特別是我們知道有一個(gè)階段是算力緊缺，算力資源相對(duì)緊缺且昂貴，有的應(yīng)用開(kāi)發(fā)者即便對(duì)推廣產(chǎn)品很有興趣，也會(huì)因?yàn)槌杀具^(guò)高而卻步。我們正是解決了這些問(wèn)題，幫助用戶(hù)在使用Token時(shí)不再為價(jià)格擔(dān)憂(yōu)，實(shí)現(xiàn)更快、更低成本的操作，這就是AI Infra帶來(lái)的價(jià)值所在。”硅基流動(dòng)創(chuàng)始人、CEO袁進(jìn)輝最近在一場(chǎng)論壇上這樣說(shuō)AI Infra作用。
從產(chǎn)品層面，多名阿里云技術(shù)人員在演講中提到，數(shù)據(jù)墻、內(nèi)存墻、Scaling集群擴(kuò)展、光互連等問(wèn)題，都是需要AI Infra解決的。用更加易懂的語(yǔ)言說(shuō)，AI Infra就是對(duì)標(biāo)英偉達(dá)CUDA + NVIDIA DGX SuperCloud的一種綜合性服務(wù)。
中金公司在研報(bào)中指出，AI Infra是AI產(chǎn)業(yè)必不可少的基礎(chǔ)軟件堆棧，“掘金賣(mài)鏟”邏輯強(qiáng)、商業(yè)潛質(zhì)高。其中，AI Infra基礎(chǔ)軟件工具有較高的商業(yè)化潛力。
大體來(lái)說(shuō)，AI 算力包括訓(xùn)練、推理兩個(gè)環(huán)節(jié)。目前各家提供的AI Infra方案各不相同，如阿里、百度、字節(jié)自身都擁有多種算力和服務(wù)器產(chǎn)品，所以其AI Infra技術(shù)更多是內(nèi)部使用；而無(wú)問(wèn)芯穹、硅基流動(dòng)、清程極智這類(lèi)初創(chuàng)公司更多是服務(wù)于芯片和算力中心方，以及模型應(yīng)用層，提供系統(tǒng)和算力結(jié)構(gòu)性服務(wù)。
以阿里云為例。
阿里云的服務(wù)器擁有英偉達(dá)、AMD、英特爾、倚天等多種芯片算力，因此，阿里云也構(gòu)建了Al Infra，名為磐久Al Infra 2.0服務(wù)器，且內(nèi)置ALS（ALink System）。阿里云CTO周靖人曾透露，其磐久AI服務(wù)器提供AI算法預(yù)測(cè)GPU故障，準(zhǔn)確率達(dá)92%，并且穩(wěn)定連接超過(guò)10萬(wàn)個(gè)GPU，模型端到端訓(xùn)練性能提升10%以上，其人工智能平臺(tái)PAI，已實(shí)現(xiàn)萬(wàn)卡級(jí)別的訓(xùn)練推理一體化彈性調(diào)度，AI算力有效利用率超90%，從而促使基礎(chǔ)大模型降價(jià)，讓更多人使用通義模型技術(shù)和阿里云計(jì)算服務(wù)，通義千問(wèn)三款主力模型最高降幅85%。
除了阿里云，百度智能云則提供百舸AI異構(gòu)計(jì)算平臺(tái)，即基于AI Infra技術(shù)的云計(jì)算平臺(tái)，其將支持多芯混訓(xùn)、多芯適配，在萬(wàn)卡集群上實(shí)現(xiàn)了超過(guò)99.5%的有效訓(xùn)練時(shí)長(zhǎng)，而萬(wàn)卡集群運(yùn)行準(zhǔn)備時(shí)間也從數(shù)周縮減至1小時(shí)；字節(jié)的火山引擎則擁有AI 全棧云，支持多芯、多云架構(gòu)，支持萬(wàn)卡集群組網(wǎng)、萬(wàn)億參數(shù)MoE大模型，時(shí)延優(yōu)化最高達(dá)75%，文件存儲(chǔ)vePFS支持2TB/s吞吐并行存儲(chǔ)、自研 mGPU 容器共享方案，GPU 利用率提升100%以上。
另外，相對(duì)于阿里、字節(jié)這些互聯(lián)網(wǎng)大廠(chǎng)，AI Infra初創(chuàng)公司領(lǐng)域則更細(xì)分，經(jīng)鈦媒體App統(tǒng)計(jì)，這些AI Infra公司主要提供三類(lèi)方案：
一是通過(guò)類(lèi)似MaaS（模型即服務(wù)）軟件解決方案提供給模型方，或與算力集群一同提供項(xiàng)目制合作后分成，后者回款更慢；（這寫(xiě)的偏簡(jiǎn)略易懂，實(shí)際要更為復(fù)雜）
二是提供租用算力云和模型API平臺(tái)，利用多元異構(gòu)算力提供一個(gè)平臺(tái)的個(gè)性算力和模型服務(wù)，能夠解決部分中小開(kāi)發(fā)者成本低、算力性能要求高、但場(chǎng)景單一這類(lèi)需求，無(wú)問(wèn)芯穹、硅基流動(dòng)、清程極智都已提供相關(guān)平臺(tái)服務(wù)；
三是提供芯片+軟件的端到端方案；比如，無(wú)問(wèn)芯穹正量產(chǎn)無(wú)穹LPU專(zhuān)用算力，主要解決端側(cè)模型推理，那么未來(lái)，AI Infra公司利用芯片硬件+自身軟件平臺(tái)，可以提供智能硬件、自動(dòng)駕駛、手機(jī)和PC等端側(cè)場(chǎng)景的算力模型服務(wù)。
如無(wú)問(wèn)芯穹，其主要提供基于多元芯片算力底座打造出Infini-AI異構(gòu)云平臺(tái)，包含一站式AI平臺(tái)（AIStudio）和大模型服務(wù)平臺(tái)；硅基流動(dòng)則提供高性?xún)r(jià)比的GenAI云服務(wù)SiliconCloud、高性能大模型推理引擎SiliconLLM、OneDiff高性能圖像生成引擎。
然而目前，全球能夠完整提供 AI 算力服務(wù)、且做到最好的公司，只有全球科技巨頭英偉達(dá)（NVIDIA），主要因?yàn)锳100、H100是全功能GPU處理器，且能利用CUDA軟件同時(shí)提供AI大模型算力推理、訓(xùn)練服務(wù)。因此，國(guó)內(nèi) AI Infra技術(shù)和商業(yè)化規(guī)模遠(yuǎn)低于英偉達(dá)。
“作為一家創(chuàng)業(yè)公司，技術(shù)只是產(chǎn)品中的一個(gè)要素，我現(xiàn)在理解的是一切都要服務(wù)于商業(yè)化。”袁進(jìn)輝這句話(huà)點(diǎn)明了 AI Infra的實(shí)質(zhì)，這個(gè)行業(yè)需有市場(chǎng)需求、有技術(shù)壁壘、有行業(yè)盈利方案。
袁進(jìn)輝表示，從軟件產(chǎn)品來(lái)看，以前有數(shù)據(jù)庫(kù)、操作系統(tǒng)、大數(shù)據(jù)系統(tǒng)，到今天出現(xiàn)了AI Cloud，“這是我在這方面的理解，工程細(xì)節(jié)繁多和工程量大不是劣勢(shì)，反而可能成為標(biāo)準(zhǔn)化產(chǎn)品的壁壘。”
而美國(guó)擁有together.ai, fireworks.ai 等AI Infra公司，主要服務(wù)微軟、亞馬遜、戴爾等大互聯(lián)網(wǎng)廠(chǎng)商。
無(wú)問(wèn)芯穹是國(guó)內(nèi)少數(shù)選擇異構(gòu)混訓(xùn)這條路徑的創(chuàng)企，主要通過(guò)異構(gòu)多種GPU卡來(lái)同時(shí)混訓(xùn)一個(gè)大模型，地方政府、大模型廠(chǎng)商和偏研究型的單位都有這方面需求。目前無(wú)問(wèn)芯穹擁有英偉達(dá)、AMD加上國(guó)產(chǎn)卡共六種芯片，任意兩種都能組合訓(xùn)練，在百卡和千卡這個(gè)級(jí)別都已經(jīng)完成混訓(xùn)，整體效率高達(dá)97.6%。
今年9月，夏立雪對(duì)鈦媒體App表示，異構(gòu)混訓(xùn)的難點(diǎn)主要在于，不同的芯片之間有不同的算子庫(kù)， GPU 性能如何預(yù)測(cè)，任務(wù)怎樣拆分讓不同硬件各司其職，同時(shí)，怎樣在通信上實(shí)現(xiàn)較好地協(xié)調(diào)以及打通通信庫(kù)等多種問(wèn)題。而無(wú)問(wèn)芯穹的初心是解決國(guó)內(nèi)算力不足的問(wèn)題，把不同的模型在各類(lèi)硬件上都能夠快速完成高效部署，去讓算法和算力之間形成最佳的軟硬件聯(lián)合的優(yōu)化、軟硬協(xié)同，讓各種各樣的算力都能夠把自身的價(jià)值發(fā)揮到最大。
“我們?cè)谡麄€(gè)產(chǎn)業(yè)中屬于連接模型和硬件，去讓大家能夠把算力更好地用起來(lái)的基礎(chǔ)設(shè)施的工作。所以我們確實(shí)在成立一開(kāi)始就和很多重要的合作伙伴已經(jīng)做了很密切、深入的合作和一些戰(zhàn)略協(xié)同。”夏立雪表示，在一個(gè)互聯(lián)網(wǎng)客戶(hù)中，無(wú)問(wèn)芯穹利用軟硬協(xié)同的核心技術(shù)優(yōu)化客戶(hù)大模型推理的業(yè)務(wù)場(chǎng)景，將算力使用成本降低了90%，實(shí)現(xiàn)算力資源大幅節(jié)省和提效作用。
中國(guó)AI算力受限下，大模型的未來(lái)需要體系結(jié)構(gòu)的變革
“人工智能技術(shù)潛力為重振美國(guó)夢(mèng)，和重塑美國(guó)工業(yè)化提供了不可錯(cuò)過(guò)的機(jī)會(huì)”。OpenAI于11月13日公布一份全新由該公司領(lǐng)導(dǎo)的“美國(guó)AI基礎(chǔ)設(shè)施（Infra）藍(lán)圖”。
OpenAI認(rèn)為，美國(guó)需要定制一項(xiàng)國(guó)家戰(zhàn)略，確保美國(guó)在未來(lái) AI 領(lǐng)域處于領(lǐng)導(dǎo)地位。OpenAI公司全球事務(wù)副總裁克里斯·勒哈恩（Chris Lehane）表示，其已經(jīng)花費(fèi)“很多時(shí)間”與拜登政府和特朗普?qǐng)F(tuán)隊(duì)討論AI基礎(chǔ)設(shè)施需求，這將是美國(guó)未來(lái)關(guān)注的重要領(lǐng)域之一。
事實(shí)上，隨著算力經(jīng)濟(jì)成為全球戰(zhàn)略競(jìng)爭(zhēng)新焦點(diǎn)，AI 算力也成為美國(guó)對(duì)華打壓限制的關(guān)鍵賽道。
據(jù)報(bào)道，美國(guó)商務(wù)部要求臺(tái)積電自11月11日起，停止將經(jīng)常用于人工智能（AI）應(yīng)用的先進(jìn)芯片供貨給中國(guó)大陸客戶(hù)。美國(guó)商務(wù)部致函臺(tái)積電，對(duì)出口到中國(guó)大陸的某些7nm或更先進(jìn)設(shè)計(jì)的精密芯片實(shí)施出口限制，這些芯片用于驅(qū)動(dòng)AI加速器和圖形處理器（GPU）。
不止是臺(tái)積電。三星同樣受到美國(guó)禁令限制，目前已向中國(guó)大陸客戶(hù)發(fā)布相關(guān)通知，無(wú)法為提供AI芯片類(lèi)晶圓代工服務(wù)。更早之前，英偉達(dá)、AMD等多款先進(jìn)AI芯片對(duì)華限售。
目前臺(tái)積電方面并未直接予以否認(rèn)。11月8日下午，臺(tái)積電回應(yīng)鈦媒體App表示：“對(duì)于傳言， 臺(tái)積公司不予置評(píng)。臺(tái)積公司遵紀(jì)守法，嚴(yán)格遵守所有可使用的法律和法規(guī)，包括可適用的出口管制法規(guī)。”
11月13日，國(guó)務(wù)院臺(tái)辦發(fā)言人朱鳳蓮表示，推進(jìn)兩岸產(chǎn)業(yè)合作有利于兩岸企業(yè)發(fā)展，增進(jìn)兩岸同胞民生福祉。有關(guān)報(bào)道再次證明，美國(guó)打“臺(tái)灣牌”，升高臺(tái)海緊張局勢(shì)，目的是“以臺(tái)遏華”。而民進(jìn)黨當(dāng)局妄圖“倚外謀獨(dú)”，一味隨美起舞搞“脫鉤斷鏈”，給兩岸有關(guān)產(chǎn)業(yè)合作設(shè)置越來(lái)越多的人為障礙，最終損害的是島內(nèi)企業(yè)的利益，削弱的是臺(tái)灣相關(guān)產(chǎn)業(yè)的優(yōu)勢(shì)，讓臺(tái)灣進(jìn)一步錯(cuò)失產(chǎn)業(yè)發(fā)展的機(jī)遇。
然而，無(wú)論消息真假與否，長(zhǎng)期來(lái)看，美國(guó)一定會(huì)對(duì)華AI算力進(jìn)行限制。所以如何在Scaling Law放緩、數(shù)據(jù)規(guī)模到達(dá)天花板、算力需求不斷增加等因素下，通過(guò) AI 系統(tǒng)化、計(jì)算體系結(jié)構(gòu)化解決當(dāng)前問(wèn)題，是中國(guó) AI 發(fā)展的關(guān)鍵要素。
“Meta、OpenAI都朝著10萬(wàn)卡規(guī)模往上走，所以數(shù)據(jù)中心層面一定會(huì)朝更大規(guī)模增長(zhǎng)發(fā)展，也許未來(lái)的算力增長(zhǎng)定律，已經(jīng)不再局限在單顆芯片的層面，而是整個(gè)體系算力層面。跨數(shù)據(jù)算力體系會(huì)支撐未來(lái)基礎(chǔ)設(shè)施的訓(xùn)練，擴(kuò)張整個(gè)算力供給、提高并行計(jì)算創(chuàng)新能力，這是未來(lái)算力發(fā)展的重中之重。”在閉門(mén)圓桌中，一位半導(dǎo)體行業(yè)人士對(duì)鈦媒體App表示，如果未來(lái)中國(guó)缺乏算力，各種行業(yè)各個(gè)領(lǐng)域一定會(huì)受到嚴(yán)重影響。
周靖人早前在一場(chǎng)群訪(fǎng)中強(qiáng)調(diào)，模型更新離不開(kāi)基礎(chǔ)設(shè)施，AI 是一個(gè)系統(tǒng)化的技術(shù)變革，如果沒(méi)有底層的相關(guān)能力的支持，今天模型的研發(fā)、迭代就沒(méi)有承載的地方，這是一個(gè)相輔相成、承上啟下的關(guān)系。
事實(shí)上，本文寫(xiě)的很粗略，AI Infra基礎(chǔ)設(shè)施層其實(shí)非常龐大，擁有很多很復(fù)雜的技術(shù)細(xì)節(jié)，包括AI系統(tǒng)、AI算力框架、編譯和計(jì)算結(jié)構(gòu)、算子和開(kāi)發(fā)體系等多個(gè)專(zhuān)業(yè)技術(shù)，僅多卡混訓(xùn)、解決并行計(jì)算問(wèn)題，AI Infra行業(yè)經(jīng)歷了多年的反復(fù)技術(shù)積累。
一位AI算力公司技術(shù)人員告訴鈦媒體App，我們這個(gè)行業(yè)一直都在不斷踩坑和反復(fù)配合當(dāng)中，AI Infra行業(yè)沒(méi)有一個(gè)先行例子可以復(fù)制。
英偉達(dá)CEO黃仁勛近期坦言，通用計(jì)算誕生60年以來(lái)，開(kāi)始出現(xiàn)向加速計(jì)算的轉(zhuǎn)換，通過(guò)并行計(jì)算，令GPU時(shí)代的算力較CPU時(shí)期大幅提升。而神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的發(fā)展，亦讓電腦獲取知識(shí)更加快，帶來(lái)電腦的智能化飛躍。他認(rèn)為，傳統(tǒng)計(jì)算方式依賴(lài)預(yù)設(shè)的演算法模型，缺乏學(xué)習(xí)和理解能力。而結(jié)合深度學(xué)習(xí)，系統(tǒng)可以對(duì)資料進(jìn)行調(diào)整最佳化提升算力的使用率。
黃仁勛強(qiáng)調(diào)，計(jì)算技術(shù)每十年將進(jìn)步一百萬(wàn)倍，只需2年，英偉達(dá)甚至整個(gè)行業(yè)都將發(fā)生天翻地覆變化，更以“難以置信”形容AI的未來(lái)，認(rèn)為AI 縮小了人類(lèi)間的技術(shù)差距，未來(lái)10年算力將再提高100萬(wàn)倍。
“我越來(lái)越堅(jiān)定，如果中國(guó)想做自己的生態(tài)，想做自己的AI，必須全產(chǎn)業(yè)鏈自主可控。我自己在 AI 軟硬件優(yōu)化的基礎(chǔ)上積累完，然后我們?cè)贏I大模型時(shí)代中推動(dòng)中國(guó)把所有算力真的都用起來(lái)，然后去跟美國(guó)做競(jìng)爭(zhēng)，這是我自己內(nèi)心深處特別想干的事情，這是我們做這家企業(yè)（無(wú)問(wèn)芯穹）的初心。”無(wú)問(wèn)芯穹發(fā)起人、清華大學(xué)電子工程系教授、系主任汪玉教授曾表示，算力需要發(fā)揮更大作用，從而能推動(dòng)中國(guó)AI發(fā)展。
本文鏈接：http://m.albanygandhi.com/news-23-27537.html中國(guó)大模型要用Infra“降本增效”
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
