2023 年大真金不怕火模子兴起，全球范围内都出现了算力供不应求、一卡难求的情况。各地纷纷营建数据中心、智算中心，来贬责国产大模子的算力零落问题。

本年算力市集又倒向了另一个标的，算力运转多余和多数闲置了。

主要体目下，高端显卡囤积居奇的生意不好作念了，" GPU 倒爷"的一又友圈还是从"欲购从速，过期不候"，酿成了" A100/H100 滞销，帮帮咱们"。而算力租出市集，期许情况下的上架率应该是 80%，但许多集群只可达到 30% 致使更低，干预多数资金缔造的算力闲置，租不出去。

于是一种声息运转甚嚣尘上，觉得算力荒还是缓解了，供过于求，应该减速自主化智算的缔造。还有东谈主说，智算中心建的太多了，大模子都用不收场。

发展自主化智算，到底还有莫得必要？

还铭记 2023 年算力荒紧张、智算缔造突飞大进的时候，倪光南院士曾提到过：各地盲目缔造万般低水平智算中心，让东谈主唏嘘不已，一定要警惕"时代房地产"和"数字烂尾楼"。所谓"时代房地产"，等于算力资源卖不出去，只可酿成一堆放着办事器的砖头水泥屋子，闲置在何处。

短短一年多时期，从算力零落到算力多余，究竟是若何发生的？目下来看，闲置算力主要皆集在三种情况：

1. 用不起。英伟达的高端显卡 GPU 是 AI 历练的首选，2023 年一度一卡难求。以 N 卡为主的智算资源闲置，一是因为巨头们此前还是多数囤积采购了 GPU，需求减少；二是炒作之后价钱崇高，即使价钱回落，中小企业照旧用不起。在许多参谋"算力多余"的评述区，咱们总能看到"降价试试"的留言，认知高端 AI 算力的需求仍在，仅仅崇高的 N 卡被价钱劝退了。

2. 不好用。国产卡构成的算力集群，也存在上架率不高、资源闲置的问题，主若是不好用。因为国产卡的皆集度不高，一个千卡或万卡集群，通常是由各样国产算力卡构成的，异构算力之间的协同转机，触及多数工程化细节，莫得作念好就无法开箱即用。拼凑用了，又时时时出现业务中断、算效不高、收复历练慢等万般问题，导致客户流失。这类被动闲置的国产算力，恰是莫得磋商配套，盲目缔造的低水平智算中心。

3. 用不上。"百模大战"之后，企业不再大真金不怕火模子，预历练的算力需求也就大幅着落，算力市集运转转向以推理算力为主。但推理市集的爆发，需要一个经过，目下 AI 的行业浸透率还相比低，总体不到 10%，许多企业对 AI 的干预以尝试为主，还莫得大界限爆发。是以，历练用算力运转出现闲置，而推理用算力还未大界限崛起，因此零落问题尚未扫数炫耀。

低水平算力的闲置与多余，再一次警悟咱们：一个昌盛健康的算力市集，漏洞不是建出来，而是用起来。

这种情况下，仍然纵脱发展自主化智算，还有必要吗？

咱们觉得，这个问题的谜底不该有逗留，要黑白分明地，饱读舞自主化智算基础面貌的链接缔造、加快缔造。

领先，从弥远眺，国内智算属于后发，基础仍然薄弱。

中国智算的跳跃速率是很快的，但也要客不雅看到，好意思国这么的 IT 先驱，从 20 世纪 90 年代以来就在 IT 缔造上纵脱干预。凭据彼得森国际经济筹商所的音书，在 2024 年好意思国在电子制造业缔造方面（主若是芯片）的投资，就高出了 1996 年至 2020 年（24 年的时期跨度）的总投资。而产业界，xAI、Meta、OpenAI 等国际 AI 巨头，都在积极布局十万卡、五十万卡界限的智算集群。

是以，国内自主化智算频年来的发展天然迅猛，亦然在积极补课，打牢基础。这时候如果罢手，不仅会前功尽弃，还会让中好意思在 AI 基础面貌上的差距进一步拉大。

从近期看，自主化 AI 算力需求仍然莫得得到充分得志，算力荒仍在。

一方面，国际 AI 算力入口受到限度，极不褂讪。目下，国内 AI 历练芯片市集英伟达占据了 80%～80% 的市集份额，要幸免挟制供应链安全，这种情况必须尽快改变。上海的"算力浦江"智算活动延伸有打算（2024 — 2025 年）要在 2025 年，兑现新建智算中心的国产算力芯片使用占比高出 50%；《北京市算力基础面貌缔造延伸有打算（2024 — 2027 年）》则淡薄，2027 年要具备 100% 自主可控智算中心缔造智力。

三年支配，从不到 20% 发展到 100%。是以，如今的自主化智算不是太多了，而是还不够。

与此同期，算力需求仍在增长。大模子的界限限定仍在链接，以 Sora 为代表的视频生成模子对算力的需求量是 LLM 大模子的数倍，还是出现了"一栋楼放不下一个模子""一个模子需要多个集群"的情况，超万卡智算中心是必不可少的基础面貌，目下国内的十万卡集群还远远不及。

此外，大真金不怕火模子的阶段天然收尾了，但基础模子的市集皆集度擢升和智力擢升，又会开释 AI 应用需求，促进 AI 的行业浸透率、普及率，导致 AI 推理算力的需求爆发，急需要更多高质料算力来得志。目下部分国产 AI 算力集群的诳骗率极高，西安昇腾智能科技有限公司的东谈主工智算中默算力使用率就高达 98.5%；晨曦在长沙的 5A 级智算中心，也招引上百家企业入驻，兑现万余个交易应用接入。因此，跟着产业智能化升级的链接股东，国产 AI 算力荒不是还是贬责，而是从目下运转宠爱和应付。

互联网产业的中枢，天然不是宽带和机房，但莫得"宽带高速公路"，就莫得好意思国互联网经济的爆发；迁移互联网的中枢，也不是基站，但莫得厉害隐痛的 4G 基站，就莫得智妙手机和迁移应用软件的兴起。AI 大模子亦然相似， AI 算作一种依附在基础面貌之上的软件时代，中枢不是智算，但莫得自主化智算，国内 AI 毫不可能独善其身、独自答允发展。

因此，自主化智算并不存在多余，更不该就此减速发展。

综上，"国内 AI 算力多余"，是个假问题，"如何合理地股东自主化智算的缔造"，才是真问题。

贬责这个真问题，国内智算产业还是来到了起承转合的新阶段。不仅要追求把智算中心"建起来"，还要能运营好、用起来。

因此，智算厂商的竞争，也从售卖硬件资源与智算贬责有打算，蜕变为多维度、抽象性、弥远办事的竞争。比如华为昇腾 AI 全栈、中科晨曦的"立体预计"、宁畅的"全局智算"、梦想的"万全生态"，新华三的" 1+N "智算等，以更全面的智力，复古自主化智算的缔造运营。

追求全面，并不虞味着胡子眉毛一把捏，目下来看，智算厂商们主要皆集贬责自主化 AI 算力的几个痛点问题：

1. 异构问题。目下，国产 AI 芯片还无法例模化出货，市集皆集度较低，因此都是以混划算力的面貌，来加入智算集群。多元异构算力的协同转机、治理、算效、业务可靠性等，面对许多时代挑战。如果一个企业或开拓者，要针对 ABCD 不同厂商的卡进行适配开拓，是不可能的。是以，就需要智算厂商提供相应的系统平台，屏蔽底层异构硬件的复杂性，让世界用好国产算卡。比如梦想的万全异构智算平台，兑现异构化 AI 算力的治理与调配；新华三面向异构智算的智能治理平台，一站式应付万般化的 AI 应用场景。

2. 算效问题。贬责"低质料算力多余，自主化高质料算力不及"的结构性问题，需要进一步擢升国产 AI 的性能。面对工艺制程的限度，不错通过软硬件系统的无缝配合，从而兑现国产算卡性能的充分开释。以昇腾为例，就与昇念念雅致联结，为各样智算场景提供高性能的自主化 AI 算力，深圳鹏城实验室的"鹏城云脑Ⅱ"就依托昇腾兑现了中国首个自主可控的 E 级智能算力平台，不错提供不低于 1000Pops 的整机 AI 预计智力。

3. 运营问题。如今，一些处所在智算中心缔造之前，运转淡薄上架率、收益率等条款，需要保证情势投运后有一定的使用率。同期，也会条款缔造方提供联想、使用、运营等一体化办事，幸免智算中心因无东谈主运营而成为"数字烂尾楼"。以用促建、以服促用，还是是自主化智算发展的势必潮水。比如新华三与杭州市配合，打造"图灵小镇"，耕作 AIGC 产业和数字东谈主才；中科晨曦"立体预计"宗旨"算力缔造、应用赋能、生态共生"三位一体，推动多元算力向新质坐褥力蜕变，目下还是在 5A 级智算中心落地试验。

回来这一年多来，国内智算的发展突飞大进，赢得了举世注想法收成，咱们无谓再为算力荒而忧心忡忡。但东谈主无远虑必有近忧，AI 算力的自主化之路不成就此中道而止，而要一饱读作气，再加把劲，把还是赢得的放胆夯实，为接下来的智能海潮作念好准备。

幸免低质料算力多余，与加快自主化智算发展，这两件事不错并行不悖，也应该感性分开看待。

九游会J9