过去几个月我一直在翻各种人工智能行业的材料真正动手整理了一份《2021年中国人工智能基础层行业研究报告》。说实话这份报告做到中间的时候我反复跟团队强调一句话基础层被讨论得最多但被理解得最少。很多人提到人工智能基础层脑海里只有芯片两个字可真正把这一层拆开来看里面至少有四条独立的业务线——算力芯片、数据工程、机器学习框架、模型开发平台每条线的行业逻辑都不一样。今天的文章我就把这份报告背后最核心的东西拆出来讲包括我当时是怎么定义基础层的、算力和数据的真实关系、框架选型到底该怎么看以及做这类行业研究时最容易踩的坑。这篇文章适合谁一个是刚入行的人工智能从业者想搞明白产业链上游到底在做什么一个是正在选毕设题目或者准备第二份实习的学生还有一个是做投资、做战略规划需要快速理解基础层商业逻辑的朋友。全文不写空话尽量把我在这份报告中看到的、算过的、跟业内人士聊出来的内容用你能直接拿去用的方式讲清楚。1. “基础层”不是底层建筑而是整个AI行业的地基承重墙很多人会把人工智能行业理解成“算法 应用”一说基础层就以为是服务器机房那一堆硬件。这种理解没有错但太粗糙。基础层的准确位置是在应用层和算法层之下、把数据和算力转化为可调用能力的整条支撑链。换句话说没有基础层再好的模型架构也只能停在论文里。1.1 基础层的四条业务线我在报告里把基础层拆成四个板块这四个板块在行业里经常被混为一谈但它们的商业逻辑、技术演进节奏、客户群体完全不同。板块核心内容典型产品/服务主要客户算力硬件AI芯片、加速卡、服务器、集群网络GPU/AI ASIC/FPGA、智算服务器云厂商、大模型团队、传统企业算力设施数据中心、云计算平台、边缘节点云算力租赁、智算中心中型企业、科研机构数据工程采集、清洗、标注、合成、治理标注平台、数据服务公司算法团队、模型开发者框架与平台深度学习框架、训练推理平台、MLOpsTensorFlow、PyTorch、飞桨、平台工具AI工程师、数据科学家这里需要强调的一点是数据工程和框架平台往往被划到所谓“中台”或者“工具链”里但从产业链的位置来看它们都是典型的“基础层”因为它们服务的不是某一个具体应用而是所有人工智能应用的通用前置条件。1.2 为什么2021年是一个值得单独观察的节点2021年让我觉得必须把这一层单独拎出来做报告是因为几个信号同时出现了。首先是算力供需关系出现了明显失衡训练大模型所消耗的算力已经远远超过单机时代的增长曲线GPU从“可选项”变成了“卡脖子”资源。其次是数据监管环境开始收紧数据采集和交易不能再粗放这直接改变了基础层的成本结构。再一个是国内几大深度学习框架都已经发展到可以跟国际主流框架正面竞争的成熟度开发者社区活跃度明显上升。这三个信号叠加起来结论就非常清晰基础层不再只是“硬件供应商”的舞台而是整个AI产业链里资本最密集、技术最深厚、竞争壁垒最高的地方。做这份报告的难度也在这里——它不是用几张芯片出货量图表就能说清楚的领域。2. 算力最大头怎么把“纸面性能”变成“真实可用算力”算力板块是基础层里资金量最大的一大块。2021年我估算中国市场人工智能核心算力相关市场规模在千亿人民币量级其中大部分来自云厂商的资本开支和大型企业的私有化部署。但真正值得研究的不是钱花出去多少而是钱花完之后真正用起来了多少。2.1 芯片选型的三种路线算力芯片的选择集中在三种产品形态上GPU、FPGA、AI ASIC。GPU是绝对主流理由很简单——生态成熟。CUDA这套软件栈已经把所有常用算子都优化过了你写出来的训练代码基本不用改就能跑。FPGA的优势是灵活性和低延迟适合推理侧那种算法还在快速迭代、不想把路走死的场景但它的开发门槛明显偏高在国内的工程团队里始终没有大规模铺开。AI ASIC则是针对特定模型结构做极致优化单卡算力成本可以压得很低但一旦模型结构变化硬件迭代跟不上就会陷入被动。我在报告里给过一个判断大多数企业选型第一步不是比芯片的绝对性能而是看软件生态跟自己的技术栈搭不搭调。你团队里全是做CUDA出身的人非要上一个用起来别别扭扭的自研架构省下的硬件成本会在人力成本上加倍还回来。提示基础层的选型本质上是“生态匹配度”的问题不是“性能指标排行榜”的问题。这个逻辑适用于芯片也适用于框架。2.2 单卡性能不等于集群性能算力评估最大的坑在于“单卡基准测试好看集群用起来很垮”。我在跟几家智算中心交流的时候多次听到同一个问题采购清单上的算力利用率远低于预期。原因通常出在网络和存储上——GPU计算是快的但数据要从存储搬进显存这个搬的过程慢了整体效率就被拖垮了。所以我在报告里花了一整章讲算力基础设施的“木桶效应”存储的IOPS能不能跟上多卡并行训练的读取需求集群网络是否采用无阻塞架构通信开销占总训练时间的比例调度系统能不能在多个训练任务共用资源时做到公平且高效。你单看任何一个指标都觉得没问题但放在一起训练效率可能只有理想值的五到六成。对于做行业研究的人来说这就是一个明显的结论评估算力基础设施不能只统计芯片出货量要看单位有效算力——也就是真正被消耗到训练任务里的算力比例。2.3 云算力租赁与自建机房的真实比较2021年另一个被反复问到的选择题是企业到底应该租云算力还是自建智算集群我访谈了一圈之后得到一个很务实的结论租用云算力适合算法还在快速迭代、业务量有波动的阶段优点是弹性好、不用背固定资产折旧自建集群适合模型结构已经稳定、训练任务持续不断的场景长期边际成本确实更低但前提是你有足够强的运维团队。很多企业在这个问题上犯的错误是用自建集群的“单位成本”去对比云上“刊例价”却漏算了人力、闲置率、网络调优的隐性成本。3. 数据层被低估的“脏活”:基础层里最实际的瓶颈如果说算力是基础层里最贵的一块数据就是基础层里最累的一块。一份数据要从原始状态变成模型可以直接学习的样子中间要经过采集、清洗、去重、标注、质检、版本管理好几个环节。很多团队在模型上花了三个月回头发现两个月都在处理数据。3.1 数据处理占据AI项目70%的工时业界有一个流行说法数据和特征决定了机器学习的上限模型和算法只是逼近这个上限。我在做报告调研时专门问过一批算法工程师他们反馈的结果很一致——在一个典型的企业AI项目中数据获取和清洗至少占一半工时如果涉及多源数据对齐和标注这个比例会到七成。这也导致了一个有趣的现象基础层里数据相关岗位的薪资涨幅一度高于算法岗。因为算法工程师容易招能搞定脏数据的人难找。数据工程炼的是一个“对细节有洁癖”的能力你要能看出不同来源的字段定义冲突要能设计质检规则拦住脏数据还得有耐心把处理过程做成可复用的流水线而不是每次都用脚本临时凑。3.2 数据标注从“劳动密集”走向“人机协同”2021年的数据标注行业也有明显变化。早期标注就是人工框框、点点劳动密集型。但随着智能标注工具成熟越来越多的标注平台先用模型自动给出预标注结果再由人工进行修正。这个变化直接导致低端标注人力需求下降而懂标注质检、规则设计、数据安全的人才需求上升。这里牵扯出一个容易被忽视却又极其重要的点数据安全与合规。基础层的数据服务公司如果把数据管理不好业务就根本做不下去。我在报告里对数据服务商的评估框架里专门设置了安全合规这一个维度——看它的数据存储是否隔离、权限管理是否到位、数据生命周期是否清晰。任何一个环节出问题服务的不是一家客户的问题而是全部客户信任的问题。3.3 合成数据的价值正在冒头2021年还有一个小趋势值得记录合成数据开始进入主流视野。就是你用程序生成模拟数据或者用大模型生成带标注的数据用来补充真实样本的不足。合成数据的意义在于能绕开真实数据难以获取、隐私保护严格的困境同时可以精准控制样本分布。但它的风险也很明显——如果生成器本身带着偏见模型学到的照样是偏见而且由于数据是生成的这种偏见更加隐蔽更容易被忽视。做基础层研究把数据这一环独立出来看是非常重要的。因为算力可以快速扩容框架可以快速迁移只有数据的积累和治理是需要时间熬出来的。谁的数据资产更干净、更完整谁在下一个阶段就更有竞争力。4. 框架与平台决定AI工程师每天幸福度的“操作系统”如果说芯片是算力的发动机那深度学习框架就是算力的方向盘。框架不好用芯片的潜力就是废的。2021年做这份报告时我观察到框架层的竞争焦点已经从“能不能训练模型”转移到了“开发者用起来爽不爽”。4.1 主流框架在2021年的真实竞争态势国际市场上PyTorch和TensorFlow两强相争的局面在2021年实际上已经有了胜负倾向——PyTorch在研究社区的占有率明显领先TensorFlow则更多偏重TensorFlow Lite推理侧和一些特定生产环境。国内这边百度的飞桨在中文场景和企业落地上有自己的一套打法华为的MindSpore也在垂直行业里深耕。我写报告时特别注意不搞“吹捧叙事”只关注三个硬性维度社区活跃度文档是否完整、教程是否多、遇到问题能不能搜到答案部署链路训练完的模型能不能方便地转到移动端、服务端、嵌入式设备企业服务能力出了问题有没有人能支撑源码能否定制。第三点对国内企业尤其重要。很多团队选择框架时会忽视“出了问题找谁”这个问题等上了生产环境发现框架有bug只能提issue等社区回复那效率就太低了。注意框架没有绝对的好坏只有阶段性的匹配度。研究阶段用起来顺手的框架生产阶段不一定是最省心的选择。4.2 MLOps正在把基础层从“工具”推向“平台”2021年让我感到基础层商业逻辑变化最大的是MLOps的兴起。过去框架只管训练模型模型上线之后怎么监控、怎么回流数据、怎么定期重训都是手工活。MLOps的核心价值是把模型从开发、测试、上线、监控到迭代的整个生命周期标准化、自动化。我做过一个形象的比喻没有MLOps的算法团队像一个小饭馆里身兼数职的大厨从切菜、炒菜到刷碗都要自己来上了MLOps相当于后厨有了标准化的流水线大厨可以专心研究新菜不用再被重复劳动耗光精力。这个变化对基础层的影响是深远的——框架厂商不再只是卖工具而是开始提供一整套研发运维平台单客户的价值量成倍上升。5. 做基础层行业研究怎么拆才不浮于表面讲到这里肯定有读者想知道这类行业报告到底是怎么做出来的。我在这个领域也踩过不少坑总结下来核心方法论可以归纳成一套“六问法”。5.1 拆解基础层研究的六问法做研究不是把网上的新闻和数据下载下来拼在一起而是先建立分析框架。我每研究一个细分方向都会强迫自己回答以下六个问题这个方向解决的是谁的什么痛点——定义客户和需求。价值链上有哪些角色钱在谁手里——找出利润归属。增长的核心驱动力是什么——是政策、技术、还是成本结构变化。竞争壁垒在哪一层——是硬件量产能力、数据积累还是生态绑定。什么情况下这个方向的风险会暴露——做压力测试。未来三到五年的格局会怎么演化——判断终局形态。把这六个问题挨个过一遍即使没有特别细的数据你对一个行业的理解深度都会比只看新闻稿的人高出一大截。我这篇文章介绍的基础层框架本质上就是把六大问题拆到四条业务线里分别回答了一遍。5.2 数据交叉验证市场规模不能只看一家之言做行业研究最容易犯的错是直接引用某一家机构的市场规模数据。2021年关于人工智能基础层的市场规模就有几十个版本从几百亿到几千亿都有。真相是每个数字背后的统计口径都不一样——有些人只算芯片有些人加上云服务有些人还把数据服务也算了进去。我的做法是拆掉黑箱自己搭模型估算先摸底上游芯片出货量和均价再推算服务器和云平台的市场规模然后给数据服务和框架平台分别做渗透率假设。三个方向加总再去跟财报和访谈数据做交叉验证。一旦发现某个数字跟上下游逻辑对不上宁可把它标成存疑也不能直接写进报告。我还习惯做“渗透率检验”。比如报告里写了“某类基础层产品的市场渗透率是百分之二十”我会反问自己这相当于国内每五家需要用AI的企业就有一家在用可你随便走到哪家厂里看看这个比例合理吗通过这种朴素的验证很多水分很大的数据自然就暴露了。6. 给三类读者学生、从业者和决策者的落地建议报告做完了方法论也讲了最后说说不同身份的读者可以从这份基础层分析里得到什么。6.1 学生用基础层视角找毕设和研究切入点最近很多学生朋友都在问怎么选毕业设计题目我在这份报告里正好能提供一个思路不要只追模型算法的热点看看基础层里那些实际问题。比如针对某一个垂直行业设计一套数据治理方案或者研究深度学习框架在不同硬件上的性能迁移再或者分析智算中心资源调度系统的效率。这些都是产业界真正头疼的问题又是论文能够找到方法创新空间的领域。从基础层的角度切进去研究话题既有落地价值又有足够的数据和实验可以做。6.2 从业者资源投入的优先级怎么排对于已经在人工智能相关团队工作的朋友我的建议是三个排序第一先补齐数据工程能力再扩大算力预算。数据没洗干净算力越多浪费越大。第二框架不要频繁迁移每换一次框架团队积累的工程资产就清一次零。第三把模型上线后的监控作为基础建设的一部分建立数据回流机制不然线下指标再高线上效果一塌糊涂你也发现不了。这几点都是我在跟企业交流过程中反复看到的共性问题。很多人以为自己的瓶颈在模型精度实际上大概率问题出在数据质量或部署环节。6.3 决策者怎样不被“概念营销”带着走做技术相关决策的朋友看基础层最容易交的学费是把宣传概念当成技术现实。有人跟你说“我们的芯片算力翻倍”你就要追问是单卡基准还是集群实测?功耗是多少?软件栈成熟吗有人跟你说“我们的平台是全链路AI中台”你就要追问客户案例里跑通了多少场景自定义模型的支持能力如何维护团队规模多大概念谁都敢喊能落地的细节才是基础层真正的分水岭。我在写报告时给自己定了一条规矩凡是关键判断必须至少找两个独立信源验证。一个来自厂商一个来自客户两个都确认过的结论才敢下笔。这是做基础层研究最重要的一条经验也是我认为每一位在做技术选型的人应该养成的习惯。基础层在我看来落笔分析时像是一堆冰冷的硬件和代码库真正参与进去之后会发现它能决定一个行业走多快、能走多远。算法的演变很快应用的潮流一浪接一浪但基础层的建设永远是一步一个脚印的事。如果这篇文章能让你在看完之后下次再听到“人工智能基础层”这五个字时脑子里浮现的不再只有一个模糊的概念而是芯片、数据、框架、平台四条清晰的业务线我就觉得这份报告没有白做。