今年6月，发布了一款专门针对ai需求的最新款芯片：instinct mi300。
mi300将cpu、和内存封装在了一起，晶体管数量高达1460亿个，接近英伟达h100的两倍。其搭载的hbm（高带宽内存）密度也达到了h100的2.4倍。也就是说，mi300在理论上可以运行比h100更大的ai模型。
受益于ai训练的增长，gpu需求肉眼可见的从游戏市场向高性能计算领域倾斜，就连刚开启gpu产品线的英特尔，也迫不及待的ppt首发了面向高性能计算场景的falcon shores架构芯片。
伴随英伟达一路冲向万亿美元市值，资本市场对gpu行业老二的期待值也达到了顶峰。今年以来，amd股价累计上涨已经超过90%。
英特尔的falcon shores，预计2024年推出
然而mi300发布会结束，amd股价下跌3.6%，反倒是英伟达上涨3.9%。资本市场表达好恶，向来是这么冷酷无情。
原因可能在于，amd没有在发布会中透露这款芯片的客户，这也是市场对英伟达以外的ai芯片*的担心。
长期以来，amd在gpu市场一直被英伟达按在地上反复摩擦，instinct产品线其实已经迭代了好几年，但相比英伟达的连战连捷，amd在高性能计算领域的存在感一直比较稀薄。
ai训练打开的市场空间，一度被市场视为amd与英伟达拉进距离的机会，但事情似乎没那么简单。
离不开cpu，但离得开英特尔
虽说在ai训练上，更擅长大规模并行计算的gpu承担了大部分计算工作，而整个系统仍需要cpu进行调度和统筹。也就是说，尽管gpu的需求量大幅度增加，但cpu仍是必需品。
作为一家同时拥有cpu和gpu设计能力的芯片公司，amd被看好也不意外。更何况过去几年，amd在cpu市场连战连捷。
amd现任ceo苏姿丰在2014年接手，时值推土机架构性能孱弱，让英特尔心安理得的挤牙膏。而在卖掉imageon后，amd和拒绝为苹果设计iphone芯片的英特尔一起，*错过了智能手机的浪潮，公司一片风雨飘摇。
面临多条战线的失血，苏姿丰只能将有限的资源集中在核心的cpu业务上，从苹果请回了架构大师吉姆·凯勒，开始zen架构处理器的研发。
2017年，zen架构处理器横空出世，把挤牙膏上瘾的英特尔打了个措手不及。2019年，zen处理器更换为台积电7nm工艺，此时英特尔10nm工艺姗姗来迟。
虽然英特尔还占据着大部分市场份额，但amd的反攻速度实在太快，尤其是在服务器市场，几乎是从0杀到了接近20%的市占率。
2023年q1，amd的x86处理器市场份额达到了34.6%这一历史峰值[2]，这也是amd市值超过英特尔的重要背景。
今年5月，全球超级计算机top500强公布：前500强中，使用amd cpu进行驱动的超算达到121台，使用英特尔cpu的超算则从2016年的454台下降至360台，虽然看着不少，但其中很多是英特尔10年前的家底——至强（xeon）处理器[3]。
但同一时期，amd与英伟达差距也越来越大。
难以逾越的cuda
英伟达不仅是一流的硬件公司，更是一流的软件公司。
虽然在理论性能上，mi300的一些参数甚至*于英伟达，但市场对英伟达对手们*的担心往往在于，就算硬件性能可以跟英伟达比肩，但是软件k8体育的解决方案仍难以与英伟达的cuda对抗。
2006年，英伟达推出了cuda平台，让开发者能够给予gpu进行编程和开发，最终形成了一个庞大稳固的生态。在推出cuda之前，全球能用gpu进行编程的不足100人，目前cuda的使用者超过400万。
每一个成功的硬件公司背后，往往都有一个更强大的软件团队，苹果和英伟达都是如此。即便是光刻机制造商asml也不例外，他们的官方网站上有这样一段话：
您可能将asml视为一家硬件公司，但实际上我们拥有世界上*、*开创性的软件社区之一。如果没有我们开发的软件，我们的客户就不可能制造出10纳米或更小的尺寸的芯片。
想要芯片真正在具体场景的满足各种需求，就需要开发者对硬件进行编程以实现各种功能。如果说硬件编程的过程相当于进行各种复杂计算，那么cuda就是提供给使用者的一部计算器。
无论对英伟达的刀法多么怀恨在心，都不能否认黄仁勋对通用计算和人工智能的超前押注。
amd显然深知软件和生态的重要性，但对标cuda的rocm在2016年推出时，就已经比英伟达晚了十年。
直到2023年4月，rocm都仅支持linux平台；而cuda自问世以来，就提供windows和linux两个版本，后期还为苹果用户增设mac os版本。
相比英伟达不遗余力的推广和洗脑，amd在生态建设上也显得投入不足，据说早年英伟达对项目的gpu试用申请几乎是有求必应，动不动就去高校实验室发显卡。深度学习大神杰夫·辛顿带着学生训练alexnet模型，就用了三块gtx 580。
另外，amd的软件能力也令人不安——amd在今年6月发布了一份epyc 7002 “rome”服务器芯片指南，承认由于时钟倒计时器存在 bug，导致第二代epyc芯片运行1044天后，会出现内核卡死。如果有服务器使用这款芯片，需要每隔2.93年重新启动一次。
原因也不难理解，直到推出rocm的2016年，amd甚至还没摆脱亏损。在这期间，amd只能把有限的资源都聚焦在cpu的研发上，无法为gpu部门投入太多资源，更不要说rocm的软件团队了。
而当amd在cpu市场收复失地，希望依靠ai卷土重来时，英伟达已经慢慢补齐了短板。
英伟达的反攻
2020年9月，英伟达宣布准备以400亿美元的价格准备收购移动cpu架构商arm，其背后意图人尽皆知：一方面是整合移动端资源，另一方面则是入局cpu。
正如前文所说，尽管ai时代需要更多的gpu，但cpu仍不可或缺。当cpu与gpu共同在服务器中的工作时，实际场景更像是一个大学生（cpu）带领一群小学生（gpu）组队完成各种任务。这个时候，配合就显得尤为重要。
因此，英伟达之所以自己做cpu，并非完全因为英特尔或amd，而是从自身产品需求出发，使cpu和gpu紧密耦合，以发挥*性能。比如cpu和gpu中，需要用到尽可能相似技术的一致内存，以保证数据之间的无缝共享[8]。
虽然收购基本没有成功的可能性，但英伟达依然按部就班的招兵买马。2021年4月，黄仁勋在自家厨房里宣布，英伟达即将推出*5nm制程工艺cpu grace，基于arm架构，面向超大型 ai 模型的和高性能计算。
紧接着就是具体工作的有序展开：英伟达首先选定了根据地以色列，那里有全球第三多的纳斯达克上市公司（仅次于美国和中国）；然后对外招聘600名硬件工程师、软件工程师和芯片设计师，搭建cpu研发团队[7]。
最后，英伟达挖来了英特尔在以色列的cpu架构专家rafi marom，后者曾参与10nm制程的tiger lake和alder lake芯片开发工作。
在2022年3月的gtc大会上，英伟达对外宣布grace cpu性能：拥有144个arm内核和1tb/s的内存带宽，性能较当前*进的dgx a100搭载的双cpu相比高1.5倍以上。
不过，原本预计在今年上半年可以开始供货的grace芯片，目前已推迟至下半年。
apu
instinctmi300本质上是一颗“apu”，这是amd早在2009年提出的一个概念——将cpu和gpu集成在一起，使得二者高速互联，实现1 1>2的效果。
在2006年收购了gpu公司ati后，amd成为了当时*同时拥有cpu和gpu设计能力的芯片公司，而且在两个市场都是行业老二——但坏消息是，市场主流玩家也就两个。
在这种局面下，amd希望借助apu打开市场局面。2011年，*代apu推出后，amd持续宣传apu是“x86架构三十年来的*革命”，并向投资者强调，这款产品存在着“强劲且被压抑”的需求。
市场最初也对apu概念充满期待，结果2012年q3财报出炉，amd收入下滑25%，顺便减记了1亿美元的库存——apu需求量并不高，芯片根本卖不出去[1]。紧接着，公司股价跌到1.86美元的历史性低点，苏姿丰临危受命，开始掌舵风雨飘摇中的amd。
apu的优势在于，由于cpu和gpu集成在了一起，数据传输效率得到了大幅度提高。苹果的m1 ultra也采用了类似的“把几个小芯片拼成一块大芯片”的思路，换来了更强的数据吞吐能力。
但在2009年，apu的理念显得过于超前。
一方面，apu涉及芯片的先进封装技术，在当时既不成熟，成本也难以控制。另一方面，apu在需求高度多元化的消费市场很难行得通。
比如10种型号的cpu和gpu，理论上有100种组合方案，这就导致做10种方案无法满足市场需求，做100种方案难以收回生产成本。
因此在很长一段时间里，apu只能在ps4游戏机这类高度标准化的产品上才能找到市场。但深度学习的大爆发改变了这一点。
相比游戏和渲染，ai训练对算力和数据吞吐效率的需求成百上千倍的增加，目前针对ai市场推出的芯片产品，除了算力的堆砌，往往都采用3d堆叠和先进封装等方式，增加数据传输的效率，这与apu的优势不谋而合。
英特尔尚未正式发布的falcon shores，同样采用了将cpu、gpu、内存封装在一起的思路，只不过英特尔将其称为“xpu”。
但目前来看，最接近这个目标的反而是英伟达的grace hopper芯片。
英伟达的grace hopper将cpu和gpu集成在了一起
尾声
在2009年apu的概念被提出时，amd正经历公司历史上的*谷，apu多少有些毕功一役的憋大招成分。
但也正是因为处于低谷，导致amd无法拿出足够的资金与k8体育的技术支持，让apu的革命性理念真正落地，最终只变成了简单的cpu gpu的组合。
从商业角度看，最适合在2009年搞点革命性产品的反而是富可敌国的英特尔，但英特尔当时在干什么呢——心安理得的挤牙膏，同时拒绝为iphone设计芯片。
这似乎是高科技公司常常会出现的状况——在鼎盛年代忽视新的技术浪潮，在低谷期如梦方醒仓促憋大招。
事实上，英特尔还尝试过“联a抗n”——2017年，英特尔宣布将在自家cpu上集成amd的gpu，合作推出新的芯片。
结果没过多久，英特尔就挖走了amd的核心技术负责人之一：图形主管raja koduri，为英特尔开发高端独立gpu。
参考资料
[1]amd: $30 million settlement ends llano lawsuit，tom’s hardware
[2] amd and intel cpu market share report: recovery on the horizon (updated)，tom’s hardware
[3] amd now powers 121 of the world’s fastest supercomputers，tom’s hardware
[4] a closer look at intel’s coral supercomputers coming to argonne，inside hpc
[5] argonne’s 44-petaflops ‘polaris’ supercomputer will be testbed for aurora, exascale era，hpc wire
[6] top500: no exascale, fugaku still reigns, polaris debuts at #12，hpc wire
[7] 英伟达在以色列组芯片团队，发力cpu，半导体行业观察
[8] 它们需要基于这两种设备中尽可能相似技术的一致内存，智能计算芯世界
