江南app体育官网下载 万字拆解AI瓶颈:磷化铟紧缺已是“灾难”,下一个爆发点在“电网保卫战”

AI基础设施的武备竞赛正在将供应链压力从芯片自己向外蔓延,覆盖光学器件、电源半导体乃至数据中心外围的电网管束斥地。在HBM枯竭和算力蔓延已被阛阓正常订价之后,新一轮供应瓶颈正在更粉饰的关键悄然成形。
周六,AI圈预计博主Chris Barber与有名匿名分析员@bubbleboi商讨了AI供应链瓶颈与基础设施问题,系统梳理了AI供应链各层级的殷切程度,并点名了多个尚未被阛阓充分明白的潜在爆发点。

在@bubbleboi的排序中,磷化铟(indium phosphide)联系的激光与光学器件已是\"完全的灾难\",DRAM/HBM枯竭捏续恶化,而电源半导体固然面前尚不组成瓶颈,却是他最看好的\"下一个爆发\"所在——尤其是数据中心外围的固态变压器阛阓。
磷化铟:现时供应链的“灾难级”瓶颈
磷化铟是他措辞最为猛烈的一个关键。\"磷化铟的情况相配相配相配倒霉,\"@bubbleboi示意,\"好多东谈主还没执意到有多严重。\"
问题的根源在于CPO(共封装光学)时间的推动对激光器漠视了更高条目——更高功率意味着更大的芯单方面积,更窄的线宽和更好的噪声性能相同推高了对磷化铟晶圆的需求。与此同期,磷化铟的加工链条——从矿石到晶体、再到外延片、最终到激光器印刷——每一个关键齐处于严重供不应求的情状。
这一枯竭正在重塑光收发器阛阓的花式。
传统上,每一代收发器(如400G、800G)在初期以EML(磷化铟单片集成调制器)为主,随后慢慢向硅光子(SiPho)搬动以假造成本。但这一次,1.6T收发器简直从一开动就由硅光子主导——原因恰是EML供应的严重枯竭,以及制造商将产能向利润率更高的连气儿波(CW)激光器歪斜。
DRAM与HBM:三家寡头全线爆满
内存是@bubbleboi名按次二的供应瓶颈。
他的中枢判断是:全球只须三家公司能够分娩DRAM——SK Hynix、三星和好意思光——三家均已满负荷运转,短期内莫得新产能上线的可能。
围绕HBM4的时间门路之争,他认为阛阓过度解读了其中的戏剧性。SK Hynix采选台积电12纳米制程制造HBM4基础芯片,三星使用自研SF4X逻辑节点,而好意思光坚捏沿用里面DRAM制程,导致进程过期。
但他认为这些各异对财务影响有限:\"三家齐会以异常高的毛利率卖光系数家具,谁在乎呢?\"他补充说,即便好意思光HBM4未能参加英伟达Rubin平台,也可以将家具卖给其他客户,或以高价出售普通DRAM。
他将DRAM和HBM视为归拢类别,并示意比较NAND闪存,他更偏好DRAM,原因是NAND更容易出现供过于求的情况。
“电网保卫战”:AI绝顶的固态变压器与功率半导体
相较于还是被阛阓高度温煦的算力芯片里面竞争,分析师将最大的“遐想空间”留给了数据中心以外的电力托付系统。
AI数据中心对电网组成了前所未有的挑战。当几万到十万张GPU在熟谙破绽罢手筹画、进行互联通讯时,电网负载会发生剧烈的波动。“这对电网运营商来说是一个‘恶魔般的恶梦’(satanic nightmare)。”
访谈中败露了一个极具戏剧性的细节:
前年PyTorch团队甚而在代码中加入了一个名为“Power Plant No Blow Up(发电厂别爆炸)”的特殊绚烂。其作用是,当GPU不需要作念数学运算时,将就它以最大速率进行“垃圾筹画”。
“假定你的芯片正常运行需要500瓦,不责任时本应降至200瓦。但面前不行,必须全程保捏500瓦,因为咱们不可让电网运营商不悦。”负载的剧烈拉扯会反向传播并破损电网稳固,这亦然许多AI数据中心拿不到电力许可证的中枢原因。
为了解决这一痛点,基于碳化硅(SiC)和氮化镓(GaN)等宽禁带材料的“固态变压器”正迎来产业拐点。传统变压器体积雄壮且完全是被迫器件,托付周期长达12到18个月;而固态变压器固然昂然,但可以通过晶体管进行径态“负载调度(Load regulation)”。 “你可以动态编程,确保两侧的电流和电压基本一致……电网运营商会更愉快,你也能拿到供电许可。”
分析师预测,这项时间将在将来36个月内升起,联系功率半导体公司(如Wolfspeed以及部分从光伏逆变器转型的公司)固然面前处于周期低谷甚而亏蚀,但在AI电力调度需求的驱动下,具备极大的重估弹性。
逻辑晶圆与先进封装:边缘改善,但仍殷切
比较磷化铟和内存,@bubbleboi认为逻辑晶圆的情况在已往六个月有所改善。
幸运彩票app官方手机版台积电产能依然殷切,但三星先进逻辑产线的期骗率已从接近零回升,英特尔也开动摄取外部客户。
他认为先进封装(CoWoS、EMIB)的殷切程度将低于阛阓预期,部分原因是英特尔在马来西亚的产能正在蔓延,且台积电更倾向于将洁净室空间用于毛利率更高的N3制程。
CPU枯竭与另类加快器:被忽视的隐患
@bubbleboi将CPU列为\"大问题\",认为其枯竭程度超出阛阓领路。
AMD濒临GPU与CPU争夺台积电产能的两难逆境,ARM自身莫得晶圆配额,而他认为独一有才智填补缺口的是高通——因为安卓手机需求下滑导致高通在台积电有闲置产能,可以转产数据中心CPU。但他对高通能否告捷捏怀疑立场,\"他们还是失败了三次\"。
在另类加快器领域,他对Positron和Cerebras捏正面成见,但对Cerebras有明确品评:仍在使用FP16而非FP4是\"愚蠢的很是\",IO遐想驱散了KV缓存卸载才智,且封装良率可能仅在20%至40%之间。
对于Taalas,他认为其将权重硬编码进芯片层的工程遐想\"相配相配机灵\",可将芯片遐想周期从一年以上压缩至两到三个月,且无需HBM或任何先进封装,成本极低。但他对其买卖前提捏怀疑立场——AI模子权重更新频率极高,而Taalas条目50%至90%的权重固定不变,\"我不认为AI公司会摄取这个前提\"。
终末,当被问及“如果你是黄仁勋,你会试图锁定什么供应链”时,分析师的一句原话为面前的AI硬件竞争作念出了注脚:“他还是锁定了系数东西的产能。我本来想说光纤,但他还是去跟康宁谈往来了。我认为这个东谈主是神(the man is a god),他还是把能锁定的完全锁定了。”
以下是采探听答笔墨实录(由AI协助翻译)
Chris:三到五年后,哪些替代性加快器可能会承担相配多数的熟谙或推理任务?@bubbleboi:熟谙方面,我认为它们基本上齐不行。推理方面,我相配看好Positron和Cerebras,但原因截然不同。还有谁呢?MatX。问题是我莫得足够的信息。是以它可能可以,但我对他们一无所知。是以通俗回复即是Positron和Cerebras。还有Taalas,我不太信赖他们的前提,但这很酷,我有点想为他们宣传一下,因为如果前提建树,那将相配惊东谈主。但我认为AI领域的东谈主不会容忍这个前提。是的,这些是我的确可爱的三巨头,MatX在操纵,因为我不够了解。我仍在接力让他们首肯和我谈谈。Chris:你不首肯的Taalas的前提是固定权重?@bubbleboi:他们正在作念的是使用表层掩模层来烧录权重。一朝你有了权重,就无法窜改。鉴于AI模子变化如斯之快,比如每两周就有GPT 5.5,然后是5.6。如果你和这些公司责任的东谈主聊聊,模子里面在 constantly 变化。模子末尾有个十六进制数。每隔几周就有更新。权重在不断变化和微调。Taalas示意他们撑捏微调。我认为他们的真谛是,现时芯片撑捏对权重进行一些修改,但远未达到你想要的那么多。他们现时的芯片是三分之二硬编码权重,三分之一只是SRAM机器。他们能撑捏微调的原因是那三分之一是SRAM,你可以窜改或微调一部均权重,或者作念LoRA之类的事情。他们基本上是在跟客户说,你的模子硬编码越多,运行得就越快,但你需要作念出衡量。在梦想情况下,有东谈主可以遐想一个模子,其中90%的权重是硬编码的(我吩咐说的数字)。它会运行得超等快。然后10%用于LoRA或更新权重。我不知谈是否有大客户会摄取这种程度的驱散。我认为不会。但Taalas背后的工程本质上相配相配机灵。他们使用表层掩模层。面前的芯片概况有14层,姑且说是14或15层。他们用表层三分之一中的一层来编程和硬编码权重。是以你想一下,不时芯片遐想最少需要三个月,不时更久,然后需要流片,再过五六个月芯片才能总结,然后还得考据。Taalas不得不为他们我方的编译器、考据栈和芯片遐想制作了一堆定制EDA器具,他们宣称一天之内就能完成一个新模子。最终指标是。面前概况需要一周。是以遐想需要一周,然后因为他们只窜改表层,其中一层,他们可以储存晶圆。是以如果你去台积电或任何晶圆厂,这在行业里很常见,你可以说,嘿,我但愿你们把X数目的晶圆保捏在70%的完成度,先别完成终末一部分,因为咱们正在作念研发之类的。是以Taalas的盘活时刻比我最初预期的要快得多。新遐想需要一周,然后概况两个月。这是我的臆想,校服不是六个月。是以两个月内你就能拿回芯片并运行它。他们宣称他们制作了一些相配机灵的Verilog编译器器具和线程仿真器具,与圭表EDA器具对接,以很好地考据一切。是以后硅考据应该没问题,因为芯片的基础设施已劝诫证过了,你只是改变权重。他们把蓝本至少一年的经过从开动到驱散,表面上缩小到了两三个月,这还可以。从模子架构的角度来看,我更像一个硬件东谈主。我不太懂模子架构。我接力想弄显著,好吧,怎样杀青大部均权重固定,只改变一部均权重,比如单层中的权重之类的。然后我发现了LoRA,我问了那些的确懂AI的东谈主,他们告诉我,哦不,LoRA不可扩展之类的。这很蠢。只须失败者才用LoRA。但如果前提照实建树,如果他们找到一个自得使用LoRA或其他算法的客户,其中很大一部均权重是固定的,何况咱们会 constantly 职业这个模子,这样才经济,那么Taalas的经济效益将是惊东谈主的。芯片相配低廉。它不需要任何HBM或任何类型的内存。不需要任何类型的先进封装。即使是PCB,他们在芯片到芯片通讯上受到蔓延驱散,完全莫得带宽驱散。是以他们使用PCIe和CXL,他们面前的主要驱散是他们的芯片上莫得最新版块的CXL,较着CXL 3.0提供的一些功能会对他们有本质性的匡助。但他们面前也还好。是以你将领有惊东谈主的、不可想议的性能(在其他任何架构中齐不可能杀青),而且价钱极其低廉。只是有这样一个驱散:很大一部均权重,可能在50%到90%之间,需若是固定的,你不可窜改它们。要窜改它们,你将不得不扔掉系数或大部分芯片,然后恭候两到三个月,而新遐想的成本毛糙是25万好意思元。拿Taalas的CEO来说。他在一次采访中说,新版块芯片的遐想成本“异常于一台H100职业器”。假定你运营一个数据中心,用Taalas芯片职业某个模子,你决定扔掉系数Taalas芯片,因为模子需要更新。是以你必须刊出这笔本钱支拨,付给Taalas额外的30到50万。最坏的情况是,他们在两三个月内为你制造新芯片,然后你部署它们。再说一次,莫得内存问题。甚而莫得PCB问题。你可以使用低质料的PCB材料,因为它们只是运行相配慢的PCIe。是以这可能行得通。我只是对模子了解不够,看不出它是否真能行得通。Chris:在堆栈的不同层面中,你认为将来几年哪些最终会濒临最严重的供应驱散?@bubbleboi:是的,简直系数。如果你在一月或二月问我,我会给出截然不同的谜底,但面前 系数 齐受限。Chris:为什么阛阓从前年九月操纵开动对此狂放?@bubbleboi:我不解白这点。未必候阛阓真的很奇怪,我跟好多对冲基金的东谈主聊,我会说,你们很机灵,为什么面前才执意到这个?很奇怪。Chris:宏不雅不雅点是不是寰球齐开动显著了,好吧,超大领域企业的本钱支拨将不竭增多,至少绝对值上会增长?@bubbleboi:是的,宏不雅情况是东谈主们不断地走动扭捏。我给你举个道理的例子。有东谈主告诉我,传统动力投资者齐在作念空Bloom,因为他们以为,哦,Bloom太贵了,自然气涡轮机更低廉,这是个泡沫。我说,哥们,这是对于通电时刻的问题。你们完全错过了要点。Chris:他们不了解这类客户濒临的驱散。@bubbleboi:我知谈。你不解白东谈主们为什么采选这个。不是因为更低廉。每兆瓦的经济性可能差好多。但你面前就能领有它。如果你必须将数据中心名堂推迟至少六个月,……我跟更多专注于AI和半导体的对冲基金聊过,他们说,哦,咱们知谈其他那些作念空Bloom的动力对冲基金。为什么要自掘坟墓作念空这个?金融寰宇里有好多奇怪的事情。是以我无法解说。Chris:哪些其他层面最终会成为瓶颈?@bubbleboi:磷化铟情况相配倒霉。简直不可想议。我不知谈好多东谈主会奈何办,但任何与磷化铟联系的事情齐真的、真的、真的很倒霉。磷化铟用于激光器和光学器件,因为硅无法产生光。东谈主们仍然不解白情况有多糟,因为CPO对激光器的噪声性能漠视了更高的条目。Chris:比如Aixtron?@bubbleboi:哦,是的。是以他们制造用于磷化铟分娩的斥地。他们某种程度上不是瓶颈,嗯,他们可能是,但他们正在制造更多的机器,而像Lumentum、Coherent和Sumitomo这些公司正在购买这些机器。我作念多这些。更像是Lumentum和Coherent的产能问题。衬底领域,AXT、Sumitomo、IQE等等,这些才是瓶颈。Chris:IQE是什么?@bubbleboi:有家英国公司,我认为他们作念外延。在这个磷化铟制造链中有好多名字。面前基本上齐是一场灾难。Chris:基本上即是莫得足够的磷化铟供应全球?@bubbleboi:是的,嗯,磷化铟矿面前我认为还好。然则将磷化铟加工成晶体,然后制成晶圆,然后在晶圆上作念外延,再把激光器印制到晶圆上,系数这些,完全是一场灾难。因为CPO激光器的责任花式需要更高的功率,这意味着你的芯片尺寸必须显耀增大,何况它们需要更窄的线宽和更好的噪声性能,这不时意味着你必须增大芯片尺寸。这亦然为什么SiPho和Tower Semi涨上天的部分原因。传统上,收发器寰宇的责任花式是,从EML开动,它基本上即是一个单一的 monolithic 磷化铟芯片,包含调制器(用于险峻舞动光)和连气儿波激光器,齐在归拢个磷化铟芯片上。由于物理原因,EML的性能老是优于硅光。不时,在每一代收发器(如400G或800G)推出的一两年后,东谈主们开动转向SiPho以检朴成本。你设法让SiPho的性能足够好,然后省钱,因为面前你不再购买大的EML,而是购买一个更小的连气儿波激光器,然后把它放进SiPho模块里进行调制。但不管怎样,此次SiPho涨上天了,因为每个东谈主齐想,等等,EML枯竭了,然后那些分娩EML的公司也分娩CW激光器,他们正将产能重新分拨给CW,因为它的利润率更高,需求也更大。是以面前CPO的需求正在抹杀还是严重供应不及的EML供应。面前,1.6T收发器是第一代SiPho简直从一开动就占据主导地位的家具。我认为在六个月内它就占据了多数份额。我不知谈完整的数据,但这完全不同。如果你望望每一代收发器以及SiPho与EML的阛阓份额对比,此次完全不同。这是因为磷化铟严重枯竭。接下来,我认为是内存,因为莫得洁净室产能。有东谈主问我这个问题,也不是完全愚蠢的问题:哦,三星,他们有逻辑晶圆厂和内存晶圆厂,为什么不径直把逻辑分娩线重新分拨给内存?因为内存晶圆厂在使用的斥地、工艺和 系数 上齐完全不同。是以只须三家公司能分娩DRAM。它们全部被订满了。短期内不会有新产能上线。Chris:也即是Hynix、Micron和Samsung?@bubbleboi:是的,这三家。是以这是第二严重的瓶颈。但东谈主们对此相配明晰。Chris:这三家内存制造商之间差距大吗?@bubbleboi:我个东谈主认为这不进犯。有好多戏剧性和杂音。供应如斯枯竭。任何东西齐能以80%的毛利率卖光。谁在乎?历史上SK Hynix彰着率先,三星则有点自焚。情况相配倒霉。好意思光概况是第二。面前对于HBM4的 die 速率有好多内幕音信,来自供应链爆料东谈主的多样杂音。基本上对于HBM,在HBM4、3E、3之前的系数HBM,其基础 die(包含许多接口逻辑电路)齐是在里面DRAM工艺节点上制造的。这之是以进犯,是因为它更低廉,因为DRAM厂商用我方的晶圆厂来制造。但晶体管质料差得多。DRAM是为慢速、眇小的晶体管和巨大的电容遐想的,而不是为逻辑遐想,是以速率受限。是以到了HBM4, 系数东谈主 某种程度上被迫废弃了这个策略。嗯,他们本应废弃这个策略。本质情况是SK Hynix去找了台积电,开动使用12纳米级别的工艺。这比他们用里面DRAM工艺凑合出来的垃圾要好得多。但仍然是12纳米,不是很好。三星有我方的里面SF4X逻辑节点,不是4纳米,我最多说它能跟台积电N6打平,或者在台积电N6和N7之间。对于它需要作念的事情来说异常可以。好意思光很蠢。他们说,不,咱们要用咱们我方的里面DRAM工艺。他们有点搬起石头砸我方的脚,迂缓了我方。然后有好多 drama,哦不,好意思光进不了Nvidia Rubin。没东谈主在乎。他们只会以天价卖出更多的普通DRAM或HBM3E。这些齐不进犯。这三家公司齐将以异常高的价钱卖光他们领有的系数家具。质料差距面前异常接近了。以前三星的HBM3相配差,没东谈主能用。某些东谈主不管什么价钱齐不会用三星的HBM3,因为有好多功耗问题。它太耗电了。但面前它们齐足够接近了,好吧,假定英伟达圭表更高,拒却了好意思光的HBM4,他们会把HBM4卖给其他东谈主,或者干脆以惊东谈主的毛利率出售普通DRAM。这不会在财务上影响好意思光。是以这方面幕后有好多 drama,我认为坦率地说很愚蠢。Chris:当你说内存时,你专指DRAM照旧HBM和DRAM?@bubbleboi:是的,我说DRAM时就把HBM包含在里面了。齐是同类的。我把内存分为DRAM和NAND闪存。就这两类。DRAM即是系数不是NAND闪存的内存。Chris:你说的第三大瓶颈是逻辑晶圆厂?@bubbleboi:你可以看到英特尔涨上天了,问题正在解决。问题是台积电即是莫得足够的产能。他们太保守了。六个月前,三星在先进逻辑上基本上莫得期骗率,简直为零。而英特尔只供里面用。面前有外部公司涌入,三星的期骗率也变得异常高了。是以有一些弹性空间,逻辑情况在二月份看起来相配倒霉。面前好多了。固然仍然异常倒霉,但莫得恶化。内存和磷化铟在已往六个月恶化了。逻辑有所改善,但仍然异常倒霉,因为建设这些分娩线需要很万古刻,而且再次强调,只须三个玩家:三星、英特尔、台积电。Chris:已往六个月还有哪些瓶颈恶化了?@bubbleboi:不,主若是那两个类别。我不认为功率半导体情况会变糟,但我认为它们是最道理的类别,因为电动汽车情况欠安,是以有好多闲置产能。Chris:你能解说一下功率半导体吗?@bubbleboi:功率半导体将电力从一种电压转换为另一种电压。你可以这样想。你有一个几千伏交流电的电网。你需要将其转换为较低的交流电,然后最终需要将其转换为直流电压。800伏直流,400伏直流,240伏交流。最终经过几个关键后,你的高端逻辑芯片破钞毛糙1.2伏操纵。更准确地说,每个高端逻辑芯片,那些3纳米的芯片,圭表电压毛糙是0.75伏。还有一些高压侧电压,比如1.1伏或1.5伏。是以你必须从相配高的电压降到芯片所需的低得多的电压。因此需要多个转换阶段。有些材料叫宽带隙材料,碳化硅和氮化镓,由于物理原因,它们比硅好得多。Chris:效果更高,是以检朴动力成本,何况需要更少的冷却?@bubbleboi:是的,没错。效果更高。而且能承受更高的电压。你试着把硅芯片放在相同的位置,它会烧掉,会自毁。Chris:在你提到的公司中,TI、Navitas、onsemi、Infineon,你最可爱哪个?@bubbleboi:嗯,这周末我会发帖。快写结束。面前在氮化镓领域,TI和Navitas并排第一,Infineon远远过期第二。onsemi宣称他们有很锋利的东西叫垂直氮化镓。但只是幻灯片。没特地据表,莫得本质规格。只是说,咱们作念了个东西,它会有这些惊东谈主的数字。好吧,自然。是以onsemi,也许他们有东西,也许莫得。在碳化硅方面我还没搞明晰,还需要几天。但碳化硅方面一个道理的玩家是,它是一个 meme 股票,但也不是 meme 股票。那即是Wolfspeed。Chris:给我讲讲Wolfspeed。@bubbleboi:他们 massively 过度建设了产能。他们是纯碳化硅公司,何况垂直整合。他们制造晶圆、衬底,他们制造器件, 系数 齐在里面完成。Chris:趁机问一下:对冲基金找你,只想听听你对某些事情的成见,你这样作念是因为好玩,这样你也能了解他们问什么问题?@bubbleboi:我也在学习。我了解到这些东谈主的想维花式。因为我只是个庸东谈主物。我不影响阛阓。这些东谈主才影响阛阓。他们也共享想法。至极是Wolfspeed,即是从一次对冲基金语言中得知的。Chris:Wolfspeed是从对冲基金语言中得知的?@bubbleboi:那是从五个泉源来的。这是一只相配道理的股票。他们是垂直整合的,100%好意思邦原土。他们过度建设了碳化硅产能,然后被中国竞争和电动汽车 downturn 打击了。他们真的停业了,第11章停业。他们不久前才从第11章停业中走出来,我想概况是四个月前。我得查一下。但照实是很近期的事。因为你的供应商停业了, 系数东谈主 罢手从他们那里购买。是以他们的工场期骗率据称只须30%操纵。相配相配低。面前他们总结了。问题是,如果阛阓有所好转,这只股票能涨5倍。杠杆率太高,太狂放了。但它刚刚停业。而且它的毛利率是负的。你可以看他们最新的财报。他们的毛利率是负20%。他们的请示是,咱们瞻望毛利率将不竭为负。他们 literally 每分娩一颗芯片就亏钱,因为产能期骗率太低了。面前道理的是,亦然东谈主们一直找我的原因,是Wolfspeed推出了这个10千伏的碳化硅芯片。这些芯片 literally 即是一个晶体管,一个必须承受 insane 电压和电活水平的超等、超等雄厚的晶体管。面前阛阓上额定电压最高的碳化硅晶体管在1700到2000伏范围内。Infineon有一个3.3千伏的器件。除了Wolfspeed,莫得东谈主有高于这个的。Wolfspeed说,哦,咱们可以作念一个10千伏的器件。我看着这个数据表,这东西简直是 insane。我不知谈他们到底是奈何作念到的。而且不是一眼就能看出,它到底是更好照旧更差?因为晶体管只是开关,梦想情况下,当你掀开晶体管时,你但愿它是一个完整的开关,莫得电阻。但这从来齐不是真的。总会有一些寄生电阻。是以当晶体管导通时,它就像一个眇小的电阻(这是过度简化了)。我看着这个Wolfspeed器件的寄生电阻,以及毁伤开关速率的寄生栅极电容,并将其与竞争敌手完全不同的器件,比如2000伏和3000伏的器件进行比较。寄生参数更差,但你只需要一个这样的器件,而不是三个。我不得不稽查一些电路仿真来弄明晰。我认为这个10千伏的器件本质上异常可以。它将用于基础设施。在数据中心里完全没用。当我告诉这些基金的东谈主时,他们说,哦不,它在数据中心没用。我说,伯仲,你错过了大局。固态变压器。你需要为高压交流电和数据中心之间的电网提供负载调度。是以我更看好位于数据中心外部的电力运送,而不是数据中心里面的。我以为每个东谈主齐在温煦谁会在英伟达遐想和OCP遐想的电源架中胜出,物理上位于数据中心里面。这是个有劝诱力的契机。但位于数据中心外部、介于数据中心和电网之间的东西,也相配道理。事实上,可以说更道理。是以是的,我可爱功率半导体。我认为这将是下一个爆发并成为瓶颈的东西。它不会成为主要瓶颈,因为电动汽车基本上不行了,是以有好多闲置产能。但它是最令东谈主茂盛的,江南体育(JNsports)官网app下载因为情况将会发生变化。Chris:你更看好数据中心外部的电力运送,而不是里面的?@bubbleboi:你有莫得开车经过看到变电站隔邻那些圆形的东西,还有那些大箱子?那些是传统的变压器。它们的责任道理是,你有一个巨大的铁芯,然后一侧绕着一堆铜线圈,另一侧也绕着一堆铜线圈。这些基本上是无源器件,你可以将比如100千伏的交流电转换为35千伏的交流电,然后将35千伏的交流电转换为7千伏的交流电,然后再将其转换为240伏、120伏的交流电参加你家。或者转换为2000千伏的交流电供给工业用户,用于长距离输电。你想要极高的电压以减少电力损耗。但要本质使用它,你必须用变压器降压。这些变压器不时是被迫的、重荷的东西,它们很倒霉,因为购买它们需要很万古刻。你现不才一个订单(这照旧在AI飞腾之前),然后12到18个月后他们才会给你,因为它即是一大块金属。制造它需要很万古刻。我认为东谈主们不睬解的是,他们在AI数据中心方面遭遇了一个大问题。想想看,假定你在电力公司责任,比如PG&E。你有新客户接入你的电网,你必须管束他们,他们的负载在剧烈地险峻波动。这些客户会说,哦,咱们面前需要一千兆瓦。然后五分钟之后,不,本质上咱们只需要八百兆瓦。这对电网运营商来说简直是恶魔般的恶梦。我不知谈你有莫得看到,前年推特广泛传,PyTorch团队添加了一个特殊的绚烂,叫作念\"电厂别爆炸\"。这是个道理的事情。那么这个绚烂是作念什么的?其时发生的问题是,你有好多GPU,1万个,10万个。它们在为熟谙作念多数筹画,然后其中一些要么罢手筹画,要么以低得多的速率筹画,因为它们在进行互联、互叠加信、全归约等等。这导致了电网的不稳固。电网运营商说,不管你在作念什么,停驻来,不然咱们就要割断你的连气儿。这很危境。你们在 破损 电网。是以PyTorch中这个绚烂的作用是,如果GPU不需要作念筹画,也强制它以最大速率进行筹画。就让它作念垃圾筹画,然后把垃圾驱懒散到 nowhere。假定你的芯片运行在500瓦。正常情况下,如果不责任,你会但愿它降到200瓦。但在这里,不,咱们不但愿它降到200瓦。让它一直保捏在500瓦,因为咱们不但愿电网运营商对咱们生气。电网运营商不悦的原因是,如果你磋议一个电力系统,当你有这些无源组件,这些无源变压器时,任何对负载的推拉齐会反向传播到电网,使其不稳固。这在已往还好,因为电网东谈主员会管束这些事情,何况有一些稳固电网的变通要领。但面前情况不再是这样了。咱们刚谈到了普通变压器。面前有固态变压器。我不知谈为什么叫固态变压器,因为以前的变压器亦然固态的,它们是无源的。与其用一大块铁和一堆铜线圈,不如用碳化硅芯片构建一些电路,你可以作念相同的事情,将高压交流电转换为低压交流电,甚而径直将高压交流电转换为直流电。为什么东谈主们以前不这样作念?这东西从2020年就有了。它更贵。你可以尽情悔过传统变压器,但它们低廉,你等上12个月就能拿到货。固态变压器贵得多,但它们有一个巨大的平允。那即是你可以进行负载调度。你可以动态地编程固态变压器,以确保两侧的电流和电压大致沟通。你可以改变开关频率。是以如果负载增多,你可以以更高的频率开关,或者如果负载减少,你就以更低的频率开关。Chris:他们在固态变压器中使勤勉率半导体。@bubbleboi:是的,是以这些是有源器件。它基本上即是一堆晶体管。不再是无源器件,一堆电感、铜线圈和一些二极管,而是晶体管。你通过掀开和关闭晶体管来管束电力,不单是是转换电力,还要管束它,以便你得到一个干净的800伏,而不是800伏正负20伏之类的。或者运送1000安培,而不是1000安培正负10%。你可以调度它。这相配进犯,因为这样你就毋庸在PyTorch中使用\"电厂别爆炸\"绚烂阔绰电了,你可以假造GPU功率,你就能取得巨大的效果擢升。电网运营商也会对你更酣畅。好多时候,许可问题,比如你试图建一个数据中心,但许可没批下来,你会想,为什么会这样?这是因为电力公司会说,你会破损电网稳固。咱们不可这样作念。然后面前你可以说,好吧,我会装置一些固态变压器,这是我将怎样不 破损 你的电网的决议。然后电力公司会说,好吧,我把电卖给你,你我方接进去。是以东谈主们通过多样创造性的花式绕过这个瓶颈。但我认为面前是时候作念固态变压器并承担成本了,因为价值就在那里。是的,你为转换电力的阿谁箱子付了更多钱。但你取得了系数这些平允。我认为这将在来岁开动加快。这更像是2027年下半年的故事。但股票的运作花式是,东谈主们会搞显著然后提前买入。股票是 forward looking 的。是以这面前还是开动发生了,我认为在接下来的36个月里它会愈加繁荣发展。Chris:比较于销售固态变压器的公司,你对功率半导体公司会更茂盛吗?@bubbleboi:一般来说是的,因为至少我个东谈主投资作风是领悟工程,或者至少尝试领悟,何况我能找出各异点。我在比较,我能看出谁的芯片比谁的好,谁能收取溢价。那些购买这些芯片并拼装成箱子的公司,那里也照实有价值,因为波及到适度方面。假定这个箱子有一千个相配坚强的晶体管。如果莫得保护电路和适度,那是极其危境的。你可能会点火连气儿到它的系数东西,产生电压尖峰。是以怎样将这些功率半导体组合在一齐有 careful 的遐想考量。这里有两家公司。好多东谈主一直在向我推选这个,我之前没当回事。然后当第15个东谈主发给我时,我说,好吧,我会读一读的。这两家公司叫SolarEdge和Enphase Energy。它们的历史是为太阳能电板板制造袖珍逆变器。太阳能电板板部署的问题是,太阳能电板板是直流的,但较着你家是用交流电的,是以你需要将每个太阳能电板板从直流转换为正确的交流电。然后还有好多安全方面的事情,你必须适度它,等等。是以这些公司为家庭太阳能部署作念这些袖珍逆变器。自从家庭太阳能的税收优惠政策变差以来,这些公司彻底完蛋了。你可以望望它们的股价。2021年操纵有个泡沫,然后它们跌了90%。它们面前即是垫底的股票。这些公司正在转向固态变压器。他们看到了契机。我还没时刻真切预计,但我本质上认为这是靠谱的。这是一个超等愚蠢的想法。但我认为看成股票它本质上会涨。因为他们在这类器件的拼装和保护电路方面相配有劝诫。而且这可以说比他们在太阳能领域作念的更容易,因为你不是把它散播在通盘屋顶上,你只是把系数东西放在一个盒子里,你可以更容易地进行过流保护。他们甚而有一些各异化的时间。Enphase有一个22纳米的适度ASIC。他们我方遐想了22纳米芯片来适度系数这些袖珍逆变器,因为你需要进行一定程度的筹画,并向系数这些模拟部件发送一系列不同的信号。这是一个散播式系统问题。基本上,你必须告诉一万个晶体管它们需要以什么速率开关,然后还要检测故障等等。是以他们有一个适度ASIC,这简化了他们的责任。这是一个的确的竞争上风。Chris:Delta Electronics奈何样?@bubbleboi:是的,Delta是大玩家。是以有Delta、Vertiv、Eaton等等系数这些大公司。这是他们的中枢业务。这是他们还是作念的事。这些股票还是涨了不少。SolarEdge和Enphase有劝诱力的地方在于它们还是被摈弃了,没东谈主温煦。这些股票,如果告捷,能涨5倍。你是想追赶像Vertiv那样还是涨了好多的,照旧想追赶这种有点 degenerate 的?是以这很道理。这不是个坏主意。它可能告捷。你想赌一把,就把投资组合的0.5%放进去。自然,为什么不呢。Chris:对冲基金一般齐问你什么?@bubbleboi:他们不时想听听我对某些事情的成见,因为我的投资记载是公开的,而且我的发扬跳跃了他们系数东谈主,不外请疑望,我承担了 insane 级别的风险。这些家伙好多是阛阓中性的,是以我的发扬跟他们比并不公谈。但我照实作念得异常可以。他们会问我意见之类的事情,好多时候齐是时间性问题,因为我对估值一无所知。未必候有新基金问我,哦,你对估值奈何看?难谈你不读我写的东西吗?但,是的,工程类问题。举例,Wolfspeed阿谁事。他们没东谈主知谈这个10千伏的碳化硅芯片到底好不好,以及会用在什么地方。我甚而以为Wolfspeed我方也不知谈它会奈何用,因为他们把核聚变反馈堆电力运送写在了数据表和新闻稿里。我就想,你们这果然扯得太远了。好多时候,公司管束层会告诉这些金融东谈主士一些事情,他们会问,他们说的是实话吗?我会回复是或否,或者情况复杂,你应该追问这些问题。是以主若是时间性的,但不完全是。Chris:Cerebras,你面前奈何看?@bubbleboi:我可爱它。我也有一些 harsh 的品评。Andrew Feldman 较着对此相配明晰。他们用的是FP16,这是个愚蠢的很是。如果他们杀青FP4,仅此一项就能取得3到4倍的容量。这是个容易杀青的指标。这只是数字逻辑。他们还需要诞生IO以卸载KV缓存。我不摄取那种\"哦,还是够好了\"的论点。这是个倒霉的借口。如果你有契机把你的家具擢升10倍,你就应该把它擢升10倍。不要炫耀于平常。终末,他们的毛利率标明他们的良率相配差。他们公开宣称他们在晶圆级别的良率是100%,我信赖他们,这意味着他们封装晶圆的良率是倒霉彻底的。概况在20%到40%之间。我不知谈为什么这样差,但他们需要解决这个问题。我仍然对他们有品评,更像是我想成为一个积极的投资者。我正在买入他们的一些股票。我不会离开。我捏看涨立场,但也很尖刻,因为它本可以好得多。Andrew Feldman 对IO问题捏否定立场。我说,不,伴计,别再否定了,快修好它。你可以作念得更好。就把家具作念得更好。Chris:你仍然看空 neo clouds 吗?@bubbleboi:是的,有点。望望CoreWeave上个季度的情况。我认为基本上他们因为系数枯竭(光学器件和内存)而濒临更高的成本。系数的金融东谈主士齐问,你们通过左券把成本转嫁给客户了吗?CoreWeave的CEO试图回复这个问题两次,我完全不知谈谜底是什么。因为股价下落了,我猜金融东谈主士解读为,不,他们被坑了。他们签了长久左券,无法转嫁成本。Chris:对最可能倒闭的 neo clouds 有什么成见?@bubbleboi:那些小公司。CoreWeave足够大。Oracle足够大。Nebius可能也足够大。我不祥情会不会倒闭,但最终会有问题。这里的债务水平。一朝出现 downturn,或者甚而如果加息,本年下半年可能会加息,那将对他们形成严重打击。这只是一个倒霉的生意。还有好多其他很棒的东西可以投资。就去投那些吧。我不解白为什么东谈主们想领有这些垃圾。Chris:Terafab?@bubbleboi:莫得足够的信息,除了看起来他们可能在授权Intel 14A工艺。这是我对情况的猜测解读。莫得信息。Chris:CPO的实施会遭遇好多问题吗?@bubbleboi:我不认为会有问题。顾忌可靠性的东谈主完全错了,何况不懂工程。问题将是磷化铟枯竭,那相配相配严重。但部署方面,不,我不信赖会有问题。如果你作念得对,如果你作念足了作业,就不会有问题。本质上它会比收发器更可靠。Chris:对Amkor有什么成见?@bubbleboi:莫得,我不太温煦封装领域的玩家。Chris:那Ibiden或Unimicron呢?@bubbleboi:莫得,我不知谈。莫得成见。Chris:Nokia照旧Infinera?@bubbleboi:哦,是的。它有后劲成为低廉得多的Ciena版块。是以如果你以为,哇,Ciena涨了好多,估值很高,那么你可以买Nokia,他们也在尝试作念相同的事情。是以我认为这是一个的确的价值投资。它是少数几个估值合理的东西之一。我面前莫得捏有,但我进收支拨过,我需要更多时刻来磋议。但,是的,我可爱它。Chris:你偏好的参与磷化铟的花式是什么?@bubbleboi:主若是Lumentum。更冒险的作念法是AXT,然后半导体斥地方面是德国公司AIXTRON。就这三家。Chris:你认为面前什么被炒作得最锋利?@bubbleboi:我会说是microLED,因为我认为这是一个骗局。有毛糙七种microLED的替代决议,而且它们在客不雅上完全更好。是以,是的,我即是憎恨microLED。Chris:GE Vernova。@bubbleboi:我捏有不少。我在一个只作念多的账户里,概况在170的价位买了好多股。我的平均成本价概况在170到250之间。它还是涨上天了,嗯,我想我长久不会卖这个了。是以,是的,很棒。燃气轮机。我运谈好,有东谈主很早就给我败露了音信。他们的护城河质料很高。他们是少数能制造这个的公司之一。但到了这个地步,他们还是完全被订满了,股价也涨了这样多,我不祥情股价还能奈何更高。产能从那里来,或者加价从那里来?我不知谈。Chris:从你的只作念多投资组合中选几个:Besi、Rigaku、台积电或Fujikura,哪个最令东谈主茂盛?@bubbleboi:Rigaku。Chris:那是用于先进封装的X射线?@bubbleboi:Besi还是涨了好多,是以在面前的价位买入,我不知谈。但Rigaku,传统玩家是Camtek和Onto,他们作念基于光学的先进封装检测。这些X射线机器传统上用于研发主张。假定你是台积电,你正试图开发你的2纳米节点,在研发部分,你需要的确真切地不雅察并弄明晰发生了什么,你会买几台这种Rigaku机器,把它们用于研发,然后再也毋庸了。面前情况还是发展到,由于全环绕栅极晶体管、后头供电以及下一代先进封装更严格的公役,你必须使用这些X射线机器。你用光学就完蛋了。是以Rigaku正从 niche 研发转向分娩。Onto知谈他们完蛋了,因为他们看成计谋勾通伙伴收购了Rigaku 27%的股份。基本上,在Rigaku机器上运行的软件即是Onto的软件。是以好多东谈主说,哦,这对Onto是利好。不,不是的。他们知谈我方造不出机器,是以就去买了能造机器的公司四分之一的市值,然后趁机卖点软件。是以,就买Rigaku。是以,是的,那是我最可爱的专科 niche 半导体斥地。我可爱它。Chris:从你的往来账户中:Tower Semi、Lumentum、Intel、Bloom、Semtech,哪个最令东谈主茂盛?@bubbleboi:Semtech。绝对是Semtech。其他的还是涨了好多。Semtech,我仍然认为东谈主们莫得完全领悟他们作念什么。Chris:我相配纯真的领悟是它让铜线责任得更好?@bubbleboi:那是真的,但那只是故事的一小部分。他们制造模拟放大器和模拟平衡器。好意思妙之处在于,这可以用于有源铜缆,可以用于PCB,可以用于线性可插拔光学器件,可以用于传统收发器,可以用于Arista XPO的东西,可以用于近封装光学器件。这他妈的是 系数。不单是是铜,是 系数。太棒了。而且他们领有最高质料的部件。基本上是他们和MACOM之间的双头操纵。Semtech的部件即是更好。我看过数据表。我用过这些东西。是以好多金融东谈主士,他们和一些业务东谈主员作念大师电话会议,哦,是的,咱们有两个供应商,等等。我说,伯仲,比例是若干?概况是90% Semtech,因为Semtech的部件好得多。是以,是的,Semtech还有很大的高潮空间。这他妈太棒了。它无处不在。不单是是铜。Chris:在不同的细分领域,低、中、高,你认为HBM紧俏程度怎样?@bubbleboi:是的,高。Chris:硅光、光学器件、CPO。@bubbleboi:也很高。磋议到Tower的情况。Chris:Tower发生了什么?@bubbleboi:东谈主们提前为2027年、2028年的产能付钱给Tower。他们的股票涨了概况15%。那是几十亿好意思元的市值增长。他们被订光了。Chris:你认为光学器件中哪个子集最进犯?@bubbleboi:磷化铟部分,激光器。Chris:先进封装。@bubbleboi:我不认为那会成为太大的问题,因为英特尔正在多数增多产能。我想英特尔在马来西亚有好多产能。Chris:对EMIB的成见?@bubbleboi:是的,EMIB很好。直不雅上你可以认为EMIB基本上和CoWoS-L是一样的。有一些时间细节,但从遐想者的角度来看是一样的。18个月前EMIB的问题是英特尔在遐想次序和客户职业方面有点愚蠢,相配倒霉。然后Lip-Bu Tan来了,罢黜了一堆东谈主,面前好了。面前东谈主们正在把东西飘浮到EMIB,因为,第一,台积电莫得足够的CoWoS产能,第二,台积电更自得用他们的洁净室空间来分娩60-70%毛利率的N3,而不是用来作念CoWoS。是以我认为先进封装的情况,至少相对于其他东西,不会像东谈主们想的那么糟。其他东西会更糟。Chris:ABF基板。@bubbleboi:我知谈的不够多。Chris:HBF。@bubbleboi:我完全不可爱高带宽闪存。我不认为这是一个好的解决决议,因为它会有历久性问题。是以我即是不可爱它。我甚而不想把它看作一个瓶颈。我只是以为这是个坏主意。如果你要为此类应用使用闪存,那么你需要让它可插拔。如果它是可插拔的,你就不需要堆叠它。你可以把它放在CXL适度器周围,然后放在职业器的某个地方。Chris:晶圆。@bubbleboi:磷化铟晶圆,异常倒霉。碳化硅晶圆,不。普通晶圆也不,可能还好。Chris:PCB。@bubbleboi:很倒霉。撑捏200G SerDes的高速、最高质料的材料,是的,相配倒霉。 系数东谈主 基本上齐被订光了。Chris:那里有偏好的投资标的吗?@bubbleboi:我往来过TTMI,进收支拨,但面前它涨太多了,我不想再碰了。是以,是的,我不知谈该投资哪个。还有好多台湾的玩家我不温煦。这是我不碰的领域之一。Chris:电力和变压器。@bubbleboi:感到茂盛,是的。瓶颈,不是。有好多闲置的晶圆厂产能。然则最茂盛,是的。Chris:茂盛是因为它在时间上对你来说很道理?@bubbleboi:时间上很道理,而且是下一个会爆发的东西。Lumentum的股票在财报后没涨的一个很大原因,它跌了然后又涨了,是因为Hurlston告诉 系数东谈主,好吧,咱们将来两年的东西齐卖光了,这告诉金融东谈主士,好吧,就 upside 而言不会变得更好了。Wolfspeed有后劲涨5倍。它可能会真的狂放。然后系数通例的功率半导体公司,Infineon、TI、onsemi、STM,它们齐能翻倍。它们能翻倍。这还莫得被订价进去。其他的还是被订价了。这个还莫得。Chris:网罗交换机。@bubbleboi:还好。它只是与逻辑晶圆竞争,何况需要一些CoWoS,但未几。还好。Chris:光纤。@bubbleboi:面前不太好。有一些问题。我不认为它像其他东西那么糟,是以姑且说是中等吧。至极是保偏光纤。在某些情况下需要的一种更昂然的类型。Chris:液冷。@bubbleboi:还好。我没据说有什么问题。Chris:拼装和测试联系的东西。@bubbleboi:那可以增多产能。正在增多产能。增多产能不具挑战性。Chris:CPU。@bubbleboi:大问题。是的,大问题。英特尔可以在一定程度上增多产能。这即是为什么它的股价涨了这样多。AMD,他们在一定程度上增多了产能,因为他们正在使用他们旧的基于N5的CPU遐想,并重新增多阿谁的产能。但面前他们这样作念了,如果CPU情况恶化,他们该奈何办?如果我是AMD,我想期骗我的台积电分拨,卖GPU照旧CPU?你必须采选。ARM莫得晶圆。高通。尽管我憎恨承认,独一能匡助解决CPU逆境的是高通,因为他们在台积电有好多晶圆。但问题是,高通是独一有晶圆产能何况可以将其转向CPU的大玩家,因为如果Android不竭断崖式下落,他们仍然在台积电有那些晶圆的订单。他们可以告诉台积电去印制CPU遐想来代替。这即是为什么高通涨了这样多,因为东谈主们抱有但愿。高通在数据中心CPU上还是失败了三次。这是他们的第三次或第四次尝试。如果他们此次还搞不定,那真的就没但愿了。它只需要能用。如果能用,东谈主们会买它,他们会从中赚好多钱,这将挽救公司于Android崩溃和苹果行将到来的诉讼。Chris:CPU你更看好谁?@bubbleboi:我更可爱英特尔作念CPU,因为莫得什么能让我买高通。然则基金的东谈主问过我,哦,我应该买高通作念CPU吗?好吧,如果你想信赖这些白痴,你可以买。但我不会。然则自然,如果你想投,那就投吧。我承认他们有好多产能,我承认他们有好多产能,而且他们有可能作念成。Chris:DRAM亦然高瓶颈?@bubbleboi:是的,我基本上把DRAM和HBM视为等同。Chris:硬盘?@bubbleboi:莫得成见。我猜既然NAND枯竭,硬盘可能也变得更殷切了。我对此了解不够。Chris:数据中心厂房?@bubbleboi:我不追踪那些东西。莫得成见。Chris:功率半导体对你来说会是高瓶颈吗?@bubbleboi:不,面前是低。面前还不是瓶颈,但一年后会成为瓶颈。是以这即是它最道理的地方,因为它有高潮空间。Chris:NAND。@bubbleboi:我认为DRAM享有溢价。NAND也和DRAM一样枯竭,但我认为NAND更危境,因为它比DRAM更容易出现供应弥漫。但,是的,高瓶颈,不外我要说我更偏好DRAM而不是NAND。Chris:是否有任何模子变化,比如长险峻文、更多强化学习、寰宇模子,你瞻望会极地面改变硬件需求?@bubbleboi:我忠实地认为系数东谈主齐执政着更长的险峻文长度发展。这其中有经济价值。东谈主们自得为更长的险峻文长度付费。是以这会伤害系数内存,系数。这只是概况的高端倪不雅点。我不太温煦模子架构。但从经济方面看,是的,东谈主们想要超长的险峻文长度或长序列的token。Chris:如果你是老黄,你下一步会锁定什么供应?@bubbleboi:他还是锁定了系数东西的供应。我正想说光纤,然后他就去科罚了Corning的往来。我认为此东谈主如神,他还是锁定了系数。我想他照实作念到了。Chris:哪一家公司你会推选给你的父母,看成捏有10年的投资?@bubbleboi:英特尔,因为英特尔是一个狂放的长久捏有标的。还有博通、是德科技。SiTime,但也许不是在这个价位。英伟达,较着。台积电。这些齐是长久的,可以闭眼买。Chris:博通,我预料他们系数的客户齐积极但愿解脱对他们的依赖,照旧这不是问题?@bubbleboi:谷歌正在尝试。我告诉你,进展并不顺利。除了Lumentum,另一个磷化铟的大玩家本质上是博通。没若干东谈主知谈这个。博通有一个巨大的激光器部门。相配多元化的公司。