英伟达下一个居品GB300，有什么启示？
发布日期：2024-12-29 05:35 点击次数：66
针对上周五所谓“微软砍单GB200”据说，今天卖方纷繁出来解说：
MS：“供应链拜访透露铜缆合股器的问题照旧通过机柜重新狡计惩处了，首批GB200照旧在最终测试阶段，12月经常发货。GB300的切换会在25H1狡计完成后进行。” （大摩说的这个批次应该是改版前的批次）
JPM：“畴昔几个月漏液问题一直是要道瓶颈，咱们觉获取今天照旧大部分获取惩处。”
粗略不错判断，这些拼装要领的“小问题”，不会让量产时期推迟太多。但有个问题值得夺目，等于GB200和GB300的量产时期收支也就6个月。星球更新过GB300的时期表、详备办法。部分办法如下：
主要永诀：
HBM从8Hi到12Hi，因此每GPU的HBM容量从192GB提高到288GB
单卡功耗当然从1.2kW提高到1.4kW（Rubin会到1.8kW）。最神奇的是，通过所谓“power steering”，统共机柜的能耗依然保抓在132kW不变！（单元算力能耗又又又又缩小了）
通过新的ultra架构，带来单卡1.5倍的FP4性能提高
网卡从CX7升级CX8。CX8平直优点等于复古更大端口量的交换机，2层网罗组网界限更大，意味着单卡网罗能耗老本缩小
GB200是每个compute tray2张GB200板卡，每GB200是1Grace CPU+2 GPU，而GB300是调治一张board，2Grace+4GPU，看似没永诀，但主要变化是增多了内存模组和GPU socket，让拼装替换更为活泼
超等电容和BBU（之前星球照旧多条帖子详备先容过）
看完你会发现，GB300比拟GB200，看似老本神情变化不大， 但笼统性能、可重视性、定制活泼性等方面，王人有彰着改善。又回到了老黄的“分段迭代法”，多个渺小的进取一相乘，系统提高显耀。那么问题就来了：
1. GB200和GB300的量产时期收支也就6个月，乍看起来，GB200显得有点短寿....
2. 但这不是问题，因为GB300说白了，等于GB200 ultra，或者叫GB200升级版。畴昔咱们算GB200机柜数目，当今不错将GB200+GB300合二为一看待，举座去算机柜数目
3. 暴燥的客户比如Elon Musk，价格也要立即随即就要GB200，没问题。不暴燥的客户，或者说蓝本订单就好多、蓝本产能托付就排到了25H2的客户，十足不错等25H2的GB300。这不错叫“切换”，但其实总需求没变。
4. GB200的ramp up历程，绝顶于给GB300趟路了，诸多“小问题”惩处后，GB300将是一个更为恰当的完满版块。而GB300的得胜量产， 才是确切的里程碑本领，意味着NVL机柜这种跨时期居品，确切被英伟达“十足工程化杀青”了。
朝上，继续去冲击288卡的1MW“怪兽”；向下，不错普通模块化拼装GB300A、某地区阉割版GB30，洋洋纚纚。专家可能会问了，会有GB30吗？看刻下的场合，也不是没可能。
本文起首：信息平权，原文标题：《英伟达下一个居品GB300，有什么启示？》
风险领导及免责条目 市集有风险，投资需严慎。本文不组成个东说念主投资提议，也未探讨到个别用户颠倒的投资标的、财务景色或需要。用户应试虑本文中的任何观念、不雅点或论断是否相宜其特定景色。据此投资，职守自诩。