英伟达GPU,迎来劲敌
发布日期:2025-01-05 07:10 点击次数:122
着手:施行编译自nytimes,谢谢。
在德克萨斯州奥斯汀的南部,半导体制造商超微半导体公司的工程师联想了一款名为 MI300 的东谈主工智能芯片,该芯片于一年前发布,瞻望在发布的第一年将创造逾越 50 亿好意思元的销售额。
在奥斯汀北部不远方的一座高层建筑里,亚马逊的联想师开采了一款名为 Trainium 的新式、速率更快的东谈主工智能芯片。随后,他们在包括手掌大小的电路板和两台雪柜大小的复杂狡计机在内的居品中测试了该芯片。
德克萨斯州首府的这两项发愤反应了快速发展的东谈主工智能芯片市集的转动,东谈主工智能芯片可能是当前最热点、最令东谈主垂涎的工夫。该行业永久以来一直由英伟达主导,该公司哄骗其东谈主工智能芯片成为价值 3 万亿好意思元的巨头。多年来,其他公司一直试图匹敌该公司的芯片,这些芯片为东谈主工智能任务提供了浩瀚的狡计武艺,但发达甚微。
当前,超威半导体公司(AMD)和亚马逊所坐褥的芯片,以及客户对其工夫的反应,都标明 Nvidia 的可靠替代品终于出现了。
Futurum Group 分析师丹尼尔·纽曼 (Daniel Newman) 示意,关于一些关节的 AI 任务,Nvidia 的竞争敌手正在解释他们不错提供更快的速率,而况价钱要低得多。“每个东谈主都知谈这是可能的,当前咱们启动看到它成为现实,”他说。这一滑变是由一系列科技公司鼓吹的,从亚马逊和 AMD 等大型竞争敌手到限度较小的初创公司,这些公司已启动针对东谈主工智能发展中日益蹙迫的特定阶段定制芯片。这如故由称为“推理”,发生在公司使用芯片磨练东谈主工智能模子之后。它允许他们履行诸如使用东谈主工智能聊天机器东谈主提供谜底等任务。
“果真的生意价值来自推理,而推理正启动得到限度,”移动芯片制造商高通首席履行官克里斯蒂亚诺·阿蒙 (Cristiano Amon) 示意。高通打算使用亚马逊的新芯片履行 AI 任务。“咱们启动看到变革的启动。”
Nvidia 的竞争敌手也启动以另一种形态效仿该公司的作念法。他们启动效仿 Nvidia 的政策,即制造整台狡计机(而不单是是芯片),以便客户约略最大落拓地哄骗芯片的功率和性能,用于 AI 筹画。
周二,亚马逊秘书推出基于其新 Trainium 2 AI 芯片的狡计作事,并得到了包括苹果在内的潜在用户的好评,这充分标明竞争日趋蛮横。该公司还推出了包含 16 或 64 个芯片的狡计机,这些狡计机具有超快的收罗通顺,不错稀疏加速推感性能。
亚马逊收罗作事首席履行官马特·加曼 (Matt Garman) 示意,亚马逊以致正在为其投资的初创公司 Anthropic 建筑一种巨型东谈主工智能工场。这家总部位于旧金山的初创公司的首创东谈主兼首席狡计官汤姆·布朗 (Tom Brown) 示意,该狡计“集群”将领少见十万个新的 Trainium 芯片,其性能将是 Anthropic 也曾使用过的任何芯片的五倍。该公司运营着Claude 聊天机器东谈主。
布朗先生说:“这意味着客户将以更低的价钱和更快的速率得到更多的谍报。”
市集商讨公司 Omdia 的数据线路,总体而言,数据中心运营商在未配备 Nvidia 芯片的狡计机上的支拨(这些狡计机提供 AI 任务所需的狡计武艺)瞻望本年将增长 49%,达到 1260 亿好意思元。
即便如斯,竞争加重并不料味着 Nvidia 有失去当先地位的危机。该公司一位发言东谈主提到了Nvidia 首席履行官黄仁勋 (Jensen Huang)的批驳,黄仁勋曾示意,该公司在 AI 软件和推理武艺方面具有浩瀚上风。黄仁勋还补充说,该公司新款 Blackwell AI 芯片的需求茂盛,他说,尽管这些芯片运行所需的功率有所加多,但每瓦能耗不错履行更多狡计。黄先生本年在斯坦福大学的一次演讲中示意:“咱们的总体领有成本稀疏好,即使竞争敌手的芯片是免费的,咱们也仍然不够低廉。”
东谈主工智能芯片市集的变化在一定进程上受到了资金淳朴的初创公司的鼓吹,举例 SambaNova Systems、Groq 和 Cerebras Systems,这些公司最近宣称在推理方面具有浩瀚的速率上风,而况价钱和功耗更低。Nvidia 当前的芯片每片售价高达 15,000 好意思元,而其 Blackwell 芯片瞻望每片售价数万好意思元。
这促使一些客户转向其他领受。德克萨斯高档狡计中心(一家商讨中心)的履行董事丹·斯坦都奥内 (Dan Stanzione) 示意,该组织打算来岁购买一台基于 Blackwell 的超等狡计机,但很可能也会使用 SambaNova 的芯片来履行推理任务,因为它们的功耗和价钱较低。
他在谈到 Nvidia 的芯片晌说谈:“那些东西着实是太贵了。”
AMD 示意,瞻望来岁推出的全新 AI 芯片将对准 Nvidia 的 Blackwell 芯片。该公司在奥斯汀的实验室对 AI 芯片进行了全面测试,高管们示意,推感性能是一大卖点。Meta 是 Facebook 和 Instagram 的总计者,该公司示意,它已经使用 Nvidia 芯片磨练了一个名为 Llama 3.1 405B 的新 AI 模子,但它使用 AMD MI300s 芯片为用户提供谜底。
亚马逊、谷歌、微软和 Meta 也在联想我方的东谈主工智能芯片,以加速特定的狡计任务并裁减成本,同期仍在构建由 Nvidia 芯片驱动的大型机器集群。本月,谷歌打算启动销售基于第六代里面开采芯片 Trillium 的作事,该芯片的速率险些是其前代芯片的五倍。
亚马逊未必被视为东谈主工智能界限的过期者,但它似乎决心奋发自强。该公司本年拨款 750 亿好意思元用于东谈主工智能芯片和其他狡计硬件,以绝顶他老本支拨。
该公司位于奥斯汀的办公室由 2015 年收购的初创公司 Annapurna Labs 运营,工程师们之前曾为亚马逊收罗作事开采收罗芯片和通用微责罚器。其早期的东谈主工智能芯片(包括 Trainium 的第一个版块)并莫得得到太多市集关注。
亚马逊对新推出的 Trainium 2 芯片更为看好,该芯片的速率是之前芯片的四倍。周二,该公司还秘书了另一款芯片 Trainium 3 的打算,该芯片的性能将愈加强劲。
旧金山东谈主工智能初创公司 Poolside 的首创东谈主兼首席工夫官 Eiso Kant 臆想,与基于 Nvidia 的硬件比拟,Trainium 2 的每好意思元狡计性能将莳植 40%。
Kant 补充说,亚马逊还打算谢全国各地的数据中心提供基于 Trainium 的作事,这有助于完成推理任务。
“事实上,在我的业务中,我并不护理底层的硅片是什么,”他说。“我护理的是得到最好性价比,并能将其提供给最终用户。”