IBM全新光学时候可镌汰GPU闲置时期，大幅加速AI模子覆按速率
发布日期：2025-01-07 06:32 点击次数：181
IT之家 12 月 11 日音问，IBM 书记斥地出一种新的光学时候，概况以光速覆按 AI 模子，同期大幅省俭动力。该公司暗示，通过将这项冲破诈欺于数据中心，覆按一个 AI 模子所省俭的动力尽头于 5000 个好意思国度庭一年的动力破钞。
该公司领略注解说，固然数据中心通过光纤电缆与外部天下纠合，但里面仍然使用铜线。这些铜线纠合着 GPU 加速器，而 GPU 加速器在恭候来自其他树立的数据时会有大批时期处于舒服情景，同期破钞能量并推高资本。
IBM 高档副总裁兼征询总监 Dario Gil 称：“跟着生成式 AI 对更多动力和处罚才气的需求，数据中心必须进化，而共封装光学时候（CPO）不错使这些数据中心面向往日。通过这一冲破，往日的芯片将像光纤电缆收支数据中心传输数据通常进行通讯，从而开启一个更快、更可握续的通讯新期间，概况处罚往日的 AI 职责负载。”
IT之家介意到，IBM 在一篇时候论文中抽象了其新的 CPO 原型。通过显贵增多数据中心的带宽，不错最大界限地减少 GPU 的闲置时期，从而加速 AI 处罚。IBM 称，大型言语模子（LLM）的覆按时期不错从三个月镌汰到三周。同期，更高的动力效果将降顽劣源破钞，并减少与覆按 LLM 关连的资本。