IBM全新光学技能可缩短GPU搁置时刻大幅加快AI模型练习速度
宣告开宣布一种新的光学技能,能够以光速练习 AI 模型,一起大幅节约动力。该公司表明,经过将这项打破应用于数据中心,练习一个 AI 模型所节约的动力相当于 5000 个美国家庭一年的动力耗费。
宣告开宣布一种新的光学技能,能够以光速练习 AI 模型,一起大幅节约动力。该公司表明,经过将这项打破应用于数据中心,练习一个 AI 模型所节约的动力相当于 5000 个美国家庭一年的动力耗费。
该公司解说说,尽管数据中心经过光纤电缆与外部国际衔接,但内部依然运用铜线。这些铜线衔接着 GPU 加快器,而 GPU 加快器在等候来自其他设备的数据时会有很多时刻处于闲暇状况,一起耗费能量并推高本钱。
IBM 高档副总裁兼研讨总监 Dario Gil 称:“跟着生成式 AI 对更多动力和处理才能的需求,数据中心有必要进化,而共封装光学技能(CPO)能够使这些数据中心面向未来。经过这一打破,未来的芯片将像光纤电缆进出数据中心传输数据相同进行通讯,然后敞开一个更快、更可继续的通讯新时代,可处理未来的 AI 作业负载。”
IT之家注意到,IBM 在一篇技能论文中概述了其新的 CPO 原型。经过明显地添加数据中心的带宽,能够最大极限地削减GPU的搁置时刻,然后加快 AI 处理。IBM 称,大型言语模型(LLM)的练习时刻能从三个月缩短到三周。一起,更高的动力功率将下降动力耗费,并削减与练习 LLM 相关的本钱。
触及近20家中国企业!美国国会对四家美国风司在华出资打开查询(附名单)