近日英伟达GTC大会上，快手公布了新大模型训练解决方案。据悉，通过计算通信重叠、异构存储利用、通信资源管控、算子优化等手段，该方案可支持百万级别超长文本训练，并且在训练性能上比sota开源方案快30%以上。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：王其霖
快手在GTC大会发布大模型训练解决方案，支持百万级超长文本
近日英伟达GTC大会上，快手公布了新大模型训练解决方案。据悉，通过计算通信重叠、异构存储利用、通信资源管控、算子优化等手段，该方案可支持百万级别超长文本训练，并且在训练性能上比sota开源方案快30%以上。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：王其霖
