优刻得DPU裸金属训练集群亮相英伟达GTC大会

2024-03-20 11:30:24 来源:上海证券报·中国证券网 作者:高志刚

  上证报中国证券网讯(记者 高志刚)据优刻得消息,近日,备受瞩目的AI盛会英伟达GTC2024在美国举行。作为业界领先的云计算科技企业,优刻得受邀参会。在GTC专题会议环节,优刻得研发总监王晓慧发布了基于DPU裸金属的训练集群,演示了集群在大模型场景的应用实践,并与全球开发者共同交流探讨智能算力新风向。

  王晓慧分享道,大模型训练需要消耗大量的计算资源和时间,如何高效搭建和管理训练集群成为加速大模型落地的核心挑战。在NVIDIA的支持下,优刻得率先将DPU应用于裸金属物理云,实现了软件定义的计算、存储和网络,助力集群计算效率提升。她强调,DPU裸金属训练集群为高带宽、低延迟、数据密集的大模型训练场景提供强大的计算引擎,大幅提升了网络处理能力和数据传输速度。

  会上,王晓慧还进一步分享了优刻得孔明智算平台在大模型训练场景中的优势。据悉,孔明智算平台是优刻得自主研发的一款智能算力管理平台,能够帮助大模型公司提高训练效率、优化模型性能、降低开发成本。用户可以轻松构建并管理训练集群,并对计算资源的智能调度和优化配置,无需将更多精力关注在底层资源层面,从而实现更加高效的大模型训练。