宝塔服务器面板,一键全能部署及管理,送你10850元礼包,点我领取

【网易科技7月14日报道】浪潮信息联合英特尔发布面向生成式AI领域创新开发的新一代AI服务器NF5698G7。

记者获悉,浪潮信息NF5698G7在6U空间支持8颗基于开放加速模组OAM高速互联的Gaudi2 AI加速器,每颗Gaudi2芯片配置96GB HBM高速内存,共提供2.1Tbps的P2P互联带宽,支持全互联拓扑,满足大模型训练张量并行的通信需求;搭载2颗第四代至强处理器,支持AMX/DSA等AI加速引擎。

Gaudi2是英特尔推出的深度学习加速器,以多方位性能与能效比提升,为业界提供了高性能、高性价比的AI算力选项,在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基准测试中,均取得了优异的性能表现。

与此同时,NF5698G7采用高扩展设计,支持12个PCIe5.0 X16的IO扩展,最大支持4800Gbps节点间互联带宽,满足大模型流水线并行和数据并行的通信需求,可扩展至万卡AI集群。NF5698G7通过精细化分区、智能散热调控、12V & 54V N+N双输入供电等创新设计,实现高功率负载动态匹配和低电源功率损耗,系统功耗降低8%。

NF5698G7基于全球开放计算OCP开放加速器规范 OAM/UBB进行产品设计,支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行开发工具,为生成式AI提供成熟、高性价比的开放生态产品方案。

NF5698G7支持浪潮信息的AI算力资源平台AIStation,通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,有效提升大模型算力平台的使用效率,助力客户加速AI大模型开发与部署。