IT之家 2 月 12 日音讯，浪潮信息今天宣告推出元脑 R1 推理服务器，经过体系创新和软硬协同优化，

  IT之家注：DeepSeek 开源了多版别模型，其间，DeepSeek R1 671B 模型作为全参数根底大模型，比较蒸馏模型具有更强的泛化才能、更高的准确性和更好的上下文理解才能，但也对体系显存容量、显存带宽、互连带宽和推迟提出了更高要求：

  此外，DeepSeek R1 是典型的长思想链模型，具有短输入、长输出的使用特色，推理解码阶段依靠更高的显存带宽和极低的通讯推迟。

  元脑 R1 推理服务器 NF5688G7 原生搭载 FP8 核算引擎，供给 1128GB HBM3e 显存，满意 671B 模型 FP8 精度下不低于 800GB 显存容量的需求，单机支撑全量模型推理情况下，仍保存足够的 KV 缓存空间，该机的显存带宽可达4.8TB/s。

  在通讯方面，GPU P2P 带宽达 900GB/s，根据最新推理结构单机可支撑 20-30 用户并发。一起，单台 NF5688G7 装备 3200Gbps 无损扩展网络，可依照每个用户事务需求量开端上涨完成灵敏扩展，供给 R1 服务器集群 Turnkey 解决方案。