浪潮AI服务器

浪潮DeepSeek一体机 大模型本地部署解决方案

济南特荣作为浪潮服务器签约代理商,提供浪潮DeepSeek一体机本地化部署方案,从32B体验装到671B全量版,搭载H20/L20 GPU和EPAI大模型开发平台,适用于教育、医疗、制造业私有化AI场景。

浪潮DeepSeek一体机是浪潮信息推出的大模型本地部署解决方案,原生搭载FP8计算引擎,针对DeepSeek R1 671B模型部署速度快且无精度损失。1128GB HBM3e高速显存满足全量模型对显存容量的需求,同时保留充足KV缓存空间。济南特荣作为浪潮服务器签约代理商,提供DeepSeek一体机本地化部署服务。

浪潮DeepSeek一体机提供从体验装到671B全量版的完整配置矩阵,覆盖32B蒸馏版、70B蒸馏版、671B INT4量化版和671B全量版。配套EPAI企业大模型应用开发平台,开箱即用,支持数据处理、模型微调、知识库构建、智能体编排。作为济南浪潮代理商,济南特荣为教育、医疗、制造业客户提供私有化大模型部署方案。

产品规格

组件描述
产品形态裸机版 / 元脑企智一体机版
671B全量版(6U)CPU:2×Intel Xeon 8558P(48核2.7GHz)
GPU:8×NVIDIA H20 141GB
内存:32×64GB DDR5-5600 RDIMM(2048GB)
硬盘:2×960GB SSD + 4×7.68TB NVMe SSD
性能:64并发10.4 tokens/s,32并发14.9 tokens/s
电源:8个电源
671B满血INT4量化版(2U)CPU:2×Intel Xeon 8558P(48核2.7GHz)
GPU:1×NVIDIA L20 48GB
内存:32×32GB DDR5-4800 RDIMM(1024GB)
硬盘:2×960GB SSD + 2×3.84TB NVMe SSD
利用Intel CPU AMX指令集加速
70B蒸馏版(4U)CPU:2×Intel Xeon 6530(32核2.1GHz)
GPU:8×NVIDIA L20 48GB
内存:16×64GB DDR5-5600 RDIMM(1024GB)
硬盘:2×960GB SSD + 4×3.84TB NVMe SSD
性能:16并发23.6 tokens/s
电源:4个电源
32B蒸馏版(4U)CPU:2×Intel Xeon 6530(32核2.1GHz)
GPU:4×NVIDIA L20 48GB
内存:8×64GB DDR5-5600 RDIMM(512GB)
硬盘:2×960GB SSD + 4×3.84TB NVMe SSD
性能:32并发26.4 tokens/s
电源:4个电源
32B及以下体验装(2U)CPU:2×Intel Xeon 6530(32核2.1GHz)
GPU:2×NVIDIA L20 48GB
内存:8×32GB DDR5-5600 RDIMM(256GB)
硬盘:2×960GB SSD + 2×3.84TB SSD
电源:2个电源
RAID9460 RAID卡4G缓存(高配)/ 8204 RAID卡2G缓存(低配)
网卡2×万兆网口(含模块)
操作系统K-OS正版Linux操作系统
软件平台EPAI企业大模型应用开发平台:微调数据生成、模型开发训练微调评估部署、知识库、应用编排、智能体等;多元算力调度、多模型适配;全链路数据防护、分级权限、文件加密、多级过滤审核

产品特性

性能最好的产品:原生FP8计算引擎,DeepSeek R1 671B部署速度快无精度损失。1128GB HBM3e满足全量模型显存需求并保留KV缓存。

真实的调优实践:推理框架优化、硬件调优、算子优化、混合并行多token预测。671B R1模型单用户解码最高33 tokens/s,最大并发超1000。

高效的工具平台:EPAI平台全面接入DeepSeek大模型,开箱即用。支持对话式UI、API及智能体,提供全链路数据防护和分级权限控制。

丰富应用场景:教育:教学辅助、论文阅读、知识图谱、校园管理;医疗:智能导诊、辅助诊断、药物研发、医疗质控;制造业:智能销管、智能研发、安全运维、合规筛查、办公助手。

浪潮DeepSeek一体机为企业提供私有化大模型部署的完整方案,从32B体验装到671B全量版按需选择。作为济南浪潮代理商,济南特荣提供DeepSeek一体机选型、部署和运维服务,山东本地AI私有化项目欢迎咨询。


关联内容

首页
产品
新闻
联系