浪潮DeepSeek一体机是浪潮信息推出的大模型本地部署解决方案,原生搭载FP8计算引擎,针对DeepSeek R1 671B模型部署速度快且无精度损失。1128GB HBM3e高速显存满足全量模型对显存容量的需求,同时保留充足KV缓存空间。济南特荣作为浪潮服务器签约代理商,提供DeepSeek一体机本地化部署服务。
浪潮DeepSeek一体机提供从体验装到671B全量版的完整配置矩阵,覆盖32B蒸馏版、70B蒸馏版、671B INT4量化版和671B全量版。配套EPAI企业大模型应用开发平台,开箱即用,支持数据处理、模型微调、知识库构建、智能体编排。作为济南浪潮代理商,济南特荣为教育、医疗、制造业客户提供私有化大模型部署方案。
产品规格
| 组件 | 描述 |
|---|---|
| 产品形态 | 裸机版 / 元脑企智一体机版 |
| 671B全量版(6U) | CPU:2×Intel Xeon 8558P(48核2.7GHz) GPU:8×NVIDIA H20 141GB 内存:32×64GB DDR5-5600 RDIMM(2048GB) 硬盘:2×960GB SSD + 4×7.68TB NVMe SSD 性能:64并发10.4 tokens/s,32并发14.9 tokens/s 电源:8个电源 |
| 671B满血INT4量化版(2U) | CPU:2×Intel Xeon 8558P(48核2.7GHz) GPU:1×NVIDIA L20 48GB 内存:32×32GB DDR5-4800 RDIMM(1024GB) 硬盘:2×960GB SSD + 2×3.84TB NVMe SSD 利用Intel CPU AMX指令集加速 |
| 70B蒸馏版(4U) | CPU:2×Intel Xeon 6530(32核2.1GHz) GPU:8×NVIDIA L20 48GB 内存:16×64GB DDR5-5600 RDIMM(1024GB) 硬盘:2×960GB SSD + 4×3.84TB NVMe SSD 性能:16并发23.6 tokens/s 电源:4个电源 |
| 32B蒸馏版(4U) | CPU:2×Intel Xeon 6530(32核2.1GHz) GPU:4×NVIDIA L20 48GB 内存:8×64GB DDR5-5600 RDIMM(512GB) 硬盘:2×960GB SSD + 4×3.84TB NVMe SSD 性能:32并发26.4 tokens/s 电源:4个电源 |
| 32B及以下体验装(2U) | CPU:2×Intel Xeon 6530(32核2.1GHz) GPU:2×NVIDIA L20 48GB 内存:8×32GB DDR5-5600 RDIMM(256GB) 硬盘:2×960GB SSD + 2×3.84TB SSD 电源:2个电源 |
| RAID | 9460 RAID卡4G缓存(高配)/ 8204 RAID卡2G缓存(低配) |
| 网卡 | 2×万兆网口(含模块) |
| 操作系统 | K-OS正版Linux操作系统 |
| 软件平台 | EPAI企业大模型应用开发平台:微调数据生成、模型开发训练微调评估部署、知识库、应用编排、智能体等;多元算力调度、多模型适配;全链路数据防护、分级权限、文件加密、多级过滤审核 |
产品特性
性能最好的产品:原生FP8计算引擎,DeepSeek R1 671B部署速度快无精度损失。1128GB HBM3e满足全量模型显存需求并保留KV缓存。
真实的调优实践:推理框架优化、硬件调优、算子优化、混合并行多token预测。671B R1模型单用户解码最高33 tokens/s,最大并发超1000。
高效的工具平台:EPAI平台全面接入DeepSeek大模型,开箱即用。支持对话式UI、API及智能体,提供全链路数据防护和分级权限控制。
丰富应用场景:教育:教学辅助、论文阅读、知识图谱、校园管理;医疗:智能导诊、辅助诊断、药物研发、医疗质控;制造业:智能销管、智能研发、安全运维、合规筛查、办公助手。
浪潮DeepSeek一体机为企业提供私有化大模型部署的完整方案,从32B体验装到671B全量版按需选择。作为济南浪潮代理商,济南特荣提供DeepSeek一体机选型、部署和运维服务,山东本地AI私有化项目欢迎咨询。