本文作者:访客

新华三AI数据平台:加速推理,引领智算时代来临

访客 2025-05-20 15:18:57 26309 抢沙发
新华三AI数据平台:加速推理,引领智算时代来临摘要: 近日,紫光股份旗下新华三集团(以下简称“新华三”)宣布推出基于NVIDIAAI数据平台参考设计的技术集成,打造更智能、更安全的大模型数据处理能力,为AI推理场景注入强劲动能。当前,...

近日,紫光股份旗下新华三集团(以下简称“新华三”)宣布推出基于NVIDIA AI数据平台参考设计的技术集成方案,旨在打造更智能、更安全的大模型数据处理能力,为AI推理场景注入强劲动力。

在当前大模型实时交互场景中,用户对AI服务的响应速度要求极高。然而,传统AI推理如果缺乏基于最新或更新的内容支持,往往会出现生成内容与事实不符、逻辑错误等问题,严重影响其可靠性和实用性。针对这一痛点,新华三新推出的AI数据平台解决方案通过打通“算力”和“存力”之间的效率鸿沟,实现从底层硬件到上层应用的数据流通加速,大幅提升AI推理的实时性、相关性与准确度,从而优化大模型的整体运行效率,并显著改善真实场景中的使用体验。

H3C AI数据平台解决方案:软硬协同推理加速

新华三与NVIDIA联手打造的AI数据平台解决方案,整合了双方领先的软硬件技术,构建起存算网深度集成的智能数据平台。该方案不仅实现了底层硬件性能的全面释放,还通过上层软件平台的协同优化,为AI基础设施注入强大动能,显著提升AI大模型的推理能力。

新华三AI数据平台:加速推理,引领智算时代来临

存算网深度集成,打通推理性能瓶颈

AI数据平台解决方案集成了NVIDIA Spectrum-X AI以太网网络平台,包括Spectrum以太网交换机、BlueField-3 DPU数据处理器以及ConnectX SuperNIC等组件,将普通以太网的带宽利用率从50%-60%提升至97%以上,有效应对瞬时流量高峰,保障存储与计算节点间的高速互连。

其中,BlueField-3 DPU可与新华三Polaris X20000存储系统完美适配,支持NVMe over Fabrics、NVIDIA GPU-Direct Storage(GDS)等先进技术,实现存储卸载和加速。同时,该方案涵盖数据冗余、完整性校验、解压缩及重复数据删除等功能,在进一步提升存储性能的同时降低功耗。

新华三AI数据平台:加速推理,引领智算时代来临

新华三Polaris X20000系列专为AI智算场景设计,采用全新自研存储引擎,面向AI/HPC场景下的海量数据处理需求提供极致性能。单节点可实现120GB/s带宽和200万IOPS,集群性能近线性增长,满足AI大模型训练中海量小文件高并发和百TB级带宽需求。此外,该系统将块、文件、对象与HDFS协议集成于统一存储平台,从数据采集、模型训练到分发全流程实现数据零迁移。毫秒级故障上报与秒级切换功能确保训练任务不中断,计划内/外升级扩容对上层应用无感,为企业提供稳定高效的存储支持。

软件平台协同优化加速智算推理引擎

在AI-Q NVIDIA Blueprint的支持下,代理式系统可以连接到新华三Polaris X20000高性能数据存储平台,利用NVIDIA NeMo Retriever加速数据提取和检索,显著提升RAG(检索增强生成)应用的响应速度。NeMo Retriever作为一款处理海量结构化、半结构化及非结构化数据(如文本、PDF、图像、视频等)的软件工具,能够极大优化数据处理流程。

与此同时,NVIDIA NeMo Guardrails可确保推理问答交互的安全性、准确性和主题相关性。新华三自主研发的灵犀使能平台(LinSeer Hub)则作为上层管理平台,提供了AI智能体和推理引擎的功能。通过上述组件的深度整合,AI数据平台解决方案显著提升了大模型的推理性能与Token处理速度,为企业提供实时数据洞察能力,助力业务场景的智能化升级。

新华三AI数据平台:加速推理,引领智算时代来临

数据驱动加速推理引领智算未来

随着AI大模型的快速发展,数据已成为AI生产力的核心要素。企业核心生产数据中约80%存储于外置专业存储设备,而新华三作为存储领域的领先厂商,凭借Polaris X20000系列的卓越性能和灵活性,显著提升了AI数据平台的能力。NVIDIA通过硬件加速和软件能力,充分释放Polaris存储硬件潜力,帮助新华三实现从“数据仓库”到“智能数据平台”的转型,形成完整的AI数据闭环。

结合存储厂商成熟的数据管理能力,新华三构建起高效AI基础设施,推动AI技术在金融、电信、政务、医疗、教育、制造等多个行业的广泛应用。作为数字化及AI解决方案的领导者,新华三此次推出的AI数据平台解决方案是其“算力×联接”技术战略的持续深化。未来,新华三将持续携手生态伙伴,推动AI数据平台的技术革新与产业落地,助力百行百业实现高效、智能、可信的AI转型。

阅读
分享

发表评论

快捷回复:

评论列表 (暂无评论,26309人围观)参与讨论

还没有评论,来说两句吧...