开云体育
开云体育华为与北大联合发布的DeepSeek推理方案开启AI全栈开源新纪元!
3月10日,科技界传来重磅消息:北京大学和华为技术有限公司联合发布了DeepSeek全栈开源推理方案。这一方案的问世,标志着中国在AI领域的重大进展,也为开发者们提供了更加灵活、高效的技术方案。本次发布不仅涉及多个开源组件,还展示了北大自研的强大算力平台,为未来的智能计算奠定了基础。
DeepSeek推理方案以北大自研的SCOW算力平台系统及鹤思调度系统为基础,整合了多个知名开源项目。此外,该方案能够在华为昇腾硬件上实现高效推理,并支持大规模算力集群的训练与推理一体化部署。这种一体化的架构意味着开发者能够以更少的时间和资源,进行更加复杂的人工智能模型训练与推理。
这一全栈开源方案的亮点在于,所有开发者都可以获取源码,自由根据自身需求进行二次开发。这种开放性不仅提高了技术的可用性,还能激发创新,为中国的AI产业链注入新的活力。值得注意的是,该方案在未名卓越一号集群上已经成功部署,而这一集群由北京大学计算中心进行研发和运维,旨在为北大鲲鹏昇腾科教创新卓越中心提供强大算力支持。
此次发布的DeepSeek推理方案,依托全栈开源组件,深度优化了openEuler操作系统,确保可以充分利用异构计算资源。通过负载感知MoE冷热专家的调度机制,系统能在细粒度调度任务上表现优异,同时还通过异构融合技术高效管理内存,降低了内存碎片,这些都极大地提升了系统的推理性能。
值得一提的是,该集群的AI算力达到30.64PFlops,这是一个相当诱人的数字,充分展示了我国在AI算力领域的突破。而且,基于自研基础软件的国产智算平台,正是助力技术自主可控的一大步,符合国家在自主技术发展方面的战略布局。
展望未来,DeepSeek推理方案的发布将为AI研究者和开发者提供更多可能性,使得他们能够更有效地探索新技术。随着AI技术的迅猛发展,拥有这样一个开放的技术生态,无疑为中国在全球科技竞争中占得先机。希望广大开发者能够积极参与,共同推动AI技术的创新和发展。返回搜狐,查看更多