开云体育
开云体育英伟达:DeepSeek-R1 模型现已上线 NIM 微服务平台
据悉,英伟达今日宣布,DeepSeek-R1模型已经在NVIDIA NIM微服务平台上线。该微服务可以在单个NVIDIA HGX H200系统上每秒提供多达3,872 tokens。开发人员可以通过测试和试验API来简化部署,并最大限度地提高安全性和数据隐私。此外,企业还能够为专用AI代理创建自定义的DeepSeek-R1 NIM微服务。这一举措是英伟达推出的Nvidia Inference Microservices(NIM)云原生微服务的一部分。