2025年春节期间,京东云(中原)算力中心上线了DeepSeek-R1,成为河南省第一个提供DeepSeek服务的城市级算力中心。DeepSeek是计算效能和推理精度接近和赶超ChatGPT的国产大模型。受限于DeepSeek公司的算力不足和美国的攻击封锁,客户使用过程中经常出现服务器繁忙和无法使用等问题,同时考虑数据保护需要,政府和企业使用更需要私有化和本地化部署。为了更好地为金融、企业、政府等客户提供数据不出域的私有化模型推理服务,在京东云(中原)算力中心已经上线的业界领先的vGPU AI算力平台的基础上,实现本地化部署DeepSeek,使用户不会受主站流量限制和美国封锁,实现客户数据私有化不出域,满足企业级场景使用。
目前京东云已正式全面上线DeepSeek-R1、DeepSeek-V3以及所有蒸馏小参数模型(DeepSeek-R1-Distill)模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。
京东云(中原)算力中心位于河南省鹤壁市示范区,于2024年9月10日建成,由京东云和鹤壁市政府合作共建,是京东私有云在中原地区的唯一运营中心,也是河南省算力基础设施发展规划“一核四极多点”总体布局打造的豫北区域算力增长极,辐射服务冀南等邻近省份区域,致力于为鹤壁新质生产力构建和算力经济发展增效赋能。京东云(中原)算力中心拥有先进的数据中心机房和高性能的服务器集群,算力中心可根据需求的动态变化,实施弹性伸缩策略,实现资源的自动扩容和缩减。目前已经有京东言犀大模型、DeepSeek大模型以及上海、深圳、鹤壁等地企业用户的AI应用在算力中心高效运行。算力中心的建设获得了广泛关注,已累计接待省内外政府机构及企事业单位近500余人次的考察交流。