近日,赛迪顾问发布的《2025中国AI Infra平台市场研究报告》显示,京东云凭借在异构算力调度和GPU池化管理领域的技术突破,在“2024年中国AI Infra平台算力管理层市场厂商竞争力象限分析图”中位列产品能力前三。这一成绩的取得,源于其持续深耕新一代人工智能基础设施(AI Infra)的技术创新与实践。
报告指出,当前AI Infra平台已形成“算力管理层—模型管理层—应用管理层”的三层架构体系,其中算力管理层占据主导地位,2024年市场份额达64.6%。异构算力的精细化纳管能力成为平台竞争的核心指标。京东云依托京东集团丰富的业务场景,聚焦“异构算力+极致推理”方向,其核心平台JoyScale通过软硬件协同优化,实现了对华为昇腾、寒武纪、海光等国产芯片的高性能异构计算支持。通过算力池化与智能调度技术,平台显著提升了集群利用效率,完成了国产算力的统一纳管与高效运维。
针对大模型训练与推理的算力需求,京东云推出的JoyScale AI算力平台具备独特优势。该平台基于京东内部统一GPU池化实践打造,支持训练任务与推理服务的统一调度和资源共享,兼容10余种国产AI算力卡及20多种训练推理框架。值得关注的是,其成为业内首个同时支持英伟达显卡与昇腾NPU远程调用的平台,为AI应用运行提供了跨硬件生态的算力支撑。
技术层面,JoyScale平台展现四大核心能力:在算力性能方面,其内核态池化引擎提供多卡聚合、单卡切分、集群化调度及推理加速等功能,满足大参数模型部署需求。作为通过信通院最高等级双认证的平台,其金融级数据安全保障能力突出,整体推理性能较传统方案提升50%。在异构调度方面,平台全面适配国产加速卡,通过云原生AI调度技术将资源利用率提升70%。生态合作层面,京东云与多家国产芯片厂商开展深度技术协作,通过开放Runtime层代码实现硬件复杂性的内核层屏蔽。框架支持方面,平台覆盖PyTorch、TensorFlow等主流训练框架,以及vllm、TensorRT-LLM等推理框架。
基于京东集团复杂业务场景的实践积累,京东云已构建覆盖全链条的大模型产品矩阵。该体系从底层智算基础设施延伸至上层Agent应用开发,包含模型服务工具层与中间层解决方案,为国央企客户提供从算力部署到AI应用落地的全流程支持,助力企业重塑数字化生产力。












