一、云基础服务的范式迁移:从CPU中心到AI Native

传统云基础设施以CPU为核心,设计标准围绕安全稳定与极致性价比展开。然而,随着大模型应用深度渗透企业核心业务场景,高并发、低延迟的AI业务需求使得原有架构面临根本性挑战。京东云事业部总裁曹鹏指出,AI Infra 1.0时代已经开启,基础设施的底层逻辑正在被重新定义。

这一判断的产业背景是:算力架构从CPU主导转向CPU+GPU协同模式,GPU成为重塑基础设施的核心驱动力。与此同时,国内还面临多样GPU型号带来的硬件异构兼容难题,需要一套高效混合计算平台实现跨硬件的统一资源管理、调度与弹性伸缩。在数据与模型层面,企业内部私有数据的安全接入与合规使用成为核心痛点,AI全生命周期的高效流转亟待端到端支撑。在Agent与垂直应用层面,应用场景向细分领域深度渗透,对快速开发、轻量化部署及与算力/模型平台的无缝协同提出了更高要求。

京东云的应对策略是构建全栈AI产品体系,从底层基础设施到中间模型服务,再到上层Agent应用开发,形成覆盖AI应用完整生命周期的服务能力。这些产品经历了京东集团内部大规模场景的落地检验,具有生产级可靠性。

二、算力底座重构:混合算力与极致性能

AI基础服务的核心在于算力供给的效能与弹性。京东云JoyScale AI算力平台是这一维度的关键产品,其核心能力体现在对异构算力的统一调度上。平台不仅与华为昇腾、海光、寒武纪等国产芯片深度合作,更实现了从内核层统一调度英伟达及国产芯片,为企业提供高效自主的算力管理。

在算力规模与工程验证方面,京东云拥有超3700万核容器集群,历经618、双11、春晚等极限流量场景检验,建立起行业领先的混合算力技术储备。其超智算一体化算力集群具备单集群2000卡调度能力和全局超10万卡调度能力,支持跨智算中心横向扩展,通过软硬件协同优化将大模型算力利用率提升至75%。

推理性能的优化是另一关键突破。京东云自研推理引擎使模型训练与推理效率提升400%,其vGPU AI算力平台通过推理加速与内核驱动级优化,提升单台服务器推理性能50%,通过集群算力池化调度提升集群利用率70%。在存储配套方面,云海AI存储可支持千亿级参数大模型,4K随机写IOPS达到1000万级,平均延迟控制在100微秒级,性能提升30%的同时通过存算分离技术实现成本下降30%。

三、模型开发与训推平台:降低AI构建门槛

从“构建”环节看,京东云通过JoyBuilder模型开发平台(原言犀AI开发计算平台)大幅降低大模型开发门槛。平台内置超百种开源模型和多样化数据集,提供100多种算法和组件,支持客户根据自身业务特征快速开发专属大模型。

JoyBuilder的核心价值在于端到端的能力整合:一方面打通多模态数据湖仓,实现从数据到模型的高效流转;另一方面提供完整的开发工具链,在提升实时推理响应的同时大幅降低使用成本。平台还支持DeepSeek等热门大模型的开箱即用,并配套推出大模型一体机方案,通过自研算力池化能力与智能推理加速引擎实现推理速度提升50%。

数据安全是模型开发中不可回避的命题。京东云构建的安全可信数据空间100%采用国密算法,实现全链路加密防护,通过“可用不可见”的安全沙箱机制,确保企业私有数据在AI训练与推理过程中的流通安全。同时借助AI全密态机密容器能力,确保模型参数与训练数据双域零泄露,为用户提供金融级安全防护。

四、智能体与编码协同:运行态的应用范式

当应用进入“运行”阶段,京东云的破局点落在Agent与Coding的深度融合上。JoyAgent智能体平台与JoyCode智能编码平台通过AI Store实现无缝联动,构建了“智能体简化代码、代码反馈优化智能体”的持续闭环。JoyAgent提供的智能体、算法库等能力可由JoyCode直接调用,而JoyCode生成的应用又可反馈优化智能体行为,推动AI开发向自动化、智能化演进。

技术指标验证了这一路径的有效性:JoyAgent在GAIA评测中进入全球第一梯队,JoyCode在SWE-Bench测试中通过率达到74.6%,位列全球前三。目前京东已沉淀3.7万个稳定可用的智能体,内部运行的智能体数量超过1.4万个。

在具体应用场景中,JoyCoder智能编码助手帮助开发者预测代码、生成注释、进行智能评审,生成代码采纳率超过40%,开发周期缩短30%。营销场景中,AIGC技术快速生成高质量营销文案和商品场景图,制作效率提升90%以上。数字人直播已服务品牌商超9000家。

JoyAgent智能体平台还实现了100%开源,包括前端、后端、框架、引擎和核心子智能体,与平台完全解耦,用户可本地独立部署。预置的100多个行业解决方案模版和1000多种插件,使企业能够根据场景需求快速构建满足自有业务流程的智能体。

五、从技术能力到产业价值

京东云AI驱动云基础服务的逻辑闭环在于:以混合算力底座解决“算力从哪来”的问题,以模型开发平台解决“模型怎么建”的问题,以智能体平台解决“应用怎么跑”的问题。这三个层次并非孤立存在,而是通过京东内部超100个AI场景的持续打磨形成协同效应。

产业端的验证数据提供了有力支撑:京医千询大模型已在武汉协和医院等多家三甲医院落地,服务超230万人次患者;智能政务助手可实现超1500项事务的“秒批秒办”;在具身智能领域,京东开放物流、零售等20多个真实场景,推动产业链成熟。

京东云的战略选择揭示了一个趋势:云基础服务的竞争焦点正在从“资源规模”转向“智能效能”。能否让企业以更低门槛构建AI应用、以更高效率运行AI负载,正在成为衡量云平台价值的新标尺。而这一能力的根基,深植于对真实产业场景的理解与工程化沉淀。