京东云推出vGPU池化方案降低大模型推理成本

8月15日消息，京东云宣布，全新发布vGPU池化方案，提供一站式GPU算力池化解决方案，GPU利用率最高提升70%，大幅降低大模型推理成本。据介绍，京东云自主研发的混合多云操作系统云舰，在原有支持混合多云CPU算力池化能力基础上，针对大模型训练所需的泛算力池化能力，进一步增加了针对AI应用所需的调度管理能力，包括卡管理、节点管理、异构资源调度管理等，为包括大模型训练在内的多种AI应用，提供一站式算力池化解决方案，从而全面提升资源利用率。