华为云联合工商银行落地金融业首个Serverless NPU弹性算力调度技术


  12月2日金融一线消息,据“华为中国政企业务”公众号,华为与开展联合创新,成功落地Serverless NPU弹性算力调度技术方案。实测结果表明,相较于传统算力调度技术方案,Serverless NPU弹性算力调度技术方案可将千亿MoE大模型推理服务启动时间缩短至百秒级,启动效率提升10倍以上,实现算力供给模式从“长期绑定”向“按需使用”转型。


评论列表 0

暂无评论