(资料图片仅供参考)
据金山办公官微,金山办公与 NVIDIA 团队合作,通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;借助 NVIDIA Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗时共下降 84%;采用 NVIDIA Triton 推理服务器部署,其部署成本节省了 23% 。
关键词:
(资料图片仅供参考)
据金山办公官微,金山办公与 NVIDIA 团队合作,通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;借助 NVIDIA Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipleline 耗时共下降 84%;采用 NVIDIA Triton 推理服务器部署,其部署成本节省了 23% 。
关键词:
© 2005-2020 企业家网
网络文化经营许可证 京-非经营性-2016-5281
互联网药品信息服务资格证
联系我们:315 541 185@qq.com