金山辦公與NVIDIA團(tuán)隊(duì)合作加速WPS AI落地

2023-06-30 14:32:21

每經(jīng)AI快訊，據(jù)金山辦公官微，金山辦公與NVIDIA團(tuán)隊(duì)合作，通過NVIDIA Tensor Core GPU、TensorRT提升圖像文檔識(shí)別與理解的推理效率；借助NVIDIA Triton推理服務(wù)器的部署，成功優(yōu)化GPU利用率，提供高推理吞吐量。相比于CPU其pipleline耗時(shí)共下降84%；采用NVIDIA Triton推理服務(wù)器部署，其部署成本節(jié)省了 23%。（每日經(jīng)濟(jì)新聞）

責(zé)編姚祥云

特別提醒：如果我們使用了您的圖片，請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站，可聯(lián)系我們要求撤下您的作品。