文献类型：期刊文章

作　　者：周立君[1] 刘宇[1] 白璐[2] 刘飞[1] 王亚伟[1]

ZHOU Lijun;LIU Yu;BAI Lu;LIU Fei;WANG Yawei(Xi’an Institute of Applied Optics,Xi’an 710065,China;Xi’an North Electro-optic Science&Technology CO.LTD.,Xi’an 710043,China)

机构地区：[1]西安应用光学研究所,陕西西安710065 [2]西安北方光电科技防务有限公司,陕西西安710043

出　　处：《应用光学》

基　　金：装备预先研究兵器工业联合基金(6141B01020205)。

年　　份：2020

卷　　号：41

期　　号：2

起止页码：337-341

语　　种：中文

收录情况：AJ、BDHX、BDHX2017、CAS、CSA、CSA-PROQEUST、CSCD、CSCD_E2019_2020、IC、INSPEC、JST、RCCSE、SCOPUS、ZGKJHX、核心刊

摘　　要：TensorRT是一个高性能的深度学习推理平台。它包括一个深度学习推理优化器和运行时为深度学习推理应用程序提供低延迟和高吞吐量。给出了一个使用TensorRT快速构建计算管道的例子,实现通过TensorRT执行智能视频分析的典型应用。该示例演示了使用片上解码器进行解码、使用片上标量进行视频缩放和GPU计算的4个并发视频流。为了演示的简单性,只有一个通道使用NVIDIA TensorRT执行对象标识,并在标识的对象周围生成包围框。该示例还使用视频转换器函数进行各种格式转换,使用EGLImage来演示缓冲区共享和图像显示。最后采用GPU卡V100对ResNet网络进行TensorRT加速性能的实际测试,结果表明TensorRT能够使吞吐量提升大约15倍。

关 键 词：TensorRT  深度学习推理  对象检测  统一计算设备架构

分 类 号：TN219]