当前位置:首页 >  科技 >  IT业界 >  正文

网易易盾AI工程师出席全球计算机多媒体顶会ICME 2019 展示int8量化新算法

 2019-07-18 12:07  来源: 互联网   我来投稿 撤稿纠错

  【推荐】海外独服/站群服务器/高防

上周,全球计算机多媒体顶级会议ICME 2019(国际多媒体与博览会议)在上海圆满结束,网易易盾深度学习资深研发工程师姚益武受邀出席会议,展示了网易易盾在深度卷积神经网络int8量化算法上的最新研究成果。

ICME签到处

ICME由 IEEE 下设的计算机学会、电路与系统学会、通信学会、信号处理学会联合举办,始于 2000 年,至今已经连续举办了 19 届,是计算机多媒体领域最重要的国际会议之一。ICME是学术界交流多媒体领域最近研究成果的旗舰论坛,也是工业界展示最新产品或系统的平台,涵盖文本分析、图形图像、视频、语音音频等多媒体数据的处理、传输、分析与应用等主题。

在本次会议上,网易易盾深度学习资深研发工程师姚益武发表了题为《Efficient Implementation of Convolutional Neural Networks with End to End Integer Only Dataflow》的学术论文,展示了有助于构建端到端的纯整数运算通路的int8量化新算法。

姚益武表示,Int8量化由于精度损失低,能够实现4倍压缩比,且兼容于现有的整数运算单元,在产业界已经获得广泛应用,包括TensorFlow-Lite与TensorRT涉及的int8量化算法。

他指出,TensorFlow-Lite中的in8量化属于线性量化方法,但是为了执行量化卷积或矩阵乘法运算,需要提供额外的浮点乘因子,因而所构建的量化网络并非纯整数运算通路,并且该量化算法需要借助重训练以恢复精度损失。

“TensorRT中的线性int8量化方法,能够在NVIDIA平台上提供高吞吐、低延迟的推理性能,深度网络的权重按非阈值方式映射到int8区间,激活输出则按照阈值方式完成int8量化,每一层的实现方式相对简单。然而当前层的整数结果需要还原回浮点实数,方能传递至下一层,因此也不能构建端到端的纯整数运算通路。”

姚益武在ICME 2019上提出的int8量化新算法有助于构建端到端的纯整数运算通路,且统一表示层的设计简化了网络结构的拓扑设计,因此非常适合在现有硬件平台上实现,包括CPU/GPU/FPGA等通用计算平台。另外,所提出的int8量化算法,在复杂分类网络与目标检测模型上获得了与TensorRT相接近的推理精度,工业应用潜力比较大。

“应用于易盾内容安全图像识别上,在确保业务模型推理精度的前提下,其服务的响应时间能得到显著降低。”姚益武进一步解释了int8量化算法在网易易盾业务上的应用潜力。

参会的第三方专家点评网易易盾这一研究成果时表示,该方法可以保持相对较高的准确性,有效解决TensorRT的问题。而另外个专家则更进一步指出,int8量化新算法能够简化CNNs中的运算,并让精度损失显得微不足道。

据悉,姚益武为网易易盾实验室成员,该实验室在2018年还研发出了一种对多视角多模态特征信息进行有效融合的自编码器神经网络,在准确率、NMI、Purity、ARI等各项性能指标上,较当下多项国际先进的多视角多模态信息融合技术有显著性的领先。

网易易盾实验室成立于2016年,隶属于网易安全部,目前拥有数十名AI算法专家、安全研究员、政策法规研究专员等。实验室目前专注探索人工智能技术在安全领域的应用,以及安全相关法规、社会责任等研究。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关文章

  • 盘古大模型,不一样的「烟火气」

    文/八真出品/节点商业组2023年已过半,但AI大模型依旧热的发烫。科技部新一代人工智能发展研究中心的《中国人工智能大模型地图研究报告》显示,迄今为止,中国已发布79个10亿参数规模以上的大模型。与此同时,伴随着越来越多的选手谋局落子和下场夺舍,把这场摧枯拉朽的科技盛典推向高潮,更多人开始思考,AI

    标签:
    ai技术
  • PRINS.AI荣获2023SAIL之星

    PRINS平台被世界人工智能大会授予2023年人工智能行业著名的SAIL之星。这证明了公司在AI人工智能方面所做的努力。PRINS(PRINSAITechnologyLtd)是一家专注于虚拟体验技术解决方案的技术公司,由人工智能研究人员和技术专家组成的核心团队创立。目前已获得多家知名投资机构的投资,

    标签:
    ai技术
  • AI+软件,为什么可以看多用友?

    文/七公出品/节点商业组2023年,“ChatGPT”的问世让人工智能(AI)空前兴奋和繁盛。有人高呼这是“iPhone时刻”,有人振臂这是第四次工业革命,也有人惊叹这是新一代的“火”和“电”。总而言之,这场史无前例的大变革,正在复刻2015年前后的“互联网+”行情,推动“AI+”成为未来十几年的发

    标签:
    ai技术
  • 汇聚中国AI顶尖力量 云天励飞参与华为AI大模型联合创新

    2023年7月6日,第六届世界人工智能大会(WAIC2023)在上海开幕,“人工智能大模型”是本届大会的备受瞩目的话题,据悉,在昇腾AI大模型的创新研发中,华为联手26家行业领军企业,组建了一支协同创新的“AI明星队”,云天励飞作为中国人工智能企业的杰出代表,和互联网大厂、运营商、科研院所等优秀团队

    标签:
    ai技术
  • 用友大易:迈入AI招聘2.0时代,让人力资源回归本质

    这几个月来,以ChatGPT为代表的生成式AI展现出的能力令世界惊叹。自从2016年AlphaGo战胜李世石掀起了一波AI浪潮后,AI仿佛已经沉寂了很久,ChatGPT的横空出世就如同一束耀眼的光芒,让AI这个名词重回C位。过去在AI1.0时代,主要通过训练模型来实现图像识别、声音识别、语言处理等特

    标签:
    ai技术

热门排行

信息推荐