WAVE SUMMIT 2022深度学习开发者峰会上周圆满落幕,来自产学研界的专家学者和资深AI工程师在七大平行论坛带来了精彩的技术分享。 本次峰会专设【智能硬核 生态共创】平行论坛,昆仑芯科技生物计算研发总监郑焕鑫受邀参会,并进行“昆仑芯×飞桨:共创智能计算‘芯’生态”的主题演讲 。
昆仑芯适配百度飞桨等主流框架,支持推理和训练场景,生态建设正在逐渐完备,已在丰富的业务场景落地。作为国内人工智能芯片领域的先行者,昆仑芯科技依托团队多年耕耘芯片和智能计算领域的行业影响力,致力于携手上下游合作伙伴,打造智能计算“芯”生态。
以下内容来自演讲实录:
大家好,我是来自昆仑芯科技的郑焕鑫。
昆仑芯科技是一家AI芯片公司,2021年4月完成了独立融资,首轮估值约130亿元。公司前身是百度智能芯片及架构部,在实际业务场景中深耕AI加速领域已十余年,是一家在体系结构、芯片实现、软件系统和场景应用均有深厚积累的AI芯片企业。
昆仑芯科技研发实力雄厚,团队成员拥有全球顶尖学术背景,并提出了100%自研的通用AI计算处理器核心架构昆仑芯XPU,研究成果也在Hot Chips、ISSCC等国际顶级学术会议中成功发表。
在落地实现上,昆仑芯1代在百度搜索引擎、小度等业务中部署超过2万片,是国内唯一一款经历过互联网大规模核心算法考验的云端AI芯片产品。昆仑芯2代采用7nm制程,也已于2021年8月量产。更先进的昆仑芯3代、自动驾驶芯片等多个产品均已启动研发。
随着AI越来越普及,其依托的算力需求也越来越大。在这个时代背景下,昆仑芯的愿景是“成为划时代,全球领先的智能计算公司”,为AI发展提供算力赋能。
昆仑芯在AI芯片上经历了超过10年的发展历程。我们在2011年启动FPGA AI加速器项目,到2015年部署5000片,2017年部署超过12000片,是业界最大的量;2017年发布自研架构昆仑芯XPU;2018年启动昆仑芯;2020年昆仑芯1代大规模部署;2021年昆仑芯2代量产。
昆仑芯软硬件架构及两代产品
不同于GPU的发展历程,昆仑芯1代在AI发展相对成熟的时候量产,在设计阶段就更好地理解了AI场景,提供了更多的加速计算单元,并且保留了足够的通用计算单元,最终达到了更好的性价比。
这是我们的昆仑芯XPU架构:SDNN-软件定义神经网络引擎,是我们自研的核心张量计算单元,用于加速卷积和矩阵乘法;Cluster为我们的通用计算部件;我们也是国内业界率先支持GDDR6的厂商之一;我们的Shared Memory片上共享内存,有力保证了计算单元的高并发、低时延访问;提供高达200GB/s的片间互联带宽,有效提升了大规模分布式训练中的数据传输效率,减少通讯延时;支持PCIe第四代接口,双向带宽可达到64GB/s。
这是我们的软件架构图:在应用层,我们支持训练、推理以及科学计算;在框架层,除了深度合作的PaddlePaddle,还支持TensorFlow,PyTorch等;我们提供了丰富的SDK,包括编辑器、图引擎、高性能算子库、高性能通讯库,以及驱动;在环境部署上,我们支持公有云服务、智算中心、智能边缘设备等。
这是我们的产品研发路线,昆仑芯1代采用14nm工艺,昆仑芯2代采用7nm工艺,此外我们的昆仑芯3代、昆仑芯4代都在研发路径中。
昆仑芯1代产品包括两种形式,其中K100是K200的算力一半版本,主要用在边缘端。昆仑芯2代产品中,R200 AI加速卡主要用于推理,支持INT8/INT16/INT32/FP16/FP32等精度,非常值得一提的是昆仑芯R200 AI加速卡支持视频编解码能力;R480-X8 AI加速器组是我们的单机8卡训练方案,提供200GB/s的片间互联带宽。
概括起来,昆仑芯2代有如下特点:
1.通用计算能力显著增强,可灵活支持AI算法的演进,提升资源投入效用;
2.硬件虚拟化,提升AI算力资源的利用率;
3.高性能分布式AI系统,加速AI数据并行和模型并行中的高速数据交换。
介绍完硬件参数,我们看看昆仑芯的软件参数。以R200 AI加速卡为例,相比较于业界主流产品,典型AI负载性能提升1.5倍左右,其中GEMM矩阵乘法性能为1.7倍,BERT典型自然语言处理性能加速比为1.4倍。对Transformer类有同样的效果;Yolov3,Yolov5性能加速1.3倍;ResNet50视觉分类算法加速1.2倍。
昆仑芯AI算力赋能千行百业
昆仑芯科技前身为百度智能芯片及架构部,天然对互联网AI应用有深入了解。以百度搜索场景为例,我们实现了过万片的部署,与飞桨联合优化模型:DeepFM、Wide&Deep。此外,我们在包括百度在内的多家互联网公司上均有不错的落地表现
在智能城市领域,万级别摄像机收集视频流,通过芯片编解码获取图片,对图片进行人脸检索以及比对。该场景主要是以CV类算法为主,我们和飞桨联合优化模型包括:ResNet50、MobileNet-v3、Unet、Yolov3-DarkNet53、SSD-ResNet34 。
工业质检场景,高清工业相机拍摄零件照片进行质量检测。搭载国产AI算力机的质检设备替代人工质检,大大节省了人力,14个月即可收回成本。同时,“5G+AI+工业互联网”解决方案大大提高了整厂的智能化水平,帮助企业降低损耗,提升约10%的良品率。在这个方向上,我们和飞桨联合开发了Yolov3-DarkNet53、SSD-ResNet34。
在目前国内前沿的生物计算领域,我们也对基因测序算法Blast以及蛋白质折叠预测算法进行了硬件适配,并取得了不错的加速比。
综上,我们在互联网、智慧城市、智慧工业、生物计算、智慧金融、智慧政务、智算中心以及智慧交通等各行业 AI 应用落地场景中均提供了多种解决方案。
总结来看,昆仑芯科技最独特优势在于:在百度搜索引擎、小度等业务中部署超过2万片,是国内唯一一款经历了互联网大规模核心算法考验的云端AI芯片,产品的可用性、可靠性、稳定性、鲁棒性得到了验证,也证明了团队在芯片架构、软件栈、工程化系统层级的技术实力。此外,昆仑芯灵活支持多个AI场景,如视觉、语音、NLP和推荐等;不仅如此,昆仑芯也支持HPC、生物计算等算法的加速。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
2022年06月15日,2022第30届中国(深圳)国际礼品、工艺品、钟表及家庭用品展览会于深圳隆重举行。作为目前国内礼品行业规模最大、最具品牌影响力的行业龙头展会,本届深圳礼品展吸引了全球4500余家企业和品牌参展。
在近日闭幕的2022北京智源大会上,昆仑芯科技芯片研发总监漆维受邀参与“芯片前沿技术”专题论坛。围绕当前学术领域迫切需要解决的问题,以及产业落地过程中存在的诸多挑战,漆维与来自中科院、清华大学、北京大学、杜克大学
北京时间2022年6月7日,一年一度的苹果WWDC全球开发者大会迎来盛大揭幕,像往年一样,苹果WWDC22大会为大家带来了系统的重要革新,以及多款激动人心的硬件产品,对于全球庞大的果粉用户及科技爱好者来说可谓看点十足。
中国睡眠研究会发布的《2022中国国民健康睡眠白皮书》显示,近3/4受访者曾有睡眠困扰,入睡困难成头号问题。而44%的19-25岁年轻人熬夜至零点以后,19-35岁青壮年是睡眠问题高发年龄段,“睡不着”、“睡不好”逐渐成为年轻人的普遍痛点。
近日,被誉为全球显示行业“奥斯卡”的国际显示周SIDDisplayWeek2022在圣何塞华彩落幕。尽管受到疫情影响,但此次盛会依然吸引全球显示行业顶尖厂商、机构和组织携先进显示产品与顶尖技术参展。
在上海市经济和信息化委员会指导下,上海人民广播电台于近期推出《走进“小巨人”,发现新动能》系列报道,甄选展示10家沪上专精特新“小巨人”企业。竹间智能由于NLP(自然语言处理)技术和产品方面的硬实力,获得市经信委认可,在该系列报道中发“声”。
概括:自2015年AppleWatch以来,Apple一直没有发布新的主要产品。AppleCar和AR/VR耳机备受期待,但很难说这些产品能够显著改变苹果的收入组合。预计未来四个财年的收入增长将达到中个位数,这并不能证明其目前的溢价估值是合理的
智能门锁到底是不是一门好生意?一方面,舆论鼓吹“百亿市场”潜力巨大,外加资本青睐不断加码;另一方面,经销商大呼不好卖,产品销量终归“雷声大雨点小”。
如今,智能货柜越来越普遍了。尤其是在疫情期间,以无人店、智能货柜为代表的服务业数智化趋势不可挡。众多生活服务场景线上化、无接触式购物,为智慧零售带来新机遇。以RFID、重力和视觉识别为核心技术的智能货柜深入到更多人的生活中
布局智能家居行业以来,萤石网络一直推陈出新,不断带给消费者更多智能家居选择的可能性。不久前,萤石最新推出的北斗星智能视频锁DL30V引发了消费者关注,在硬核科技的支持下,为家庭提供更高的安全保障。
Johnny’s?全称Johnny’sRestaurant,是覆盖马来西亚的泰式连锁火锅店。自从1997年1月31日Johnny's第一家门店开业,至今已营业长达25年,目前在马来西亚总共有48家分店。Johnny's不仅供应新鲜美味的餐品,还为不计其数的顾客提供宾至如归的服务
近日,昆仑芯科技签署了CLA(ContributorLicenseAgreement,贡献者许可协议),正式加入龙蜥社区(OpenAnolis)。
随着虚拟现实技术的不断发展,VR硬件与VR游戏给人带来的沉浸感也越来越强。特别是FPS射击类游戏,更加拟真的射击体验和环境交互,简直令每一个怀有英雄梦的玩家欲罢不能。
WAVESUMMIT2022深度学习开发者峰会上周圆满落幕,来自产学研界的专家学者和资深AI工程师在七大平行论坛带来了精彩的技术分享。本次峰会专设【智能硬核生态共创】平行论坛,昆仑芯科技生物计算研发总监郑焕鑫受邀参会,并进行“昆仑芯×飞桨:共创智能计算‘芯’生态”的主题演讲。