在这个“无产业不AI,无应用不AI,无芯片不AI”的时代,AI芯片作为人工智能时代的技术核心之一,决定了平台的基础架构和发展生态,在全球具有深不可测的市场规模。但是,目前国内外都面临一个共同的难题——缺乏统一的芯片评测标准。因此,打破AI芯片测评领域混乱无序的阻碍,对整个人工智能产业的发展而言至关重要。
11月1-2日,由中国人工智能产业发展联盟、杭州市人民政府主办的“AIIA2019人工智能开发者大会(AIDC)暨第四届中国(杭州)人工智能产业发展论坛”在杭州召开。借此业内学术泰斗齐聚,百家名企同堂的难逢之机,中国人工智能产业发展联盟总体组组长孙明俊在主报告会上重磅发布AIIA DNN benchmark v0.5 云侧推断任务基准测试首轮试评估结果,引起巨大反响。
AIIA DNN benchmark项目是由中国人工智能产业发展联盟联合20余家企业、高校及科研机构深入研发,倾情推出的AI芯片测评认证工具,旨在提供专业评估评测服务,助力AI芯片行业快速爆发,引领人工智能行业飞跃发展。
中国人工智能产业发展联盟总体组组长孙明俊
中国人工智能产业发展联盟总体组组长孙明俊解读道:“目前,我们已经制定两套评估规范,完成两轮共7款端侧评估,v0.5云侧评估评测工作于今年7月启动,经过4个月的努力,完成了首轮的试评估工作。”这意味着AIIA DNN benchmark的端+云全方位基准测试方案已经形成,相应网站也已全新上线(www.aiiaorg.cn/benchmark),将为人工智能行业带来一番风云变化。
下面,带你解读, AIIA DNN benchmark v0.5 云侧推断任务首轮试评估工作。报告全文(此处附超链接:https://mp.weixin.qq.com/s/36nYEUzrPbnx2UWWL26eQg)
亮点一:多角度全面助力评测行业发展
在深度学习模型的发展史中,残差网络因其简单而有效的结构与异常有效的结果占据了非常重要的位置。随着网络结构或模型的快速迭代,以及芯片工艺的不断更新,ResNet50这个业界的黄金标杆是否还能真正反映芯片能力?
AIIA DNN benchmark以更加贴近真实应用场景的测评方式,打破了基准测试单网络单指标刷榜的模式,可提供7种场景13种网络测试,其所有指标旨在提供准确的比对维度,如实反映当前提升深度学习处理能力的AI加速器的现状。
亮点二:五大维度衡量芯片性能
中国人工智能产业发展联盟根据实际部署中所考虑的指标,经过前期向20余家企业、科研机构的相关专家进行意见征集及展开专业讨论,最终确定AIIA DNN benchmark v0.5版本云侧推断任务从以下五个维度出发,衡量云侧加速卡整体性能,可客观反映当前行业现状。
延迟: 作为推断任务的重要指标,能够直观反映芯片处理任务的速度。
精度损失: 在部署深度学习任务过程中,各家加速卡都有自己的推理框架以用于模型的转换和部署,其显示的精度损失可用于反映测试数据集推断所达到的处理效果。
吞吐量: 在实际深度学习推理任务部署中,多batch的处理能力尤为重要。
功耗: 芯片的晶体管数量和芯片面积决定了算力,面积越大,算力越强,但功耗也将随之增加,可作为推断芯片性能的指标之一。
能效比(每瓦算力): 算力与能耗往往相互制约,该方案可测算AI芯片能耗比,反馈给企业及时改良,助其进一步实现高性能与低功耗、低延迟、低成本之间的平衡。
亮点三:“芯”能力榜单助力企业宣传
在缺乏评估标准的情况下,芯片企业无法清晰确认自己的技术优势及目标市场。同时,由于场景与部署位置的差异性,很难用单一指标与网络展现芯片性能,导致市场也对芯片企业的真正实力难以判断。
AIIA DNN benchmark推出多维度评测方式为芯片企业提供第三方评测结果,能从不同角度呈现不同芯片的各自优势所在,切实反映芯片能力。该项目还提供了单项与总分榜,支持企业前来参与“打榜”,积极展示自身独特的“芯”能力,成功上榜的企业可在业内获得更加广泛的知名度和市场信任感。
亮点四:用户选型一目了然
人工智能在不同算法、不同场景下,对芯片提出了不同的要求,如硬件架构、延迟、带宽、能耗、神经网络模型、参数等都是用户方选择AI芯片的重要参考。
中国人工智能产业发展联盟作为专业的第三方,首次公布了典型AI芯片在处理深度学习任务时的参考指标——“算力/单价”比,为应用企业选型提供参考,以便用户能更经济地选取最适用于自己需求的AI芯片。
AIIA DNN benchmark,用纯粹的科研之心,让科技之“芯”更美好。该项目的发布,促进了芯片供给侧与需求侧的交流,让需求方的意见能够更快传达到芯片企业,让企业进行有针对性的改良。同时,AIIA DNN benchmark坚持以“版本迭代、不断丰富、不断完善”的工作方式持续更新项目,计划下一步启动第二轮评估工作,迭代AIIA DNN benchmark V1.0,积极推进企业“芯”能力榜单的评选,努力打造一个开放、共赢的人工智能产业生态,拓宽人工智能行业从业者的交流接口,推动中国AI芯片市场进一步发展与成熟,以傲人之姿屹立世界前沿科技之林。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
2023年7月6日,第六届世界人工智能大会(WAIC2023)在上海开幕,“人工智能大模型”是本届大会的备受瞩目的话题,据悉,在昇腾AI大模型的创新研发中,华为联手26家行业领军企业,组建了一支协同创新的“AI明星队”,云天励飞作为中国人工智能企业的杰出代表,和互联网大厂、运营商、科研院所等优秀团队
这几个月来，以ChatGPT为代表的生成式AI展现出的能力令世界惊叹。自从2016年AlphaGo战胜李世石掀起了一波AI浪潮后，AI仿佛已经沉寂了很久，ChatGPT的横空出世就如同一束耀眼的光芒，让AI这个名词重回C位。过去在AI1.0时代，主要通过训练模型来实现图像识别、声音识别、语言处理等特
文：互联网江湖作者：志刚2023年的IoT需要一个新故事。6月29日，涂鸦智能在开发者大会上，发布了企业级战略PaaS2.0，希望通过一个平台+四大开发服务，建立起IoT生态。对于这场发布会，市场的态度是积极的。美东时间6月29日收盘，涂鸦智能美股股价上涨5.6%，来到1.87美元/股。近日股价稳定
2020年底，王慧文在朋友圈写下这句话时，外界本以为这位伴随中国互联网发展而持续创业20年的人物即将告别创业舞台。但是，一个曾经多次创业，正值壮年的互联网老将心中的创业热情是难以熄灭的。
在信息和数据极度繁荣的当下，人工智能正在通过各种方式影响着人类生活。其中，AI推荐系统作为互联网时代最关键的伴生技术之一，正在帮助人类梳理着各种纷繁杂乱的信息，让资源实现更精准的调配，让一切变得井然有序。推荐系统：数字营销的重要引擎当你到一座旅游城市，不知道当地有什么美食时，AI推荐系统在手机上的本
关注卢松松，会经常给你分享一些我的经验和观点。昨晚，李彦宏内部讲话称：AI大模型开源意义不大，百度绝不抢开发者饭碗。但你一定要说话算话哦，可千万别说：“我永远不做手机，谁再敢提做手机就给我走人”，结果5年后自己的手机销量排名第一。如果百度也这么干的话估计AI也没人用了。李彦宏认为：从商业模式的角度来
AI大模型风口之下，作为“具身智能”最佳载体，人形机器人似乎即将迎来“觉醒元年”。前有马斯克巨大影响力加持之下的人形机器人Optimus亮相，后有OpenAI联合人形机器人初创公司Figure推出令人惊艳的Figure01。可以看出，AI软件和机器人硬件的结合，已经是当下科技界一大风口。乘着这样的东
近日，科技巨头360公司宣布，其全新AI员工“红衣”正式入职事业部，标志着公司向智能化、自动化方向迈出了坚实的一步。据悉，“红衣”由360安全大模型支持，具备高度智能化和自主学习能力，能够在多个领域提供高效、精准的服务。“红衣”是首位正式入职的数字安全专家，由360安全大模型支持，在安全运营工作中，
关注卢松松，会经常给你分享一些我的经验和观点。OpenAI宣布：从今天起，ChatGPT打开即用，无需再注册帐号和登录了!不过，免登录无法享受一些高级功能，比如分享聊天记录、自定义指令等等。松松刚测试了一下：使用ChatGPT还是需要注册登录的，但是免去了手机号验证码的环节。而且OpenAI实际开放
文|智能相对论作者|沈浪Long-LLM（长文本大模型）时代似乎来得有些突然，而引爆这场热潮的，竟是一家由清华学霸牵头的本土AI初创企业。前不久，月之暗面（MoonshotAI）公司宣布旗下对话式AI助理产品Kimi应用现已支持200万字无损上下文输入。对比去年10月份Kimi上线时仅支持的20万字
在算力新时代，从通用计算到智算，CPU可以做更多，价值也更加凸显。作为一种基于人工智能（AI）技术的计算方式，其含义既包含了AI，还包含了对高性能算力的要求。拥抱大模型不容易ChatGPT的横空出世拉开了AI大模型的新时代，而近期的文生视频模型SORA又让业界为之激动不已。据了解，Sora所需tok
在“博鳌时刻”，vivo蓝心大模型等被明确定调为，是打造“新质生产力”的孕育沃土。作者|杨铭编辑|刘珊珊海阔风清，椰林葱郁中，风口上的AI大模型，站上博鳌亚洲论坛2024年年会多个主题分论坛的C位。“未来是属于AI大模型的，千行百业将被重塑或被革新挑战。”众多嘉宾、参会人士在博鳌的激昂热情，再次明确
在大模型代表的新一轮技术浪潮下，智能化转型已然是毋庸置疑的趋势，科技大厂们纷纷给出了智能化的“道法术”，大大小小的企业也开始更新认知，想要从创新中挖掘出驱动增长的新质生产力。但现实和智能化的美好愿景之间，仍然横亘着一片鲜有人涉足的“荒海”，脚下还没有坚实的路。3月23日在天津举办的昇腾AI开发者创享
©自象限原创作者丨罗辑、苏奕编辑丨程心2024年开年，科技圈没有什么比Sora的出现更让人兴奋。如同ChatGPT在2023年初带来的LLM创业潮，Sora的发布也同样将视频生成模型推到了风口浪尖。科技巨头猛推产品，创业公司则乘风而上。3月13日，AI视频大模型公司爱诗科技完成亿元级人民币A1轮融资
