让硬件适应软件,赛灵思这一操作或将加速应用技术变革

半导体行业观察 · 半导体行业观察·2021-09-10 09:04

1.3k


对一名软件工程师来说,如果在固定的CPU或GPU上进行开发,需要改变或优化软件来适应硬件。那么,是否可以反过来操作呢?也就是根据固定的应用和软件,通过一个包括开发工具、加速的API和库,可以让硬件去适应软件,而不是让软件适应硬件,也就是说,这个硬件是软件定义、可编程的。这就是自适应计算的概念。

这种自适应计算平台支持根据具体的应用来定制硬件,来对系统进行优化,且这种优化是可以持续不断进行的。即使产品量产后,在部署阶段也能进行这样的优化。

为什么需要自适应计算?


目前,业界已经有多种成熟的计算平台,比如CPU、GPU、DSP等,为什么还需要自适应计算这种新的计算形式呢?对于这个话题,赛灵思人工智能及软件市场总监罗霖(Andy Luo)先生给出了以下几点原因。

首先,创新应用不断涌现,特别是在AI领域,这些创新受制于传统硬件,如硬件平台的功能、架构、内存系统,以及数据通道都是固定的,当进行开发时,必须首先通过修改、更新算法或软件来适应硬件。但是,用户期望找到一个最适合已有算法实现的硬件平台来提供想达到的性能。

其次,可以根据应用对硬件进行持续的优化,这样能够提升应用的整体性能。比如可以在整个数据通路进行硬件加速,不只包括像AI的模型本身,还包括输入和输出数据的处理,且中间每个环节都可以进行优化,这样可以为应用提供非常高的效率。

第三,为了让更多的开发者获益于自适应计算硬件平台的高效率,可以在易用性上做很多工作。通过为开发者提供他们熟悉的语言、编程框架和集成开发环境,以及足够的加速API库和参考设计,可大幅降低自适应计算的门槛,可以让开发者快速上手设计。这些正是赛灵思在做的事情。

建设和完善开发者生态系统是核心


罗霖表示,为了让自适应计算流行起来,我们要不断开拓开发者的生态系统,因为任何计算形式的普及都离不开开发者生态系统的不断壮大。

下图给出了一个堆栈,有赛灵思最新的Versal ACAP异构加速平台,提供了不同的处理单元,包括标量引擎、可编程逻辑、AI加速引擎;在操作系统和嵌入式运行层面,提供硬件IP、加速库,定制的硬件设计;在AIE上面提供专门的AI加速库。在这上面提供三种不同的开发工具,包括FPGA开发者比较熟悉的Vivado,这个适合底层硬件的实现;此外,还有Vitis,这是一个面向软件开发者的集成的开发环境和平台,在这上面开发者可以用他们熟悉的高层次语言,如C、C++和Python来进行编程;在Vitis上还提供一个专门针对AI推理的开发平台Vitis AI,AI开发者可以使用他们熟悉的框架,比如TensorFlow、PyTorch、Caffe来训练他们的模型,然后用Vitis AI来部署这些模型,让模型能够高效地在硬件平台上执行。


赛灵思在去年底推出了新的开发者计划(Xilinx Developer Program),提供了一个全新的开发者网站,开发者可以在这里找到包括Vivado、Vitis、Vitis AI等开发资源。还提供给开发者40多个免费训练模块,根据赛灵思平台创建了很多点播培训课程。此外,该公司还将推出开发者认证计划,针对不同的开发者有不同的培训课程,这个计划对于所有开发者都是免费的。

今年初,赛灵思的应用商店 (Xilinx App Store)上线了,目前有200多个面向Alveo加速卡和云相关的应用。6月,赛灵思还推出了Kria SoM 自适应系统模块产品组合,在应用商店里已经拥有7个面向Kria SoM的应用。

在工具采用方面,Vitis下载量已经超过15万次,Vitis AI下载量超过10万次。开发者计划推出8个月以来,目前有超过10000的注册人数。

新工具也在不断问世,今年6月底推出了基于机器学习的 VivadoML版本,在 Vivado 环境里使用了很多机器学习技术来进一步提升布线时延的优化,并进行一些模块化设计,从而将结果质量 (QoR)平均提升10% (在不同的测试的用例中甚至会提高50%)。此外,还推出了一个基于可重配置模块的层级化编译,用户可以定义自己的模块,可以进行增量编译和并行编译,编译时间会大大缩短。

用于视频分析的AI推理市场前景广阔


赛灵思于9月初推出了一个新的工具叫 Vitis Video Analytics SDK,,主要用于构建和部署基于AI的智能视频分析。目前,AI推理市场有很大发展空间,从2020到2027年,该市场以年均35%的复合增长率增长。AI推理可分为两大类应用:一是与视频图像相关的,另外一类是语音,包括自然文本的处理,推荐类的应用。据公开的市场分析报告和赛灵思预测,大概有55% 的AI推理是基于图像视频应用,所以,视频分析是这里面增长速度最快的细分市场。很多客户有这方面的需求。


视频分析的具体应用案例很多:如智能泊车,对停车厂的智能管理、空位分析、数据提取等;在智慧城市里面,对行人和车辆的流量分析,交通路口的壅塞分析,可以关联到智能交通灯系统;还有一些重要的基础设施建设,如电力自动巡检。

罗霖表示:“我们看到一个趋势:过去,在这些领域里有不少用户采用传统的计算机视觉,目前,AI分析正在迅速取代这些传统的计算机视觉,因为它可以提取更多特征,而且在很多场合下,它的精度更高。”

Vitis Video SDK就是为了满足这方面的市场需求。如下图所示,底层是基于赛灵思的嵌入式平台,如Alveo,上面是基于赛灵思的Vitis、Vitis AI,中间提供了基于主流的Gstreamer这样一个开放的多媒体协议,它提供了各种各样的插件,如视频编解码插件,图像预处理插件,还有DPU插件,这是专门用来运行这些AI模型的。Vitis Video SDK提供了C++和python编程接口,无需用RTL进行编程,可以实现很高的开发效率,开发者可以基于它来构建很多应用,如智慧城市、智慧零售、智慧医疗、智慧建筑等。


据罗霖介绍,在性能方面,赛灵思做了一些评测,包括两部分:一是针对嵌入式平台,比如赛灵思最新的Kria SoM,根据视频解码预处理加上车牌识别这样一个案例场景,在一个Kria SoM里面可以运行三路,而英伟达的Jetson Nano和TX2只能运行1-2路,所以,赛灵思可以提供比他们高1.5到3倍的性能;二是基于Alveo加速卡,如Versal VCK5000,运行视频解码预处理加上目标检测和目标分类这样一个案例场景,一个VCK5000可以做到32路,而一个主流的T4大概是16路,所以,赛灵思可以提供2倍的吞吐率。

奖金丰厚的FPGA设计竞赛


今年,赛灵思举办了第二届自适应计算挑战赛,目标是运用Vitis、Vitis AI和Vivado ML等计算平台进行设计,解决一些现实世界的问题。罗霖表示,这是半导体界最大规模的FPGA设计竞赛,去年第一届大概有1000名参赛选手,有120名入围选手,他们得到了免费的赛灵思的计算平台。去年,赛灵思提供了54000美元的奖金。

今年规模会更大,希望可以吸引2000名参赛选手,提供的硬件平台的数量是去年的3倍。今年获奖的人会更多,将有15名获胜选手,提供的总奖金额是70000美元。

据罗霖介绍,今年的比赛有三个赛道:基于Kria SoM的“边缘计算(Edge Computing)”;基于VCK5000的“数据中心AI”;基于赛灵思的一个还没有对外宣布新卡的“大数据分析”。每个赛道都将为冠军获得者提供10000美元奖金。

今年的比赛于9月7日开始报名,11月中旬之前可以拿到免费硬件进行开发,比赛截止时间是12月底,明年3月底公布获胜者。

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


今天是《半导体行业观察》为您分享的第2793内容,欢迎关注。

推荐阅读


中国台湾半导体人才告急

国产MOSFET,实力几何?

高潮迭起的晶圆厂


半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码 ,回复下方关键词,阅读更多

晶圆|集成电路|设备 |汽车芯片|存储|台积电|AI|封装

回复 投稿 ,看《如何成为“半导体行业观察”的一员 》

回复 搜索 ,还能轻松找到其他你感兴趣的文章!

广告

半导体行业观察 · 半导体行业观察·2021-09-10 09:04

1.3k
用户热评
打开摩尔芯球APP,查看更多评论

重大事件及时推送,更流畅的沉浸式阅读体验

参与评论

0/200字

登录后即可发布评论

发布评论

上海爱思尔教育科技有限公司

Copyright©2021 沪ICP备19045314号-3

沪公网安备 31011502017229号

请使用浏览器自带的分享按钮,
将你这篇文章分享出去吧。
+86
获取验证码
登 录

邮箱登录

未注册过的用户将直接为你创建摩尔账号