FPGA云服务器怎么推动人工智能落地发展？

 

3.集成商：集成商提供硬件和软件的支持。由于直接用户缺乏硬件设计和制造能力，往往希望集成商提供成熟完善的硬件，并完成IP的集成，提供驱动和使用方式，方便最终用户的使用。

 

4.用户：最终使用者。在数据中心领域，用户一般目的是希望使用FPGA对计算进行加速。

 

在FPGA行业，芯片原厂并不提供直接使用的硬件板卡，这个工作由集成商完成。由于硬件板卡使用量小和分担设计、生产成本，硬件板卡价格往往高于芯片价格，甚至达到十倍之多。

 

IP提供商因为担心产权泄露，通常不会迅速提供可用的可执行文件（网表文件）给用户，而是需要签署一系列的协议和法律文件，甚至有的IP提供商根本不提供给用户测试的机会。这样就造成最终用户很难得到可用的硬件板卡，更难以及时获得使用最新工艺芯片的硬件板卡，造成用户无法快速对不同IP进行验证，从而挑选适合自身业务的IP。另外，FPGA的开发使用硬件描述语言，缺乏软件领域非常广泛使用的框架概念，导致开发周期漫长。一般来说，FPGA开发周期是软件开发的三倍左右。

 

综上所述的这些问题，决定了云对FPGA行业的颠覆和革命。

 

云FPGA平台具体能解决哪些问题

云FPGA平台解决的是FPGA整个行业的一些问题。FPGA用户比较少，属于一个相对封闭的圈子，FPGA开发门槛高、开源的优质IP比较缺乏、芯片价格昂贵等问题一直为大家所诟玻

 

针对开发者，云FPGA平台提供了FPGA的底层硬件支撑平台，类似操作系统的部分功能，简化了开发者对底层通用设备的访问，比如DDR和PCIE这些通用设备，可以使开发者更聚焦到业务功能的开发。

 

FPGA行业内的IP提供者和使用者缺乏一个公开的交易平台和信用保证机制，IP交易环节冗长，价格不透明，很难达成交易，获取IP后还需要搭建硬件平台来验证IP性能，这些都严重影响产品上市进程，经常耗时几个月之久。云提供了FPGAIP商店，IP开发者和IP提供商可以通过FPGAIP商店为其他客户无偿或有偿地提供FPGAIP和对应的测试程序。这些IP都是基于云FPGA的标准硬件来开发定制的，IP的验证和测试可以很方便地在云平台上完成，一个IP的交易可以由几个月缩短到一天之内，提高交易效率，也使得IP交易变得更加透明。

 

针对一些希望使用低延时的高质量计算服务的小型公司而言，可以使用FPGA云计算加速服务，不用耗费大量人力进行高性能计算方面的开发，很简单地就可以把高性能的云计算服务集成到自己的网络平台，达到提升用户体验的目的。比如：低延时的图片格式转换、基于深度学习的图片分类等服务，类似的服务后续还会进一步丰富。

 

对于学校的FPGA教学而言，以前学校需要为每个学生购买一个开发板卡，有了云平台之后可以节省学校购买开发板的成本，现在只需要给每个学生申请一个FPGA云平台的账户即可，学生登录上去直接可以根据demo进行学习开发即可。云平台同时会为用户提供便于学习的操作指导和实验课程方案，用户学习的东西更接近企业的实际应用场景，可以很好地跟将来的工作需要对接起来。

 

此外，大容量的FPGA芯片价格比较昂贵，一个很重要的原因是FPGA芯片缺少量大的爆款产品，而云FPGA平台可以聚集大量的客户来使用的标准FPGA硬件设备，这样会增大该FPGA芯片的供应量，同时也便于芯片厂商降低成本，逐渐缓解FPGA芯片昂贵的问题。

 

从这些可以看出FPGA云化意义重大，可以推动整个FPGA行业的发展，给FPGA产业链的各方带来收益。

 

FPGA在互联网业务中的应用优势

图片转码

 

随着移动互联网的发展，用户每天上传的图片量越来越庞大，公司目前用于图片转码的业务主要有QQ相册、微信等，而业务中使用的图片格式大都为JPEG格式、WebP格式等，而图片转码所带来的计算消耗需要上万台CPU机器支撑。所以FPGA在互联网业务中第一个应用场景就是图片转码：JPEG图片格式转成WebP图片格式。项目取得了FPGA处理延时相比CPU降低了20倍，FPGA处理性能是CPU机器的6倍。

 

为了更进一步提升图片的压缩率，同时随着HEVC高性能编码标准的发展，HEVC的I帧图片压缩率和之前的WebP/JPEG等编码标准有了很大的提升，HEVC的I帧图片压缩率和WebP相比提高20~30%左右，和JPEG相比提高更多，平均能到50%左右，因此，无论从下载带宽节省还是后台存储成本降低，以及用户下载图片体验等角度来看，HEVC标准都有很大优势。而采用HEVC的问题在于HEVC的帧压缩计算复杂度非常高，采用CPU进行转码成本很高，导致很难在业务中全面推广。为了增强图片转码能力，继续使用FPGA对图片转码进行加速。

 

经测试，完成WebP/JPEG格式图片转成HEVC格式图片，测试图片大小为1920x1080，FPGA处理延时相比CPU降低7倍，FPGA处理性能是CPU机器的10倍，FPGA机型单位成本是CPU机型的1/3。

 

FPGA云服务器如何推动人工智能落地发展？

 

FPGA云服务器如何推动人工智能落地发展？

 

FPGA云服务器如何推动人工智能落地发展？

 

图片分类

 

深度学习近年来在语音识别、图片分类和识别、推荐算法等领域发挥了越来越大的作用。在移动互联时代，为了增强图片检测的处理能力，降低图片检测成本，使用FPGA对CNN计算进行加速。

 

研发团队使用FPGA完成CNN算法的Alexnet模型，FPGA处理性能是CPU机器的4倍，FPGA机型单位成本是CPU机型的1/3。

 

FPGA云服务器如何推动人工智能落地发展？

 

FPGA能让开发者/团队更“任性”

对于外部开发者和开发团队来说，首先，云FPGA提供统一的硬件平台。开发者无需关注FPGA基础设施，免去了重复开发硬件平台面临的问题和挑战，快捷部署，几分钟就可以部署完毕一台全新的FPGA平台。FPGA芯片丰富的逻辑资源可以为开发者“任性”实现功能提供保障。统一的平台也便于开发团队快速弹性扩展硬件平台，从而提高业务容灾可靠性。

 

其次，云FPGA提供完备的开发环境，不需要专门人员开发驱动环境。开发语言多样性，HLS，OPENCL，RTL满足不同类别的开发人员需求，降低学习开发门槛，简单易用。

 

再者，云FPGA提供丰富的IP功能，不仅有大量免费IP和有偿的IP服务，而且交易流程透明、安全、可靠。加速开发者开发进度的同时也为开发团队提供一个将自己开发的IP进行交易的平台。

 

最后，云FPGA提供专业安全防护。部署到云上，将享受与云服务器同等的云安全基础防护和高防服务。免去传统FPGA数据存储和传输安全所带来的困扰。

 

可以看到，传统的FPGA开发面临的硬件平台稳定性、开发语言门槛高、调试周期长、驱动软件联合调试等问题都将得到改观，开发者和开发团队能够从繁杂和重复的工作中快速释放出来，有更多的时间和精力投入到创新的工作中去，这将为整个技术研发的氛围增加更多的创新因子，创造更多的价值。

 

未来，FPGA的行业价值

当前AI火爆，得益于FPGA的高密度计算能力以及低功耗的特性，FPGA率先在深度学习在线预测方向（广告推荐、图片识别、语音识别等）得到了较大规模的部署。用户也常常将FPGA与GPU进行对比，GPU的易编程性、高吞吐与FPGA的低功耗、易部署等特性也各有千秋。相较于GPU以及ASIC，FPGA的低延时以及可编程性也是其核心竞争能力。

 

对于行业来说，云是一种共享服务的思想，用户不以占有的方式使用硬件和软件，而是共享复用，因此大大降低了使用成本，提升了资源的使用效率。FPGA云服务，可以让行业参与方都获得价值：

 

1.芯片原厂：不需要经过层层代理，增加成本，而是可以通过云提供硬件板卡复用的服务。因为硬件统一采购和维护，也大大提升了稳定性和可靠性。

 

2.IP提供商：可以把IP放到云平台的市场中去，最终用户使用时，云平台完成部署和交付，用户不需要接触可执行文件（网表文件），因此不存在产权泄露的风险。这将鼓励IP提供商的服务方式，可以提供按时长计费，买断计费，乃至试用版免费等方式，用户也可以迅速验证。

 

3.设计和开发：云提供框架方式，封装了常用的系统级操作（DDR内存的访问、DMA、PCIE设备控制等），可以支持硬件描述语言，也支持OPENCL以及类似C的高级语言。提供通用的驱动和调用库，不需要用户编程。对高阶用户而言，也可以使用OPENCL或者硬件描述语言实现自己的功能。

 

4.FPGA最初的应用场景是在通信行业，那么其高通信带宽以及实时性处理能力可以为数据中心基础架构带来什么改变呢？当前，FPGA可以在IDC大显神威的地方，例如低延时网络架构、网络虚拟化、高性能存储以及网络安全等等。可喜的是，我们看到微软以及亚马逊等同行已经使用FPGA在其公有云网络中进行了诸多积极尝试，云当前也在多个方向进行积极的探索和实践。

 

可以预见的是，借助于FPGA，我们的数据中心会更加的绿色高效。