炼数成金 门户 大数据 云计算 查看内容

国内首款FPGA云服务器诞生

2017-1-21 23:26| 发布者: 炼数成金_小数| 查看: 23157| 评论: 0|来自: 云头条

摘要: 通过FPGA云服务器,企业可以进行FPGA硬件编程,可将性能提升至通用CPU服务器的30倍以上,而只需支付相当于通用CPU约40%的费用。此举让腾讯云成为国内首家在云端开放FPGA计算服务的云服务商。与已经深入人心的高性能 ...

测试 服务器 深度学习 硬件 高性能

1月20日,腾讯云宣布,推出国内首款高性能异构计算基础设施——FPGA云服务器,以云服务方式将大型公司才能长期支付使用的FPGA推广到更多企业。
腾讯云官网现已开放FPGA使用申请

通过FPGA云服务器,企业可以进行FPGA硬件编程,可将性能提升至通用CPU服务器的30倍以上,而只需支付相当于通用CPU约40%的费用。此举让腾讯云成为国内在云端开放FPGA计算服务的云服务商。
    
与已经深入人心的高性能计算的代表GPU相比,FPGA具有硬件可编程、低功耗、低延时的特性,代表了高性能计算的未来发展趋势。企业可以在火热的深度学习领域,将FPGA用于深度学习的检测阶段,与主要用于训练阶段的GPU互为补充。不仅如此,FPGA还可应用于金融分析、图像视频处理、基因组学等需要高性能计算的领域,是这类对效率要求高的行业应用的较佳选择。 

例如金融行业实时处理交易数据,使用通用CPU处理延时大、成本高,而使用FPGA可以很好的解决上述问题,FPGA在搜索领域也因为低延时被互联网搜索公司深度应用。FPGA之所以比CPU甚至GPU能效高,本质上是无指令、无需共享内存的体系结构带来的福利。

腾讯云副总裁王慧星认为,FPGA从底层开始变革人工智能的设计逻辑,加速企业业务在云端的处理能力,推动全行业在人工智能领域的创新步伐。他进一步指出,FPGA已经在QQ、微信等腾讯海量业务中长期使用,具备深厚的技术积累和复杂的场景实践,希望这项的技术开放大大降低企业的使用门槛,让大中小型企业都搭上人工智能这班列车。  
 
FPGA的应用场景:深度学习、图片处理等领域优势明显
FPGA诞生至今已有30余年,此前主要应用于大型互联网和科技公司,腾讯等互联网大型企业均在数据中心批量部署了FPGA,为自身的深度学习等应用提供硬件加速平台。

与传统的计算架构相比,FPGA能够更好地支撑深度学习等大规模并行计算需求。通过与通用CPU横向测试对比表明,FPGA在深度学习、图片压缩和分类检测等应用场景中,在成本、性能上具有明显优势。

FPGA在腾讯的深度学习领域被广泛应用,深度学习在图片分类识别、语音识别、个性化内容推荐算法等领域广泛应用。其中,微信、QQ为了增强社交通讯等业务的违规图片检测的处理能力,降低图片检测成本,通过FPGA对深度学习模型的CNN算法进行加速后,FPGA处理性能是通用CPU的4倍,单位成本是通用CPU的1/3。 

FPGA在图片处理的优势也很明显,用户每天通过微信和QQ等社交平台上传了海量的图片,如果采用WEBP图片压缩格式替代标准的JPEG格式,图片大小可减少三分之一,同时给用户带来更好的图片下载体验。而通过FPGA对大小为853x640的图片转码进行加速测试得出,FPGA的处理延时比通用CPU降低20倍,处理性能是通用CPU的6倍,而FPGA单位成本仅为通用CPU的1/3。 

另一项测试表明,FPGA在DNN计算加速上有较明显的优势。国内外的搜索引擎公司普遍使用DNN算法用于广告搜索,腾讯使用FPGA对DNN计算进行加速测试得出,在使用50%的FPGA资源的情况下,将4000个样本的DNN计算时延减小为1.2毫秒,吞吐率达到6000集合/s(4000个样本为1个集合),不仅达到了系统对低延时的要求,而且极大地提高系统的吞吐能力:处理延时降低100倍,处理吞吐率提高5倍,而成本是通用CPU服务器的1/5。

FPGA的部署革命:从数月到数分钟 
过去,中小企业部署FPGA面临诸多问题:FPGA硬件成本高、灵活性差、一次性采购投入大,需要高昂的费用和巨大精力进行FPGA的定制和采购,并需配备相应的硬件工程师和软件工程师。

同时企业接下来还会面临FPGA芯片更新换代带来的资源闲置流转问题。虽然FPGA知识产权(FPGA IP,FPGA Intellectual Property)提供了业务所需的硬件加速功能,但研发周期长,研发投入和风险高,令诸多企业望而却步。

腾讯云带来的革命性进展是:将FPGA部署时间从数月缩短到数分钟,企业可按需付费使用FPGA,极大降低FPGA的使用成本,实现高性能FPGA硬件加速处理。同时腾讯云率先在国内提供第三方FPGA知识产权市场,通过腾讯云服务市场,FPGA开发者和使用者可以更高效地交易。

长期以来,FPGA行业内的提供者和使用者一直缺乏交易平台和信用保证,导致交易环节冗长,很难达成交易。腾讯云服务市场搭建一个简单可靠的FPGA知识产权交易市场。对于FPGA使用者而言,可以在腾讯云服务市场购买已开发并验证好的FPGA知识产权功能,可节约长达数月的FPGA研发周期,同时采用按需使用的付费模式,能较大化地节省硬件投入成本。

而FPGA开发者可以通过使用腾讯云FPGA的开发框架,显著提升研发效率,更专注于核心功能开发,将图像处理功能、深度学习功能等已有的成熟FPGA知识产权通过简单封装适配,集成并投放到腾讯云服务市场,开放给FPGA使用者使用,分摊FPGA知识产权的研发成本。

王慧星认为,对于云计算行业而言,在云端提供FPGA是云计算IaaS层面革命性的推进,从底层开始加速云计算在各个场景中的应用,云计算将从纯粹的资源服务迈向人工智能云服务时代。

产品优势

应用场景

深度学习模型

腾讯云 FPGA 实例尤其适用于对时间和效率要求比较高的高性能计算 (HPC) 应用程序。

随着移动互联网的发展,基于用户社交平台,用户正在创造庞大的图片集合且增长速度很快。为了增强图片分类检测的处理能力,降低图片检测成本,我们使用 FPGA 云服务器对深度学习模型中 CNN 算法的 Alexnet 模型进行加速计算。

实验表明,采用 Alexnet 模型对图像进行分类检测对比测试,在性能上,FPGA 云服务器处理性能是 CPU 云服务器的5倍。

实时图像压缩
常用的图片格式有 JPEG 格式、WEBP 格式等, WEBP 图片格式比 JPEG 图片格式存储空间小 30% 。为节省存储空间,降低传输流量,提升用户的图片下载体验,通常采用 WEBP 格式进行存储及传输分发。但 WEBP 压缩计算复杂度是 JPEG 压缩的10倍以上,采用 CPU 进行 WEBP 转码成本很高。为了增强图片转码能力,可使用 FPGA 云服务器进行加速,且不会影响视图片质量。F1 实例是满足这些应用程序要求的理想解决方案。

对JPEG 格式图片转成 WEBP 格式图片进行测试对比,测试图片大小为 853x640,FPGA 云服务器处理延时相比 CPU 服务器降低20倍,FPGA 云服务器处理性能是 CPU 服务器的6倍。

欢迎加入本站公开兴趣群
软件开发技术群
兴趣范围包括:Java,C/C++,Python,PHP,Ruby,shell等各种语言开发经验交流,各种框架使用,外包项目机会,学习、培训、跳槽等交流
QQ群:26931708

Hadoop源代码研究群
兴趣范围包括:Hadoop源代码解读,改进,优化,分布式系统场景定制,与Hadoop有关的各种开源项目,总之就是玩转Hadoop
QQ群:288410967 

鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

热门文章

     

    GMT+8, 2020-7-8 13:35 , Processed in 0.175781 second(s), 24 queries .