主页 > 城市

人工智能丨AI芯片之云端AI芯片

时间:2019-07-26 来源:熊猫流量小王子

AI芯片作为芯片和人工智能的交叉点,被认为是AI技术发展的基石,是推动整个半导体领域技术进步的重要力量。当我们需要计算更快、功耗更小、成本更低的芯片的时候,AI芯片是唯一的选择。


AI芯片的定义:从广义上讲只要能运行人工智能算法的芯片都可称为 AI 芯片。但是通常意义上的 AI 芯片指的是针对人工智能算法做了特殊加速设计的芯片。



根据清华大学《人工智能芯片技术白皮书(2018)》,AI芯片从应用场景角度可以分为:服务器端(云端)和移动端(终端)。


诚迈科技从事芯片技术服务多年,与Nvidia、Intel、Qualcomm等世界级芯片厂商保持着长期紧密的沟通和合作关系;同时发力AI领域,成绩斐然,目前已经拥有从基础硬件、深度神经网络编译器、算法软件框架、应用技术到行业应用方案的全覆盖技术能力。除了为客户提供各项AI技术服务以外,诚迈科技还针对智能手机、智能家居、智能汽车、智能安防、智能制造、智慧零售、智慧金融等行业的痛点,分别做出了AI Camera、AI相册、AI电器、车联网、ADAS+DMS、AI安防、门禁系统、产品质量AI检测、客流AI分析、AI身份认证等方案。


在本篇文章,诚迈科技向大家介绍应用于云端的AI芯片。


云端AI芯片是面向人工智能领域的大规模的数据中心和服务器提供的核心芯片,它能满足云服务中的大数据运算和处理,而且兼容性好,支持对多媒体信息的传输,通过云端AI芯片制成的服务器能保持云端与终端的一致性和稳定性。


从功能角度看,云端AI芯片会为人工智能算法的两个环节(训练和推断)提供算力。所以业界也会将云端AI芯片分为用于构建神经网络模型的训练芯片,利用神经网络模型进行推断预测的推断芯片。



训练(Training):


训练是指通过大数据训练出一个复杂的神经网络模型,即用大量标记过的数据来训练相应的系统,使之可以适应特定的功能。


比如给系统成千上万张不同种类的猫的图片,并将这些图打上猫的品种的标签,系统学习后会总结出不同品种的猫是什么样。


在深度学习的模型训练中,会涉及到海量的数据和复杂的深度神经网络结构,需要的计算规模非常庞大,单一处理器无法独立完成,因此训练环节只能在云端实现。CPU 由于计算单元少,并行计算能力较弱,不适合直接执行训练任务,因此训练一般采用“CPU+加速芯片”的异构计算模式。目前Nvidia的GPU+CUDA计算平台是业内非常成熟的 AI 训练方案。

 

推断(Inference):


推断是指利用训练好的神经网络模型进行运算, 使用新数据来一次性获得正确结论的过程。 


比如,将一张图给上文所说的训练过的系统,系统可以一次性判断出这张图是不是猫,是什么猫。


相比训练,推断环节的计算量相对较少,但仍然涉及大量的矩阵运算,而且推断过程对响应速度有较高要求, 采用云端AI 芯片(搭载训练完成的神经网络模型)可以加速推断效率。目前云端推断市场百家争鸣,很多传统芯片厂商和初创科技公司都在积极布局。比如Intel推出了CPU + FPGA 异构计算产品主攻深度学习的云端推断市场。


如今,云端AI芯片已有比较广泛的应用场景,我们现在使用的一些网络AI能力,比如在线的语音识别、搜索排序、图片识别、翻译等,前期都需要海量数据训练出神经网络模型,后面使用时均需要通过云端提供服务,即推断环节放在云端而非用户设备上。


1:智能语音识别


语音识别是云端AI芯片的应用场景之一。云端训练芯片可以提升训练出的神经网络模型质量,降低识别错误率,云端推断芯片的强大算力可以在识别时提高速度。举两个例子:Amazon的虚拟语音助手,它会通过将语音数据上传到云端,输入推断芯片进行计算,再返回结果至本地来达到与人实现交互的目的;借助云端芯片的良好推断能力,百度语音助手的语音识别准确度达到 97%。



2:智能语义识别、搜索排序      

               

一个能够正确理解搜索意图,精准呈现结果、自然便捷交互的智能搜索引擎,背后必须得有云端AI芯片来支撑深度学习模型训练和提高推断速度。比如Google的机器学习人工智能系统RankBrain,它用于决定哪些结果该展示在Google搜索页面,该排在第几位。RankBrain 可以观察和理解看似无关复杂搜索之间的模式和关联方式, 实现对输入文字的语义理解。这种能力离不开 Google 云端推断芯片 TPU 的辅助。TPU 利用 RankBrain 中的深度学习模型,在 80%的情况下计算出的置顶词条,均是人们想要的结果。另外TPU还可以使深度神经网络(DNN)的计算速度提高15-30 倍。



3:智能图像识别     

           

云端AI芯片支撑深度学习及大规模图像训练,使系统实现对图片中的物体类别、位置、置信度等详细信息的高效识别。生活中我们用到的在线图片识别、商品搜索等是将图像通过网络上传到云端,在云端进行计算和检索,然后图片信息、类似的图像被返回本地以供选择。



未来随着5G、物联网的发展,大数据高速积累,云端AI芯片将是一个体量巨大的市场,同时也会是各个芯片巨头厮咬最紧的战场,Nvidia等芯片巨头目前已经成为了事实上的云端训练芯片的主导者,而云端推断芯片在未来会呈现百花齐放的态势。


参考文章:

http://www.tmtpost.com/3440327.html

https://www.leiphone.com/news/201812/RQJZFOoNqzIW74Hy.html

https://www.csdn.net/article/2015-11-02/2826106


End

关于诚迈(证券代码:300598)


诚迈科技(南京)股份有限公司成立于2006年9月,智能科技专家,致力于为客户提供全生命周期的解决方案。诚迈科技提供基于主流移动操作系统的软件开发和技术支持服务、移动互联网软件开发和运营服务以及智能终端、智能汽车、智慧城市等解决方案,拥有优质、稳定的客户群体,与知名移动芯片厂商、移动终端设备厂商、汽车厂商以及移动互联网厂商建立了长期稳定的合作关系。


官方网站:www.archermind.com