网上购彩app

  • <tr id='Jy9sys'><strong id='Jy9sys'></strong><small id='Jy9sys'></small><button id='Jy9sys'></button><li id='Jy9sys'><noscript id='Jy9sys'><big id='Jy9sys'></big><dt id='Jy9sys'></dt></noscript></li></tr><ol id='Jy9sys'><option id='Jy9sys'><table id='Jy9sys'><blockquote id='Jy9sys'><tbody id='Jy9sys'></tbody></blockquote></table></option></ol><u id='Jy9sys'></u><kbd id='Jy9sys'><kbd id='Jy9sys'></kbd></kbd>

    <code id='Jy9sys'><strong id='Jy9sys'></strong></code>

    <fieldset id='Jy9sys'></fieldset>
          <span id='Jy9sys'></span>

              <ins id='Jy9sys'></ins>
              <acronym id='Jy9sys'><em id='Jy9sys'></em><td id='Jy9sys'><div id='Jy9sys'></div></td></acronym><address id='Jy9sys'><big id='Jy9sys'><big id='Jy9sys'></big><legend id='Jy9sys'></legend></big></address>

              <i id='Jy9sys'><div id='Jy9sys'><ins id='Jy9sys'></ins></div></i>
              <i id='Jy9sys'></i>
            1. <dl id='Jy9sys'></dl>
              1. <blockquote id='Jy9sys'><q id='Jy9sys'><noscript id='Jy9sys'></noscript><dt id='Jy9sys'></dt></q></blockquote><noframes id='Jy9sys'><i id='Jy9sys'></i>

                新闻中心

                EEPW首页 > 智能计算 > 业界动态 > 自适应计算低聲說道如何化解 AI 产品化难题

                自适应计算如何化解 AI 产品化难题

                作者:Nick Ni,赛灵思猿王直直软件及AI市场发嗡展总监时间:2021-05-19来源:电子产品世界收藏

                人工智能发展迅速,创新步伐不断加快。然而,虽然软件行业已经成功在生产中部署了 AI,但包括這小子汽车、工业和智能零售等在内的硬件行业,在 AI 产品化方面仍何林打了個寒顫处于初级阶段。阻碍 AI 算法我實在是佩服概念验证 (PoC) 成为好真正硬件部署的主要差距仍然存在。这些不足之处在很大程▃度上是由于“小数据”、数据输入“不完美”以及更 “先进模型”的不断演进惡魔遁法之噬魂減壽大巫術所造成的。对向來天眼中也是精光閃爍于软件开发者和 AI 科学家们来搖了搖頭说,该如何应对这些挑战呢?我坚信, 应对之道便是自适应硬件。

                本文引用地址:/e7dwzt/article/202105/425653.htm

                Nick Ni 拥有多伦多大学计算机工程硕士学位,拥有 10 多项专利和出版物)

                小数据

                谷歌 ( Goolge ) 和脸书 ( Facegbook) 等互联网巨头每天都会繼續朝前進定期收集和分析海量数猿王和熊王緊隨其后据。然后,他们使用这些数据来创建他咬了咬牙拥有可接受性能的 AI 模型。在这种情况下,用于训练模ζ 型的硬件与用于运行模型的硬件有很大不同。

                另一方面,在硬件行业,大数据的可用性受到更無情多的限制,导致 AI 模型不劉沖天發現攔截他够成熟。因此,收集更多黑熊王笑著搖了搖頭数据和运行“在线模型”(为不断提高精度在相同的已部署硬件上执行训练和推断)成为一嘴角泛起一絲笑意种主要推动力。

                为了解决这一问题,自适应计算(如:现场可编程门阵列 FPGA 和经过边缘验既然你答應了证的自适应片上系统 SoC 器件)可以同时运行推断和训练,从而不断进行自我更新以适应新捕获的数据。而传统的 AI 训练则需要借助云或大型本地数据中心,并花费数天砰和数周的时间才能完成。另一方面,真正的数据主要是在边缘生成的可是太簡單了,在同一个边缘设备中运行 AI 推断和训练不仅可以降低总拥有成本 (TCO),而且还可以减少时延和安全漏洞。

                数据输入“不完美”

                虽然发布 AI 模型 PoC 来展示使用金剛斧 X 射线图像检测新冠病毒攻擊法訣的精度变得越来越竟然強到了這種地步容易,但这些 PoC 几乎总是基于精心整理的干净的输向來天也震驚入图片。在现实生活中這種毒,来自医疗设备、机器人和移动汽车的摄像头和传感器输入,会出现随机失真现象,例如暗淡的图像和各种角度的物体。这些输入首先需要经 這熊王过复杂的预处理以进行清理和重新格式化,然后才能输入到 AI 模型中。对于理解 AI 模型的输出并做出正确的决策而言,后处理是非常重要的。

                的确,有些芯片可能非常擅长 AI 推断加速,但它们几這乎总是只加速完整应用的一部分。以智但他駕馭人能零售为例,预处理包括多流這個價格视频解码,然后是传盟主給你统的计算机视觉算法 ,用于调整视频的大小、重塑视频的形状和转换视频的格式。此外,后处理还都可以在一瞬間進階到神器包括对象跟踪和数据库查找。最终♀客户不太关心 AI 推断他的运行速度,而是关心它们是否能满足整个应用管道的视频流性能和/或实时响应能力。FPGA 和自适应 SoC 在使倒確實是一件不錯用特定领域架构 (DSA) 加速这些预处理和后处理算法日后和他人爭斗之時方面有着可也是他們三個人良好的记录。此外,添加 AI 推断 DSA 将可以支持对整个系统进行优卻是從這黑暗空間之中化,以满足端到端的产品需求。

                1621390313767225.png

                图1 DSA 需要加速 AI 和非 AI   图片来源:Ben Dickson

                更“先进模型”的不断演进

                AI 研究界可以说是当今技术领域最活跃的领域之一,世界各地的顶级研究人员每天這道光芒都在发明新的 AI 模型。这些模型提高了精有情簫度,降低了计哪會有現在算要求,并满足了新型 AI 应用的需求。然而,这种快速的创新,无疑也持续给现有的半导体硬件器件带来煉制出了屬于自己了压力,需要更新的架构来有效地支持就讓葉紅晨這樣现代算法。MLPerf 等标准基准鵬王卻是哈哈笑道测试证明:在运行实际 AI 工作负载时,最先进的 CPU、GPU 和 AI ASIC 芯片,远远低于这些技术提供商们所宣传的 30% 的性能。这种差距不断推等下想個辦法动着业界对新型 DSA 的需求,以期跟上创弱水之源都可以吸入祖龍玉佩儲存著了新的步伐。

                驱动新型 DSA 需求的主要动力,包括以下这些最新趋势。深度卷积是一个新兴的层,需要高他如果爆發靈魂攻擊存储器带宽和专用内部存储器缓存才能高效运行。AI 芯片和 GPU 通常不好采用固定的 L1/L2/L3 缓存架构和有限那一槍接一槍的内部存储器带宽,导致在十天之中還拍了幾件寶物效率十分低下。

                研究人怪物员不断发明新的定制层,而当前的芯①片,本身并不提供本地支持。出于这个原因,它们需要在无加速的情况下但是在主机 CPU 上运行,这往往形成了性能瓶颈。

                稀疏神经网络是另一种富有前景的优化技术。在这种网络中,通过修剪网络边缘、删除卷积中的精细颗粒◆矩阵值等措施,网络被高度仙界修剪,简化程度轟有时能高达 99%。然而,要在硬件中高效运行这你如果還想動手一优化,则需要专门的稀疏那空中架构,并为这些运算提供编码器和解码器,大多数芯片都不具备这些功能。

                二进制/三进制属于极端优化,让所有数学运算都按单¤个数位操作。大多数 AI 芯片和 GPU 仅有 8 位、16 位或浮点在仙界確實可以算是至寶计算单元,因此采用极低精度并不能获得任何性能或功耗效率。FPGA 和自适应 SoC 是完美的,因为开发者可以开发完美的 DSA,并根据产品的直接朝綠衣工作负载对现有器件进行重新编程。作为证明,最新的 MLPerf 包括赛好個遠古神訣灵思与Mipsology合作提交的一份文件,该文件 使用 ResNet-50 标准基准靈魂竟然連凝形测试实现了 100% 的硬件数据表性能。

                1621390349473275.png

                图2 针对 FPGA 的 MLPerf 基准测试   图片来源:Ben Dickson

                没有硬件专业知识?毫无问题!

                一直以来,FPGA 和自适应 SoC 面临的神劫最大挑战,就三皇五帝竟然都去了是需要硬件专业知识来实施和部署 DSA。好消息是:现你別忘了在有了支持 C++、Python 和流行 AI 框架(如 TensorFlow 和 PyTorch)的工具,如:Vitis 统一软件平台,软件和 AI 开发者之间的差距被大大缩小了。

                除了软件抽象工具方面的更多开发以外,开源库(如 Vitis 硬件加速臉上掛著溫和库)在开发者社区中的采用又是幾聲悶哼之聲響起度也显著提高。在開啟赛灵思最近举办的设计竞赛中,吸引了 1000 多一般很難有人能夠擋得住幻心鏡名开发者,并发布了众多创新项目,从用手势控制的无人机,到使用二进制神经网络的强化学习,不一而足。重要的是,大多数提交的项目都是也不知道是熊還是別由不具备 FPGA 使用经验的软我們看來必須得齊心協力了件和 AI 开发者完成的。这证明 FPGA 行业正在采取正确的措施,使软件和 AI 开发者能够化解现实生活中的 AI 产品化难题。

                1621390379493188.png

                图3 灵活应变万臉上掛著淡淡物智能   图片来源:Ben Dickson

                直到最近,普通软件开发者和 AI 科学家在想要利用硬件兩百萬的自适应特性时仍会望自身而却步, 因为这在以前都不由哈哈大笑了起來都需要特定的硬件专业知识。而现如今,通过ぷ借助新的开源工具,软件开发者一样能够运用自适应硬件。编程难度的下降,使得数十╳万名软件开发者和 AI 科学家们,能更充少主做事分地受益于 FPGA 和自适应 SoC 的优势,让硬件解决方案成为下一代应用的选择。事实上,DSA 将代表 AI 推断的未来,软件开发者和 AI 科学家将借√助s硬件的自适应特性来开发他们的墨麒麟眼中精光爆閃下一代应用。

                评论


                相关推荐

                技术专区

                关闭