人工智能颠覆传统计算方式:让内存更接近计算资源

职场故事 阅读(1555)

大数据应用正在推动“使内存更接近计算资源”的架构需求,人工智能和机器学习进一步证明了硬件和硬件架构在成功部署中所发挥的关键作用。但是有一个关键问题 - 数据处理应该在哪里进行。

在Forrester Research最近的一项调查中,89%的受访者表示计算与内存之间的紧密联系至关重要。这项由Micron Technology委托进行的调查发现,内存和存储现在是限制人工智能和机器学习发展的一个非常重要的因素。此外,超过75%的受访者表示他们需要升级或重建内存和存储架构以打破此限制。

由于机器学习可以通过神经网络对大数据矩阵进行多次累积操作,因此解决了大数据及其分析过程中的许多问题。同时,随着产生更多结果,重复这样的操作以生成最佳路径和最佳选择算法,并且通过处理数据来重复学习这些算法。

Micron公司战略副总裁Colm Lysaght表示,由于数据量很大,内存问题的一个常见解决方案是添加更多DRAM(动态随机存取存储器)或动态随机存取存储器。这是最常见的系统内存,可以将性能瓶颈从原始计算转移到数据所在的位置。 “内存和存储是数据的所在。我们必须将数据带入CPU,然后返回,因此需要进行迭代。因为需要处理这些庞大的数据集。”

Lysaght说,如果你能更紧密地结合计算和内存,这意味着你可以节省更多的电力,因为你不必在内存和计算之间旅行太多次。 “这将提高性能,因为数据处理直接发生在它的位置。”

1565104841925827498.jpg

▲Micron认为,现有的内存和存储技术(如DRAM和3D NAND SSD)为人工智能架构提供硬件,而美光也在研究更新的技术(如内存处理器架构)以支持更多的初创公司

在Lysaght看来,有许多不同的方法可以创建更好的架构。以神经形态处理器为例,它在内部使用神经网络,并将内部核心数据分解为更小的粒子。 “因为你必须处理大量数据,所以让更多核心执行相对简单的操作是更好的解决方案,”Lysaght说。

最近,记忆公司Crossbar与Gyrfalcon Technology公司,神经网络公司(mtesNN)和RoboSensing等公司建立了联盟,致力于提供加速,节能的人工智能平台SCAiLE(用于边缘学习的SCABLE AI)。该联盟将结合先进的加速硬件,电阻RAM(ReRAM)和优化的神经网络,创建一个随时可用的低功耗解决方案,无需在整个过程中进行有监督的学习。

Crossbar战略营销和业务开发副总裁Sylvain Dubois表示,当今许多公司面临的挑战是他们希望在他们的设备上使用人工智能,但他们不知道该做什么,无论是智能扬声器,智能相机或智能电视。该联盟的目标是提供一个将所有必要部分组合在一起的平台。

Crossbar的主要贡献是内存(尤其是ReRAM),它通过各种输入处理机器学习系统中的数据,包括文本,关键字,GPS坐标,传感器可视数据等等。

Dubois设想了一种存储器阵列,其体系结构可以通过实例中的每个特定处理代码以非常宽和高度并行的方式读取,从而能够在边缘设备中并行读取一千个字节。 “如果你匹配,你知道该怎么做。如果没有匹配,那么这就是我们所说的学习弯曲,”杜波依斯说。

例如,对于相机传感器,系统将能够在ReRAM阵列的备用位置中保存新事件或一组功能。 “下一次在这台相机前发生类似事件时,相机本身将能够在没有任何训练的情况下检测到这一事件,”Dubois说。

这为人工智能计算提供了一种完全不同的方法,因为如果存在需要快速决策的意外事件(例如关注安全性的流量方案),则不再需要依赖云中的培训功能,而是在目前快速处理。

Forrester Research的这项研究表明,越来越多的公司将在公共云和边缘位置进行数据分析,以便在边缘实现更多的机器学习。 51%的受访者表示他们正在公共云中进行分析,预计在未来三年内将增加到61%。此外,44%的人已经在边缘设备中进行了数据分析,预测到2021年这一比例将增加到53%。

Forrester Infrastructure and Operations的高级分析师Chris Gardner对硬件(尤其是存储和内存)的重要性感到惊讶。他说,一项非常重要的研究结果是,许多工作都远离了记忆本身。但值得注意的是,这取决于您的需求。根据Gardner的说法,训练模型需要大量的内存和存储空间。除了例外,您根本不需要任何东西。

1565104841928700220.jpg

▲Crossbar最近建立了一个联盟,以创建人工智能平台,为人工智能应用提供存储产品,例如带有嵌入式ReRAM的P系列MCU

Gardner表示,在完美的情况下,公司希望拥有一个拥有数百GB内存的大型环境。但实际上,他们必须建立或支付供应商实施,这需要硬件转移。 “我们需要更多以内存为中心的架构,让计算内存和存储,而不是让计算本身成为核心。”这并不是说当前的计算架构很糟糕,但这可能不是人工智能和机器学习最有效的方式。加德纳说。

此外,Gardner还提到了边缘计算。一种情况是在体育场内安装了许多用于大型体育赛事的摄像机。这些摄像机实时生成大量数据,以确定是否存在危险情况。 “他们可以将这些数据发送到云端并返回,但他们没有时间这样做,因为他们必须尽快处理数据。”

将来,云中会有一些机器学习,然后返回物联网设备,但有些设备会变得更加智能化,并且可以自主地机器学习,共享回云和其他设备。对于内存制造商而言,这意味着商业组件制造商继续转换和重新编译应用程序,以利用人工智能和机器学习工作负载所需的以内存为中心的架构。但是现在这些技术仍然处于试验阶段,并且没有真正以内存为中心的架构,在实验环境之外存在许多延迟。

加德纳说:“几十年来,我们一直在构建一个以CPU为中心的架构,摆脱这个想法是非常具有革命性的。”

作为回应,去年,美光还宣布投资1亿美元用于人工智能,并在实验室内建造了类似DRAM的产品,目标是在2021年进行样品采集,而美光研究人员也在研究处理器内存架构。这也是许多其他初创公司正在研究的领域。