盖世汽车讯 据外媒报道，马萨诸塞大学阿默斯特分校Riccio工程学院的研究人员证明，同时重新设计硬件和算法，可以提高边缘设备上人工智能（AI）应用的效率。作为概念验证，他们开发的系统在语言识别任务中实现了95.24%的准确率，同时将计算资源需求降低了90%，达到同类系统目前报道的最高准确率。

如今，AI无处不在。它被嵌入各种边缘设备中——之所以称为“边缘设备”，是因为这类设备位于网络边缘，可以在本地处理数据，而无需依赖远程数据中心。例如，智能手机和摄像头、导航和交通控制工具，以及娱乐和购物平台等，都属于此类设备。

然而，AI不断融入日常生活，也带来了较高的能耗和硬件需求。对于家庭自动化中枢、汽车车载交互系统等边缘设备而言，这尤其具有挑战性，因为它们的计算能力有限。如果每台设备都具备数据中心级别的处理能力当然很方便，但这并不现实。

部分计算、能耗和硬件需求来自数据处理，而处理过程可能速度较慢、产生散热问题，并加快边缘设备电池的耗尽。以语言为例：人类通过直接或间接与AI交互来完成越来越多的任务，这意味着许多应用都需要处理人类语言，无论是识别、翻译还是理解语音或文本。即便只是判断当前使用的是哪种语言——英语、法语、阿拉伯语等——也会对处理能力提出要求，从而给小型电池供电设备带来较大的计算负担。

协同设计硬件与软件

为了促进边缘设备上的数据处理，马萨诸塞大学阿默斯特分校Riccio工程学院电气与计算机工程系教授、纳米器件与集成系统实验室负责人Qiangfei Xia与学术界和产业界的研究人员开展合作，不仅重新设计了算法，还重新设计了硬件。相关研究发表于期刊《Nature Communications》。

传统方法通常是在现有硬件上运行AI算法；相比之下，Xia团队将算法与硬件协同设计，使二者能够充分发挥彼此的优势。

该团队的解决方案结合了超维计算（hyperdimensional computing，HDC）算法与模拟存内计算（analog in-memory computing，IMC）硬件，从而支持包括语言识别在内的边缘AI应用。

HDC是一种受大脑启发的AI计算方法，它使用大型数学模式表示信息，而不是处理精确数值。这些模式能够通过更加简单、高效的计算完成特定AI任务。

IMC硬件——具体而言是一组忆阻器阵列（memristor array）——使基于HDC的算法能够部署在边缘设备上。忆阻器是一种能够在同一物理位置同时存储和处理数据的电子元件，从而减少在独立的存储单元与处理单元之间搬运数据的需求。

将芯片的固有差异转化为优势

Xia表示，该平台既可以对语言特征进行编码，也可以执行语言识别。“编码部分利用了忆阻器器件固有的随机性，而许多人认为这种随机性是该器件技术的一个缺点。”

从本质上看，研究人员将一种缺陷转化成了优势：忆阻器芯片天然存在的器件差异性能够提供有用的随机性，从而实现高效的数据编码。

该系统在语言识别任务中实现了95.24%的准确率，并将计算资源需求降低90%，这是目前采用新兴硬件平台实现的HDC系统所报道的最高准确率。

这项研究也是Xia实验室此前工作的自然延伸。他说道：“科学研究遵循一条不断上升的螺旋线。每一次迭代都建立在此前的思想之上，从而带来更深入的理解和更大的科学进步。”

Xia补充说：“这项工作是我们忆阻器研究的又一个里程碑。该系统级芯片建立在我们此前的研究基础之上，涵盖模拟忆阻器器件、忆阻器-CMOS电路集成、忆阻器交叉阵列以及机器智能应用。”

从实验室概念走向更广泛应用

Xia表示，这一想法最早于2019年提出。当时，马萨诸塞大学阿默斯特分校本科生研究员Daniel Belkin开始研究一种小型忆阻器交叉阵列。不过，这一方法的开发需要经历一段时间的研究和实验。

Xia坦言：“只有当这项技术发展到系统级芯片（system-on-chip）阶段后，实际的语言处理演示才成为可能。”

同时，Xia指出，该项目只是将忆阻器芯片应用于AI的一系列研究之一。“同一块芯片还被用于射频信号处理和智能传感。”他表示，团队还将发表另一篇关于忆阻器芯片应用于无线接收器的论文。

目前这项研究未来也有望应用于语音语言处理。Xia说道：“我们在这项工作中展示了书面语言处理能力；我们认为，它同样能够处理口语语言，从而在手机、扬声器、汽车、机器人等边缘设备上实现高能效的自然语言处理。”

参与该项目的Xia团队成员包括：前马萨诸塞大学阿默斯特分校博士后研究员Yi Huang，现任田纳西大学诺克斯维尔分校助理教授；马萨诸塞大学阿默斯特分校博士生Alireza Jaberi Rad；前学生Daniel Belkin；TetraMem公司的Ning Ge；TetraMem公司及南加州大学洛杉矶分校的J. Joshua Yang；以及TetraMem公司的Miao Hu。

图片来源：Yi Huang

Xia表示：“这项工作的跨学科性质表明，新型AI硬件的开发需要学术界与产业界开展合作，并需要覆盖整个技术栈的互补专业知识，包括器件、电路、算法、架构和系统等领域。”